От ИИ не убежать: эксперты Microsoft предупреждают о неминуемых рисках

Специалисты Microsoft выступают с предостережением о потенциально серьезных угрозах, связанных с внедрением искусственного интеллекта. Новое исследование, опубликованное на сервере препринтов arXiv, подвергает анализу свыше ста инструментов генеративного ИИ и выявляет неизбежные риски безопасности, сопряженные с их использованием.

По мнению экспертов, ИИ в принципе не может быть абсолютно безопасным, что делает необходимым строгий контроль процесса обучения языковых моделей (LLM). Вместе с тем, Microsoft признает высокую ответственность, которую несет за развитие этой технологии, и вкладывает значительные ресурсы в исследования в области безопасности ИИ.

Аналитики компании обращают внимание на особую опасность, которую представляют большие языковые модели. Обучаясь на некорректных или конфиденциальных данных, они могут распространять эту информацию среди пользователей. Кроме того, сложно дать точную оценку потенциального ущерба от применения ИИ.

Для обеспечения безопасности эксперты Microsoft призывают к строгому контролю на всех этапах обучения LLM. Они подчеркивают важную роль человеческого фактора и необходимость привлечения к работе с ИИ специалистов, обладающих глубокими предметными знаниями, высокой культурной компетенцией и развитым эмоциональным интеллектом.