Уязвимость в ChatGPT Atlas угрожает безопасности пользователей из-за хакерских атак

В браузере ChatGPT Atlas, разработанном OpenAI, была обнаружена опасная уязвимость, связанная с так называемым prompt injection. Эта проблема позволяет злоумышленникам внедрять скрытые команды на веб-страницах, что может привести к выполнению нежелательных действий со стороны ИИ-агента и угрожать безопасности личных данных пользователей.

Одним из примеров потенциальной атаки является clipboard injection, при которой ИИ может автоматически копировать вредоносную ссылку в буфер обмена. Это создает риск перенаправления пользователя на фишинговые сайты, что может привести к утечке паролей и кодов двухфакторной аутентификации. Специалисты подчеркивают, что пользователи должны внимательно контролировать взаимодействие с ИИ-ассистентом, чтобы снизить риски.

ChatGPT Atlas предлагает множество современных функций, таких как browser memories, позволяющие сохранять контекст работы, и agent mode, который дает ИИ возможность самостоятельно взаимодействовать с интернет-контентом. Однако увеличение уровня автономности также приводит к повышенным угрозам, что делает необходимым более внимательное отношение к вопросам конфиденциальности и безопасности.

Эксперты отмечают, что появление таких ИИ-агентов создает новый тип угроз, поскольку вредоносные команды могут быть внедрены не только в текст, но и в изображения или другие элементы веб-страниц. Это делает стандартные средства защиты менее эффективными. В OpenAI заявляют, что активно инвестируют в развитие систем безопасности и методы борьбы с prompt injection. Однако разработчики признают, что эта угроза остается актуальной и требует постоянного усовершенствования защитных мер по мере эволюции технологий.