Недавно запущенный ChatGPT Atlas — ИИ-браузер от OpenAI, который интегрирует возможности ChatGPT в веб-сёрфинг и автоматизацию задач — уже столкнулся с проблемами безопасности. Через несколько часов после релиза был обнаружен первый серьёзный эксплойт, связанный с уязвимостью типа prompt injection, когда вредоносные инструкции, скрытые на веб-страницах, позволяют манипулировать ИИ-агентом и выполнять преднамеренные действия, включая кражу личных данных пользователя.

Один из методов атаки — clipboard injection, при которой ИИ-агент невольно копирует вредоносную ссылку в буфер обмена, что может привести пользователя на фишинговый сайт и привести к краже паролей и многофакторных кодов. Опытные исследователи безопасности предупреждают, что на данный момент главным барьером для защиты остаётся постоянный контроль пользователя за действиями агента.

Браузер Atlas предлагает инновационные функции, включая запоминание истории посещений (browser memories) и автономный agent mode, позволяющий ИИ самостоятельно взаимодействовать с веб-страницами. Однако такая автономия расширяет поверхность атаки и обостряет вопросы приватности и безопасности.

Эксперты в сфере безопасности отмечают, что современные ИИ-браузеры создают совершенно новый уровень угроз: вредоносные команды могут быть спрятаны в текстах, изображениях или непредвиденных действиях пользователя, которые традиционные меры защиты не смогут эффективно предотвратить.

OpenAI в ответ подчёркивает, что вкладывает значительные ресурсы в обеспечение безопасности и развитие механизмов защиты, но признаёт, что вопрос prompt injection остаётся нерешённым и требует постоянного внимания, особенно с ростом популярности агентных систем.