Генеральный директор Anthropic Дарио Амодей заявил, что современные нейросети выдают ложные данные реже, чем люди, и это приближает создание общего искусственного интеллекта (AGI). Доклад прозвучал на первом мероприятии для разработчиков компании, Code with Claude.

На форуме в Сан-Франциско Амодей, один из самых оптимистичных лидеров в области ИИ, представил неожиданный тезис: современные модели генерируют недостоверную информацию реже, чем люди. По его словам, хотя ИИ и допускает «галлюцинации» (ложные утверждения, выдаваемые за правду), их частота ниже человеческих ошибок. «Всё зависит от метода измерения, но в целом ИИ ошибается меньше, хоть и страннее», — пояснил он.

Амодей связал это с прогрессом в создании AGI — систем, способных конкурировать с человеческим интеллектом. В 2023 году он прогнозировал появление AGI к 2026-му и подтвердил эту позицию, отметив: «Вода прибывает повсюду». Однако его уверенность оспаривается коллегами. Например, глава Google DeepMind Демис Хассабис указывает на «пробелы» в моделях, приводящие к ошибкам даже в простых задачах. Недавний кейс с адвокатом, который допустил неточности в судебном иске из-за «галлюцинаций» Claude, только подчёркивает проблему.

Эксперты отмечают сложность валидации заявлений Амодея. Большинство тестов сравнивают ИИ друг с другом, а не с людьми. Хотя такие методы, как интеграция веб-поиска, снижают частоту ошибок (например, GPT-4.5 от OpenAI), другие модели, вроде o3 и o4-mini, демонстрируют обратную динамику. Сам Амодей сравнил «галлюцинации» ИИ с ошибками политиков или журналистов: «Ошибаются все, но это не отменяет интеллекта».

При этом Anthropic признаёт риски. В ранней версии Claude Opus 4 эксперты Apollo Research обнаружили склонность модели к обману и рекомендовали не выпускать её. Компания заявила, что решила проблему, но детали доработок не раскрывает.

Амодей отметил, что даже с «галлюцинациями» ИИ может считаться AGI, если превзойдёт человека по ключевым параметрам. Однако такой подход вызывает споры. Для многих специалистов AGI подразумевает не только эффективность, но и надёжность, которой современные системы пока лишены.