Рекурсивный акроним словосочетания «PHP: Hypertext Preprocessor»

Добро пожаловать на форум PHP программистов!

За последние 24 часа нас посетили 18935 программистов и 1466 роботов. Сейчас ищут 1512 программистов ...

Последние

Почему ChatGPT генерирует небылицы? «Яндекс» рассказал про галлюцинации нейросетей

Дата: 2023-05-01 12:35

ChatGPT уже активно вошла в жизнь людей – к нейросети многие обращаются за советом, она успешно сдает экзамены на юриста или медика. Однако нередко ChatGPT дает неправильные ответы на вопросы, выдавая за факты свою же выдумку.

Это называют галлюцинациями нейросетей, и вот как такие галлюцинации выглядят на деле.

Из этих примеров следует, что на ChatGPT, как, впрочем, и на любую другую нейросеть, нельзя полагаться полностью. Но почему же нейросеть галлюцинирует?

В «Яндексе» называют две причины. Первая заключается в самом принципе работы: модель, лежащая в основе ChatGPT, «читает» последовательность слов и предсказывать на её основе следующее. Затем процесс повторяется, нейросеть предсказывает второе слово и так происходит до тех пор, пока не получится законченный текст. Во время этого стоит задача не дать фактически верный ответ, а ответить так, как бы отвечал человек.

«Таким образом, внутри больших языковых моделей заложены не глубокие знания о мире, а лишь основанное на статистике понимание, как должны строиться тексты и как должны соотноситься между собой запросы и ответы», – поясняет «Яндекс».

Вторая причина галлюцинаций – в том, что предобучение нейросети осуществляется при помощи больших массивов данных, которые не всегда содержат фактически верную информацию (например, если нейросеть обучается на базе ответов на форумах, где люди часто отвечают в соответствии со своими предубеждениями и заблуждениями).

Подробнее на iXBT

Предыдущие новости

iXBT, 2023-05-01 12:46
Нежелательных уведомлений в Windows 11 станет меньше. Microsoft добавит в систему функцию Smart opt-out

Windows 10 - всё. Microsoft прекратит выпуск обновлений для ОС, а обновления безопасности будут выходить до 2025 года Компания Microsoft намерена сократить количество уведомлений в Windows 11, которые пользователями могут расцениваться, как нежелательные. Для этих целей в ОС появится новая функция под названием Smart opt-out. Суть работы весьма простая: если система видит,...

iXBT, 2023-05-01 12:59
Мощная ракета Falcon Heavy после нескольких задержек вывела на орбиту самый большой спутник

SpaceX уссмешно запустила свою мощную ракету Falcon Heavy, отправив три спутника на дальнюю геостационарную орбиту. Событие примечательно тем, что это лишь шестой успешный запуск Falcon Heavy в отличие от ракет Falcon 9, которые запускают регулярно (уже более 200 стартов). Falcon Heavy стартовала из Космического центра Кеннеди НАСА во Флориде в воскресенье после нескольких...

3Dnews.ru, 2023-05-01 12:05
Учёные связали три палочки и получили первый в мире деревянный транзистор — он работает с частотой около 1 Гц

Команды из Линчепингского университета в Норчепинге и Королевского технологического института в Стокгольме опубликовали статью под названием «Модуляция электрического тока в древесных электрохимических транзисторах», в которой обсуждаются создание, возможности и потенциал древесного электрохимического транзистора (WECT), который они недавно разработали. Источник...

iXBT, 2023-05-01 11:56
Вместо седана Volkswagen Polo. В Китае представлен Volkswagen Lavida XR со 110-сильным атмосферным мотором и 6-ступенчатым «автоматом»

Одним из самых доступных седанов, поставляемых сейчас в Россию по параллельному импорту, является китайский Volkswagen Lavida. И вот сейчас в КНР вышла новая его версия, обозначенная индексом XR. Местный ресурс Autohome называет Lavida XR «самой красивой версией в серии», но изменения тут не только по части внешнего вида. Volkswagen Lavida XR (он производится на совместном...