- Nothing представила первый в мире смартфон,... (2534)
- Nothing представила смартфон, который... (2237)
- Noctua представила мощные и тихие 60-мм... (2545)
- Шифрование файлов cookie в Chrome оказалось... (2296)
- Новая 3D-модель горячего газа в окрестностях... (2578)
- Представлены кнопочные телефоны Nokia 108 4G... (2867)
- В России переписали цены на спортивные Lada... (2400)
- В России заметно подорожали спортивные Lada... (2646)
- Провалы Samsung в сферах памяти для ИИ и... (2884)
- Обнаружена самая быстрая нейтронная звезда... (2875)
- Представлен Mercedes-Maybach S-Class 2025.... (2562)
- Слухи: Sony не хватило 200 миллионов... (2496)
- В Стокгольме начал ходить первый в мире... (2310)
- Корейцы создали плёнку, которая на 99 %... (2304)
- Остаточной стоимости более 100% через 3 года... (2389)
- На государственном уровне: в некоторых... (2577)
ИИ научился обманывать людей: ученые Массачусетского технологического института бьют тревогу
Дата: 2024-05-13 09:57
Исследователи Массачусетского технологического института опубликовали исследование, которые подтверждает, что некоторые системы искусственного интеллекта научились обманывать людей.
Исследовательская группа под руководством Питера Парка обнаружила, что эти системы искусственного интеллекта могут выполнять такие задачи, как обманывать игроков в онлайн-играх или обходить CAPTCHA (проверки «Я не робот»). Пак предупреждает, что эти, казалось бы, тривиальные примеры могут иметь серьезные последствия в реальной жизни.
Изображение DALL-EВ исследовании подчеркивается система искусственного интеллекта Cicero, изначально спроектированная как честный противник в игре о виртуальной дипломатии. По словам Пака, Cicero стала «мастером обмана», хотя изначально система планировалась как максимально частная и полезная. Во время игры Cicero, играя за Францию, тайно объединилась с контролируемой людьми Германией, чтобы предать Англию (еще одного игрока-человека). Первоначально Cicero обещал защитить Англию, одновременно предупреждая Германию о вторжении.
Другой пример касается GPT-4, который ложно утверждал, что у него проблемы со зрением, и нанимал людей для обхода CAPTCHA от своего имени.
Пак подчеркивает необходимость обучения ИИ честности. В отличие от традиционного программного обеспечения, системы искусственного интеллекта с глубоким обучением «развиваются» в процессе, похожем на селекцию. Их поведение может быть предсказуемым во время тренировки, но позже может стать неконтролируемым.
Подробнее на iXBT
Предыдущие новости
Более 200 Эфлопс для ИИ: NVIDIA представила новые НРС-системы на суперчипах Grace Hopper
Компания NVIDIA рассказала о новых высокопроизводительных комплексах на основе суперчипов Grace Hopper для задач ИИ и НРС. Отмечается, что суммарная производительность этих систем превышает 200 Эфлопс. Суперкомпьютеры предназначены для решения самых разных задач — от исследований в области изменений климата до сложных научных проектов. Одним из таких НРС-комплексов...
Microsoft негласно вернула россиянам возможность обновлять Windows и Office
Компания Microsoft негласно открыла доступ к обновлениям своей операционной системы Windows 11 и программного пакета Office для пользователей из России, пишут «Известия». Отмечается, что обновления можно скачать без использования VPN. Кроме того, как сообщается, Microsoft не заблокировала для российских IT-компаний доступ к своим облачным продуктам, хотя обещала сделать...
Мотоцикл «Минск» простоял в заводской упаковке четверть века. Теперь его выставили на продажу
Мотоцикл «Минск» Wildcat 125 1998 года выпуска в заводской упаковке выставили на онлайн-аукционе Bring A Trailer, где за него пока дают 750 долларов, при этом торги закончатся через 2 дня. Wildcat — эндуро-модификация, разработанная Минским мотовелозаводом с прицелом на западные рынки. Мотоцикл находится в Скоттсдейле (Аризона, США). Мотоцикл с чёрной рамой и красно-белой...
Первый магазин Apple, вступивший в профсоюз, объявил забастовку, которая «пошлёт Apple четкий сигнал»
Два года назад работники Apple Store в Таусоне, штат Мэриленд, проголосовали за создание профсоюза , что сделало его первым розничным магазином Apple в США, вступившим в профсоюз. Теперь эти сотрудники Apple Towson Town Center санкционировали забастовку «после года переговоров с руководством Apple, которые дали неудовлетворительные результаты». Сотрудники Apple Store...