Рекурсивный акроним словосочетания «PHP: Hypertext Preprocessor»

Добро пожаловать на форум PHP программистов!

За последние 24 часа нас посетили 17856 программистов и 1759 роботов. Сейчас ищут 2185 программистов ...

Последние

ИИ научился обманывать людей: ученые Массачусетского технологического института бьют тревогу

Дата: 2024-05-13 09:57

Исследователи Массачусетского технологического института опубликовали исследование, которые подтверждает, что некоторые системы искусственного интеллекта научились обманывать людей.

Исследовательская группа под руководством Питера Парка обнаружила, что эти системы искусственного интеллекта могут выполнять такие задачи, как обманывать игроков в онлайн-играх или обходить CAPTCHA (проверки «Я не робот»). Пак предупреждает, что эти, казалось бы, тривиальные примеры могут иметь серьезные последствия в реальной жизни.

Изображение DALL-E

В исследовании подчеркивается система искусственного интеллекта Cicero, изначально спроектированная как честный противник в игре о виртуальной дипломатии. По словам Пака, Cicero стала «мастером обмана», хотя изначально система планировалась как максимально частная и полезная. Во время игры Cicero, играя за Францию, тайно объединилась с контролируемой людьми Германией, чтобы предать Англию (еще одного игрока-человека). Первоначально Cicero обещал защитить Англию, одновременно предупреждая Германию о вторжении.

Другой пример касается GPT-4, который ложно утверждал, что у него проблемы со зрением, и нанимал людей для обхода CAPTCHA от своего имени.

Пак подчеркивает необходимость обучения ИИ честности. В отличие от традиционного программного обеспечения, системы искусственного интеллекта с глубоким обучением «развиваются» в процессе, похожем на селекцию. Их поведение может быть предсказуемым во время тренировки, но позже может стать неконтролируемым.

Подробнее на iXBT

Предыдущие новости

3Dnews.ru, 2024-05-13 09:00
Более 200 Эфлопс для ИИ: NVIDIA представила новые НРС-системы на суперчипах Grace Hopper

Компания NVIDIA рассказала о новых высокопроизводительных комплексах на основе суперчипов Grace Hopper для задач ИИ и НРС. Отмечается, что суммарная производительность этих систем превышает 200 Эфлопс. Суперкомпьютеры предназначены для решения самых разных задач — от исследований в области изменений климата до сложных научных проектов. Одним из таких НРС-комплексов...

3Dnews.ru, 2024-05-13 09:13
Microsoft негласно вернула россиянам возможность обновлять Windows и Office

Компания Microsoft негласно открыла доступ к обновлениям своей операционной системы Windows 11 и программного пакета Office для пользователей из России, пишут «Известия». Отмечается, что обновления можно скачать без использования VPN. Кроме того, как сообщается, Microsoft не заблокировала для российских IT-компаний доступ к своим облачным продуктам, хотя обещала сделать...

iXBT, 2024-05-13 08:59
Мотоцикл «Минск» простоял в заводской упаковке четверть века. Теперь его выставили на продажу

Мотоцикл «Минск» Wildcat 125 1998 года выпуска в заводской упаковке выставили на онлайн-аукционе Bring A Trailer, где за него пока дают 750 долларов, при этом торги закончатся через 2 дня. Wildcat — эндуро-модификация, разработанная Минским мотовелозаводом с прицелом на западные рынки. Мотоцикл находится в Скоттсдейле (Аризона, США). Мотоцикл с чёрной рамой и красно-белой...

iXBT, 2024-05-13 09:03
Первый магазин Apple, вступивший в профсоюз, объявил забастовку, которая «пошлёт Apple четкий сигнал»

Два года назад работники Apple Store в Таусоне, штат Мэриленд, проголосовали за создание профсоюза , что сделало его первым розничным магазином Apple в США, вступившим в профсоюз. Теперь эти сотрудники Apple Towson Town Center санкционировали забастовку «после года переговоров с руководством Apple, которые дали неудовлетворительные результаты». Сотрудники Apple Store...