- Темпы роста выручки TSMC по итогам октября... (64)
- Предложенные Трампом пошлины на технику из... (153)
- The Beatles номинированы на «Грэмми» с... (163)
- Новая статья: Dragon Age: The Veilguard —... (846)
- Новая статья: Gamesblender № 699: PS5 Pro не... (1087)
- Huawei скрестила SSD с лентой в... (1373)
- Серия отставок в OpenAI продолжается: ушёл... (1391)
- Астрономы обнаружили «межзвёздный тоннель»... (1679)
- Apple объяснила, почему перенесла кнопку... (1645)
- Более 600 млн записей данных россиян утекло... (1383)
- Жители Мемфиса не рады развитию... (1664)
- Это самый мощный мини-ПК в мире с 24-ядерным... (1704)
- Это самый мощный мини-ПК в мире с 24-ядерным... (1805)
- Экспериментальный аппарат по отработке... (1555)
- Возможно, новые процессоры Intel Core Ultra... (1722)
- Недорогой базовый Mac mini на M4 вполне... (1616)
Исследователи опровергли экзистенциальную угрозу ИИ для человечества
Дата: 2024-08-15 23:07
Новое исследование: большие языковые модели не представляют экзистенциальной угрозы человечеству
Согласно новому исследованию Университета Бата и Технического университета Дармштадта в Германии, большие языковые модели (LLM), такие как ChatGPT, не способны обучаться самостоятельно или приобретать новые навыки, что означает, что они не представляют экзистенциальной угрозы человечеству.
Исследование, опубликованное в рамках материалов 62-го ежегодного собрания Ассоциации компьютерной лингвистики (ACL 2024), показывает, что языковые модели обладают поверхностной способностью следовать инструкциям и преуспевать во владении языком, однако у них нет потенциала для освоения новых навыков без явных инструкций. Это означает, что они остаются по своей сути контролируемыми, предсказуемыми и безопасными.
Источник: DALL-EИсследовательская группа под руководством профессора Ирины Гуревич из Технического университета Дармштадта в Германии провела эксперименты, чтобы проверить способность моделей выполнять задачи, с которыми модели никогда ранее не сталкивались. Результаты показали, что сочетание способности LLM следовать инструкциям и лингвистических навыков может объяснить как возможности, так и ограничения, демонстрируемые LLM.
«Распространённое мнение о том, что этот тип ИИ представляет угрозу человечеству, препятствует широкому внедрению и развитию этих технологий, а также отвлекает внимание от реальных проблем, требующих внимания», — сказал доктор Хариш Тайяр Мадабуши, специалист по информатике из Университета Бата и соавтор нового исследования.
Доктор Тайяр Мадабуши добавил, что опасения по поводу экзистенциальной угрозы, которую представляют LLM, высказывают не только неспециалисты, но и некоторые ведущие исследователи искусственного интеллекта по всему миру. Однако тесты явно продемонстрировали отсутствие у LLM способностей к сложному мышлению.
«Хотя важно устранить существующий потенциал для неправомерного использования ИИ, такой как создание фейковых новостей и повышенный риск мошенничества, было бы преждевременно вводить правила, основанные на предполагаемых экзистенциальных угрозах», — сказал доктор Тайяр Мадабуши.
Профессор Гуревич добавила, что результаты исследования не означают, что ИИ вообще не представляет угрозы. «Скорее, мы показываем, что предполагаемое возникновение сложных навыков мышления, связанных с конкретными угрозами, не подтверждается доказательствами и что мы можем хорошо контролировать процесс обучения LLM», — сказала она.
Подробнее на iXBT
Предыдущие новости
Между этим Huawei и флагманом Samsung целая пропасть. Складывающийся втрое китайский смартфон на свежем фото выглядит невероятно тонким
Похоже, складной смартфон Huawei с двумя шарнирами будет весьма тонким, несмотря на свою конструкцию. фото: WCCF Tech Как минимум на свежих снимках он кажется именно таким, хотя напрямую его сравнить не с чем. Можно видеть, что в руках бывшего главы Huawei Ричарда Юя смартфон не кажется излишне толстым. Даже напротив, кажется, что новинка слишком уж тонкая для своей...
В Windows 11 нашёлся баг с правами пользователя, который замедляет Ryzen 9000 в играх
Как показали первые обзоры процессоров Ryzen 9 9900X и Ryzen 9 9950X на архитектуре Zen 5, прибавки игровой производительности относительно моделей предыдущего поколения Ryzen 9 7900X и Ryzen 9 7950X на архитектуре Zen 4 практически не наблюдается. YouTube-канал HardwareUnboxed предполагает, что причиной этому может быть баг в операционной системе Windows 11. Источник...
Создатели Inkulinati анонсировали симулятор скриптория Scriptorium: Master of Manuscripts со свободой творчества и средневековыми мемами
Разработчики пошаговой стратегии Inkulinati из польской студии Yaza Games представили свой следующий проект — симулятор средневековой мастерской по созданию рукописей Scriptorium: Master of Manuscripts. Источник изображений: Yaza...
Американские конгрессмены назвали Wi-Fi-роутеры TP-Link «вопиющей угрозой национальной безопасности»
Американские законодатели потребовали расследования в отношении китайской компании TP-Link, крупнейшего производителя Wi-Fi-роутеров. TP-Link попал под подозрение в связи с возможным участием в кибератаках на правительственные учреждения и предприятия США. Источник изображения:...