Рекурсивный акроним словосочетания «PHP: Hypertext Preprocessor»

Добро пожаловать на форум PHP программистов!

За последние 24 часа нас посетили 60527 программистов и 6200 роботов. Сейчас ищут 1820 программистов ...

Последние

Microsoft предупреждает: ИИ-агенты в Windows 11 могут галлюцинировать и создают новые риски для безопасности

Дата: 2025-12-01 12:47

Компания Microsoft недавно заявила, что собирается сделать из Windows 11 агентскую ОС, а потом и вовсе запустила соответствующую тестовую функцию. Теперь вот оказалось, что с этими самыми ИИ-агентами есть проблемы: они галлюцинируют и в целом создают новые риски для безопасности.

Компания опубликовала целое предупреждение о таких нюансах, которые пользователи должны учитывать.

Создано Grok

Сегодня агентный ИИ обладает мощными возможностями — например, он может выполнять множество сложных задач в ответ на запросы пользователя, преобразуя взаимодействие пользователей со своими компьютерами. Несмотря на внедрение этих возможностей, модели ИИ по-прежнему сталкиваются с функциональными ограничениями в плане своего поведения и иногда могут создавать галлюцинации и выдавать неожиданные результаты. Кроме того, приложения агентного ИИ создают новые риски безопасности, такие как внедрение через перекрестные запросы (XPIA), когда вредоносный контент, встроенный в элементы пользовательского интерфейса или документы, может переопределять инструкции агента, что приводит к непреднамеренным действиям, таким как кража данных или установка вредоносного ПО

Компания объясняет, что должны делать агенты и где сейчас есть проблемы с безопасностью и призывает пользователей ознакомиться с этими деталями. Учитывая саму основу текущих моделей ИИ, пока неясно, сможет ли Microsoft решить эту проблему на 100% в ближайшее время.

Подробнее на iXBT

Предыдущие новости

iXBT, 2025-12-01 12:54
Катастрофа на рынке DRAM распространяется и на NAND? Поставки снижаются, из-за чего цены уже выросли на 20-60%

Катастрофа на рынке памяти DRAM может в той или иной степени повториться на рынке NAND. Как сообщают аналитики TrendForce, поставки пластин с чипами такой памяти продолжают сокращаться, из-за чего цены растут. Производители памяти продолжают производить всё больше высокомаржинальной памяти HBM и других видов для серверов, из-за чего страдает производство обычной DRAM и NAND....

3Dnews.ru, 2025-12-01 12:49
Возвращение блудного разработчика: бывший режиссёр ремейка Splinter Cell спустя три года вновь возглавил проект, но этого никто не заметил

Начатый недавно канадской студией Ubisoft Toronto поиск «руководителя разработки Splinter Cell», похоже, увенчался успехом. В команду ремейка культового стелс-экшена Tom Clancy’s Splinter Cell вернулся ключевой сотрудник. Источник изображений:...

iXBT, 2025-12-01 12:03
Астероид Бенну оказался складом молекул, важных для жизни

Учёные, изучающие образцы астероида Бенну, доставленные на Землю миссией OSIRIS-REx, обнаружили в них триптофан — незаменимую аминокислоту, участвующую в важных биологических процессах. Это открытие стало первым случаем обнаружения триптофана во внеземных образцах. В 2020 году автоматический аппарат OSIRIS-REx совершил посадку на астероид Бенну и собрал 121,6 грамм вещества с...

iXBT, 2025-12-01 12:10
«Билайн» ускорил работу Rutube, Мах и других российских сервисов

Оператор «ВымпелКом» (торговая марка «Билайн») провел ряд работ по расширению географии, повышению мощности включений на площадках по всей России и увеличению портовой емкости популярных отечественных онлайн-сервисов. Как рассказали в пресс-службе, теперь в сети оператора быстрее и качественнее работают маркетплейс Wildberries, онлайн-кинотеатры «Иви» и «Кинопоиск»,...