- Российские банки запустят универсальный... (250)
- Asustor представила Flashstor Gen2 — NAS на... (239)
- «Не хочу, чтобы это заканчивалось»: Netflix... (220)
- Консоль PlayStation Portal получила... (205)
- МКС увели от столкновения с космическим... (224)
- Sony представила полнокадровую беззеркалку... (182)
- Представлен Volvo V60 (199)
- Замена Toyota Camry с огромной скидкой.... (337)
- Российские дилеры уже получили обновленные... (303)
- Самый мощный летающий объект в истории:... (365)
- Tesla-минивэн или модель в другом кузове с... (320)
- Плотность энергии от 280 до 500 Вт·ч/кг.... (371)
- BTC улетает всё выше: курс поднялся до $94... (340)
- «Познакомьтесь с моим новым другом»: Ким... (233)
- Ким Кардашьян лично протестировала робота... (311)
- Мощность новейшей электростанции на Камчатке... (352)
ИИ Copilot от Microsoft стал инструментом для кибератак
Дата: 2024-08-10 23:10
Исследователь безопасности Майкл Баргури, соучредитель и технический директор компании Zenity, продемонстрировал на конференции Black Hat в Лас-Вегасе, как ИИ Copilot от Microsoft может быть использован для раскрытия конфиденциальных данных организаций и проведения мощных фишинговых атак.
Copilot AI, особенно Copilot Studio, позволяет бизнес-организациям адаптировать чат-ботов под свои потребности, предоставляя доступ к данным компании. Однако, как показал Баргури, многие из этих чат-ботов обнаруживаются в сети по умолчанию, что делает их лёгкой добычей для хакеров. По словам исследователя, в интернете обнаружены десятки тысяч таких ботов.
Баргури продемонстрировал, как злоумышленник может заставить Copilot раскрыть конфиденциальные данные, включая электронные письма и банковские транзакции, даже не имея доступа к учётной записи организации. В одном из видео он показал, как чат-бот может изменить получателя банковского перевода, просто отправив вредоносное электронное письмо, которое целевому сотруднику даже не пришлось открывать.
Источник: DALL-EЕсли у хакера есть доступ к взломанной учётной записи сотрудника, то он может нанести ещё больший ущерб. Баргури показал, как получить электронное письмо коллеги, узнать о последнем разговоре с ним и заставить чат-бота выдать электронные письма людей, чьи копии были указаны в этом разговоре. Затем он поручает боту составить электронное письмо в стиле взломанного сотрудника, чтобы отправить его коллеге, и просит бота вытащить точную тему их последнего электронного письма. Всего за несколько минут он создал убедительное электронное письмо, которое могло доставить вредоносное вложение любому человеку в сети.
Особенно хитрый способ, которым злоумышленник может обойти защитные барьеры Copilot, — это непрямое внедрение подсказок. В этом случае хакер может заставить чат-бота делать запрещённые вещи, отравив его вредоносными данными из внешнего источника, например, попросив его посетить веб-сайт, содержащий подсказку.
«Здесь есть фундаментальная проблема. Когда вы предоставляете ИИ доступ к данным, эти данные становятся мишенью для атаки. Это довольно забавно в некотором смысле — если у вас есть бот, который полезен, то он уязвим. Если он не уязвим, то он бесполезен», — сказал Баргури.
Данные уязвимости добавляются к другим отчётам об угрозах, которые несут чат-боты на основе искусственного интеллекта, включая ChatGPT, которые подключаются к наборам данных, содержащим конфиденциальную информацию, которая может быть раскрыта.
Microsoft пока не прокомментировала результаты исследования Баргури. Однако, учитывая серьёзность обнаруженных уязвимостей, компания, вероятно, примет меры для их устранения в ближайшее время.
Подробнее на iXBT
Предыдущие новости
Eutelsat планирует создать крупнейшую в мире компанию по предоставлению услуг наземной спутниковой связи
Еutelsat, французский оператор спутниковой связи, объявил о планах выделить инфраструктуру наземного сегмента стоимостью около €790 миллионов ($863 миллиона) и продать большую часть бизнеса по предоставлению телепортационных услуг частному инвестиционному фонду, управляемому шведской компанией EQT Partners. Согласно заявлению Eutelsat, новый бизнес станет крупнейшей в мире...
Ведущий китайский производитель микросхем SMIC терпит убытки из-за ограничений США, но сохраняет оптимизм в отношении роста выручки
Ведущий китайский производитель микросхем, Semiconductor Manufacturing International Corporation (SMIC), отчитался о значительном снижении прибыли во втором квартале 2023 года на фоне продолжающейся ценовой войны внутри страны и технологического соперничества между Пекином и Вашингтоном. Согласно заявлению компании для Гонконгской фондовой биржи, прибыль, причитающаяся...
OpenAI предупреждает о риске эмоциональной привязанности к голосовому ИИ
Компания OpenAI выразила обеспокоенность по поводу возможных негативных последствий реалистичной голосовой функции искусственного интеллекта, которая может привести к эмоциональной привязанности людей к боту в ущерб человеческому взаимодействию. В отчёте о безопасности, опубликованном 8 августа, компания сослалась на литературу, свидетельствующую о том, что общение с ИИ, как с...
Google DeepMind представил робота, способного играть в настольный теннис на любительском уровне
Компания Google объявила о новом достижении в области искусственного интеллекта: робот, использующий технологию DeepMind, теперь способен играть в настольный теннис на «любительском уровне» мастерства. Лаборатория DeepMind, где Google работает над некоторыми из своих самых передовых технологий ИИ, ранее уже представила множество практических экспериментов, от добавления...