Компания Anthropic заявила, что она выявила «масштабные кампании, проводимые тремя лабораториями искусственного интеллекта — DeepSeek, Moonshot и MiniMax — с целью незаконного извлечения возможностей Claude для улучшения собственных моделей». На страничке в X компания использовала фразу «масштабные атаки».

Спецпредставитель президента РФ по экономическому сотрудничеству с зарубежными странами, генеральный директор РФПИ Кирилл Дмитриев назвал кибератаку на ИИ-модели американской компании Anthropic «первой мировой войной моделей ИИ».

Эти лаборатории совершили более 16 миллионов транзакций с Claude через примерно 24 000 мошеннических аккаунтов, нарушая наши условия обслуживания и региональные ограничения доступа. В этих лабораториях использовалась методика, называемая «дистилляцией», которая предполагает обучение менее совершенной модели на основе результатов работы более совершенной. Дистилляция — широко используемый и легитимный метод обучения. Например, передовые лаборатории искусственного интеллекта регулярно дистиллируют свои собственные модели, чтобы создавать более компактные и дешевые версии для своих клиентов. Но дистилляция также может использоваться в незаконных целях: конкуренты могут использовать ее для приобретения мощных возможностей у других лабораторий за гораздо меньшее время и по гораздо меньшей цене, чем потребовалось бы для их самостоятельной разработки.

Anthropic

Anthropic заявляет, что интенсивность и изощренность этих кампаний растут: «Время для принятия мер ограничено, и угроза распространяется за пределы какой-либо отдельной компании или региона. Для ее решения потребуются быстрые и скоординированные действия со стороны участников отрасли, политиков и мирового сообщества ИИ».