- Samsung рассчитывает договориться с AMD о... (1154)
- Тактическая ролевая игра Solasta 2 с... (837)
- Представлен совершенно новый флагманский... (1168)
- «Китайский УАЗ» получил дизельный мотор... (927)
- «Паук» на Европе: необычная трещина во льду... (1254)
- 2025 год ещё не закончился, а SpaceX уже... (1242)
- Почти терминатор: в Китае патрульные... (1114)
- Урезанный PCIe 5.0 и разъём питания в очень... (894)
- Межзвёздная комета 3I/ATLAS засветилась в... (849)
- Стиль, 200 Мп и аккумулятор 7000 мАч с... (847)
- В России начнут выпускать клон Iveco Fidato:... (906)
- 53-летний интерфейс GPIB наконец-то получил... (963)
- Аудитория философского выживания The Alters... (846)
- JEDEC почти завершила разработку SPHBM4 —... (1125)
- Крыс научили «играть» в Doom. Проект Rats... (1096)
- Китайские производители смартфонов тестируют... (1195)
Исследование Veracode показало: почти половина кода от ИИ уязвима
Дата: 2025-08-01 23:52
Согласно новому исследованию компании Veracode, почти 45% кода, сгенерированного ИИ, содержит уязвимости, несмотря на то, что выглядит «готовым к продакшену».
В отчёте изучались более 100 больших языковых моделей на 80 разных задачах программирования. Ни размер, ни «свежесть» моделей не показали улучшений в безопасности. «Наше исследование показывает: модели становятся лучше в синтаксисе, но не в безопасности», — отметил технический директор Veracode Йенс Вёсслинг.
Наибольший уровень сбоев выявлен в Java — более 70% случаев, однако и Python, C# и JavaScript показали высокие значения: от 38% до 45%.
Иллюстрация: Sora Особенно часто ИИ не справляется с защитой от XSS-атак (86%) и log-инъекций (88%). При этом, согласно данным Veracode, всё больше разработчиков используют ИИ не только как помощника, но и как генератор кода.
Йенс Вёсслинг связывает проблему с новой практикой «вайб-кодинга». Это, по его словам, коренным образом меняет логику современной разработки.
Эксперты Veracode призывают внедрять автоматические проверки безопасности, использовать ИИ-инструменты для устранения уязвимостей, а также — обучать разработчиков созданию кода при помощи ИИ с учётом рисков. «Ассистенты и автономные пайплайны — это будущее, но безопасность не может быть запоздалой мыслью. Иначе накопление уязвимостей станет необратимым», — предупреждают в Veracode.
Подробнее на iXBT
Предыдущие новости
ChatGPT захватил 83 % мирового рынка ИИ-ботов — в России он тоже лидер, но конкуренция острее
Сервис веб-аналитики Statcounter, отслеживающий посещаемость сайтов и анализирующий пользовательское поведение, начал публиковать статистику популярности моделей искусственного интеллекта, а точнее чат-ботов на их основе. С большим отрывом в этом вопросе лидирует ChatGPT от OpenAI. По данным Statcounter, доля ChatGPT по состоянию на июль составила более 80 %. Источник...
Новая статья: Robocop: Rogue City — Unfinished Business — правосудие продолжается. Рецензия
Одной прогулки для Робокопа по городу беззакония разработчикам показалось недостаточно. У робота-полицейского еще остались незаконченные дела, на этот раз очень личные. Но хватило ли авторам запала еще на десяток часов перестрелок и ультранасилия? Читайте в нашей...
Google поддержала AI Act: компания подпишет кодекс ЕС для разработчиков ИИ
Google подтвердила, что присоединится к добровольному кодексу передовой практики Европейского союза в сфере ИИ — документу, который помогает разработчикам крупных моделей соответствовать требованиям нового Закона об искусственном интеллекте (AI Act). Meta*, в отличие от Google, отказалась подписывать кодекс, заявив, что действия ЕС — это «перегиб» и «движение в неверном...
Microsoft ведёт переговоры о доступе к разработкам OpenAI после достижения AGI
Microsoft и OpenAI обсуждают соглашение, которое позволит корпорации сохранить доступ к технологиям партнёра даже в случае достижения AGI — искусственного интеллекта общего назначения. Как сообщает Bloomberg, переговоры близки к завершению, но ещё могут столкнуться с юридическими препятствиями, в том числе из-за иска Илона Маска, оспаривающего коммерциализацию OpenAI. Сейчас...