- Павел Дуров: «Telegram не зависит от... (1149)
- Технология SmartPower HDR от Samsung и Intel... (1241)
- Corsair встроила Stream Deck прямо в... (875)
- Be quiet! представила кулеры Dark Rock 6 и... (846)
- Комплект DDR5 за $1500 и кофе в подарок:... (749)
- Они ещё и издеваются: Newegg предлагает... (987)
- Глава Nvidia сравнил роботов с... (770)
- Nvidia задумалась о возвращении старых... (765)
- Nvidia могла бы вернуть на рынок старые GPU... (807)
- AMD всерьёз задумалась о возрождении старых... (728)
- AMD серьёзно задумалась о возвращении... (940)
- Тонкий корпус, 7 лет обновлений, защита... (1031)
- Вперед в прошлое: AMD вернет в продажу... (861)
- Новое воплощение культового Razr:... (840)
- 3,5 с до 100 км/ч, зарядка на 80% за 10... (907)
- Lenovo придумала ThinkPad с «растущим»... (894)
Исследование Veracode показало: почти половина кода от ИИ уязвима
Дата: 2025-08-01 23:52
Согласно новому исследованию компании Veracode, почти 45% кода, сгенерированного ИИ, содержит уязвимости, несмотря на то, что выглядит «готовым к продакшену».
В отчёте изучались более 100 больших языковых моделей на 80 разных задачах программирования. Ни размер, ни «свежесть» моделей не показали улучшений в безопасности. «Наше исследование показывает: модели становятся лучше в синтаксисе, но не в безопасности», — отметил технический директор Veracode Йенс Вёсслинг.
Наибольший уровень сбоев выявлен в Java — более 70% случаев, однако и Python, C# и JavaScript показали высокие значения: от 38% до 45%.
Иллюстрация: Sora Особенно часто ИИ не справляется с защитой от XSS-атак (86%) и log-инъекций (88%). При этом, согласно данным Veracode, всё больше разработчиков используют ИИ не только как помощника, но и как генератор кода.
Йенс Вёсслинг связывает проблему с новой практикой «вайб-кодинга». Это, по его словам, коренным образом меняет логику современной разработки.
Эксперты Veracode призывают внедрять автоматические проверки безопасности, использовать ИИ-инструменты для устранения уязвимостей, а также — обучать разработчиков созданию кода при помощи ИИ с учётом рисков. «Ассистенты и автономные пайплайны — это будущее, но безопасность не может быть запоздалой мыслью. Иначе накопление уязвимостей станет необратимым», — предупреждают в Veracode.
Подробнее на iXBT
Предыдущие новости
ChatGPT захватил 83 % мирового рынка ИИ-ботов — в России он тоже лидер, но конкуренция острее
Сервис веб-аналитики Statcounter, отслеживающий посещаемость сайтов и анализирующий пользовательское поведение, начал публиковать статистику популярности моделей искусственного интеллекта, а точнее чат-ботов на их основе. С большим отрывом в этом вопросе лидирует ChatGPT от OpenAI. По данным Statcounter, доля ChatGPT по состоянию на июль составила более 80 %. Источник...
Новая статья: Robocop: Rogue City — Unfinished Business — правосудие продолжается. Рецензия
Одной прогулки для Робокопа по городу беззакония разработчикам показалось недостаточно. У робота-полицейского еще остались незаконченные дела, на этот раз очень личные. Но хватило ли авторам запала еще на десяток часов перестрелок и ультранасилия? Читайте в нашей...
Google поддержала AI Act: компания подпишет кодекс ЕС для разработчиков ИИ
Google подтвердила, что присоединится к добровольному кодексу передовой практики Европейского союза в сфере ИИ — документу, который помогает разработчикам крупных моделей соответствовать требованиям нового Закона об искусственном интеллекте (AI Act). Meta*, в отличие от Google, отказалась подписывать кодекс, заявив, что действия ЕС — это «перегиб» и «движение в неверном...
Microsoft ведёт переговоры о доступе к разработкам OpenAI после достижения AGI
Microsoft и OpenAI обсуждают соглашение, которое позволит корпорации сохранить доступ к технологиям партнёра даже в случае достижения AGI — искусственного интеллекта общего назначения. Как сообщает Bloomberg, переговоры близки к завершению, но ещё могут столкнуться с юридическими препятствиями, в том числе из-за иска Илона Маска, оспаривающего коммерциализацию OpenAI. Сейчас...