- Углеродные выбросы Amazon выросли в 2024... (85)
- Toyota подобрала ключ к китайскому рынку:... (88)
- Новая статья: Cast n Chill — вы, сэр, рыба.... (96)
- Грозит возгоранием: в России объявили отзыв... (111)
- АвтоВАЗ рассказал про новый современный... (122)
- ИИ всё чаще рассуждает как человек — лидеры... (116)
- Возвращение к шутерам от первого лица:... (116)
- Танки грязи не боятся: внедорожники Tank 300... (133)
- Представлена совершенно новая Lada Sport — с... (120)
- Даже самые слабые процессоры Intel получат... (136)
- Самый чудовищный чип Apple в Cyberpunk 2077... (109)
- Этот странный 11-ядерный процессор AMD с... (125)
- Китайские учёные разработали одношаговую... (100)
- Кооперативный боевик Contraband от... (126)
- Не ждите от новых процессоров Intel ничего,... (143)
- Австрийцы упаковали электромобильный... (126)
Новые версии ChatGPT могут значительно повысить риск разработки биологического оружия — даже неопытными людьми
Дата: 2025-06-20 12:44
OpenAI утверждает, что следующее поколение её моделей ИИ (ChatGPT) может значительно повысить риск разработки биологического оружия даже людьми без научного образования.
Руководитель отдела систем безопасности OpenAI Йоханнес Хайдеке сообщил, что компания «ожидает, что некоторые из преемников нашей o3 (модели рассуждений) достигнут этого уровня». Компания усиливает тестирование безопасности, чтобы снизить риск того, что модели помогут пользователям в создании биологического оружия. OpenAI обеспокоена тем, что без этих мер по снижению рисков новые модели ИИ вскоре смогут позволить тем, у кого ограниченные научные знания, создавать опасное оружие.

«Мы пока не в мире, где есть что-то новое, совершенно неизвестное, создающее биологические угрозы, которые не существовали ранее, — сказал Хайдеке. — Мы больше беспокоимся о воспроизведении вещей, с которыми эксперты уже хорошо знакомы».
Он добавил, что некоторые из возможностей, которые могли бы позволить ИИ совершать прорывы в медицине, могут также использоваться во вред.
Недавно Anthropic выпустила свою самую продвинутую модель Claude Opus 4 с более строгими протоколами безопасности, чем у любой из предыдущих моделей, классифицируя ее как AI Safety Level 3 (ASL-3) в соответствии с политикой ответственного масштабирования компании. Все предыдущие модели Anthropic были классифицированы как AI Safety Level 2 (ASL-2).
Подробнее на iXBT
Предыдущие новости
Дешевый 6-ядерный процессор со 100 МБ кэша: AMD подтвердила Ryzen 5 9600X3D, который может стать хитом у геймеров
Слухи о том, что AMD готовит 6-ядерный Ryzen 5 9600X3D, появились в декабре прошлого года, а сейчас компания, фактически, официально под твердила существование этой модели, указав ее в перечне CPU, совместимых с ускорителем Radeon AI PRO R9700. Ryzen 5 9600X3D указан рядом с моделями 9950X3D, 9900X3D и 9800X3D. Фото: Videocardz О характеристиках Ryzen 5 9600X3D пока известно...
К «Яндекс Еде» подключили ИИ-ассистент «Еда AI» на основе YandexGPT 5 Pro
Команда Яндекса объявила о новой полезной возможности фирменного сервиса «Яндекс Еда». Для пользователей стал доступен ИИ-ассистент «Еда AI», который способен помочь выбрать ресторан, куда сходить или где заказать доставку. А затем можно сразу забронировать стол. Иллюстрация: Яндекс Онлайн-помощник составляет персонализированные рекомендации, опираясь на обновляемую базу...
Как в Google и Netflix: Яндекс запускает рекомендации нового поколения — на основе генеративных моделей
Команда Яндекса представила новое поколение рекомендательных систем, которые теперь базируются на генеративных моделях. Как пояснили в пресс-службе, пользователи будут получать более качественные рекомендации, экономить больше времени на поиске контента и товаров, чаще выходить за рамки своих привычек. Иллюстрация: Яндекс Первой новые алгоритмы внедрила «Яндекс Музыка»....
«Яндекс» встроит ИИ-рекомендации почти во все свои сервисы
«Яндекс» активно интегрирует алгоритмы на базе генеративных нейросетей в свои сервисы. На этот разработчики создали рекомендательные алгоритмы на основе генеративного ИИ, которые будут внедряться в продукты компании. За счёт этого пользователи сервисов «Яндекса» будут экономить время на поиске контента и товаров, а также смогут выйти за рамки своих привычек. Источник...