- Microsoft и ведущие биологи выявили... (902)
- Масштабы спутниковых радиочастотных помех... (683)
- За 2025 год американцы потеряли более 300... (1132)
- За 2025 год американцы потеряли более 300... (666)
- В Китае запущена крупнейшая в мире атомная... (689)
- В Китае робот-полицейский в стиле... (834)
- Новый Honda HR-V на подходе: опубликованы... (1034)
- Китай вводит обязательную отчётность по... (1087)
- 7000 мАч, IP69, 12/512 ГБ памяти, но... (630)
- Телескоп «Джеймс Уэбб» зафиксировал смещение... (624)
- MSI представила мониторы с новыми... (936)
- Celestis и Stoke Space отправят прах на... (735)
- Эта RTX 5060 Ti получила восьмиконтактный... (665)
- Компания Punkt представила смартфон с... (678)
- Компьютеры станут еще дороже: контрактные... (970)
- Биотехнология против опустынивания: Китай... (780)
Новые версии ChatGPT могут значительно повысить риск разработки биологического оружия — даже неопытными людьми
Дата: 2025-06-20 12:44
OpenAI утверждает, что следующее поколение её моделей ИИ (ChatGPT) может значительно повысить риск разработки биологического оружия даже людьми без научного образования.
Руководитель отдела систем безопасности OpenAI Йоханнес Хайдеке сообщил, что компания «ожидает, что некоторые из преемников нашей o3 (модели рассуждений) достигнут этого уровня». Компания усиливает тестирование безопасности, чтобы снизить риск того, что модели помогут пользователям в создании биологического оружия. OpenAI обеспокоена тем, что без этих мер по снижению рисков новые модели ИИ вскоре смогут позволить тем, у кого ограниченные научные знания, создавать опасное оружие.
Изображение Midjourney «Мы пока не в мире, где есть что-то новое, совершенно неизвестное, создающее биологические угрозы, которые не существовали ранее, — сказал Хайдеке. — Мы больше беспокоимся о воспроизведении вещей, с которыми эксперты уже хорошо знакомы».
Он добавил, что некоторые из возможностей, которые могли бы позволить ИИ совершать прорывы в медицине, могут также использоваться во вред.
Недавно Anthropic выпустила свою самую продвинутую модель Claude Opus 4 с более строгими протоколами безопасности, чем у любой из предыдущих моделей, классифицируя ее как AI Safety Level 3 (ASL-3) в соответствии с политикой ответственного масштабирования компании. Все предыдущие модели Anthropic были классифицированы как AI Safety Level 2 (ASL-2).
Подробнее на iXBT
Предыдущие новости
Дешевый 6-ядерный процессор со 100 МБ кэша: AMD подтвердила Ryzen 5 9600X3D, который может стать хитом у геймеров
Слухи о том, что AMD готовит 6-ядерный Ryzen 5 9600X3D, появились в декабре прошлого года, а сейчас компания, фактически, официально под твердила существование этой модели, указав ее в перечне CPU, совместимых с ускорителем Radeon AI PRO R9700. Ryzen 5 9600X3D указан рядом с моделями 9950X3D, 9900X3D и 9800X3D. Фото: Videocardz О характеристиках Ryzen 5 9600X3D пока известно...
К «Яндекс Еде» подключили ИИ-ассистент «Еда AI» на основе YandexGPT 5 Pro
Команда Яндекса объявила о новой полезной возможности фирменного сервиса «Яндекс Еда». Для пользователей стал доступен ИИ-ассистент «Еда AI», который способен помочь выбрать ресторан, куда сходить или где заказать доставку. А затем можно сразу забронировать стол. Иллюстрация: Яндекс Онлайн-помощник составляет персонализированные рекомендации, опираясь на обновляемую базу...
Как в Google и Netflix: Яндекс запускает рекомендации нового поколения — на основе генеративных моделей
Команда Яндекса представила новое поколение рекомендательных систем, которые теперь базируются на генеративных моделях. Как пояснили в пресс-службе, пользователи будут получать более качественные рекомендации, экономить больше времени на поиске контента и товаров, чаще выходить за рамки своих привычек. Иллюстрация: Яндекс Первой новые алгоритмы внедрила «Яндекс Музыка»....
«Яндекс» встроит ИИ-рекомендации почти во все свои сервисы
«Яндекс» активно интегрирует алгоритмы на базе генеративных нейросетей в свои сервисы. На этот разработчики создали рекомендательные алгоритмы на основе генеративного ИИ, которые будут внедряться в продукты компании. За счёт этого пользователи сервисов «Яндекса» будут экономить время на поиске контента и товаров, а также смогут выйти за рамки своих привычек. Источник...