- SpaceX получила третий подряд контракт на... (22)
- Сделано не в США? Trump Mobile удалила... (17)
- ИИ-процессор Microsoft выйдет с опозданием и... (37)
- Монополия Nvidia пошатнулась: OpenAI начала... (38)
- Новый кроссовер Chery дешевле 15 тыс.... (82)
- По 3200 долларов за одну лошадиную силу.... (78)
- Прямо как в «Аватаре»: японцы представили... (78)
- До 3 ТБ на квадратный сантиметр: учёные... (85)
- Марсоход Perseverance проанализировал 30-й... (90)
- Toyota готовит невероятный двигатель для... (89)
- Первые Lada Iskra поставили на учет — машину... (121)
- Microsoft подтвердила скорый выход Windows... (118)
- Учёные из Университета Северной Аризоны... (124)
- Старый марсианский спутник NASA научился... (108)
- Xiaomi представила Mijia Air Conditioner Pro... (125)
- Rocket Lab запустила радиолокационный щит... (108)
Трёх законов робототехники уже не хватает. В OpenAI предложили новые принципы для контроля развития ИИ
Дата: 2023-02-25 19:44
За последние месяцы нейросети стали чрезвычайно популярными. Во многом это заслуга ChatGPT и генеративных нейросетей. Однако разработчики смотрят в будущее и прогнозируют новые проблемы на этом поприще. В было OpenAI вышла статья, где говорится о довольно скором появлении Artificial general intelligence (AGI). Это можно перевести как «ИИ общего назначения», сами же авторы подразумевают под этим термином ИИ, который может любые задачи не хуже человека, а порой даже лучше.

В статье говорится, что AGI должен «расширить возможности человечества для максимального процветания», однако он может принести также и потенциальные проблемы. Чтобы заблаговременно подготовиться к ним, в OpenAI предложили набор принципов, которыми команда руководствуется в своей работе над AGI.
Список их выглядит так:
Развертывание и изучение не слишком мощных ИИ-систем в реальном мире, что позволит получить опыт работы с ними и обратную связь. Упрощение доступа к ИИ-системам для всех желающих. Поддержка ИИ человеческих ценностей и предпочтений. Взаимодействие международных структур для использования и регулирования ИИ. Обмен данными и опытом о прогрессе ИИ с общественностью, а также привлечение заинтересованных сторон, которые могут внести вклад в развитие ИИ.Это лишь самые основные моменты, другие могут возникнуть уже по мере развития AGI и буду зависеть от вышеперечисленных факторов. Ведь пока сложно предсказать, насколько быстро будет развиваться такой ИИ, насколько хорошей будет координация усилий и взаимодействие между разными странами. Также неясно, насколько хорошо AGI будет учитывать именно человеческие цели, утремления и предпочтения.
В OpenAI также отметили что у них самих есть не все ответы и решения для потенциальных проблем в будущем, особенно после того, как AGI станет массовым явлением. Там рассчитывают, что в долгосрочной перспективе эти и другие требования к развитию ИИ станут обязательными для всех.
Подробнее на iXBT
Предыдущие новости
Архитектура видеокарт GeForce RTX и поддержка DLSS в смартфонах могут стать реальностью? MediaTek якобы хочет встроить GPU Nvidia в свои платформы
Компания MediaTek может попытаться сделать свои однокристальные системы намного привлекательнее. Как говорит ресурс DigiTimes, MediaTek может встроить в свои платформы блок, разработанный Nvidia. Речь, конечно, о GPU. Правда, источник говорит не просто о GPU, а о графических процессорах с искусственным интеллектом. За последний в продуктах Nvidia отвечают тензорные ядра, так...
Это iPhone 15 Plus. Рендеры смартфона показывают вырез Dynamic Island, порт USB-C и почти не изменившиеся габариты
После рендеров iPhone 15 Ultra в Сети появились рендеры iPhone 15 Plus. Ими поделился ресурс 9to5mac. iPhone 14 Plus слева и iPhone 15 Plus справа Как и в случае старшей модели, рендеры созданы на основе чертежей, только автором выступил уже работающий с источником Ян Зельбо (Ian Zelbo). Как можно видеть, младшая модель также получит корпус с более округлыми гранями, чем...
Samsung Galaxy S23 Ultra прервал 1244-дневную эпоху лидерства iPhone. Корейскую новинку сравнили с iPhone 14 Pro Max по скорости работы
Авторы канала PhoneBuff свели в поединке Samsung Galaxy S23 Ultra и iPhone 14 Pro Max, чтобы проверить, какой из флагманов быстрее. Как и всегда, тесты этого канала интересны тем, что они проводятся с использованием роботизированного манипулятора, который позволяет избежать влияния человеческого фактора. обложка видео источника В этом году флагман Samsung существует только в...
Авторы Atomic Heart уберут «расистский» фрагмент «Ну, погоди!» из игры
Западные игроки обратили внимание на эпизод «Ну, погоди!» в Atomic Heart и объявили его расистским. В нём они увидели аборигена с луком в карикатурном стиле. Команда Atomic Heart уже извинилась за это и пообещала убрать фрагмент. Источник изображения:...