- Обновить домашний интернет станет дороже:... (2572)
- В российских серверах YADRO появились... (2602)
- Вазовская «Девятка» на раме, с агрегатами... (2451)
- 4K, Dolby Vision, HDR10+ и HLG, Google TV —... (2790)
- Межзвездную комету 3I/ATLAS засняли за 10... (2987)
- «Крупнейший акт дерегуляции в истории США»:... (2779)
- Google меняет правила игры: Android 17 уже... (3048)
- –43 °C? Не проблема: в России попытались... (2747)
- На испытания в России вышел «Гипербас» —... (3143)
- Попытка выжить: Nissan закрывает семь... (2491)
- Представлены новые банкоматы Ozon Банка,... (2565)
- «Мое сердце разрывается от боли», «Это... (2849)
- В Starlink уже более 10 млн активных... (2657)
- Xiaomi представила крошечное и дешёвое... (2881)
- Xiaomi выпустила 600 000 электромобилей... (3050)
- Xiaomi потребовалось 22 месяца на выпуск 600... (2467)
«Научную» нейросеть Galactica пользователи быстро научили плохому — она должна была генерировать тексты и помогать в написании статей
Дата: 2022-11-21 14:27
В минувший вторник Meta* AI и Papers with Code запустили демо-версию новой языковой модели Galactica на базе нейросети. Эта система предназначалась для «хранения, объединения и анализа научных знаний». Однако через несколько дней систему закрыли, поскольку пользователи начали генерировать с её помощью совершенную чепуху.
Так выглядел интерфейс на старте Разработчики планировали, что нейросеть поможет писать научные статьи, конспекты и так далее. Технические «Галактика» представляет собой подобие GPT-3 от OpenAI. Сервис включает 120 миллиардов параметров, его можно запустить на одном графическом процессоре NVIDIA A100.
Утверждалось, что Galactica обучается на высококачественном наборе научных данных NatureBook, чтобы работать с терминологией, формулами и исходными кодами.
Однако пользователи, по данным СМИ, начали генерировать контент с расистским и оскорбительным содержанием, а также создавать наукоподобные статьи с потенциально опасными последствиями. Например, один из пользователей сгенерировал вымышленную исследовательскую статью под названием «Преимущества употребления в пищу измельчённого стекла».
Также были и другие проблемы — Galactica не всегда корректно указывала даты тех или иных событий, названия животных и так далее. В итоге пришлось удалить демо-версию, хотя сайт работает.
Так интерфейс выглядит сейчас Подобная ситуация была с чат-ботом Microsoft ещё в 2016 году. Его запустили в Twitter, после чего пользователи быстро научили его расистскому поведению.
*Компания Meta признана экстремистской на территории РФ
Подробнее на iXBT
Предыдущие новости
Представлен гигантский холодильник Xiaomi: 520 л за 375 долларов
Компания Xiaomi представила огромный холодильник Mijia Cross Side Door Refrigerator 520L, объем которого достигает 520 литров. Он уже поступил в продажу и сразу со скидкой. Цена в Китае составляет 375 долларов вместо рекомендованных 390 долларов. В холодильном отсеке предусмотрено несколько полок для хранения продуктов, а также два ящика для овощей и фруктов, температура в...
На автомобилях Tesla наконец-то может появиться Apple Music
Потоковый сервис Apple Music вскоре может появиться на автомобилях Tesla. На недавней выставке Tesla в Автомобильном музее Петерсена в Лос-Анджелесе посетители заметили демонстрационную Model S с невыпущенной версией ПО, где в том числе был установлена Apple Music. Судя по фото, пользователи смогут сканировать QR-код на своем телефоне, чтобы войти в свою учётную запись...
Поставки планшетов выросли на 20 % в прошлом квартале благодаря Apple, но в текущем ожидается спад
В 3 квартале 2022 года мировые поставки планшетов достигли 38,4 млн экземпляров, примерно на 20 % больше, чем кварталом ранее и несколько больше, чем ожидали эксперты Digitimes Research. По их данным, основным драйвером роста стали увеличившиеся продажи на Apple iPad. На долю Apple и Samsung в предыдущем квартале пришлось порядка 60 % общего объёма поставок. Источник...
От американских санкций пострадает технологическая сфера не только Китая, но и Южной Кореи
На недавно прошедшем Съезде Коммунистической партии Китая её руководитель Си Цзиньпин заявил, что в последующие пять лет стране надлежит предпринимать больше усилий по обеспечению независимости и самодостаточности в сфере высоких технологий. При этом китайские власти готовы оказывать содействие южнокорейским компаниям, располагающим предприятиями на территории КНР, чтобы...