Рекурсивный акроним словосочетания «PHP: Hypertext Preprocessor»

Добро пожаловать на форум PHP программистов!

За последние 24 часа нас посетили 77524 программиста и 2838 роботов. Сейчас ищут 1438 программистов ...

Последние

Кластер суперчипов Cerebras WSE-2 позволит тренировать ИИ-модели, сопоставимые по масштабу с человеческим мозгом

Дата: 2021-08-28 00:16

В последние годы сложность ИИ-моделей удваивается в среднем каждые два месяца, и пока что эта тенденция сохраняется. Всего три года назад году Google обучила «скромную» модель BERT с 340 млн параметров за 9 Пфлоп-дней. В 2020 году на обучение модели Micrsofot MSFT-1T с 1 трлн параметров понадобилось уже порядка 25-30 тыс. Пфлоп-дней. Процессорам и GPU общего назначения всё труднее управиться с такими задачами, поэтому разработкой специализированных ускорителей занимается целый ряд компаний: Google, Groq, Graphcore, SambaNova, Enflame и др. Особо выделятся компания Cerebras, избравшая особый путь масштабирования вычислительной мощности. Вместо того, чтобы печатать десятки чипов на большой пластине кремния, вырезать их из пластины, а затем соединять друг с другом — компания разработала в 2019 г. гигантский чип Wafer-Scale Engine 1 (WSE-1), занимающий практически всю пластину. 400 тыс. ядер, выполненных по 16-нм техпроцессу, потребляют 15 кВт, но в ряде задач они оказываются в сотни раз быстрее 450-кВт суперкомпьютера на базе ускорителей NVIDIA.

Подробнее на 3Dnews.ru

Предыдущие новости

3Dnews.ru, 2021-08-28 00:00
Новая статья: No More Heroes 3 — затянувшаяся шутка. Рецензия

Третья часть слешерной серии No More Heroes внезапно объявилась пару лет назад, но анонс оставил немало вопросов. Главный из которых — зачем продолжать историю, которую сиквел завершил? Пришло время вернуться в Санта-Дестрой и попытаться понять, зачем Suda 51 решил выпустить...

Yandex.ru, 2021-08-27 23:37
Apple предлагает разработчикам приложений мировое соглашение на $100 млн

Разработчикам приложений разрешили уведомлять пользователей об альтернативных способах оплаты за сервисы и продуты не входящие в экосистему Apple. Эти новые правила Apple решила внедрить после коллективного иска, поданного разработчиками в 2019 году, которые обвинили корпорацию в рыночной...

Yandex.ru, 2021-08-27 18:16
Студия Volition ответила недовольным фанатам франшизы Saints Row

Студия Volition ответила недовольным фанатам серии игр Saints Row, которым не понравилось решение компании перезапустить франшизу. Об этом 27 августа сообщает журнал PC

iXBT, 2021-08-27 23:18
Обновятся все желающие: Microsoft передумала блокировать Windows 11 на старых ПК

Компания Microsoft объявила сегодня, что не будет препятствовать установке Windows 11 на большинстве старых ПК. Хотя производитель программного обеспечения уже давно объявил рекомендованные требования к оборудованию для Windows 11, ограничение или блокировка установки ОС будет применяться только при попытке обновления с Windows 10 до Windows 11 через Windows Update (Центр...