Рекурсивный акроним словосочетания «PHP: Hypertext Preprocessor»

Добро пожаловать на форум PHP программистов!

За последние 24 часа нас посетили 312223 программиста и 5784 робота. Сейчас ищут 3753 программиста ...

Последние

DeepSeek открыла исходный код DeepInfer — фреймворка для инференса своего ИИ

Дата: сегодня 00:19

Китайская ИИ-лаборатория DeepSeek открыла исходный код DeepInfer — фреймворка для инференса, на базе которого работают собственные сервисы компании, сообщает SiliconANGLE. Ключевой задачей продукта разработчик называет обеспечение работы с большой пользовательской базой при сохранении приемлемой стоимости. Один кластер, по заявлению DeepSeek, обрабатывает 155 трлн токенов в сутки, а доход при использовании тарифов в периоды низкой нагрузки составляет $38 в час на один GPU. На данный момент DeepInfer поддерживает только модель DeepSeek-V4.1-Flash — по умолчанию загружается версия 1017, вышедшая в минувшие выходные. Фреймворк совместим с GPU NVIDIA на архитектуре Blackwell (SM100) и ускорителями Huawei Ascend 950; поддержка архитектуры NVIDIA Hopper и более старых поколений не предусмотрена. В DeepInfer есть две функции, гарантирующие получение идентичных результатов при повторном запуске с одинаковыми исходными данными. Они работают только на ускорителях NVIDIA. Быстродействие DeepInfer DeepSeek проверяла только на ускорителях NVIDIA, поэтому приведённые результаты бенчмарков получены исключительно в ходе собственных испытаний компании.

Подробнее на 3Dnews.ru

Предыдущие новости

3Dnews.ru, сегодня 00:10
M**a оштрафовали на $25 млрд за обман пользователей — последствия скандала с Cambridge Analytica

В среду суд штата Нью-Мексико обязал компанию M**a выплатить штраф в размере $25 млрд. Решение было вынесено в рамках дела о защите конфиденциальности данных, которое берёт начало в скандале вокруг британской компании Cambridge Analytica, разразившемся почти десять лет назад. Источник изображения: Unsplash / Wesley...

3Dnews.ru, сегодня 00:03
HPE компьютеризирует Луну — на луноход Astrolab FLIP установят ИИ-систему с секретным процессором

На Луну отправится безвентиляторный вычислительный модуль Spaceborne Computer-4 — он пройдёт серию тестов как суперкомпьютер и как система искусственного интеллекта; NASA и консалтинговая компания Deloitte проведут с ним ряд других экспериментов. Источник изображений:...

3Dnews.ru, сегодня 00:00
Новая статья: EXPO, каким он должен быть: обзор комплекта памяти G.Skill Trident Z5 NeoX RGB DDR5-6000 CL36 32GB с профилем EXPO ULL

Включить EXPO и забыть о таймингах — простой и надежный способ... недополучить часть производительности. Новые профили EXPO ULL обещают это исправить. Проверяем на комплекте G.Skill с чипами Samsung, насколько заводская настройка по-новому приблизилась к...

3Dnews.ru, сегодня 00:00
Nvidia заткнёт деньгами узкие места в производстве ИИ-чипов — чтобы через три года выпускать в 2,5 раза больше ИИ-ускорителей

Nvidia договорилась на GTC Berlin с ключевыми партнёрами по цепочке поставок о расширении производства компонентов, необходимых для выпуска ИИ-ускорителей и вычислительных систем. Компания профинансирует развитие мощностей поставщиков, включая строительство новых заводов и закупку оборудования. Источник изображений:...