Рекурсивный акроним словосочетания «PHP: Hypertext Preprocessor»

Добро пожаловать на форум PHP программистов!

За последние 24 часа нас посетили 68535 программистов и 3059 роботов. Сейчас ищут 1303 программиста ...

Последние

Сила оптимизации ПО: NVIDIA вдвое ускорила исполнение языковых моделей на H100 с помощью TensorRT-LLM

Дата: 2023-09-09 14:38

Компания NVIDIA анонсировала программное обеспечение TensorRT-LLM с открытым исходным кодом, специально разработанное для ускорения исполнения больших языковых моделей (LLM). Платформа станет доступна в ближайшие недели. Отмечается, что NVIDIA тесно сотрудничает с такими компаниями, как Meta✴, Anyscale, Cohere, Deci, Grammarly, Mistral AI, MosaicML (входит в состав Databricks), OctoML, Tabnine и Together AI, для ускорения и оптимизации LLM. Однако большой размер и уникальные характеристики LLM могут затруднить их эффективное внедрение. Библиотека TensorRT-LLM как раз и призвана решить проблему.

Подробнее на 3Dnews.ru

Предыдущие новости

iXBT, 2023-09-09 13:59
MSI называет трёхслотовые видеокарты тонкими. Представлены модели GeForce RTX 4080 и RTX 4090 Gaming Slim

Неделю назад MSI анонсировала линейку видеокарт GeForce RTX 40 Gaming Slim, которые тоньше, чем большинство других видеокарт актуальной линейки Nvidia на рынке. Тогда было известно о RTX 4070 Ti, 4070 и 4060 Ti, теперь же к ним добавились RTX 4080 и RTX 4090. Правда, если RTX 4070 и 4060 Ti занимали лишь два слота, а RTX 4070 Ti требовала два с половиной, то RTX 4080 и RTX...

iXBT, 2023-09-09 14:02
«Наша базовая модель уверенно обгоняет в ответах на русском языке ChatGPT 3.5». В Яндексе сравнили нейросеть YandexGPT и ChatGPT 3.5

Директор бизнес-группы поиска и рекламных технологий компании «Яндекс» Дмитрий Масюк сравнил фирменную нейросеть YandexGPT и ChatGPT 3.5. Если брать во внимание ответы на русском языке, то YandexGPT обходит популярный зарубежный аналог. Изображение: Яндекс «Наша базовая модель уверенно обгоняет в ответах на русском языке ChatGPT 3.5 и в десятках процентов случаев дает более...

3Dnews.ru, 2023-09-09 14:01
OpenAI: детекторы ИИ и сам ChatGPT неспособны отличить текст нейросети от человеческого

OpenAI признала, что существующие инструменты для обнаружения текстов, созданных ИИ, неэффективны и часто дают ложные срабатывания. В обновлённом разделе с часто задаваемыми вопросами (FAQ) компания подчёркивает, что даже сам ChatGPT не способен точно определить, создан текст человеком или машиной. Эксперты призывают отказаться от автоматизированных инструментов...

3Dnews.ru, 2023-09-09 14:21
Кнопка «Подписаться» на YouTube начала светиться и менять цвет, когда блогер просит подписаться на канал

YouTube экспериментирует с новой функцией, делающей кнопку «Подписаться» (Subscribe) более заметной в моменты, когда авторы видео призывают зрителей подписаться на их канал. Стоит ли ожидать увеличения числа подписчиков благодаря этой функции — вопрос открытый. Источник изображения: WPARUN /...