Рекурсивный акроним словосочетания «PHP: Hypertext Preprocessor»

Добро пожаловать на форум PHP программистов!

За последние 24 часа нас посетили 69089 программистов и 5241 робот. Сейчас ищут 1449 программистов ...

Последние

На iPhone 17 Pro запустили ИИ-модель, для которой обычно нужно 200 ГБ памяти

Дата: сегодня 14:55

На iPhone 17 Pro впервые запустили большую языковую модель с 400 млрд параметров. Для смартфона это выглядит почти невероятно: обычно даже сжатые версии таких моделей требуют как минимум 200 ГБ оперативной памяти, тогда как у iPhone 17 Pro — лишь 12 ГБ LPDDR5X.

Изображение: Apple

Демонстрация стала возможной благодаря открытому проекту Flash-MoE. Запущенная на смартфоне модель работала медленно — со скоростью генерации всего 0,6 токена в секунду (примерно одно слово каждые полторы-две секунды), так что о полноценном практическом использовании пока говорить не приходится. Секрет запуска заключается в том, что модель не загружается целиком в оперативную память. Вместо этого Flash-MoE использует хранилище смартфона и потоково подаёт данные с флеш-памяти напрямую в GPU. Кроме того, сама архитектура MoE (Mixture of Experts) позволяет задействовать лишь часть всех параметров модели при генерации каждого отдельного слова, а не весь массив из 400 млрд параметров сразу.

Такой подход показывает, что даже чрезвычайно тяжёлые большие языковые модели в теории можно запускать локально на мобильных устройствах, если использовать нестандартные схемы работы с памятью и агрессивные оптимизации. У локального запуска есть очевидные преимущества: полная приватность, отсутствие необходимости в интернете и обработка запросов прямо на устройстве.

Однако текущий результат скорее демонстрационный, чем прикладной. Помимо очень низкой скорости, подобный режим создаёт серьёзную нагрузку на память, GPU и подсистему питания.

Подробнее на iXBT

Предыдущие новости

3Dnews.ru, сегодня 14:49
Мировой рынок чипов разросся до $831 млрд в прошлом году — сильнее всех выросла не Nvidia

Сложно оспаривать тот факт, что среди производителей аппаратного обеспечения на буме ИИ больше всего зарабатывает Nvidia, которая продаёт разработчикам профильных систем свои ускорители. Тем не менее, по динамике роста выручки в первой десятке лидером по итогам 2025 года оказался производитель памяти — Micron Technology. Источник изображения: Samsung...

3Dnews.ru, сегодня 14:53
Москвичи вынужденно пересели на Wi-Fi: трафик публичные точек доступа вырос в разы из-за отключений мобильного интернета

Из-за ограничений мобильного интернета в центре Москвы, за первые две недели их действия — со 2 по 15 марта 2026 года — число подключений к публичным сетям Wi-Fi увеличилось вчетверо почти до 23 млн уникальных сессий, а трафик вырос в 3,5 раза — до 54,7 Гбайт, пишут «Ведомости» со ссылкой на аналитику оператора публичного Wi-Fi Hot-WiFi, предоставляющего услуги публичного...

3Dnews.ru, сегодня 15:01
Intel признала, что её новые настольные Core Ultra Plus почти не быстрее Ryzen в играх

Компания Intel сравнила игровую производительность Core Ultra 5 250K Plus и Core Ultra 7 270K Plus из серии Arrow Lake Refresh с конкурентами. Согласно внутренним тестам, младшая модель обеспечивает такой же уровень игровой производительности, что и AMD Ryzen 5 9600X, в свою очередь Core Ultra 7 270K Plus едва быстрее модели Ryzen 7 9700X, даже несмотря на значительную...

iXBT, сегодня 14:12
Samsung Galaxy A57 и Galaxy A37 показали в большом видеоролике за два дня до официальной премьеры, раскрыты цены

За два дня до официального анонса в Сеть попало большое видео с демонстрацией живых экземпляров Samsung Galaxy A37 и Galaxy A57: оно раскрыло не только дизайн и характеристики, но и цены для вьетнамского рынка. Скриншот видео MAI NGUYEN TV Согласно утечке, Galaxy A37 в версии 8/128 ГБ будет стоить во Вьетнаме 10 990 000 донгов, а Galaxy A57 в той же конфигурации — 12 490 000...