- Отстаём на целое поколение: в России только... (3606)
- Одно из крупнейших сооружений в мире... (2724)
- В индийских ракетах могут появиться... (3485)
- Чёлка, теперь точно прощай. iPhone 17e... (2755)
- Фотофлагман с дюймовой камерой Xiaomi 17... (2706)
- «Всю жизнь стоял в гараже на пеньках».... (3115)
- Представлены новейшие кондиционеры Xiaomi Mi... (3193)
- Параллельный импорт машин в ноябре в России... (2998)
- Для любителей кнопочных телефонов Nokia — от... (3250)
- Альтернатива Audi Q7 от AUDI. Рассекречен... (2430)
- ИИ накалил рынок памяти — счета на поставки... (2449)
- Счета на поставку DRAM в октябре выросли на... (2651)
- Рассекречен новый гибридный кроссовер Geely... (2882)
- «Китайский УАЗ» превратился в «китайскую... (3914)
- Гегемония SK hynix нарушена: впервые в... (2207)
- Samsung впервые обошла SK hynix по... (3071)
Apple хочет наделить каждый iPhone собственной большой языковой моделью. Компания работает над оптимизацией таких систем
Дата: 2023-12-22 19:12
Компания Apple не спешит присоединяться в общей гонке чат-ботов и искусственного интеллекта нового поколения, но работает в этом направлении. В частности, Apple исследует возможности размещения больших языковых моделей непосредственно на мобильных устройствах пользователей.
создано DALL-E Apple считает, что такой вариант будет лучше для пользователей, чем онлайн-доступ. Правда, большие языковые модели не зря называются большими — они требуют огромных вычислительных ресурсов и большого объёма оперативной памяти.
Идея купертинцев заключается в том, чтобы хранить языковые модели на флеш-памяти, объём которой на порядок-два больше, чем объём ОЗУ. Метод под названием Windowing подразумевает в том числе повторное использование моделью некоторых данных, которые она уже обработала, что снижает потребность в непрерывной выборке данных из памяти и ускоряет весь процесс. Метод Row-Column Bundling, в свою очередь, заключается в более эффективной группировке данных, что позволяет модели искусственного интеллекта быстрее считывать данные из флеш-памяти и ускоряет ее обучение.
Эти методы должны позволить ускорить работу модели до пяти раз при задействовании процессора и до 25 раз — при использовании GPU.
Подробнее на iXBT
Предыдущие новости
Не только Toyota: скандал с краш-тестами Daihatsu коснулся автомобилей Mazda и Subaru
По сообщению японского издания Yomiuri, компании Mazda и Subaru приостановили заказы на производство своих автомобилей на заводах Daihatsu. Как мы уже писали, было обнаружено, что автопроизводитель Daihatsu сфальсифицировал результаты краш-тестов для получения государственной сертификации на выпускаемые автомобили. Независимая комиссия обнаружила более 170 нарушений, которые...
Китай запретит экспорт технологий получения редкоземельных металлов
Китай запретит экспорт ряда технологий, связанных с обработкой редкоземельных металлов и магнитных материалов, что затруднит США и их союзникам поддержание стабильных поставок стратегического сырья. Некоторые ограничения Пекин установил и ранее, но сейчас он расширил список технологий, которые запрещено передавать за границу — это, возможно, самый значительный шаг в...
Развитие под санкциями: китайская SMIC разрабатывает технологии выпуска 3-нм чипов без EUV
Несмотря на отсутствие доступа к оборудованию для выпуска чипов с литографией в экстремальном ультрафиолете (EUV) из-за санкций, китайская компания SMIC продолжает разработку 5-нм и 3-нм техпроцессов производства чипов. Ранее SMIC удалось наладить серийное производство 7-нм микросхем, опираясь исключительно на литографию в глубоком ультрафиолете (DUV), что само по себе не...
Insomniac впервые высказалась о масштабной утечке секретных данных и её последствиях для Marvel’s Wolverine
Принадлежащая Sony Interactive Entertainment американская студия Insomniac Games наконец официально прокомментировала масштабную утечку личных данных своих сотрудников и игровых материалов. Источник изображения: ResetEra...