В CERN разработали нейросетевые модели, которые встраиваются непосредственно в чипы и используются для фильтрации данных Большого адронного коллайдера (БАК, LHC). Эти системы работают в реальном времени и позволяют отбирать значимые события с задержкой на уровне наносекунд, сокращая объём обрабатываемой информации ещё на этапе регистрации сигналов.

LHC производит около 40 000 эксабайт (106 терабайт) данных в год, что составляет четверть текущего объёма интернета. Во время пиковых операций поток данных достигает сотен терабайт в секунду, что значительно превышает возможности современных систем хранения и обработки. Поэтому CERN вынужден в реальном времени отбирать лишь 0,02% событий, представляющих научную ценность, а остальное удаляется навсегда.

Для решения этой задачи используется двухуровневая система фильтрации. Первый уровень, называемый Level-1 Trigger, состоит из 1000 программируемых вентильных матриц (FPGA), которые анализируют данные за 50 наносекунд. На этом этапе работает алгоритм AXOL1TL, который определяет, какие события стоит сохранить. Эти модели создаются с помощью инструмента HLS4ML, который преобразует нейросетевые модели в код C++ для последующей интеграции в FPGA или ASIC.

Особенностью подхода CERN является использование предвычисленных таблиц поиска, которые позволяют мгновенно обрабатывать типичные сигналы детекторов без сложных вычислений. Это обеспечивает необходимую скорость и энергоэффективность.

Второй уровень фильтрации, High-Level Trigger, работает на вычислительном кластере из 25 600 процессоров и 400 графических ускорителей. Даже после сокращения объёма данных на первом уровне, система обрабатывает терабайты данных в секунду, отбирая около одного петабайта информации в день.

В 2031 году CERN планирует запустить модернизированную версию коллайдера — High-Luminosity LHC, который будет генерировать в 10 раз больше данных. Для этого уже разрабатываются новые версии компактных моделей и оптимизируются системы реального времени.

Подход CERN к созданию "tiny AI" — минималистичных нейросетей, встроенных в аппаратное обеспечение, — может найти применение и за пределами физики частиц. Такие технологии могут быть полезны в автономных системах, медицинской визуализации, аэрокосмической отрасли и других областях, где требуется сверхбыстрая обработка данных при минимальном энергопотреблении.