IBM представляет NorthPole, новаторский нейроморфный процессорный чип, который обещает произвести революцию в аппаратном обеспечении искусственного интеллекта благодаря своей исключительной энергоэффективности и низкой задержке.
Недавно мы рассказывали про современную платформу на базе искусственного интеллекта (ИИ) Snapdragon X Elite, а вот и IBM подъехало.
IBM представила обновленную версию своего нейроморфного процессорного чипа NorthPole, предназначенного для эффективного масштабирования аппаратных систем искусственного интеллекта, особенно с точки зрения логического вывода. Сообщается, что IBM NorthPole, являющийся прямым преемником ранее представленного TrueNorth, имеет производительность примерно в 4000 раз выше. Согласно статье, опубликованной в журнале Science, этот мозговой чип потенциально может быть в 25 раз более энергоэффективным, чем его аналог на графическом процессоре, превосходя его в областях задержки при развертывании для вывода с использованием модели нейронной сети ResNet-50.
Больше новостей в нашем TG канале
Архитектурные и эксплуатационные характеристики
Чип, представленный на недавней конференции Hot Chips научным сотрудником и главным научным сотрудником IBM д-ром Дхармендрой С. Модхой, состоит из 256 ядер. Каждое ядро представляет собой механизм умножения векторных матриц, который может обрабатывать 2048 операций за цикл с 8-битной точностью. В общей сложности они совместно используют 192 МБ памяти, а также дополнительный фреймбуфер объемом 32 МБ для тензоров ввода-вывода. Эта уникальная архитектура, вдохновленная связями в коре головного мозга человека, играет важную роль в эффективности чипа и оптимизации задержки.
Умножение вектора (строки или столбца чисел) на матрицу (сетку чисел) является распространенным вычислением во многих научных и инженерных областях, таких как линейная алгебра, компьютерная графика, обработка сигналов и искусственный интеллект. Механизм векторного умножения матриц — это устройство или программа, которая может выполнять эти вычисления быстро и эффективно.
Потенциальные ограничения и возможности чипа NorthPole
IBM признает, что производительность NorthPole ограничена объемом данных, которые он может хранить во встроенной памяти. Чтобы обойти это, IBM предлагает разбить более крупные нейронные сети на более мелкие подсети, которые могут поместиться в ограниченном пространстве, соединяя эти подсети через несколько чипов NorthPole. Разумно отметить, что NorthPole в его нынешнем виде идеально подходит для получения логических выводов, а для обучения требуется альтернативная система, скорее всего, графические процессоры.
Несмотря на то, что чип NorthPole является исследовательским прототипом, его производительность и эффективность оказались многообещающими. Он имеет 12-нм производственный процесс, и, согласно природе, если бы он был реализован с использованием современных методов производства, его эффективность могла бы быть увеличена в 25 раз по сравнению с существующими разработками.
Хотя тесты чипов NorthPole были сосредоточены преимущественно на приложениях, связанных с компьютерным зрением (на это условие повлияло финансирование, предоставленное Министерством обороны США), IBM заявляет, что они подходят для многих периферийных приложений, требующих, например, интенсивной обработки данных в реальном времени., помогая автономным транспортным средствам реагировать на непредвиденные ситуации. Тем не менее, учитывая зарождающуюся стадию таких нейроморфных чипов, до коммерческого внедрения продуктов на Северном полюсе может быть еще далеко.
