Исследователи из Университета штата Орегон создали инновационный энергоэффективный чип, который адресует проблему чрезмерного электропотребления, вызванную крупными языковыми моделями искусственного интеллекта, такими как Gemini и GPT-4. На недавней конференции IEEE Custom Integrated Circuits Conference в Бостоне была представлена разработка, которая позволяет уменьшить энергопотребление наполовину по сравнению с традиционными подходами.
Студент Рамин Джавади и доцент кафедры электротехники Теджасви Ананде презентовали чип, в основе которого лежат принципы искусственного интеллекта для оптимизации энергопотребления при обработке сигналов. По словам Ананде, руководителя лаборатории смешанных сигналов и систем в OSU, ключевая проблема заключается в том, что энергетические затраты на передачу одного бита данных не снижаются теми же темпами, что и растёт объём передаваемых данных, приводя к значительному потреблению энергии в современных дата-центрах.
Современные большие языковые модели требуют передачи и приёма огромных объёмов данных по проводным медным каналам в центрах обработки данных, что обуславливает значительное потребление энергии. Одним из путей решения этой задачи является разработка более эффективных чипов для проводной связи. При высокой скорости передачи данных сигнал на приёмнике искажается и требует исправления. Большинство традиционных систем проводной связи используют для этого эквалайзеры, что приводит к высокому энергопотреблению.
Новый чип применяет методику, основанную на машинном обучении. Встроенный классификатор обучается точно выявлять и исправлять ошибки, что позволяет улучшать восстановление данных более эффективно и с меньшими затратами энергии. По словам Джавади, данный подход существенно снижает энергопотребление.
Проект получил поддержку Агентства по перспективным оборонным исследовательским проектам (DARPA), Корпорации исследований полупроводников и Центра повсеместной связи. Джавади удостоился награды за лучшую студенческую работу на конференции. Сейчас Джавади и Ананде работают над следующим поколением чипа, стремясь достичь ещё большей энергоэффективности. Их инновации обещают сделать значительный вклад в уменьшение энергопотребления современных систем искусственного интеллекта.
Источник: iXBT
