Купон на скидку: 2026
Исследователи из Университета штата Орегон создали инновационный чип, который значительно уменьшает энергозатраты, связанные с работой крупных языковых моделей искусственного интеллекта, таких как Gemini и GPT-4.
Этот чип, представленный на конференции IEEE Custom Integrated Circuits Conference в Бостоне, позволяет сократить потребление энергии вдвое по сравнению с традиционными технологиями.
Студент Рамин Джавади и доцент Теджасви Ананде, работающие в области электротехники, разработали чип, который использует принципы искусственного интеллекта для оптимизации энергопотребления при обработке сигналов.
Ананде, возглавляющий лабораторию смешанных сигналов и систем в OSU, отметил, что проблема заключается в том, что энергозатраты на передачу данных не снижаются так быстро, как растёт объём передаваемой информации, что приводит к высоким затратам энергии в современных дата-центрах.
Источник: Oregon State University.
Большие языковые модели требуют передачи огромных объёмов данных через медные каналы связи в центрах обработки данных, что требует значительных энергетических ресурсов.
Одним из решений этой проблемы является создание более эффективных чипов для проводной связи.
При высокоскоростной передаче данных сигнал на приёмнике искажается и нуждается в коррекции.
Традиционные системы используют эквалайзеры для исправления ошибок, что требует много энергии.
Новый чип применяет метод машинного обучения, обучая встроенный классификатор распознавать и исправлять ошибки, что позволяет восстанавливать данные более эффективно и с меньшими затратами энергии.
По словам Джавади, это значительно снижает энергопотребление.
Проект, поддержанный DARPA, Корпорацией исследований полупроводников и Центром повсеместной связи, принёс Джавади награду за лучшую студенческую работу на конференции.
В настоящее время Джавади и Ананде работают над следующим поколением чипа, стремясь достичь ещё большей энергоэффективности.
Их разработки обещают стать важным шагом к снижению энергопотребления в системах искусственного интеллекта.