Работа с нейросетями без подключения к сети — новый чип предвещает прорыв в технологиях

Недавно представленный чип NeuRRAM — это первый чип вычислений в памяти, который демонстрирует достаточную мощность для функционирования ИИ, используя лишь небольшой процент энергии, потребляемой другими платформами, сохраняя при этом эквивалентную точность.

Работа с нейросетями без подключения к сети — новый чип предвещает прорыв в технологиях

NeuRRAM, новый чип, который выполняет вычисления непосредственно в памяти и может запускать множество приложений заточенных под ИИ, был разработан и создан международной группой исследователей. Что отличает его, так это то, что он делает все это за малую долю энергии, потребляемой вычислительными платформами для вычислений ИИ общего назначения.

Нейроморфный чип NeuRRAM озволит внедрить ИИ в работу на широком спектре периферийных устройств, отключенных от облака и сетей. Это означает, что они могут выполнять сложные когнитивные задачи в любом месте и в любое время, не полагаясь на сетевое подключение к централизованному серверу. Области применения для этого устройства можно найти в каждом уголке земного шара и во всех аспектах нашей жизни. Они варьируются от смарт-часов до гарнитур виртуальной реальности, смарт-наушников, смарт-датчиков на заводах и вездеходов для исследования космоса.

Чип NeuRRAM не только в два раза эффективнее с точки зрения энергопотребления, чем современные чипы "вычислений в памяти" — инновационного класса гибридных чипов, выполняющих вычисления в памяти, — он также обеспечивает такие же точные результаты, как и обычные цифровые чипы. Обычные платформы ИИ намного крупнее и обычно ограничены использованием больших серверов данных, работающих в облаке.

Кроме того, чип NeuRRAM очень универсален и поддерживает множество различных моделей и архитектур нейронных сетей. В результате чип можно использовать для множества различных приложений, включая распознавание и реконструкцию изображений, а также распознавание голоса. О разработке чипа сообщила исследовательская группа, возглавляемая биоинженерами из Калифорнийского университета в Сан-Диего (UCSD), в журнале Nature.

Работа с нейросетями без подключения к сети — новый чип предвещает прорыв в технологиях

Источник: University of California San Diego.

Крупный план чипа NeuRRAM.

В настоящее время вычисления ИИ являются энергоемкими и дорогостоящими в вычислительном отношении. Большинство приложений ИИ на периферийных устройствах связаны с перемещением данных с устройств в облако, где ИИ обрабатывает и анализирует их. Затем результаты передаются обратно на устройство. Это необходимо, потому что большинство периферийных устройств питаются от батарей и, как следствие, имеют лишь ограниченное количество энергии, которое можно выделить для вычислений.

За счет снижения энергопотребления, необходимого для логического вывода ИИ на периферии, этот чип NeuRRAM может привести к созданию более надежных, интеллектуальных и доступных периферийных устройств и более интеллектуальному производству. Это также может привести к повышению конфиденциальности данных, поскольку передача данных с устройств в облако сопряжена с повышенными рисками для безопасности.

В микросхемах ИИ перемещение данных из памяти в вычислительные устройства является одним из основных узких мест.

Работа с нейросетями без подключения к сети — новый чип предвещает прорыв в технологиях

Чтобы решить эту проблему с передачей данных, исследователи использовали так называемую резистивную память с произвольным доступом. Этот тип энергонезависимой памяти позволяет выполнять вычисления непосредственно в памяти, а не в отдельных вычислительных блоках. RRAM и другие новые технологии памяти, используемые в качестве массивов синапсов для нейроморфных вычислений, впервые были разработаны в лаборатории Филипа Вонга, советника Вана в Стэнфорде и одного из основных участников этой работы. Хотя вычисления с использованием микросхем RRAM не обязательно являются чем-то новым, как правило, они приводят к снижению точности вычислений, выполняемых на микросхеме, и отсутствию гибкости в архитектуре микросхемы.

Исследователи измерили энергоэффективность чипа по показателю, известному как продукт задержки энергии или EDP. EDP ​​объединяет как количество энергии, потребляемой для каждой операции, так и количество времени, которое требуется для завершения операции. По этому показателю чип NeuRRAM обеспечивает снижение EDP в 1,6–2,3 раза (чем меньше, тем лучше) и вычислительную плотность в 7–13 раз выше, чем у современных чипов.

Ключом к энергоэффективности NeuRRAM является инновационный метод определения выходных данных в памяти. В традиционных подходах в качестве входных данных используется напряжение, а в качестве результата измеряется ток. Но это приводит к необходимости более сложных и энергоемких схем. В NeuRRAM команда разработала нейронную схему, которая измеряет напряжение и выполняет аналого-цифровое преобразование с низким энергопотреблением. Это измерение в режиме напряжения может активировать все строки и все столбцы массива RRAM за один вычислительный цикл, обеспечивая более высокий параллелизм.

Читайте также

DARPA начала испытания квантовых компьютеров, которые должны стать практически полезными к 2033 году

DARPA начала испытания квантовых компьютеров, которые должны стать практически полезными к 2033 году

США и Google вложат почти 1,8 млрд долларов в создание «виртуальных клеток»

США и Google вложат почти 1,8 млрд долларов в создание «виртуальных клеток»

Google открыла SynthID для всех — сервис помогает распознавать изображения и видео, созданные ИИ

Google открыла SynthID для всех — сервис помогает распознавать изображения и видео, созданные ИИ

Kawasaki оснастит человекоподобного робота Kaleido физическим ИИ для работы на заводах

Kawasaki оснастит человекоподобного робота Kaleido физическим ИИ для работы на заводах

В Германии создают строительных роботов, способных собирать здания почти без участия человека

В Германии создают строительных роботов, способных собирать здания почти без участия человека

Видеоаналитика на базе ИИ позволила найти 250 детей в Новосибирской области

Видеоаналитика на базе ИИ позволила найти 250 детей в Новосибирской области

Ученые МИСИС создали пористые гранулы для костей с защитой от инфекций

Ученые МИСИС создали пористые гранулы для костей с защитой от инфекций

В Казахстане кошек с камерами и ИИ отправили искать пропавших питомцев

В Казахстане кошек с камерами и ИИ отправили искать пропавших питомцев

Из лабораторий — на работу: 7 компаний, создающих человекоподобных роботов для реального мира

Из лабораторий — на работу: 7 компаний, создающих человекоподобных роботов для реального мира

Почему роботы умеют делать сальто, но до сих пор не могут нормально сложить рубашку

Почему роботы умеют делать сальто, но до сих пор не могут нормально сложить рубашку

Почему невозможно создать абсолютно точную карту Земли, Луны или Марса?

Почему невозможно создать абсолютно точную карту Земли, Луны или Марса?

Первый складной iPhone не стал революцией: с чем придется мириться владельцам iPhone Duo

Первый складной iPhone не стал революцией: с чем придется мириться владельцам iPhone Duo

Ученые ТПУ синтезировали 6 новых молекул против рака

Ученые ТПУ синтезировали 6 новых молекул против рака

NASA показало марсианский рассвет: Curiosity снял горные хребты на склонах горы Шарп

NASA показало марсианский рассвет: Curiosity снял горные хребты на склонах горы Шарп

BMW представила iX3 M60 xDrive: 612 л.с., разгон до сотни за 3,9 секунды и запас хода 755 км

BMW представила iX3 M60 xDrive: 612 л.с., разгон до сотни за 3,9 секунды и запас хода 755 км

Астрономы обнаружили рекордный радиовсплеск, летевший к Земле 11 миллиардов лет

Астрономы обнаружили рекордный радиовсплеск, летевший к Земле 11 миллиардов лет