Искусственный нейрон на базе наноразмерного мемристорного устройства — uzkinobiz.ru
Представлено простейшее электрическое устройство размером несколько 10-ов нанометров, действующее как искусственный нейрон. Его базу составляет слой диоксида ниобия — материала, который при нагревании может перебегать в проводящее состояние. Не считая того, этот материал ведёт себя как мемристор — резистор с эффектом памяти. Слои наноэлемента также эмулируют эффективную ёмкость и сопротивление как часть искусственного «нейрона», и схема дозволяет воспроизводить сложное поведение био нейронов, включая автоколебания, импульсы и переход к хаотической динамике.
Импульсная динамика нейрона.
Современные системы машинного обучения, использующие нейроморфные вычисления, опираются на упрощённые модели нейронов. При всем этом из виду упускается основное свойство нейронов в настоящих биосистемах: возможность сложной кооперативной динамики с пространственной либо временной самоорганизацией. Нейроны в {живых} организмах работают на пороге хаоса, другими словами система сложна так, что способна генерировать нелинейный отклик на действие. Это могут быть самоподдерживающиеся колебания (автоколебания), импульсная либо хаотическая динамика. Такое обилие отклика подразумевает достаточную сложность и нелинейность самой системы. Нейронные элементы нужной трудности можно эмулировать, но для воспроизводства поведения 1-го такового нейрона нужно применять сложные транзисторные схемы. Для прогресса в области разработки аналоговых вычислительных устройств либо нейросетей требуется эмуляция нейронных устройств в наномасштабе, другими словами в виде некоторых полупроводниковых частей размером в 10-ки нанометров.
Группа из Hewlett Packard Labs ещё в 2017 году представила результаты исследования хаотической динамики, которая может возникать в наноустройствах на базе полупроводника — диоксида ниобия NbO2. Исследователи употребляли мемристоры («резисторы с памятью») из узкого слоя диоксида ниобия и проявили, что полупроводниковый «устройство» размером около 100 нм на его базе способен генерировать нелинейный отклик на наружное действие (приложенный неизменный ток). При всем этом в зависимости от управляющего действия таковой наноприбор указывает разные виды динамики прямо до хаотической. Потому его в принципе можно применять и как адекватную модель нейрона. Несколько либо огромное количество таковых устройств можно собрать в ординарную нейросеть и решать с её помощью задачки, которые решают обыденные нейросети. Так, в той же работе создатели показали решение некой обычной задачки оптимизации, объединив свои элементы в ординарную нейросеть (сеть Хопфилда).
Сложность отклика обеспечивается благодаря тому, что главный материал, другими словами слой диоксида ниобия NbO2 с мемристорными качествами относится к изоляторам Мотта — субстанциям, которые согласно простейшей теории проводимости должны быть проводниками, но не пропускают ток из-за электростатического отталкивания электронов около различных атомов решётки. Подробнее о свойствах таковых материалов и их значении для современной микроэлектроники мы не так давно писали (см. «Спин-орбитальное взаимодействие: новейший квантовый механизм контроля проводящих параметров материалов»). Моттовские материалы можно переключать из непроводящего в проводящее состояние с помощью определённых наружных действий. У диоксида ниобия таковой контролирующий параметр — температура. Так как сопротивление в слое нелинейно зависит от температуры, температурные флуктуации на определённом пороге напряжения питания могут неоднократно усиливаться и приводить к хаотической динамике.
Теоретическая модель мемристора.
Мемристоры, либо «нелинейные резисторы с памятью» — электрические элементы, которые способны «запоминать» суммарный ток (количество заряда), прошедший через их, и соответственно изменять своё сопротивление. Мемристор был поначалу введён в 1971 году как гипотетичная система — его характеристики были постулированы как недостающий четвёртый базисный элемент цепи совместно с резистором (R), катушкой индуктивности (L) и конденсатором (C). Эти три пассивных элемента можно найти аксиоматически через попарные связи четырёх базовых переменных электронной цепи — тока i, напряжения v, заряда q и «потокосцепления» φ (интеграл по времени от напряжения). К примеру, безупречный резистор R задаёт связь v = Ri и т.д. Мемристор задаёт недостающую для полноты системы связь меж φ и q. Такие элементы на теоретическом уровне можно применять как ячейки памяти новейшего типа, для аналоговых вычислений и для построения нейронных сетей. Узел с этими качествами можно воплотить, построив сложную цепь на узнаваемых нелинейных элементах — транзисторах и операционных усилителях. Мемристор (M) — четвёртый базисный элемент цепи. В начале XXI века возникли сообщения о материалах, которые владеют мемристорными качествами в контексте теории 1971 года. Но предполагается, что практически «мемристоры» использовались с самых первых устройств радиоэлектроники — к примеру, так работают неидеальные точечные контакты, сопротивление на которых чувствительно к протекающему току. Подобными проводящими качествами владеет гранулированная среда, а в самых первых сенсорах радиоволн как раз использовались ёмкости, заполненные металлическими опилками. Сейчас внедрение мемрезисторных материалов в вычислениях — это отдельное направление исследовательских работ («мемкомпьютинг»), хотя до сего времени эти разработки в основном носят теоретический нрав.
Режимы работы мемристорного наноустройства в зависимости от управляющих характеристик (неизменный ток и напряжение на входе): автоколебания, биения и динамический хаос. S.Kumar et al., Nature 585, 518 (2020).
В новейшей работе, размещенной в Nature в начале октября 2020 года, исследователи представили наноустройство на базе разработки 2017 года, которое по набору режимов поведения уже может всеполноценно эмулировать нейрон в био системе. В его базе лежит этот же слой диоксида ниобия с мемристорными качествами, заключённый меж слоями нитрида титана TiN. Эта система сейчас включена в оболочку из ещё нескольких слоёв материалов шириной в 10-ки нанометров, которые совместно составляют цепь из мемристора, обыденного сопротивления и ёмкости. Таковая система в зависимости от приложенного сигнала может генерировать отклик в виде повторяющихся колебаний, на сто процентов хаотической динамики и маленьких импульсов — так, как у био нейронов. При подаче неизменного напряжения слой NbO2 греется и может перейти в проводящее состояние. Как видно из эквивалентной схемы, при всем этом через цепь начинает перетекать заряд, скопленный на конденсаторе. Потом слой охлаждается ниже порога фазового перехода и снова становится изолятором, размыкая цепь — таковым образом на выходе возникает импульс, который повторяется на последующем цикле. (Это может напомнить работу бойлера, который так же совершает «автоколебания», временами включаясь по мере остывания в нём воды). А включение поочередного резистора дозволяет управлять напряжением на входе как доп параметром.
Создатели сделали элемент третьего порядка трудности. В теории динамических цепей под порядком понимается размерность фазового места, другими словами количество переменных состояния для описания системы. Так, обыденный резистор, если его сопротивление не очень зависит от температуры — элемент нулевого порядка. Хаотическое поведение может быть лишь в системах с фазовым местом размерности три и выше, и для математического моделирования сложного поведения нейронов употребляются соответственно нелинейные уравнения хотя бы с 3-мя переменными. Сейчас в распоряжении экспериментаторов аналоговое наноразмерное устройство, реализующее динамику требуемой трудности.
С помощью этого усовершенствования исследователи смогли промоделировать работу импульсной (спайковой) нейронной сети и сконструировать некие логические вентили в версии импульсной сети (действие операторов NAND и NOR), а также выстроить аналоговую сеть для решения модельной задачки реконструкции вирусных квазивидов (алгоритмически это задачка о наивысшем разрезе графа).
Пока что гласить о настоящих вычислительных приложениях таковых устройств недозволено. Одно из существенных ограничений заключается в том, что моттовский переход металл-диэлектрик в диоксиде ниобия происходит при 800˚C. Таковая температура в данной нам реализации достигается лишь в слое NbO2 шириной 8 нм, и устройство этих размеров оказывается полностью многофункциональным для экспериментирования, но масштабирование с включением миллионов таковых переходов в одной микросхеме станет проблематическим. В остальных лабораториях изучат оксид ванадия с температурой перехода Мотта 60˚C, но таковая температура, напротив, очень низкая — даже действующие дата-центры нередко имеют рабочую температуру порядка 100˚C. Потому основное направление исследовательских работ — поиск материалов с наиболее пригодными температурами фазового перехода.
Схема аналоговых вычислений на мемристорной нейросети. S.Kumar et al., Nature 585, 518 (2020), Suppl.info.