Искусственный нейрон на основе наноразмерного мемристорного устройства

+7 926 604 54 63 address
 Наноустройство на основе мемристора Мотта (слой NbO<sub>2</sub>) для имитации нелинейного поведения нейрона. Масштаб около 30 нм. <a href="https://www.nature.com/articles/s41586-020-2735-5">S.Kumar et al., <i>Nature</i> 585, 518 (2020)</a>.
Наноустройство на основе мемристора Мотта (слой NbO2) для имитации нелинейного поведения нейрона. Масштаб около 30 нм. S.Kumar et al., Nature 585, 518 (2020).

Представлено простейшее электронное устройство размером несколько десятков нанометров, действующее как искусственный нейрон. Его основу составляет слой диоксида ниобия — материала, который при нагревании может переходить в проводящее состояние. Кроме того, этот материал ведёт себя как мемристор — резистор с эффектом памяти. Слои наноэлемента также эмулируют эффективную ёмкость и сопротивление как часть искусственного «нейрона», и схема позволяет воспроизводить сложное поведение биологических нейронов, включая автоколебания, импульсы и переход к хаотической динамике.

neuron pulse
Импульсная динамика нейрона.

Современные системы машинного обучения, использующие нейроморфные вычисления, опираются на упрощённые модели нейронов. При этом из виду упускается главное качество нейронов в реальных биосистемах: возможность сложной кооперативной динамики с пространственной или временной самоорганизацией. Нейроны в живых организмах функционируют на пороге хаоса, то есть система сложна настолько, что способна генерировать нелинейный отклик на воздействие. Это могут быть самоподдерживающиеся колебания (автоколебания), импульсная или хаотическая динамика. Такое разнообразие отклика предполагает достаточную сложность и нелинейность самой системы. Нейронные элементы необходимой сложности можно эмулировать, но для воспроизводства поведения одного такого нейрона необходимо использовать сложные транзисторные схемы. Для прогресса в области разработки аналоговых вычислительных устройств или нейросетей требуется эмуляция нейронных устройств в наномасштабе, то есть в виде неких полупроводниковых элементов размером в десятки нанометров.

Группа из Hewlett Packard Labs ещё в 2017 году представила результаты исследования хаотической динамики, которая может возникать в наноустройствах на основе полупроводника — диоксида ниобия NbO2. Исследователи использовали мемристоры («резисторы с памятью») из тонкого слоя диоксида ниобия и показали, что полупроводниковый «прибор» размером около 100 нм на его основе способен генерировать нелинейный отклик на внешнее воздействие (приложенный постоянный ток). При этом в зависимости от управляющего воздействия такой наноприбор показывает различные виды динамики вплоть до хаотической. Поэтому его в принципе можно использовать и как адекватную модель нейрона. Несколько или множество таких устройств можно собрать в простую нейросеть и решать с её помощью задачи, которые решают обычные нейросети. Так, в той же работе авторы продемонстрировали решение некоторой стандартной задачи оптимизации, объединив свои элементы в простую нейросеть (сеть Хопфилда).

Сложность отклика обеспечивается благодаря тому, что основной материал, то есть слой диоксида ниобия NbO2 с мемристорными свойствами относится к изоляторам Мотта — веществам, которые согласно простейшей теории проводимости должны быть проводниками, но не пропускают ток из-за электростатического отталкивания электронов возле разных атомов решётки. Подробнее о свойствах таких материалов и их значении для современной микроэлектроники мы недавно писали (см. «Спин-орбитальное взаимодействие: новый квантовый механизм контроля проводящих свойств материалов»). Моттовские материалы можно переключать из непроводящего в проводящее состояние при помощи определённых внешних воздействий. У диоксида ниобия такой контролирующий параметр — температура. Поскольку сопротивление в слое нелинейно зависит от температуры, температурные флуктуации на определённом пороге напряжения питания могут многократно усиливаться и приводить к хаотической динамике.

memristor and circuit symmetries
Теоретическая модель мемристора.

Мемристоры, или «нелинейные резисторы с памятью» — электронные элементы, которые способны «запоминать» суммарный ток (количество заряда), прошедший через них, и соответственно изменять своё сопротивление. Мемристор был сначала введён в 1971 году как гипотетическая конструкция — его свойства были постулированы как недостающий четвёртый базовый элемент цепи вместе с резистором (R), катушкой индуктивности (L) и конденсатором (C). Эти три пассивных элемента можно определить аксиоматически через попарные связи четырёх фундаментальных переменных электрической цепи — тока i, напряжения v, заряда q и «потокосцепления» φ (интеграл по времени от напряжения). Например, идеальный резистор R задаёт связь v = Ri и т.д. Мемристор задаёт недостающую для полноты системы связь между φ и q. Такие элементы теоретически можно использовать как ячейки памяти нового типа, для аналоговых вычислений и для построения нейронных сетей. Узел с этими свойствами можно реализовать, построив сложную цепь на известных нелинейных элементах — транзисторах и операционных усилителях.

memristor as fourth base4 circuitry element
Мемристор (M) — четвёртый базовый элемент цепи.
В начале XXI века появились сообщения о материалах, которые обладают мемристорными свойствами в контексте теории 1971 года. Однако предполагается, что фактически «мемристоры» использовались с самых первых устройств радиоэлектроники — например, так работают несовершенные точечные контакты, сопротивление на которых чувствительно к протекающему току. Аналогичными проводящими свойствами обладает гранулированная среда, а в самых первых детекторах радиоволн как раз использовались ёмкости, заполненные металлическими опилками. Теперь использование мемрезисторных материалов в вычислениях — это отдельное направление исследований («мемкомпьютинг»), хотя до сих пор эти разработки в основном носят теоретический характер.
memristor nanodevice operating modes
Режимы работы мемристорного наноустройства в зависимости от управляющих параметров (постоянный ток и напряжение на входе): автоколебания, биения и динамический хаос. S.Kumar et al., Nature 585, 518 (2020).

В новой работе, опубликованной в Nature в начале октября 2020 года, исследователи представили наноустройство на основе разработки 2017 года, которое по набору режимов поведения уже может полноценно эмулировать нейрон в биологической системе. В его основе лежит тот же слой диоксида ниобия с мемристорными свойствами, заключённый между слоями нитрида титана TiN. Эта конструкция теперь включена в оболочку из ещё нескольких слоёв материалов толщиной в десятки нанометров, которые вместе составляют цепь из мемристора, обычного сопротивления и ёмкости. Такая система в зависимости от приложенного сигнала может генерировать отклик в виде периодических колебаний, полностью хаотической динамики и коротких импульсов — так, как у биологических нейронов. При подаче постоянного напряжения слой NbO2 нагревается и может перейти в проводящее состояние. Как видно из эквивалентной схемы, при этом через цепь начинает перетекать заряд, накопленный на конденсаторе. Затем слой охлаждается ниже порога фазового перехода и опять становится изолятором, размыкая цепь — таким образом на выходе возникает импульс, который повторяется на следующем цикле. (Это может напомнить работу бойлера, который так же совершает «автоколебания», периодически включаясь по мере остывания в нём воды). А включение последовательного резистора позволяет управлять напряжением на входе как дополнительным параметром.

Авторы создали элемент третьего порядка сложности. В теории динамических цепей под порядком понимается размерность фазового пространства, то есть количество переменных состояния для описания системы. Так, обычный резистор, если его сопротивление не сильно зависит от температуры — элемент нулевого порядка. Хаотическое поведение возможно только в системах с фазовым пространством размерности три и выше, и для математического моделирования сложного поведения нейронов используются соответственно нелинейные уравнения хотя бы с тремя переменными. Теперь в распоряжении экспериментаторов аналоговое наноразмерное устройство, реализующее динамику требуемой сложности.

При помощи этого усовершенствования исследователи смогли промоделировать работу импульсной (спайковой) нейронной сети и сконструировать некоторые логические вентили в версии импульсной сети (действие операторов NAND и NOR), а также построить аналоговую сеть для решения модельной задачи реконструкции вирусных квазивидов (алгоритмически это задача о максимальном разрезе графа).

Пока что говорить о реальных вычислительных приложениях таких устройств нельзя. Одно из существенных ограничений заключается в том, что моттовский переход металл-диэлектрик в диоксиде ниобия происходит при 800˚C. Такая температура в этой реализации достигается только в слое NbO2 толщиной 8 нм, и устройство этих размеров оказывается вполне функциональным для экспериментирования, но масштабирование с включением миллионов таких переходов в одной микросхеме станет проблематичным. В других лабораториях исследуют оксид ванадия с температурой перехода Мотта 60˚C, однако такая температура, наоборот, слишком низкая — даже действующие дата-центры часто имеют рабочую температуру порядка 100˚C. Поэтому основное направление исследований — поиск материалов с более подходящими температурами фазового перехода.

analogue computing by memristor neuron network
Схема аналоговых вычислений на мемристорной нейросети. S.Kumar et al., Nature 585, 518 (2020), Suppl.info.
.
Комментарии