ЖАНРЫ

Охота на электроовец. Большая книга искусственного интеллекта
Шрифт:

5.3.9 Открытие мемристора

Именно в 2008 г. компания Hewlett-Packard (далее — HP) привлекла к себе внимание благодаря заявлению о создании мемристора [memristor] — «недостающего звена» электронной схемотехники.

Теория электронных схем до начала 1970-х гг. вращалась вокруг трёх известных фундаментальных двухполюсных элементов, известных как резистор, конденсатор и катушка индуктивности. Эти элементы отражают отношения между парами четырёх основных электрических величин: заряда, силы тока, напряжения и потока магнитной индукции.

Несложно заметить, что в списке элементов отсутствует такой, который обеспечивал бы связь между зарядом и магнитным потоком. Профессор Леон Чуа из Калифорнийского университета в Беркли в 1971 г. был первым, кто обратил внимание на это недостающее звено, предположив возможность создания четвёртого фундаментального элемента. Этот четвёртый элемент был назван мемристором (не путать с мемистором Уидроу!): от слов memory — память и resistor — резистор. Чуа показал, что переменный мемристор, по сути дела, является резистором с памятью, поскольку его сопротивление меняется в зависимости от прошедшего через него заряда.

В течение многих лет после выхода в свет пионерской работы Чуа исследователи считали, что мемристор является лишь теоретическим конструктом. Конечно, в оригинальной статье Чуа было продемонстрировано устройство, состоящее из операционных усилителей и дискретных нелинейных резисторов, но мало кто надеялся в те годы на то, что этот же принцип может быть воплощён в простом физическом элементе. Громом среди ясного неба стала публикация в Nature исследователей Hewlett-Packard под руководством Ричарда Стэнли Уильямса из лаборатории в Пало-Альто под названием «Найден пропавший мемристор» (The missing memristor found) [1667] , объявившая, что физическая модель мемристора создана. Наличие эффекта памяти было продемонстрировано в твердотельном тонкоплёночном двухполюсном устройстве [1668] , состоящем из тонкой (50 нм) плёнки диоксида титана, разделяющей два электрода толщиной 5 нм (один изготовлен из титана, второй — из платины). Плёнка диоксида титана имела два слоя, в одном из которых существовал небольшой дефицит атомов кислорода. Отсутствие атома в одном из узлов кристаллической решётки называют «вакансией», а отсутствие атома кислорода соответственно «кислородной вакансией». Кислородные вакансии действуют как носители заряда, поэтому обеднённый слой имеет меньшее сопротивление, чем необеднённый. Приложение электрического поля вызывает дрейф кислородных вакансий, что приводит к смещению границы между слоями. Это изменение можно обратить, изменив направление тока. Таким образом, сопротивление плёнки в целом зависит от заряда, прошедшего через неё в определённом направлении [1669] .

1667

Strukov D., Snider G., Stewart D. R., Williams R. S. (2008). The missing memristor found / Nature, Vol. 453, pp. 80—83 // https://doi.org/10.1038/nature06932

1668

Vaidyanathan S., Volos C. (2016). Advances and Applications in Nonlinear Control Systems. Studies in Computational Intelligence. Springer International Publishing // https://books.google.ru/books?id=NxDNCwAAQBAJ

1669

* Диоксид титана — весьма распространённое химическое соединение. Это белый неорганический пигмент, широко применяемый в пищевой, косметической и фармацевтической промышленности. В качестве пищевой добавки (E171) он применяется для отбеливания рыбного фарша (сурими), в кондитерском производстве — для придания белизны сахарной и жировой глазури и конфетам. Диоксид титана можно легко встретить в числе компонентов зубной пасты, солнцезащитного крема, изделий из стекла и керамики, а также других повседневных вещей. По всей видимости, именно в силу своей распространённости в качестве пищевой добавки диоксид титана является источником лютого баттхёрта у многих хемофобов.

Сам по себе эффект изменения сопротивления диоксида титана был первоначально описан в 1960-е гг., однако в те годы не привлёк внимания инженеров.

Не все специалисты согласны с тем, что в 2008 г. команда исследователей HP создала именно мемристор. В конце концов, количество кислородных вакансий в плёнке ограниченно. Устройство будет работать в течение определённого времени как своеобразный «химический конденсатор», пока химическая неоднородность не будет сбалансирована, что приведёт к нарушению основного требования к подлинному мемристору, так называемого «свойства разряда без энергии» [1670] . Есть и другие претензии к «мемристору» на основе диоксида титана (как и к другим существующим устройствам, претендующим на высокое звание мемристора). Впрочем, сам создатель термина «мемристор» Леон Чуа выступил в поддержку своих коллег из HP, предложив относить к мемристорам все «двухполюсные устройства энергонезависимой памяти, основанные на изменении сопротивления <…> независимо от материала устройства и физических механизмов его действия» [1671] . Впрочем, при такой расширительной трактовке понятия к мемристорам можно отнести и мемистор Уидроу, и даже потенциометры с электромоторами, использовавшиеся Розенблаттом. Отечественные остряки из Томской группы и студенческого отделения Института инженеров по электротехнике и радиоэлектронике вообще предлагают называть мемристоры «пизасторами» (по первым буквам в выражении «Поток И ЗАряд», поскольку эти устройства связывают магнитный поток и заряд), а явление, лежащее в его основе, — «пизастансом»: «…гипотетическое устройство было главным образом описано как математическое развлечение. Тридцать лет спустя, старейшина Хулетт-Поцкард Стэн Уильямс и его группа работала над молекулярной электроникой, когда они стали обращать внимание на странное поведение в их устройствах. „Они делали действительно забавные вещи, и мы не могли выяснить, что это за хрень“, — говорит Уильямс. Тогда сотрудник Хулетт-Поцкард Грэг Стукач открыл вновь работу Хуа 1971 г. Уильямс вспоминает: „Он сказал: «Эй, чуваки, я не знаю, что за говно мы получили, но это то, что мы хотели»“. Уильямс потратил несколько лет, читая и перечитывая статьи Хуа. „Это были несколько лет чесания затылка и размышления об этом“. Тогда Уильямс понял, что их босхианская коллекция устройств были действительно пизасторами. Это поражало воображение до самых корней» [1672] .

1670

Meuffels P., Soni R. (2012). Fundamental Issues and Problems in the Realization of Memristors // https://arxiv.org/abs/1207.7319

1671

Chua L. (2011). Resistance switching memories are memristors / Applied Physycs A, Vol. 102, pp. 765—783 // https://doi.org/10.1007/s00339-011-6264-9

1672

Пизастор таинственный (2008) / Томская группа и студенческое отделение Института инженеров по электротехнике и радиоэлектронике // https://web.archive.org/web/20200128145235/http://ieee.tpu.ru/smex/pizastor_01.html

Рис. 116. Фундаментальные двухполюсные элементы электронной схемотехники

По крайней мере, с последним утверждением электронщиков из Томска трудно поспорить — открытие Уильямса и его коллег поразило воображение «до самых корней».

Выход статьи в Nature спровоцировал быстрый рост интереса к данной области, и вскоре появилось множество альтернативных схем реализации мемристора. Более того, выяснилось, что некоторые из них были предложены до публикации исследователями HP своих результатов.

Рост интереса к мемристивным устройствам спровоцировал увеличение интереса к нейроморфной инженерии. Действительно, появление недорогих и компактных мемристоров могло бы серьёзно упростить сборку технических аналогов нейронов и сделать их более эффективными. Разработка подобных технологий активно ведётся в наши дни. Например, в 2018 г. одна из трёх компаний, составивших ядро программы SyNAPSE, а именно HRL, сообщила о создании искусственного нейрона, в основе которого лежат мемристоры на базе диоксида ванадия. Нейроны от HRL успешно симулируют работу известных типов биологических нейронов, что делает их одним из перспективных строительных блоков нейроморфных систем [1673] .

1673

Yi W., Tsang K. K., Lam S. K., Bai X., Crowell J. A., Flores E. A. (2018). Biological plausibility and stochasticity in scalable VO2 active memristor neurons / Nature Communications, Vol. 9, Article number: 4661 // https://doi.org/10.1038/s41467-018-07052-w

Программа SyNAPSE произвела на свет много интересных проектов, здесь мы ограничимся упоминанием двух из них. В 2010 г. свет увидел анимат MoNETA (MOdular Neural Exploring Traveling Agent, Модулярный нейронный исследующий путешествующий агент). Аниматами называют искусственные поведенческие модели животных, предназначенные для изучения интеллекта на примитивном уровне [1674] . Фактически аниматы — это автоматизированные агенты, действующие в виртуальном или реальном мире, своеобразные искусственные животные.

1674

Wilson S. W. (1986). Knowledge Growth in an Artificial Animal / Narendra K. S. (1986). Adaptive and Learning Systems. Springer, Boston, MA // https://doi.org/10.1007/978-1-4757-1895-9_18

Взаимодействуя с реальным миром, анимат MoNETA учится принимать решения, направленные на увеличение вознаграждения и уклонение от опасностей. Программный «мозг» анимата создан при помощи фреймворка Cog Ex Machina (Cog), разработанного HP совместно с Бостонским университетом, и предназначен для запуска на разрабатываемых HP нейроморфных чипах на основе мемристоров [1675] , [1676] .

В ноябре 2020 г. в журнале Nature Nanotechnology была опубликована статья [1677] , сообщившая о создании инженерами Техасского университета в Остине (University of Texas at Austin, UT) самого маленького на текущий момент мемристора. В качестве основного материала в этом устройстве используется дисульфид молибдена. Не исключено, что в ближайшие годы именно этот тип мемристоров станет базовым строительным элементом новых нейроморфных устройств.

1675

Versace M., Chandler B. (2010). MoNETA: A Mind Made from Memristors / IEEE Spectrum, 23 Nov 2010 // https://spectrum.ieee.org/robotics/artificial-intelligence/moneta-a-mind-made-from-memristors

1676

Kozma R., Pino R. E., Pazienza G. E. (2012). Advances in Neuromorphic Memristor Science and Applications. Springer Science & Business Media // https://books.google.ru/books?id=ATdIfAol_k4C

1677

Hus S. M., Ge R., Chen P.-A., Liang L., Donnelly G. E., Ko W., Huang F., Chiang M.-H., Li A.-P., Akinwande D. (2020). Observation of single-defect memristor in an MoS2 atomic sheet / Nature Nanotechnology, Vol. 16, pp. 58—62 // https://www.nature.com/articles/s41565-020-00789-w

5.3.10 Нейроморфные системы типа II сегодня

В 2014 г. IBM представила нейроморфный процессор TrueNorth, хотя и созданный без применения мемристоров, но обладающий весьма впечатляющими характеристиками.

Микросхема TrueNorth содержит 4096 вычислительных (так называемых нейросинаптических) ядер, каждое из которых обеспечивает работу 256 искусственных нейронов, что в сумме даёт чуть более миллиона нейронов. В свою очередь, каждый нейрон обладает 256 конфигурируемыми «синапсами»; таким образом, общее количество программируемых синапсов составляет чуть более 268 млн. Потребляемая мощность этого устройства, состоящего из 5,4 млрд транзисторов, составляет всего 70 милливатт [1678] .

1678

Merolla P. A., Arthur J. V., Alvarez-Icaza R., Cassidy A. S., Sawada J., Akopyan F., Jackson B. L., Imam N., Guo C., Nakamura Y., Brezzo B., Vo I., Esser S. K., Appuswamy R., Taba B., Amir A., Flickner M. D., Risk W. P., Manohar R., Modha D. S. (2014). A million spiking-neuron integrated circuit with a scalable communication network and interface / Science, Vol. 345 (6197): 668 // https://doi.org/10.1126/science.1254642

Несмотря на столь впечатляющие показатели, создание TrueNorth стало лишь промежуточным этапом проекта. Для достижения ещё более высокой энергоэффективности было бы предпочтительно заменить цифровые синаптические веса, хранимые TrueNorth в массивах статической памяти с произвольным доступом (static random access memory, SRAM), на аналоговые устройства, способные обеспечить более высокую плотность записи за счёт представления синаптических весов в виде электрического сопротивления отдельных элементов.

Главной проблемой для инженеров из IBM было то, что к моменту начала работы над проектом не было убедительно доказано, что аналоговый подход может обеспечить ту же точность при решении задач, что и существующее программное обеспечение на обычном цифровом оборудовании. Эксперименты с обучением глубоких нейронных сетей на основе аналоговой памяти показывали более низкую точность классификации, связанную с несовершенством существовавших на тот момент аналоговых устройств.

Уже к 2018 г. исследователи успели перепробовать множество удивительных мемристивных устройств, основанных на самых разных принципах, таких, например, как резистивная оперативная память (Resistive random-access memory, ReRAM или RRAM) [1679] , [1680] , [1681] , [1682] различных типов, оперативная память с проводящим мостом (Conductive-bridging random-access memory, CBRAM) [1683] , ENOD (Electrochemical neuromorphic organic device, электрохимическое нейроморфное органическое устройство) [1684] , LISTA (lithium-ion synaptic transistor for analogue computing, литий-ионный синаптический транзистор для аналоговых вычислений) [1685] , [1686] .

1679

Yu S., Chen P.-Y., Cao Y., Xia L., Wang Y., Wu H. (2015). Scaling-up resistive synaptic arrays for neuro-inspired architecture: challenges and prospect / 2015 IEEE International Electron Devices Meeting / https://doi.org/10.1109/IEDM.2015.7409718

1680

Gao L., Wang I.-T., Chen P.-Y., Vrudhula S., Seo J.-s., Cao Y., Hou T.-H., Yu S. (2015). Fully parallel write/read in resistive synaptic array for accelerating on-chip learning / Nanotechnology, Vol. 26, Num. 45 // https://doi.org/10.1088/0957-4484/26/45/455204

1681

Prezioso M., Merrikh-Bayat F., Hoskins B. D., Adam G. C., Likharev K. K., Strukov D. B. (2015). Training and operation of an integrated neuromorphic network based on metal-oxide memristors / Nature, Vol. 521, pp. 61—64 // https://doi.org/10.1038/nature14441

1682

Jang J.-W., Park S., Burr G. W., Hwang H., Jeong Y.-H. (2015). Optimization of conductance change in Pr1–xCaxMnO3– based synaptic devices for neuromorphic systems / IEEE Electron Device Letters, Vol. 36, No. 5, pp. 457—459 // https://researcher.watson.ibm.com/researcher/files/us-gwburr/PCMO_neuromorphic_EDL2015.pdf

1683

Jeong Y. J., Kim S., Lu W. D. (2015). Utilizing multiple state variables to improve the dynamic range of analog switching in a memristor / Applied Physics Letters, Vol. 107 // https://doi.org/10.1063/1.4934818

1684

van de Burgt Y., Lubberman E., Fuller E. J., Keene S. T., Faria G. C., Agarwal S., Marinella M. J., Talin A. A., Salleo A. (2017). A non-volatile organic electrochemical device as a low-voltage artifcial synapse for neuromorphic computing / Nature Materials, Vol. 16, pp. 414—418 // https://doi.org/10.1038/nmat4856

1685

Agarwal S., Jacobs Gedrim R. B., Hsia A. H., Hughart D. R., Fuller E. J., Talin A. A., James C. D., Plimpton S. J., Marinella M. J. (2017). Achieving ideal accuracies in analog neuromorphic computing using periodic carry / 2017 Symposium on VLSI Technology // https://doi.org/10.23919/VLSIT.2017.7998164

1686

Upadhyay N. K., Jiang H., Wang Z., Asapu S., Xia Q., Joshua Yang J. (2019). Emerging Memory Devices for Neuromorphic Computing / Advanced Materials Technologies, 1800589 // https://doi:10.1002/admt.201800589

Поделиться с друзьями: