Электронные синапсы: один шаг ближе к созданию искусственных нейронных сетей
Исследователи из Московского физико-технического института приблизились к созданию искусственной нейронной сети, которая имитирует человеческий мозг.
Любой, кто взял классы электроники, будет знаком с индукторами цепи, конденсатором и резистором. В 1971 году человек по имени Леон Чуй предположил, что должен существовать четвертый класс элементов для фундаментальной пассивной схемы, называемой резистором короткой памяти или мемристором.
Концепция мемристора показала неоценимые свойства, связанные с увеличением классических схем. До 2008 года никто не давал доказательств физической модели или прагматического использования мемристора. С тех пор многие исследовательские компании и промышленные предприниматели расходуют огромные ресурсы для реализации неиспользованного потенциала мемристора, поскольку у него есть выгодные перспективы для таких вещей, как твердотельные приводы и компоненты ионного транспорта.
Мемристор. Изображение предоставлено NCBI
Поскольку нейрофизиологи взяли на себя задачу репликации человеческого мозга в попытке имитировать человеческое признание, исследователи из Московского физико-технического института пытались воспроизвести нейронную активность реального мозга с помощью аналоговых компонентов. В недавнем документе, опубликованном в журнале «Наномасштабные исследовательские письма», команда MIPT заново изобрела мемристор, чтобы приблизиться к созданию искусственных синапсов на один шаг.
Ключевым компонентом создания компьютеризированного мозга является, конечно же, мемристор. Короче говоря, то, что делает мемристор, регулирует поток электрического тока через цепь и запоминает значение заряда, которое прошло через него. По своей природе мемристоры являются энергонезависимыми: они могут сохранять информацию с силой или без нее.
Аналогия часто делается для водопровода: вода течет через трубу и расширяется в диаметре, что позволяет воде быстрее проходить через трубу. Когда вода течет обратно через трубу, диаметр сжимается и, таким образом, замедляет поток воды; даже когда вода выключена, труба сохраняет ту же структуру.
Аналогично в электрических стандартах, даже когда мемристор выключен, он способен сохранять одно и то же значение сопротивления. Например, если вы отключите питание компьютера с помощью мемристора, монитор сразу же сможет отображать изображения и документы, которые он отображал до выключения питания, как только мощность снова пройдет через него.
Чрезвычайно сложно воспроизвести ум человека. Тем не менее, мы в настоящее время способны имитировать мозг кошки. Моделирование нейронной сети, такое как сеть DeepMind от Google, показало странные результаты, например, размещение головок собак на фигурах с помощью программного обеспечения для распознавания изображений, получившего название Deep Dream.
Изображение до (слева) и после (справа) интерпретируется Google DeepDream. Изображение, созданное с помощью генератора Deep Dream. Оригинальная фотография Джей Рузи
К сожалению, человеческий мозг намного быстрее и сложнее, чем его электрические аналоги. Биологические мозги могут распознавать изображения в десятую часть секунды, поэтому ученые хотят подражать мозгу, но архитектура мозга сильно отличается от архитектуры компьютера. В некоторых моделях нейроны связаны и передают информацию через синапсы, но каждый нейрон может иметь более десяти тысяч связей с другими нейронами. В настоящее время постулируется, что изменения в проводимости синапсов отвечают за обработку информации, указывая на то, что информация по существу должна проходить через гигантскую цепочку синапсовых изменений, которые должны быть «приняты».
То, что невероятно сложно воспроизвести человеческий мозг, состоит в том, что в классических системах для тиражирования синапса и нейрона требуется огромное количество схем, имитирующих миллиарды нейронов и тысячи синапсов. Это также будет потреблять много энергии.
Изображение предоставлено Университетом Буффало
Теперь то, что сделали исследователи из МФТИ, было воссозданием мемристора, более подходящего для имитации мозга. В перестройке МФПТ мемристора использовалось оксид гафния (HfO2), соединение, обычно используемое в производстве CMOS. Прикладывая напряжение к слою HfO2, ионы кислорода поступают из решетки в электроды. Это оставляет кислородные вакансии, которые позволяют переносить электроны. Сопротивление мемристора затем определяется количеством вакансий кислорода в канале и может меняться со временем путем смещения мемристора.
Команда MIPT в настоящее время использует свой мозговой мозг на основе мемристора, чтобы имитировать функции органического мозга, такие как запоминание и забывание, отмеченные как «долгосрочное потенцирование» и «долгосрочная депрессия» соответственно. Это позволяет электронному мозгу получить пластичность в том, что он способен забыть бесполезную информацию, чтобы освободить место для новых знаний.
Комбинация этих элементов называется пластической зависимостью, зависящей от времени. В биологии это процесс, который регулирует силу связей между нейронами в мозге. Силы связи настраиваются на основании времени появления потенциалов входа и выхода нейронов, называемых шипами. Было доказано, что STDP является процессом, связанным с обучением. Таким образом, многие исследователи пытались имитировать процесс с использованием мемристоров.
Синапс. Изображение предоставлено MIPT
В настоящее время никто не смог разработать систему, которая могла бы интегрировать синапсы memristor в полную нейронную систему, но настройка мемристора, чтобы стать синапсом, является первым шагом в подражании человеческому мозгу.
Вы можете найти полный опубликованный исследовательский документ здесь, используя Journal of Nanoscale Research Letters.