СОЗДАНИЕ ИНФОРМАЦИОННОЙ МОДЕЛИ АКТИВНЫХ ЭЛЕМЕНТОВ НЕЙРОННЫХ СЕТЕЙ - Студенческий научный форум

IV Международная студенческая научная конференция Студенческий научный форум - 2012

СОЗДАНИЕ ИНФОРМАЦИОННОЙ МОДЕЛИ АКТИВНЫХ ЭЛЕМЕНТОВ НЕЙРОННЫХ СЕТЕЙ

 Комментарии
Текст работы размещён без изображений и формул.
Полная версия работы доступна во вкладке "Файлы работы" в формате PDF

  Введение

Работы в области искусственного интеллекта ведутся во всех научно-технически развитых странах мира, так как данное направление открывает широкие перспективы для дальнейшего развития науки и техники. Причём речь идёт не только о совершенствовании различных устройств за счёт улучшения процесса обработки информации, но и о более глубоком изучении процесса формирования ответной реакции нервной системы на внешнее воздействие. Однако проблема создания искусственного интеллекта не решена. Причина этого - сложность моделирования процессов принятия решения и реализующих эти процессы функций, выполняемых центральной нервной системой, что связано с анатомией последней.

Актуальность работы состоит в том, что проект направлен на решение проблемы повышения эффективности обработки информации в нейронных сетях. Одним из решений является проектирование новых активных элементов нейронных сетей и разработка алгоритмов обработки информации в этих элементах.

Целью работы является разработка принципиальной радиоэлектронной схемы нового активного элемента нейронных сетей.

В отличие от известных зарубежных и отечественных реализаций нейронных сетей, в проекте предлагается использовать оригинальные схемотехнические решения активного элемента нейронной сети с параметрами, адекватными физиологическим параметрам нейронов нервной системы организма человека, а также собственные наработки в области обработки сигналов, основанные на синтезе спектральных, статистических, корреляционных методов с учётом специфики обработки информации в биологических системах.

Инновационность идеи заключается в том, что предлагаемое решение физической структуры активного элемента нейронной сети обеспечивает параметры функционирования нейронной сети более соответствующие физиологическим параметрам нервной системы, чем у существующих ныне нейронных сетей. За счёт этого, а также за счёт применения оригинальных алгоритмов возможно существенное повышение эффективности обработки информации в искусственных нейронных сетях и повышение производительности интеллектуальных систем, применяемых в медицине, криминалистике, аэрокосмической съёмке, робототехнике и других областях.

В ходе развития исследований по искусственному интеллекту произошло их разделение на два относительно самостоятельных направления, связанных с двумя различными принципами построения системы искусственного интеллекта.

В первом случае основное внимание уделяется совпадению результатов обработки информации искусственно созданных интеллектуальных систем и биологических объектов. При этом особенности живых аналогов отходят на второй план.

Во втором случае предполагается, что именно изучение механизмов естественного мышления и анализ данных о способах формирования разумного поведения человека могут создать основу для построения систем искусственного интеллекта, причем построение это должно осуществляться, прежде всего, как моделирование, воспроизведение техническими средствами принципов и конкретных особенностей функционирования биологических объектов.

Первое направление, таким образом, рассматривает продукт интеллектуальной деятельности человека, изучает его структуру, и стремится воспроизвести этот продукт средствами современной техники. Ясно, что успехи этого направления искусственного интеллекта оказываются тесно связанны с развитием возможностей ЭВМ и искусства программирования, т.е. с тем комплексом научно-технических исследований, которые часто называют компьютерными науками. Поэтому это направление искусственного интеллекта можно охарактеризовать термином «машинный интеллект».

Второе направление искусственного интеллекта рассматривает данные о нейрофизиологических и психологических механизмах интеллектуальной деятельности и, в более широком плане, разумного поведения человека. Оно стремиться воспроизвести эти механизмы с помощью тех или иных технических устройств, с тем чтобы «поведение» таких устройств хорошо совпадало с поведением человека в определенных, заранее задаваемых пределах. Развитие этого направления тесно связано с успехами наук о человеке. Для него характерно стремление к воспроизведению более широкого, чем в машинном интеллекте, спектра проявлений разумной деятельности человека. Это позволяет охарактеризовать данное направление искусственного интеллекта термином «искусственный разум».

Ко второму направлению относятся нейронные сети, создаваемые по аналогии с обработкой информации биологическими нейронами. Разработчики стремятся организовать элементы нейронных сетей так, чтобы они демонстрировали свойства, присущие мозгу. Однако, в настоящее время даже самые сложные нейронные сети далеки от того, чтобы воспроизводить все свойства человеческого мозга. Одной из причин этого является неполное соответствие активных элементов нейронных сетей биологическим нейронам, а также не выявленные до конца сложные механизмы обработки информации в человеческом мозге.

Работа выполняется по программе «У.М.Н.И.К.» с 2011 по 2012 г.

Для достижения основной цели проекта необходимо проанализировать существующие модели активных элементов нейронных сетей, разработать архитектуру взаимодействия структурных элементов активного элемента нейронной сети и подобрать параметры работы разрабатываемой радиоэлектронной схемы, соответствующие параметрам процессов, протекающих в биологическом нейроне.

Задачи работы:

  1. Провести анализ существующих моделей активного элемента нейронной сети.
  2. Выявить достоинства и недостатки существующих моделей.
  3. Разработать архитектуру взаимодействия структурных элементов активного элемента нейронной сети.
  4. Разработать радиоэлектронную схему активного элемента нейронной сети.
  5. Провести анализ радиоэлектронной модели активного элемента нейронной сети.

 

Анализ существующих моделей нервного волокна

Существует две точки зрения на вопрос, каким образом строить системы искусственного интеллекта. С этим связано разделение работ по искусственному интеллекту на два направления.

Сторонники одной точки зрения убеждены, что важнее всего хорошее совпадение поведения искусственно созданных и естественных интеллектуальных систем, а что касается внутренних механизмов формирования поведения, то разработчик искусственного интеллекта вовсе не должен копировать или даже учитывать особенности естественных, живых аналогов.

Другая точка зрения состоит в том, что именно изучение механизмов естественного мышления и анализ данных о способах формирования разумного поведения человека могут создать основу для построения систем искусственного интеллекта, причем построение это должно осуществляться, прежде всего, как моделирование, воспроизведение техническими средствами принципов и конкретных особенностей функционирования биологических объектов.

Первое направление, таким образом, рассматривает продукт интеллектуальной деятельности человека, изучает его структуру, и стремится воспроизвести этот продукт средствами современной техники. Успехи этого направления искусственного интеллекта тесно связанны с развитием возможностей ЭВМ и искусства программирования. Поэтому это направление искусственного интеллекта можно охарактеризовать термином «машинный интеллект».

Второе направление искусственного интеллекта рассматривает данные о нейрофизиологических и психологических механизмах интеллектуальной деятельности в более широком плане, с точки зрения поведения человека. Оно стремиться воспроизвести эти механизмы с помощью тех или иных технических устройств, с тем чтобы «поведение» таких устройств хорошо совпадало с поведением человека в определенных, заранее задаваемых пределах. Развитие этого направления тесно связано с успехами наук о человеке. Для него характерно стремление к воспроизведению более широкого, чем в машинном интеллекте, спектра проявлений разумной деятельности человека. Это позволяет охарактеризовать данное направление искусственного интеллекта термином «искусственный разум». [1]

Ко второму направлению относятся нейронные сети, создаваемые по аналогии с обработкой информации биологическими нейронами. Разработчики стремятся организовать элементы нейронных сетей так, чтобы они демонстрировали свойства, присущие мозгу.

В работах Максименко Е.В. [2] представлена эквивалентная схема активного элемента нейронной сети, показанная на рисунке 1.

В данной модели сопротивления R1, R2, R3 соответствуют сопротивлению аксоплазмы нервного волокна; R4 - сопротивление мембраны; С1, С2, С3 - ёмкость клеточной  мембраны; R5 и С4 - сопротивление и ёмкость открытых ионных каналов соответственно; усилитель отражает функционирование ионных насосов, сопровождающееся затратой энергии, а генератор импульсов V4 - формирование сигнала в теле нейрона. Значения сопротивлений R1, R2, R3, R4 и R5 - 1,4 кОм, ёмкостей С1, С2, С3, С4 - 7,5 нФ.

При прохождении импульса через RC-цепочки и усилитель можно наблюдать следующие изменения формы и амплитуды импульса (Рис. 2 - 7):

На рис. 2 - 7 по оси абсцисс отложено время в секундах, по оси ординат - напряжение в вольтах.

Полученные графики можно описать математически с помощью функции Гаусса:

где         А - амплитуда сигнала

а - положение центра гауссиана

σ - ширина сигнала, когда амплитуда уменьшается в е раз

На рис. 8:

1 - радиотехническая модель

2 - математическая модель

 

На рисунке 8 исходный сигнал и функция, полученная в результате математического моделирования, совпадают.

Для описания графиков, полученных в точках 2, 3, 4 на рис. 1, используется формула:

Параметры: А, а, σ1, σ2, используемые в формуле (2), описываются рисунком 9.

Полученные при использовании формулы (2) графики представлены на рис. 10 - 12.

На рис. 10 - 12:

1 - радиотехническая модель

2 - математическая модель

 

Для описания графиков, получаемых в точках 5 и 10 на рис. 1, используется формула:

где         f1(x) - положительная часть сигнала, описывается с помощью формулы (2)

f2(x) - отрицательная часть сигнала, которая описывается с помощью формулы:

Параметры: Аотр, аотр, σ3, σ4, используемые в формуле (4), описываются аналогично параметрам А, а, σ1, σ2 из формулы (2), но для отрицательной части сигнала.

На рис. 13, 14:

1 - радиотехническая модель

2 - математическая модель

Из рисунков видно, что по мере прохождения через RC-цепочки идёт постепенное изменение амплитуды и формы сигнала. Эта тенденция продемонстрирована в таблице 1:

№ точки

измерения

А,

мВ

Aотр,

мВ

a,

мкс

aотр,

мкс

σ1,

мкс

σ2,

мкс

σ3,

мкс

σ4,

мкс

1

10

-

49,1

-

21

21

-

-

2

6

-

57,1

-

22

27

-

-

3

3,49

-

65,1

-

24

30

-

-

4

1,5

-

73,1

-

29

34

-

-

5

0,435

-0,264

57,1

105

21

18

21

39

10

10

-6,48

57,1

105

20

18

23

35

Таблица 1 - Изменение параметров функции Гаусса

 

Из таблицы видно, что по мере прохождения сигнала по нервному волокну:

  • амплитуда A уменьшается в 23 раза, но восстанавливает своё значение после прохождения через усилитель;
  • пройдя три RC-цепочки, сигнал увеличивается по ширине (σ1 + σ2) в 2 раза, а после четвёртой RC-цепочки ширина положительной части сигнала уменьшается в 1,6 раз, но появляется отрицательная часть, что не меняется после прохождения сигнала через усилитель;
  • положение максимума гауссиана (а) смещается на 8 мкс в право при переходе сигнала от генератора к каждой из первых трёх RC-цепочек (сигнал запаздывает), а после четвёртой RC-цепочки положение максимума положительной части сигнала смещается влево на 16 мкс и появляется отрицательное смещение сигнала, что не меняется после прохождения сигнала через усилитель.

Таким образом, нетрудно видеть, что предложенная схема не достаточно хорошо моделирует биологический нейрон, так как сигнал не восстанавливает форму после прохождения усилителя (отрицательное смещение не исчезает).

 

Архитектура взаимодействия активных элементов нейронных сетей

Рис. 15 иллюстрирует механизм передачи и обработки информации в биологических нейронных сетях.

В реальной нейронной сети информация обрабатывается параллельно, а затем суммируется. Этим обусловлено быстродействие биологических нейронных сетей.

Поэтому в нейронной сети, состоящей из разрабатываемых активных элементов (АЭ), информация также должна обрабатываться параллельно в нескольких потоках, а затем суммироваться и преобразовываться в выходной сигнал (рис. 16).

В предложенной схеме (Рис. 16) активные элементы (АЭ) обладают дополнительной функцией восстановления сигнала, что отличает данную схему от предложенных в литературе схем [7].

Архитектура обработки информации в биологической нейронной сети представлена на Рис. 17.

Афферентные нервные волокна представляют собой дендриты чувствительных нейронов, эфферентные волокна - аксоны двигательных нейронов. Оба вида волокон можно промоделировать схемой (рис. 1), варьируя её параметры.

 

Радиоэлектронная схема активных элементов нейронной сети

На основе схемы (Рис. 1) была разработана новая радиоэлектронная схема активного элемента нейронной сети (Рис. 18).

Данная схема состоит из набора RC-цепочек и блока восстановления сигнала. Прохождение сигнала через RC-цепочки соответствует прохождению нервного импульса по участку нервного волокна, покрытого миелиновой оболочкой, а блок восстановления сигнала моделирует перехват Ранвье.

Подробнее схема блока восстановления сигнала показана на рис. 19.

При прохождении импульса через RC-цепочки и блок восстановления сигнала можно наблюдать следующие изменения формы и амплитуды импульса (Рис. 20 - 25):

На рис. 20 - 25 по оси абсцисс отложено время в секундах, по оси ординат - напряжение в вольтах.

Полученные графики можно описать аналогично графикам, полученным в результате анализа схемы, показанной на рис. 1, с помощью функции Гаусса.

График, полученный в точке 1 на рис. 18, можно аппроксимировать с помощью формулы (1):

Для описания графиков, полученных в точках 2, 3, 4 на рис. 18, используется формула (2):

На рис. 27 - 29:

1 - радиотехническая модель

2 - математическая модель

Для описания графика, полученного в точке 5 на рис. 18, используется формула (3):

Так как после прохождения через блок восстановления сигнала импульс восстанавливает свою изначальную форму, то график, полученный в точке Out на рис. 18, можно описать с помощью формулы (1):

Из рисунков видно, что по мере прохождения через RC-цепочки идёт постепенное изменение амплитуды и формы сигнала, а после прохождения блока восстановления сигнала сигнал восстанавливается и по амплитуде, и по форме. Эта тенденция продемонстрирована в таблице 2:

№ точки

измерения

А,

мВ

Aотр,

мВ

a,

мкс

aотр,

мкс

σ1,

мкс

σ2,

мкс

σ3,

мкс

σ4,

мкс

1

10

-

49,1

-

21

21

-

-

2

6

-

57,1

-

22

27

-

-

3

3,49

-

65,1

-

24

30

-

-

4

1,5

-

73,1

-

29

34

-

-

5

0,435

-0,264

57,1

105

21

18

21

39

Out

10

-

49,1

-

21

21

-

-

Таблица 2 - Изменение параметров функции Гаусса

Из таблицы видно, что по мере прохождения сигнала по нервному волокну:

  • амплитуда A уменьшается в 23 раза, но восстанавливает своё значение после прохождения через блок восстановления сигнала;
  • пройдя три RC-цепочки, сигнал увеличивается по ширине (σ1 + σ2) в 2 раза, а после четвёртой RC-цепочки ширина положительной части сигнала уменьшается в 1,6 раз, но появляется отрицательная часть, которая пропадает после прохождения сигнала через блок восстановления сигнала;
  • положение максимума гауссиана (а) смещается на 8 мкс в право при переходе сигнала от генератора к каждой из первых трёх RC-цепочек (сигнал запаздывает), а после четвёртой RC-цепочки положение максимума положительной части сигнала смещается влево на 16 мкс и появляется отрицательное смещение сигнала, но после прохождения сигнала через блок восстановления сигнала положение максимума выходит на первоначальное значение и отсутствует отрицательное смещение сигнала.

Таким образом, предложенная радиоэлектронная схема активного элемента нейронной сети хорошо моделирует биологический нейрон, так как сигнал восстанавливает форму и амплитуду после прохождения блока восстановления сигнала (отрицательное смещение исчезает, а амплитуда выходит на начальный уровень).

Результаты работы

В результате проведённой работы были разработаны:

  1. эквивалентная схема активного элемента нейронной сети, которая отличается от предложенных ранее схем [2] новым блоком восстановления сигнала;
  2. схема взаимодействия активных элементов нейронной сети, в которой активные элементы обладают дополнительной функцией восстановления сигнала;
  3. на основе активного элемента с разрабатываемой структурой могут быть построены нейронные сети, как классической архитектуры, так и новых архитектурных конфигураций;
  4. радиоэлектронная схема активного элемента нейронной сети, параметры функционирования которого отвечают параметрам передачи сигнала в биологическом нейроне.

 

Выводы

В результате проделанной работы можно сделать следующие выводы:

  1. Существующие модели активных элементов нейронных сетей не достаточно хорошо моделируют процесс обработки информации в биологическом нейроне, так как сигнал не восстанавливает свою форму на выходе предложенной схемы (Рис. 1), что происходит в перехвате Ранвье биологического нервного волокна, а значит, эти схемы требуют доработки.
  2. Разрабатываемая модель нервного волокна позволяет проводить моделирование всей сети как состоящей из блоков активных элементов предлагаемой структуры.
  3. Предложенная в данной работе новая радиоэлектронная схема активного элемента нейронной сети достаточно хорошо моделирует процесс передачи информации в биологическом нервном волокне, так как в блоке восстановления сигнала сигнал восстанавливает форму, как в перехвате Ранвье в нервном волокне, а значит, данная схема может быть применена в дальнейших исследованиях и разработках в области нейронных сетей и искусственного интеллекта в целом.

 

Список использованных источников

  1. Чернухин Ю.В. Нейрокибернетический подход к синтезу искусственного интеллекта роботов / Всероссийская научная школа для молодёжи «Нейробиология и новые подходы к искусственному интеллекту и к науке о мозге» тезисы трудов. Таганрог, 2010. С. 108 - 123.
  2. Максименко Е.В. Моделирование распространения нервного импульса с использованием ЭВМ // Обозрение прикладной и промышленной математики. 2004. Т.11. В.2. С. 368-369.
  3. Понетаева Е.Г. Функционально-структурные уровни реакций организма на внешние воздействия // Современное состояние и приоритеты развития фундаментальных наук в регионах Труды VII Всероссийской научной конференции молодых ученых и студентов 1 - 5 октября 2010 г. Том 1. Краснодар, 2010: «Просвещение-Юг» с. 119 - 121.
  4. Заенцев И.В. Нейронные сети: основные модели / Воронеж, 1999. - 76 с.
  5. Холманский А. С. Моделирование физики мозга - http://www.smolensk.ru/user/sgma/MMORPH/N-12-html/holmansky-3/holmansky-3.htm [04.02.2012].
  6. Понетаева Е.Г. Информационно-физиологические реакции организма человека на внешние воздействия // Всероссийская научная школа для молодежи Нейробиология и новые подходы к искусственному интеллекту и к науке о мозге 20 - 22 октября 2010 года. Тезисы трудов. Таганрог, 2010 с. 165 - 170.
  7. Уоссермен Ф. Нейрокомпьютерная техника Теория и практика / Мир, 1992. - 240с.
  8. Понетаева Е.Г. Создание информационной модели активных элементов нейронных сетей // Инноватика-2011 Труды международной конференции. Том II. Ульяновск: УлГУ, 2011 с. 240 - 241.
  9. Понетаева Е.Г. Закономерности реакций на внешние воздействия функционально-структурных уровней организма человека // Современное состояние и приоритеты развития фундаментальных наук в регионах: труды VIII Всероссийской научной конференции молодых ученых и студентов г. Краснодар, 2011: «Просвещение-Юг» с. 39-41.
Просмотров работы: 10