RU | ENG
8 (812) 615-11-10 Пн - Пт, 09:00 - 19:00
корзина
Инсрукция

Искусственную нейронную сеть научили «спать»...

Ученые Калифорнийского университета в Сан-Диего решили проблему катастрофического забывания нейронных сетей, когда обучение новой задаче приводит к потере способности сети выполнять предыдущую задачу.

Для этого исследователи создали сеть, которая имитирует активность биологического мозга в состоянии сна. Результаты научной работы опубликованы в журнале PLOS: Computational Biology.

Исследователи разработали импульсную (спайковую) нейронную сеть (ИмНС), которая отличается от традиционных искусственных нейронных сетей тем, что в ней реализован принцип распространения нервных импульсов в биологическом мозге. Сеть состояла из 842 смоделированных спайковых нейронов, организованных в три слоя: входной (7х7), скрытый (28х28) и выходной (3х3). Первый слой был эквивалентен нижнему уровню зрительной системы, второй — ассоциативной коре, а выходной слой играл роль моторной коры.

Нейронную сеть «помещали» в виртуальную среду, состоящей из сетки 50х50 пикселей со случайно распределенными частицами пищи длиной два пикселя четырех типов: горизонтальный, вертикальный, а также диагональ с положительным или отрицательным наклоном. Виртуальный агент мог видеть только сетку 7х7, что соответствовало размеру его входного слоя. Самый активный нейрон моторной коры определял направление движения агента.

В первой задаче виртуальный агент должен был перемещаться в место с горизонтальным паттерном «еда», а во второй задаче — с вертикальным. Внутри трехслойного «мозга» виртуального агента реализовывалась пластичность, зависящая от времени спайка — если конкретный входной сигнал, получаемый нейроном, не является непосредственной причиной выходного сигнала и происходит до него, то этот вход ослабляется, а в ином случае усиливается. Агент «наказывался», то есть сила синапсов, участвующих в принятии решения, ослаблялась, если он попадал на клетку с диагональным паттерном, а в целях ускорения поиска агент получал незначительное наказание, если попадал на пустую клетку.

Таким образом, пластичность между первым и вторым слоем позволяла агенту самостоятельно изучать различные паттерны в различных пространственных положениях «поля зрения», соответствующего первому слою нейронов, а пластичность между вторым и третьим зависела от вознаграждения и позволяла ему принимать решения, куда перемещаться, в зависимости от паттернов и их расположения. Чтобы имитировать фазу сна, у агента деактивировали входной слой сети, а активность выходного слоя отделяли от двигательного контроля. Нейронам скрытого слоя задавали шум, так чтобы частоты спайков были аналогичны тем, что наблюдались во время бодрствования.

Наивный агент двигался случайным образом через окружающую среду, но после обучения выполнению задачи стал искать горизонтальные паттерны. После обучения второй задачи, эффективность поиска горизонтальных паттернов значительно снизилась. Однако в испытаниях с фазой сна, которая наступала после короткого периода обучения второй задаче, эффективность выполнения обоих задач оказалась одинаково высокой. Сон позволял спонтанно усиливать синапсы, которые ранее принимали участие в принятии решения, предотвращая катастрофическое забывание.

https://russianelectronics.ru/

 

 

Корзина
0 товара на сумму 0
Спасибо за Ваш заказ. Наш менеджер позвонит Вам в ближайшее время.

Поиск

Наименование Производитель Описание Упаковка шт. Мин. заказ, шт. На складе, шт. Срок произ-ва, нед. Цена 1 шт. В корзину
Идет загрузка

Инструкция по созданию онлайн заказа

  1. Выполните поиск интересующего Вас компонента. По умолчанию будет добавлено количество, соответствующее минимальному заказу.
    Количество добавляемых компонентов в заказ можно указать произвольно , заполнив поле - "Добавление в корзину".
    После нажатия кнопки "Добавить" компоненты оказываются в Корзине.
  2. Поиск интересующих Вас компонентов можно повторить и затем добавить их в корзину.
  3. Минимальный заказ от $100, сумма заказа менее $100 - по согласованию.
  4. Минимальный заказ по количеству указан в графе «Минимальный заказ, шт»
  5. Заказ только кратно упаковке, графа «Количество в упаковке, шт»
  6. Срок поставки от 2-х недель в случае наличия товара на складе ( графа «На складе, шт»).
  7. Цены указаны ориентировочные. Актуальные цены и сроки Вам вышлет менеджер после оформления заказа на нашем сайте.
  8. Копия заказа отправляется на Ваш почтовый ящик