Искусственная нейронная сеть — это математическая модель, её программное или аппаратное воплощение, построенное по принципу организации и функционирования биологических прототипов – сетей нервных клеток живого организма.
Это сухое определение. А что же стоит за идеей перевести принципы работы нейронов головного и спинного мозга центральной нервной системы и ганглия периферической нервной системы в виртуальное пространство?
Над связью нейрологии и математической биофизики стали работать в 1940-х. Первой вехой в истории искусственных нейронных сетей (ИНС) стала статья Мак-Каллока и Питтса (статья основополагающая, стоит почитать в источниках [1]). В ее основе предположение о возможности изучать нейронные события средствами логики предложений.
Это сейчас программы на основе ИНС помогают в распознавании лиц, работе на бирже, да просто присутствуют в каждом смартфоне. Началось все с предложения идеи однослойного перцептрона в 1957 году (кибернетической модели мозга). Почти сразу же был создан первый нейрокомпьютер [2].
Не без гордости отметим, что постановкой так называемых “трудных” для перцептрона задач впервые стали заниматься в СССР. Закончилось тем, что опубликовали формальное доказательство ограниченности перцептрона (неспособность решать проблемы, связанные с инвариантностью представлений).
Но наука не остановилась, и через 3 года все узнали о новом типе нейронных сетей, способных функционировать в качестве памяти. Следом предлагается нелинейную модель с синапсами на основе сплайнов. Это открытие имело вполне практическое применение для решения задач в медицине, геологии, экологии. Еще одной важной частью ИНС-мозайки стало изобретение самоорганизующейся сети, предназначенной для инвариантного распознавания образов.
Конечно, это не все. Работа с ИНС сродни освоению космоса. В 1960-х имена космонавтов и решенные задачи знал каждый школьник. Сейчас же, когда задачи многократно усложнились, а космонавты занимаются передовой наукой, мы пользуемся их достижениями как-будто так и надо.
Так в 1980-х был открыт метод обратного распространения ошибки [3, 4], в 2007 созданы алгоритмы глубокого обучения многослойных нейронных сетей [5]. ИНС используются в решении производственных, управленческих, образовательных задач.
Мы с вами – уже просто пользователи разработок, начатых более полувека назад. Умные, креативные, b все же пользователи. Но, согласитесь, это не повод забывать историю?
Литература:
- http://www.raai.org/library/books/mcculloch/mcculloch.pdf
- http://ei.cs.vt.edu/~history/Perceptrons.Estebon.html
- Rumelhart D. E., Hinton G. E., Williams R. J.Learning Internal Representations by Error Propagation // Parallel Distributed Processing. 1. — Cambridge, MA: MIT Press, 1986. P. 318—362.
- Барцев С. И., Охонин В. А.Адаптивные сети обработки информации. — Красноярск: Ин-т физики СО АН СССР, 1986. Препринт N 59Б. — 20 с.
- LeCun Y., Bengio Y., Hinton G. Deep learning //Nature. – 2015. – Т. 521. – №. – С. 436-444.
