НЕЙРОННЫЕ СЕТИ появились одновременно с их создателями, которые на заре натуралистической кибернетики брали внутреннее устройство человека и размазывали его по математическим статьям и техническим монографиям.Смотреть на то, что в результате получалось, не отворачиваясь, могли только узкие специалисты...
   Проблема N 1 кибернетики: Каким местом человек думает?
   Проблема N 2 кибернетики: Как он это этим местом делает?
   Возникла наивная гипотеза, что за нас думают нейроны. Причем всей нервной системой. Причем "думать", с точки зрения нейрона - это возбуждаться! Если вас что-то или кто-то возбуждает, это значит заставляет думать?! А перевозбудиться - это значит сильно задуматься?!
   Под гипотезу извели много денег и чернил, но дело оказалось дохлым. Если из таких, извините, возбужденных нейронов смоделировать разум отдельно зятого кибернетика, то он потребует всех ресурсов Земли, включая самого несчастного кибернетика. А если замахнуться на моделирование пятилетнего ребенка, то и Солнечной Системы не хватит. А нам тогда куда? Микробами работать? Короче, даже кривого компьютера на нейронах не смогли построить.
   Поэтому от нейронов, кто успел, рванули быстренько к нейтронам, за которых в оборонных ящиках давали хорошие деньги, чернила бесплатно, и молоко за вредность.
   Кто тогда мог подумать, что через тридцать лет, нейроны эксгумируют и будут снова платить за них деньги. А "быстрых разумом нейтронов" будут преследовать и изводить зеленые. Так что те, кто успел - рванули обратно, не вылезая из ящиков. Быстро конвертировали нейтроны обратно в нейроны, спрятав до лучших времен букву "т", и сейчас с их помошью распознают что-то полезное. Например, букву "А" отличают от буквы "Б" без участия человека.
   Короче, тогда нейроны плохо кончили. Их заменили КОНЕЧНЫЕ АВТОМАТЫ, из которых целого компьютера тоже не построили. Разве что отдельные шестеренки.
   Гениально предвидя печальную перспективу автоматов, Фон-Нейман последние годы своей жизни посвятил работам по самовоспроизводящимся автоматам. Много читал лекций, но инерцию не преодолел - автоматы пока не надумали сами размножаться.
   Но, когда из автоматов выбросили железо и оставили только математику, то они здорово сгодились в формальных грамматиках.

   С ПЕРСЕПТРОНАМИ влип в историю персонально Розенблатт. Когда официальная комиссия пришла проверить, куда "плакали выделенные денежки", то увидела в его лаборатории вместо ничтожных результатов большой беспорядок.
   Розенблатт сказал, что это и есть его "персептрон".
   - Ну и что?
   - Это необ'яснимо, но доказуемо, - сказал Розенблатт, поскольку молчать было опасно.

   ТЕОРЕМА РОЗЕНБЛАТТА. Только из беспорядка может кое-что получиться.
   ДОКАЗАТЕЛЬСТВО. Если принципиально подойти к сути, то из чего же еще?!

   СЛЕДСТВИЕ. Самоорганизуйся и самоспасешься!
   ДОКАЗАТЕЛЬСТВО. Не Пушкин же это за тебя должен делать!

   С помощью персептронов тоже пытались распознавать. Но только порядка в персептронах было меньше, чем в нейронах, что позволило продвинутся в исследованиях значительно дальше. А, чтобы придать беспорядку научную респектабельность, Марвин Минский (который на самом деле Массачусетский, из MIT) к запутанным проводам добавил алгебраическую путаницу. Туда же, как и во всякое сомнительное дело, добавили теорию вероятностей. (Известно, что невероятной силы такой симбиоз достигает при отрицательных вероятностях, хотя понимание этого небезопасно для рассудка).
   Короче, беспорядок приводит себя в порядок посредством обучения с наказанием, в виде возврата к беспорядку. И поощрением, в виде отсутствия наказания.
   Например. Вы персептрону будете показывать фотографии своих ближайших подруг, повторяя: "Смотри - какие мордочки! И все прочее!...". Персептрон с каждой новой подругой все радостнее будет соглашаться с ходом ваших мыслей. Потом покажете фотографию тещи, и тоже об'ективно прокомментируете. После этог