Профессор Г.Г.Малинецкий

Математики, как французы: все, что им говорите, они переводят
на свой язык, и это тотчас же становится чем-то совершенно иным.
И.В. Гете

Отражение

Что мне нравится — того я не имею:
Что хотел бы делать — делать не умею.
Г.Иванов

Когда рассказываешь кому-нибудь со стороны о своей области науки, часто испытываешь чувство неудобства. Кажется, что и у рассказчика, и у слушателей одна и та же невысказанная мысль: как можно заниматься такими штучками, когда мы не понимаем действительно важных вещей?

Ученые знают многие интимные подробности из жизни экзотических элементарных частиц и приключения черных дыр. Они прекрасно представляют, как идут дела вблизи абсолютного нуля или как могло повлиять позднее творчество Шекспира на раннюю поэзию Пушкина. Более того, понятно, как развивать большинство отраслей науки,— куда и о чем писать, какое оборудование закупать, какие диссертации защищать и к кому посылать на рецензию заявки на гранты. Или, как говорят науковеды, в этих областях существует парадигма. То есть в них можно придумывать множество головоломок или задачек для дипломов, диссертаций, Нобелевских премий. И всего этого хватит на несколько поколений аспирантов, профессоров, академиков. Как будто бы все так и должно быть,

Но неприятности начинаются, как только мы выйдем за порог или включим телевизор. Очень интересно послушать разговор какого-нибудь физика или математика с врачом.

— Вероятно, это у вас возрастное или на нервной почве, а может быть, это проявление хондроза. Давайте попробуем попить недельку…
— Простите, а какой диагноз?
— Да это не очень важно. Лечение у нас симптоматическое.
— То есть вы лечите симптомы, а не болезни?
— Да, конечно. Но у нас, клиницистов, большой опыт…

Обычно тут физик оказывается в состоянии нокдауна. В медицине, биологии, психологии — принципиально иные парадигмы, чем в точных науках. В них другие критерии истины, другой уровень понимания. Несмотря на внешнее сходство — ученые советы, звания, весь академический ритуал — представители различных наук отличаются друг от друга больше, чем динозавры — от золотых рыбок. В одних науках тайны мироздания можно познавать, сидя за письменным столом. В других приходится жестко воздействовать на системы, само назначение которых непонятно.

Наука принципиально изменилась менее чем за столетие. Строители Вавилонской башни были в исключительно выгодном положении. Во-первых, они знали, что строят башню. Во-вторых, на разных языках они говорили об одном и том же. Современные исследователи похвастаться этим не могут. Часто появляется ощущение, что ученые похожи на студентов на экзамене. Они знают прекрасные ответы, но немножко не на те вопросы.

В начале столетия научное творчество и организация науки напоминали работу писателей-романистов или экспедиции первопроходцев. К концу столетия в ней появляется все больше черт массового производства. Приходится жестко ограничивать себя в выборе проблем, целей и средств. Все чаще приходится задумываться, какие действительно важные вещи нам следовало бы узнать и есть ли у нас возможности для этого.

Научное общество столкнулось с необходимостью всерьез проанализировать структуру своего незнания. Происходящее здесь противоположно тому, что было в литературе. Там от романтизма (исключительный человек в исключительных обстоятельствах) перешли к реализму (типичный человек в типичных обстоятельствах). Здесь — наоборот. От реализма (какой-нибудь электрон в некой потенциальной яме) — к романтизму («уникальная цивилизация на уникальной планете в переломный момент ее развития», «своеобразная экономика конкретной страны в особо неблагоприятных условиях», «странный орган исключительного вида, роль и функции которого во многом не ясны, обычно называемый мозгом…») .

Уникальность выбивает у исследователей почву из-под ног. Нельзя сравнить одинаковые образцы и выбрать нечто типичное. Нельзя поставить эксперимент. Часто трудно отделить прихоть природы от ее глубокого замысла. Не ясно порой, какие языки следует выучить, чтобы содержательно говорить об интересующем объекте. Трудно работать без парадигмы.

Исследования, связанные с мозгом, занимают в этом ряду завидное место. Как ни странно, необходимость вести работы понятна почти всем. Может быть, потому что это одна из вершин. Сверхсложный объект, выполняющий ключевые функции в нашем мире. Поиски щита от множества страшных недугов, от ведьм и вампиров, затаившихся в глубинах нашего сознания.

Это парадоксальная работа: «Я» исследует «я». Мы стоим с маленьким зеркальцем в руках и смотримся в большое зеркало. Эта картина отражается в маленьком зеркальце. В большом зеркале она отражается еще раз, при этом в нем отражается и малое зеркальце. И так бесконечно много раз. Это попытка понять мир, а может быть, и встать над кругом перевоплощений людей, стран, народов. Путь в зрелость.

И вместе с тем это предельно конкретно. Мы имеем счастливую возможность опираться на результаты множества наук, угадывать принципы работы мозга и на этой основе срисовать карикатуры» — строить компьютеры, основанные на тех же принципах. Если получается удачно, то можно надеяться, что верно схвачено что-то важное. Если нет, то остается возможность создать интересные компьютерные системы. Это одно из немногих направлений, где и заблуждение может оказаться очень полезным.

Развитие этих исследований похоже на сказку. В ней есть чем заинтриговать, есть чем рассмешить. И наконец, появилось то, чем можно напугать.

Самоорганизация и нейрокомпьютеры

Я — это да,
Да — навсегда,
Да — вопреки.
Да — через все!
Даже тебе
Да кричу, Нет!
Стало быть — нет
Стало быть — вздор,
Календарная ложь!
М. Цветаева

Мысль строить вычислительные и управляющие системы по образу и подобию мозга возникла почти полвека назад, на заре кибернетики. И в самом деле, многое в мозге и традиционных компьютерах очень похоже.

Более сотни лет назад основатель науки о мозге, или, как ее сейчас называют, нейронауки, Сантьяго Рамон-и-Кахаль установил, что мозг состоит из клеток — нейронов. Нейроны получают сигналы с помощью разветвленных отростков — дендритов, а посылают с помощью неразветвленных — аксонов. В мозге человека примерно сто миллиардов нейронов. Однако большинство из них очень похожи друг на друга, и это упрощает дело. Они передают информацию в виде электрических импульсов.

Грубо говоря, нейрон собирает информацию от коллег, с которыми связан синапсами. Нейрон взвешивает входные сигналы (мнения одних соседей очень важны, других надо выслушать и поступить наоборот), суммирует и принимает решение. Он либо генерирует импульс, который будет восприниматься синапсами соседей, либо воздерживаться от этого.

Компьютеры, от персональных моделей до сверхбыстродействующих гигантов, также состоят из огромного количества простейших логических элементов. Эти элементы в свою очередь способны только к тривиальным логическим операциям. Ин-формация также передается в виде последовательности электрических импульсов. Способность решать какие-либо задачи возникает благодаря продуманной архитектуре и коллективным действиям множества элементов.

Можно пойти дальше. У компьютера есть оперативная память, в ней хранятся данные, с которыми ЭВМ работает в настоящий момент. Есть долговременная память, гораздо большего объема, но работающая намного медленнее. Обычно, есть постоянное запоминающее устройство, в котором надежно «зашиты» основные стандартные операции. Его можно сравнить с хранилищем машинных «инстинктов».

Много лет назад психологи выделили у человека так называемую кратковременную память. Именно она позволяет студенту точно повторить последнюю фразу преподавателя, даже если студент не утруждал себя слушанием лекции. Психологи выделили разные уровни долговременной памяти. Довольно много удалось выяснить и о «постоянном запоминающем устройстве» человека.

Но тут в основном сходство и кончается. Множество простейших человеческих задач ставят компьютер в тупик. Юные леди нескольких месяцев от роду отлично улавливают ситуацию, в которой кто-то им улыбается. Молодые джентльмены трех лет с легкостью отличают кошек от собак разных пород в различных ракурсах на фотографиях, в жизни, в кино. Научить этому компьютер пока не удается.

Один известный специалист по искусственному интеллекту как-то заметил, что с легкостью отличает гуманитариев от специалистов в области точных наук на любой конференции.

Подхожу к человеку и говорю: «Я знаю, как научить компьютер отличить букву «А» от буквы «Б». Если человек из точных наук, то он сразу спрашивает «Как?». Гуманитарий произносит с вежливым оптимизмом «Да, это очень интересно» и отходит.

Когда беседуешь с ребенком, то часто удивляешься несоответствию между точными суждениями и здравым смыслом и тем небольшим местом, которое занимают в его мире простейшие логические и арифметические действия. И ведь действительно, из школьной арифметики и логики в обычной жизни надо очень мало.

Компьютер — прямая противоположность. На моей памяти умудренный жизнью аспирант наставлял зеленого первокурсника: «ЭВМ — это просто железная дура, не делающая ошибок». Грубовато, но довольно точно. Чтобы продавать билеты, управлять транспортом, решать задачи и рисовать цветные картинки, компьютеру нужны де-тальные инструкции — программы. Нельзя надеяться, что он «сам сообразит». Интуиция, фантазия, умение обобщать, ставить задачи, искать ассоциации, извлекать опыт из своей предыдущей деятельности чужды традиционным компьютерам.

В сравнении с электронной вычислительной машиной мозг кажется еще более удивительным творением. Электрические импульсы в компьютере распространяются почти а миллион раз быстрее, чем в мозге. Кроме того, в передаче сигналов в мозге природа использует специальные вещества — медиаторы, которые выделяются из синапсов. Тем, кто ради любопытства когда-нибудь перелистывал учебник биохимии, легко представить, насколько точно должна быть согласована такая система.

Можно открыть учебник и посчитать по несложным формулам, сколько информации содержит цветная картинка. Странно получается. Получается настолько много, что всей емкости нашего мозга хватит на несколько минут жизни. А дальше? Значит, мозг обладает замечательной способностью много и удачно забывать. Он умеет помнить и анализировать что-то наиболее важное, или, как сейчас говорят ученые, умеет выделять параметры порядка. Возможность человека узнавать лица, предметы, местность в самых разных условиях поразительна.

Как бы вы отнеслись к компьютеру, в котором каждый день выходят из строя тысячи элементов? Конечно, сказали бы вы, он не способен ни к какой полезной деятельности. Но именно в таком режиме работает мозг, в котором ежедневно гибнут многие тысячи нейронов.

Вероятно, читатель почувствовал, что дело не в деталях. Компьютер и мозг отличаются в чем-то главном. Они построены на разных принципах. Попытка выяснить их стала важной, на мой взгляд, наиболее захватывающей частью нейронауки. Компь-ютерные системы, в которых исследователи стремятся воплотить принципы организации мозга, получили название нейрокомпьютеров. Иногда их называют нейронными сетями. Многие из этих принципов идут из новой перспективной области исследований, нелинейной динамики (или нелинейной науки, «nonlinear science» — в англоязычных странах).

Один из главных принципов — рассматривать память, мышление и многое дру-гое как коллективный процесс, как творчество ансамбля, а не отдельных солистов-нейронов. Тут очень подходит слово «самоорганизация» — спонтанное возникновение упорядоченности в открытых системах*.

Самая близкая аналогия для памяти такого «коллективного» типа — голограмма. Если осветить такую пластинку лучом лазера, то можно будет увидеть объемный образ предмета. Но указать на голограмме конкретный участок, на котором «записан» данный фрагмент образа, нельзя. «Все» записано на всей пластинке. Такой способ записи имеет огромное достоинство: разрушив часть голограммы, мы сохраним изображение, несколько ухудшив его качество.

Итак, один из китов, на котором зиждется поразительная эффективность мозга, впрочем, как и существующих вычислительных систем, — коллективность. Наверно, искусство не могло бы существовать, если бы наша память не была ассоциативной. То есть способной по одному намеку, движению, жесту воссоздать сложнейший образ, связать факты в логическую цепь или вспомнить давно забытое ощущение.
Второй кит — параллельность. Вспомним младшие классы и задачу про землекопа: «Один землекоп может выкопать яму за шесть часов. работая в одиночку, другой — за три часа. За какое время они выкопают эту яму вместе?» Непросто малышам складывать дроби и соображать, что два землекопа вместе выкопают яму всего за два часа. А если взять две бригады по 60 человек такой же квалификации? Неужели они выкопают яму за 2 минуты? По правилам арифметики — конечно. В реальности,— разумеется, нет. Они просто будут мешать друг другу.

В этой задаче — ключ к понятию параллельности. В мозге обрабатываемая ин-формация очень удачно делится между огромным множеством медленно, но зато одновременно действующих систем. Специалисты по вычислительной технике пытаются обучить компьютеры такому образу действий, получившему название «параллельные вычисления». Но здесь пока делаются лишь первые шаги. Очень непросто научить «землекопов» не мешать друг другу.

Наконец, третий кит, который исследователи склонны считать основным «секретом» мозга. Компьютер может с фантастической быстротой выполнить сложнейшую программу — огромный набор доскональных инструкций. Но выполнив их, он так и останется мертвой машиной, не научившейся чему-либо. Теперь представьте себе человека, осваивающего какой-нибудь простой навык. Одно неловкое движение, другое, третье, и … получилось. Почему получилось? Что изменилось внутри? Трудно поверить, что каждый новый навык требует изменения «микросхем» — нейронов, которые к тому же не слишком и надежны. Что же остается?

Остаются связи. Связи между нейронами. В них сейчас все чаще видят разгадку поразительной пластичности мозга. Этот взгляд получил название коннекционизма (от английского connection — связь). Наверно, этот взгляд является любимым детищем или, на худой конец, прекрасным принцем в нейронауке. Итак, связи…

Связи, связи, связи…

Порвалася времен связующая нить
. И я рожден, чтобы ее восстановить.
В. Шекспир

Для любой науки очень полезно, когда в ней есть что-нибудь простое. что легко представить и довольно просто изучить — треугольники, квадраты, движение материальной точки, математический маятник или еще что-нибудь. Такая вещь есть и в нейронауке. Называется она «модель Хопфилда». Она настолько проста, что, познакомившись с ней, многие студенты обычно решают, что стать классиками нейронауки не очень трудно.

Итак, модель Хопфилда. Раньше на фестивалях, спортивных праздниках и других торжествах в моде были «живые картинки».

На одну трибуну садятся нарядно одетые мальчики и девочки с разноцветными флажками. У каждого из них инструкция: по команде «один» поднять флажок такой, по команде «два» — другой и так далее. Им дают команды, а телезрители и зрители на других трибунах видят олимпийского мишку, сказочный лес и множество других замечательных картинок. Набор компьютеров, не подозревающих о существовании друг друга и выполняющих независимо свои программы, вел бы себя точно так же. Но представим себе, что халатный администратор перепутал инструкции или программы. Флажки будут опять подниматься и опускаться, но никакой картинки уже не получится.

Модель Хопфилда устроена очень похоже. Можно считать, что здесь также есть народ, посаженный на трибуну и по команде поднимающий флажки. Для простоты можно считать, что флажки в руках у школьников лишь черные и белые. Только инструкция на этот раз чуть посложнее, почти как у нейрона.

Она может звучать примерно так: «По команде ведущего посчитай сумму. Сначала установи ее равной нулю. Потом посмотри на верхнего левого соседа. Если у него в руках сейчас черный флажок, прибавь к сумме число а, «верхнее левое». Если черный,— отними такое же число. И поступай так с каждым, кто сидит на трибуне. При этом для каждого участника представления есть свое число а. Если сумма окажется больше нуля, подними черный флажок, если меньше — белый.

Для школьников на трибуне правило, пожалуй, сложновато, нужно осмотреть всех соседей, посчитать сумму. Да кроме того у каждого из школьников должна быть своя табличка с числами а. Для компьютеров и нейронов, видимо, в самый раз.
Зато такая группа на трибуне обладает многими полезными, а может быть, даже удивительными чертами. Пусть есть набор картинок, который школьники или «компьютеры» должны показывать. По этому набору каким-то образом находятся «связи», то есть числа а в табличках участников. Теперь представим, что у руководителя сломался рупор. И он, проклиная все на свете, каждому из тех, кто поближе и способен что-либо расслышать, объяснил, у кого какой флажок должен быть поднят. Остальные либо не расслышали, либо не поняли, либо прозевали объяснение. Если бы все было просто и инструкции были такие, как на спортивных праздниках, то неразбериха бы продолжалась.

Здесь же, как по мановению волшебной палочки, «верный кусок» начнет упорядочивать всю картину, и в результате возникает именно то, что надо. На рисунке 1 показана «трибуна» (или нейронная сеть Хопфилда), обученная картинкам-буквам. Вначале установлена одна из букв русского алфавита, на которой только треть флажков правильные. Остальные «нейроны» были невнимательны и подняли не то. Конечно, вы догадались, какая это буква. Если нет, посмотрите на рисунке 2, что происходит «на трибуне». Не правда ли, забавно?
Конечно, читатель понял, что это простейший вариант ассоциативной памяти и что это очень похоже на голограмму. Только умеющую себя восстанавливать. Начальную картинку 1, очень существенную для дальнейшего, можно пышно назвать «входным образом». Конечную — распознанным образом. Другими словами, наша вообра-жаемая «трибуна», или сеть Хопфилда, способна отвечать на вопрос «на что это похоже?», или, говоря по-научному, решать задачу классификации *.

Когда рассказываешь о нейронауке школьникам, академикам или предпринимателям, решившим финансировать исследования, здесь лучше всего сделать паузу. И потом рассказать про нейросистемы, контролирующие с немыслимой точностью качество продукции, нюхающие багаж пассажиров в поисках наркотиков в нескольких крупнейших аэропортах мира. Можно остановиться на «говорящих машинах», способных читать вслух напечатанный текст, для которых не писалось программ и которые были обучены. Обычно очень впечатляют нейросистемы, управляющие сложными технологическими процессами, вначале наблюдающие за действиями опытных людей — операторов, а потом копирующие их действия. Предпринимателей обычно занимают нейросистемы, уже имеющиеся на мировом рынке, и одна оценка экспертов. В соответствии с этой оценкой наиболее дорогим товаром XXI века станет не компьютерное оборудование (hardware), не программное обеспечение (software), а «искусственная психика» — алгоритмы обучения нейронных сетей (способы находить коэффициенты a).

Но все же приключения самой научной идеи мне представляются гораздо более острыми, захватывающими, чем декорации, пусть даже очень красивые, на фоне которых эти события разворачиваются. Поэтому вновь вернемся к модели Хопфилда.

Если запрограммировать эту модель и поиграть с ней на компьютере, задавая различные начальные картинки, то довольно быстро выяснится, что не все обстоит так хорошо, как хотелось бы. Допустим, мы добросовестно учим сеть буквам русского алфавита, задавая коэффициенты а так. как советовал Хопфилд. И вдруг замечаем, что при некоторых входных образах возникает и никуда не девается такая странная картинка, как показано на рисунке 3. Это явление получило название «ложная память». Система породила гибрид, фантом, производя из двух нормальных букв паразитный символ, которого нет в нашем алфавите. Образно говоря, она не только запомнила лошадь и человека. как мы ее просили, но и вообразила себе кентавра. При создании любой работающей системы это — просто бич. Вместо того чтобы крепко стоять на почве реальности, приходится разбираться с фантазиями компьютера.

Но это еще полбеды. Допустим, мы показываем системе какую-нибудь картинку, не похожую ни на одну из букв алфавита. Машина должна скромно сказать, что таких букв алфавита она не знает. Но именно этого нейронная сеть Хопфилда не умеет. Она с самоуверенностью невежды утверждает, что это одна из букв либо пригрезившийся ей фантом. Тут начинается новая история. И о том, что из нее следует, мы поговорим в другой раз.