Russian
| English
"Куда идет мир? Каково будущее науки? Как "объять необъятное", получая образование - высшее, среднее, начальное? Как преодолеть "пропасть двух культур" - естественнонаучной и гуманитарной? Как создать и вырастить научную школу? Какова структура нашего познания? Как управлять риском? Можно ли с единой точки зрения взглянуть на проблемы математики и экономики, физики и психологии, компьютерных наук и географии, техники и философии?"

«КОГНИТИВНЫЙ ВЫЗОВ И ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ» 
Г.Г. Малинецкий, С.К. Маненков, Н.А. Митин, В.В. Шишов

Конечно, можно вслед за Паркинсоном иронизировать и говорить, что, начиная с определенной численности, управленческий аппарат «уходит в отрыв» и перестает нуждаться в объекте управления.

Но, по-видимому, ситуация сложнее. Её предвидел в 1960-х годах американский футуролог Олвин Тоффлер. «Общество третьей волны», «постиндустриальное общество» культивирует разнообразие и использование индивидуальных уникальных (а не массовых) возможностей людей и организаций. И это, естественно, породило гигантский информационный поток, многократно усиленный информационно-телекоммуникационными системами. Станислав Лем удачно назвал это «мегабитовой бомбой».

У чиновников старой школы были свои правила борьбы с подобной ситуацией: «На все бумаги отвечать невозможно. Хороший работник знает, какие указания принять к исполнению, а какие сразу в корзину», «Меньше пишешь – меньше глупости получишь в ответ», «Первый раз – в корзину, второй – в папочку, а как третий раз пришлют бумагу, возмущаясь, что ничего не делаем, начинай думать». Но сейчас-то возможности для коммуникации выросли и большинство жителей развитых стран оказывается в положении мелких чиновников в стремительном информационном потоке.

При этом компьютерные программы быстро совершенствуются – одни роботы ищут информацию, другие ведут наблюдение в Сети, третьи бронируют билеты и организуют логистику. Сотрудник ИПМ, блестящий специалист по системному программированию Э.З. Любимский писал о «возникновении сообщества программ» [ 18 ] – «третьей природы», без которой человечеству уже не обойтись.

И в помощь человеку, чтобы искать, советовать, оценивать, выделять главное, «оставлять себе человеческое», уже необходимы когнитивные системы. И, судя по всему нужда в них будет становиться всё более острой.

Мир полон многоагентных систем – организации, корпорации, отдельные экономические агенты. И. казалось бы, рынок (в широком смысле, как его понимал Н.Н. Моисеев) и «универсальный скаляризатор» – деньги – согласовывают все интересы. Однако и первая волна кризиса в 2009 году, и начало слома мировой финансовой системы показывают, что всё сложнее – нужны другие, более сложные механизмы согласования интересов. Одних денег уже становится недостаточно. Мировой экономический кризис, безусловно, является системным и вызван кризисом системы управления мировым хозяйством на всех уровнях. Поэтому кардинальный выход из кризиса возможен только в случае изменения на нелинейные систем управления всех уровней: местного, регионального, отраслевого и межстранового. И тут тоже свое слово предстоит сказать когнитивным технологиям.

Ещё один вызов – это растущая неадекватность системы образования. «Мы сегодня учим прошлому, в то время как следовало бы учить будущему», – как удачно выразился один из специалистов в этой сфере. С другой стороны, из Древней Греции пришел классический афоризм: «В геометрии нет царского пути!» Но давайте продолжим эту логическую цепь – если царского пути нет, если всему можно научиться по книгам, то для чего нужен учитель? Только ли для того, чтобы пересказывать нерадивым ученикам «облегченный вариант» книжки. Но если это так, то наша цивилизация обречена – очень скоро за время активной творческой жизни человек просто не будет успевать пробиться ни к переднему краю науки, ни дойти до вершин профессионального мастерства. Начнется застой, а там и быстрая деградация.

Но, судя по всему, греки были не правы. Это доказывает и опыт выдающихся учителей, и феномен научных школ, и методики «быстрого обучения» и когнитивные исследования последних лет.

Очень скоро каждому школьнику и студенту можно будет предоставить персонального «компьютерного тьютора» – квалифицированного, настойчивого, терпеливого, готового к интерактивному взаимодействию, к диалогу, ориентированному на то, чтобы ученик поскорее превзошел учителя. По сути, это первоклассное индивидуальное обучение для всех . Разумеется, роль учителя, его знаний, личности, индивидуальности, пройденного им пути никто не отменял и не отменит. (Тут ситуация схожая с компьютерной поддержкой действий лечащего врача и т.д.). Просто появится целый спектр новых возможностей для работы с людьми и для работы со знаниями. «Экономика знаний» вместо красивой мечты в результате использования таких когнитивных технологий может стать вдохновляющей реальностью.

Здесь уместна оценка знаний в экономике, данная классиком современного менеджмента Питером Друкером: «Современный менеджмент и современное предприятие, несомненно, не могли бы существовать без базы знаний, построенной в экономически развитых странах. Однако только менеджмент сделал эти знания и обладающих ими людей по-настоящему эффективными. Возникновение менеджмента превратило знания из продукта роскоши и элемента украшения общества в капитал.

Знания, в свою очередь, стали основным объектом вложений вместо капитальных средств. Так, Япония инвестирует в заводы и оборудование 8% своего годового ВВП. При этом Япония вкладывает, как минимум, в два раза большую сумму в образование. Две трети от этой суммы – в образование детей и молодежи, а остальные средства – в тренинги и дальнейшее обучение взрослых (преимущественно в организациях, которые их нанимают)» [ 19 ].

Представим себе, что благодаря когнитивным технологиям эффективность обучения и использования знаний выросла хотя бы на порядок… Очевидно, страна, которая добьется этого, станет лидером завтрашнего дня. Вероятно, такое в и дение есть не только у нас, поэтому естественно предположить, что «гонка когнитивных технологий» уже началась и активно ведется без лишней шумихи и рекламы.

Машина прогресса

Если ты хочешь перемену в будущем – стань этой переменной в настоящем.
М.Ганди

В Московском физико-техническом институте первокурсникам раньше объясняли разницу между фундаментальной и прикладной наукой. Фундаментальная наука занимается решением проблем, связанных с природой, человеком и обществом. И неизвестно, существует ли это решение. Непонятно, сколько времени, усилий и ресурсов потребуется, чтобы найти его. В случае прикладной науки, напротив, решение существует, и вопрос лишь в том, кто, каким образом и за какие деньги сумеет его реализовать наилучшим образом.

Когнитивные технологии, системы, центры, на наш взгляд, уже вышли на уровень прикладной науки. Важнейшие открытия сделаны и решения найдены. Вопрос лишь в том, как наилучшим образом воплотить их в реальность.

Основополагающий вклад в развитие эволюционной экономики внес выдающийся русский экономист Николай Дмитриевич Кондратьев, связавший волны экономической конъюнктуры (волны Кондратьева) с технологическими укладами. Его идеи были развиты Йозефом Шумпетером. В соответствии с его теорией 90% экономических агентов в нормальной ситуации держатся за старые технологии, хозяйственные связи, стремятся сохранить свою долю рынка и противятся переменам. И только 10% хотят сдвинуть или сломать равновесие, радикально изменить облик той отрасли, в которой работают.

По-видимому, предпосылки созрели для того, чтобы когнитивные технологии, связанные с ними в недалекой перспективе товары и услуги заинтересовали новаторов.

Рис. 3. Инфратраектории, показывающие развитие различных макротехнологически и исчерпание ими своих возможностей

Идеи Н.Д. Кондратьева и И. Шумпетера в конце XX века конкретизировались, развились и использовались для прогноза и планирования. В частности, для основных макротехнологий были построены инфратраектории, показывающие, какую долю от той «экологической ниши», которую при развитии займет данная технология, она занимает в настоящее время (см. рис.3).

Видно, что соответствующие кривые близки к логистическому закону (решению упоминавшегося уравнения . Первый участок (обычно 10-15 лет) связан с фундаментальными исследованиями, подготовкой кадров, пионерскими работами и демонстрацией возможностей новой технологии. Здесь роль государства является решающей. Достаточно вспомнить историю развития ядерных, космических, радиолокационных и многих других технологий.

На втором этапе создаются опытные образцы, новое доводится до уровня товара и услуги. В полной мере используется потенциал прикладной науки. На первые роли выходят не ученые, а изобретатели. Очерчивается круг направлений, где созданное может эффективно использоваться или просто пригодиться. Усилия государства поддерживают предприниматели, видящие близкую и реальную перспективу (обычно это тоже 10-15 лет).

Наконец, третий этап развития макротехнологии (тоже обычно 10-15 лет) – диффузия инноваций, доведение до массового производства, оптимизация, удешевление, совершенствование. Место изобретателей занимают инженеры и технологи. Прибыли и риски на этом этапе обычно берут на себя крупный бизнес и транснациональные корпорации.

На наш взгляд, первый этап для когнитивных технологий пройден. Можно даже сказать, что из-за стремительного развития элементной базы, позволяющей использовать старые решения и алгоритмы на новом техническом уровне, когнитивные технологии «засиделись на старте». И наступает второй этап, когда улучшающие инновации расширяют и углубляют основное русло новой макротехнологии.

Здесь можно привести несколько примеров. Развитие нейронных сетей и их приложений сдерживало отсутствие «удобных» архитектур, в которых легко было бы подстраивать веса связей в зависимости от одновременной активности взаимодействующих нейронов. Однако в 2008 году фирма Hewlet-Packard продемонстрировала новый элемент, идеально подходящий для этой задачи – мемристор. Сопротивление этого элемента меняется в зависимости от того заряда, который через него прошел.

В своё время в научной школе академика И.М. Гельфанда успешно проводились работы по теории и играм конечных автоматов. В работах М.В. Цетлина, В.Ю. Крылова [ 20 ] было показано, как можно строить простейшие системы, способные к целенаправленному, целесообразному поведению в меняющейся среде, каковы могут быть механизмы адаптации и самоорганизации в таких системах. Однако потом работы по играм автоматов были прекращены – сначала не оказалось интересных прикладных задач, для которых оказалась бы нужна созданная теория и построенные модели, а затем развитие пошло по другому направлению. Однако сейчас всё изменилось – появились и задачи, и удобные инструменты для аппаратной реализации многих алгоритмов, и более глубокое понимание когнитивных процессов.

Уже упоминавшийся историк и философ науки Томас Кун разделил развитие научного знания на «нормальную науку» и «научные революции» [ 21 ]. В ходе последних меняются стандарты научных исследований, возникает новый уровень понимания, а прежние задачи предстают в новом свете и для них предлагаются новые решения. Или, как говорят философы, происходит смена парадигм. Под парадигмой Кун понимал, во- первых принципиальное достижение, меняющее стандарт научных исследований, во- вторых, своеобразный «генератор головоломок», дающий работу поколениям ученых и инженеров, если удалось дотянуться до прикладных проблем.

На наш взгляд, научная революция в области когнитивных исследований уже произошла. И возможности продемонстрированы, и первые образцы созданы, и направления развития видны, да и когнитивные центры (концептуальные аналоги первых компьютеров) для решения многих задач уже можно тиражировать. Опыт работы центра, созданного в ИПМ [ 25 , 26 ], показывает, что и интерес к ним, и потребность в них уже достаточно велики. Наступает время нормальной науки, прикладных исследований, развития и совершенствования. Машина прогресса и экономические механизмы довершат начатое. Но где это произойдет, в какие сроки и в каких направлениях зависит от исследователей и инженеров, от нас с вами. Было бы очень важно воплотить имеющийся в России научно-технический потенциал в развитии когнитивных технологий,в когнитивной экономике.

Перспектива

Делать не трудно. Трудно желать. По крайней мере желать то, что стоит делать.
Акутагава

Впрочем, с точки зрения классической стратегии задача, для решения которой нужны лишь время, силы и везение, не представляет серьёзных затруднений.
С.Б. Переслегин

Вновь проведем аналогию между развитием компьютерных и когнитивных технологий. Если следовать этой логике, то когнитивные технологии в перспективе могут привести к созданию новой мегаотрасли, сравнимой с компьютерной индустрией, к массовому производству необходимых всем товаров.

Действительно, вначале компьютеры – электронный аналог счётов – использовались лишь для вычислений. И основное внимание уделялось именно электронике, архитектурам, быстродействию, всему, что связывают с термином hardware .

Когда ключевые проблемы были решены, то центр тяжести переместился в сферу системного программирования, пакетов, прикладных программ, расширения приложений. На этом витке развития и возникла гигантская индустрия программного обеспечения. Достаточно напомнить, что до недавнего времени капитализация лишь трех фирм оценивалась в триллион долларов – Microsoft , Exxon , General Electric , а состояние Билла Гейтса превышало 90 млрд. долларов.

Но, по-видимому, и взлет компаний, занимающихся программным обеспечением позади. Вероятно, существуют программы, достаточно большого объема, которые нельзя отладить, какой бы большой коллектив не брался за дело. В своё время камнем преткновения программ «звездных войн» среди прочего стала необходимость строить программные комплексы объемом в миллиарды команд, создание которых потребовало бы миллионов человеко-лет работы квалифицированных программистов.

Можно предвидеть, экстраполируя эту тенденцию к росту интеллектуальной составляющей компьютерных технологий, рост внимания к алгоритмам и к сложным задачам, близким к предельным потенциальным возможностям вычисляющих систем. Предвестники этого – научная революция в дискретной математике, теории алгоритмов, теории чисел, связанная с развитием криптографии с открытым ключом [ 22 ]. Другое направление – «искусственная жизнь», имитирующая многоагентную систему, способную к адаптации, развитию, эволюции. В уже реализованных программах агент в ходе своего развития может выбрать одну из примерно 2 1000 возможных стратегий [ 23 ].

Но когнитивные технологии ориентированы на следующий шаг – на помощь человеку в постановке задач, на решение плохо формализованных творческих задач, на выявление и эффективное использование своего когнитивного потенциала, своей способности познавать, мечтать, творить. Компьютерные технологии в считанные десятилетия из больших, дорогих, сложных инструментов ученых и военных превратились в товары массового потребления, изменили работу, досуг и образ жизни сотен миллионов людей. Чего-то подобного естественно ждать и от товаров «креативной экономики» (см. рис. 5).

Естественно создание и развитие такой отрасли будет иметь не только экономическое, но и социальное измерение, формирование и рост влияния людей креативной экономики, мыслящих и работающих по-новому – очевидное, но не главное следствие этой траектории развития. Ряд других спрогнозирован коллективом, работающим в Санкт-Петербурге и возглавляемым известным российским исследователем С.Б. Переслегиным [ 11 ] в теории когнитивной фазы развития. В этой теории анализируется, в частности, возникновение элементов нового когнитивного уклада в новейшей истории СССР, США, Японии и показывается, что именно благодаря этим элементам и были достигнуты многие ключевые успехи этих стран. Подводя итог, можно сказать, что развитие когнитивных центров, и, в конечном счёте, построение когнитивной экономики представляет собой не только важнейший инновационный, экономический, но и социальный проект.

История развития техники показывает, что важнейшим условием становления и развития многих технологий был «военный допинг» – их форсированное развитие в интересах оборонного комплекса. Действительно, именно в этой сфере отношение цена/качество может быть очень важным – даже небольшое преимущество в системах вооружений может оказаться решающим при решении оборонных задач.

Рис. 4. Одна из возможностей организации когнитивной отрасли

Такой «военный допинг», очевидно, есть и у когнитивных технологий. общепринятым стало утверждение о том, что слабым местом, «самым медленным кораблем в эскадре» является сегодня человек. Именно область мониторинга, разведки, планирования, стратегического и оперативного управления становится важнейшей компонентой, определяющей военно-стратегический потенциал страны и её способность защищать свой суверенитет. Судя по открытым источникам, развитие и применение когнитивных технологий уже становится важнейшим направлением развития оборонных комплексов ряда развитых стран.

Обратим внимание ещё на одну перспективу. В 1960-е годы предполагалось, что уже в недалеком будущем работы стремительно войдут в производство и быт.

К сожалению, этого в ожидаемом объёме не произошло. Блестящий японский опыт создания безлюдных производств, роботизации автомобильной промышленности – скорее исключение, подтверждающее правило. Страна уже имела огромный внешний рынок ряда высокотехнологичных товаров, куда смогла пробиться, сделав ставку на качество этих товаров. И роботы лишь помогли сделать следующий шаг в том же направлении.

Во многих других странах оказалось выгоднее привлекать дешевую рабочую силу, упрощая технологические процессы, или переносить производство в страны третьего мира, экономя на издержках и не вкладываясь в разработку, производство и использование роботов.

Однако разработки велись, техносфера развивалась, новые потребности и возможности возникали. И сейчас перед роботами открываются и новые перспективы, и новые сферы деятельности. Вновь речь идет о роботах разведчиках, часовых, саперах, санитарах, о беспилотных летающих, плавающих, ползающих аппаратах.

Возникли новые принципы использования роботов, опирающиеся на теорию и алгоритмы самоорганизации. Это «стаи» и «команды», возникающие и распределяющие между собой роли в процессе решения единой задачи. Каждому из таких роботов приходится постоянно оценивать обстановку, действия партнеров и соперников, свои возможности и комбинации, которые можно реализовать в данной ситуации – одним словом решать массу когнитивных задач. Очень велик прогресс в разработке и практическом воплощении мобильных роботов разных типов.

Кроме того, стратегия «наймем дешевую неквалифицированную рабочую силу» имеет ряд издержек, которые для населения развитых стран и, в частности, России становятся всё более очевидными. Долговременные социальные, технологические, демографические, культурные минусы такого подхода всё чаще перевешивают кратковременные, тактические выгоды «латания дыр с помощью мигрантов».

Однако людей во многих сферах жизнедеятельности от сельского хозяйства до обслуживания городской инфраструктуры, от обеспечения охраны до управления военной техникой не хватает. И ход демографических процессов таков, что рассчитывать на быстрое изменение этой ситуации не приходится. Поэтому на переживаемом витке развития вновь возникает вопрос о широком использовании роботов во множестве областей. «Робот-пылесос», «элементы умного дома», «робот-доярка» и другие «концепты» и товары пока дороги, не очень надежны и, как следствие, не очень популярны. Но ситуация стремительно меняется.

По оценке одного из ведущих отечественных экспертов в области робототехники, сотрудника ИПМ, профессора А.К. Платонова, «механические проблемы», связанные с обеспечением движения и других действий роботов уже решены [ 24 ] . По его мнению, магистральное направление развития робототехники будет связано с интеллектом роботов, с их развитием на основе когнитивных технологий.

И здесь есть большая перспектива для прикладной науки России и её промышленности. В ситуации, когда уже не хватает высококвалифицированных рабочих, а также на множество пустующих мест приходится приглашать мигрантов, естественно брать «умением, а не числом». Кроме того, уже достигнут достаточно высокий уровень научных разработок, есть научные школы в сфере робототехники, есть довольно большой опыт (в частности связанный с гибкими автоматизированными производствами), имеется достаточно большой потенциал в сфере когнитивных наук. Да и поезд технологического развития в этой области (в отличие от многих других) ещё не ушел.

Чтобы планы модернизации России, о которых сейчас много говорят, не остались на бумаге, в ближайшее время надо будет выбирать вектор развития и несколько локомотивных отраслей VI технологического уклада. Робототехника, опирающаяся на когнитивные технологии, решающая очень важные задачи российской техносферы и большой внешнеэкономический потенциал – одна из перспектив и реальных возможностей.

Но может быть мы преувеличиваем значение когнитивных технологий в развитии России и мира. Сейчас появились веские основания думать что нет. Остановимся на них более подробно.

В 1960-е годы были популярны эмпирические законы различных типов, характеризующие наблюдаемые закономерности в жизни общества, в науке, в технологиях. Об одном их них – законе Мура – мы уже упоминали.

Другая зависимость, которая тогда обсуждалась науковедами, касается развития науки. По оценке науковедов того времени стоимость науки как социального института, как «машины для производства знаний» пропорциональна квадрату числа ученых . В то же время прирост новых знаний, получаемых научным сообществом, пропорционален . На этом основании делались далеко идущие выводы об ограниченности перспектив экстенсивного развития науки, о неизбежном падении её влияния в обществе, о близости качественных сдвигов в развитии научного знания. Прошедшие с тех времен полвека подтвердили сделанные прогнозы.

Новые горизонты, связанные с когнитивными технологиями, дают глобальные компьютерные сети, виртуальные организации, «электронное правительство», «электронная демократия», социальные сети и т.д.

Число и тип связей определяют и возможности мозга, и эффективность компьютерных инфраструктур, и влияние социальных и иных сетевых сообществ. Принимая это во внимание на взлет «новой экономики» в США, в основе которой лежал информационно-телекоммуникационный комплекс, в ряде других стран капитализацию интернет-компаний оценивали как число связей, пропорциональное , где – число связываемых узлов. Этот механистический взгляд игнорирует специфику когнитивных систем, процессов и, соответственно, возникающей инфраструктуры.

Рис. 5. Сравнение очевидного квадратичного закона роста числа связей, на который рассчитывали в «новой экономике» и того, которые реализовывался в ходе ее развития

Однако кризис новой экономики заставил отказаться от этих заблуждений. Число связей , как оказалось растет по закону . Объяснение «на пальцах» этой зависимости достаточно просто. У большинства узлов нет возможности иметь слишком много связей, они вынуждены выбирать наиболее важные и ценные. Именно по этому пути происходит самоорганизация в сетевых структурах. С другой стороны, важно, чтобы «пройти» от одного узла к другому можно было достаточно быстро. При этом возникает феномен «малых миров», на который обратили внимание социологи. Оказалось каждый житель Земли связан с каждым не более, чем через 6 рукопожатий. Возникает некая иерархия в сети, напоминающая авиационную инфраструктуру. множество мелких аэропортов связаны с крупным – хабом. Хабы, в свою очередь, имеют множество взаимосвязей друг с другом. И именно такая структура на практике оказалась наиболее удобной.

Иными словами, специфика когнитивных инфраструктур приводит к тому, что вместо связей можно обойтись . Иными словами «когнитивный фактор показывает, что «умные структуры», складывающиеся в информационном пространстве дают тем больший выигрыш (по сравнению с очевидной стратегией «все со всеми»), чем больше число узлов они связывают (см. рис. 5 ). (Чем меньше значение , тем больше эффект, тем более «умная» структура возникает).

Вероятно, если бы такие соображения были известны на этапе роста «новой экономики», то развитие этой группы отраслей было бы более устойчивым, а соответствующие экономические стратегии более осторожными и взвешенными.

Когнитивный вызов, с которым столкнулись мир и Россия, открывает новые горизонты. К быстрому прогрессу когнитивных технологий, к превращению этой области в мощную индустрию человечество понуждает объективная потребность быстрого достижения нового качества управления во всё более сложном и нестабильным мире. Кризис мировой социально-экономической системы, который будет долгим и тяжелым, переход к новому технологическому укладу, к новым алгоритмам развития делают эту потребность ещё более острой.

Хочется надеяться, что исследователями, инженерами, руководителями, обществом в целом когнитивный вызов будет быстро осознан. От этого многое зависит.

Литература

1 . Наука России. От настоящего к будущему/ Будущая Россия/ Ред. В.С.Арутюнов, Г.В.Лисичкин, Г.Г.Малинецкий. – М.: ЛИБРОКОМ, 2009. – 512 с.

2 . Капица С.П., Курдюмов С.П., Малинецкий Г.Г. Синергетика и прогнозы будущего/ 3-е издание. – М.: Эдиториал УРСС, 2003. – 288 с.

3 . Будущее России в зеркале синергетики/ Синергетика: от прошлого к будущему/ Будущая Россия/ Ред. Г.Г.Малинецкий. – М.: КомКнига, 2006. – 272 с.

4 . Бадалян Л.Г., Криворотов В.Ф. Динамическая модель исторических экономик// Проблемы математической истории: Математическое моделирование исторических процессов/ Отв. ред. Г.Г.Малинецкий, А.В.Коротаев. – М.: ЛИБРОКОМ, 2008. С.49?77.

5 . Лем С. Сумма технологии/ Собр. соч. Т.13 (дополнительный). – М.: Текст, 1996. – 463 с.

6 . Моисеев Н.Н. Математика ставит эксперимент. – М.: Наука, 1979. – 223 с.

7 . Бир С. Мозг фирмы/ Пер. с англ./ Изд.3. – М.: ЛИБРОКОМ, 2009. – 416 с.

8 . Антипов В.И., Малинецкий Г.Г., Отоцкий П.Л., Шишов В.В. Расчет социально-экономических показателей регионов России в период мирового кризиса. Подготовка кадров, методическое, алгоритмическое и программно-технологическое обеспечение. – М.: ИПМ им. М.В. Келдыша. 2009. Препринт №11.

9 . Бек У. Общество риска. На пути к другому модерну/ Пер. с нем. В. Седельника и Н. Федоровой/ Послесл. А. Филиппова. – М.: Прогресс-Традиция, 2000. – 384 с.

10 . Владимиров В.А., Воробьев Ю.Л., Малинецкий Г.Г. и др. Управление риском. Риск, устойчивое развитие, синергетика/ Кибернетика: неограниченные возможности и возможные ограничения. – М.: Наука, 2000. – 432 с.

11 . Переслегин С.Б. Самоучитель игры на мировой шахматной доске. – М.: АСТ, СПб.: Terra Fantastica, 2005. – 624 с.

12 . Пенроуз Р. Новый ум короля. О компьютерах, мышлении и законах физики/ Перевод с англ. /Изд.3/ Синергетика: от прошлого к будущему. – М.: ЛКИ, 2008. – 400 с.

13 . Малинецкий Г.Г., Потапов А.Б., Подлазов А.В. Нелинейная динамика. Подходы, результаты, надежды/ Синергетика: от прошлого к будущему. – М.: КомКнига, 2006. – 280 с.

14 . Гельфанд И.М., Розенфельд Б.И., Шифрин М.А. Очерки о совместной работе математиков и врачей/ Изд. 2/ Синергетика: от прошлого к будущему. – М.: Эдиториал УРСС, 2004. – 320 с.

15 . Котов Ю.Б. Новые математические подходы к задачам медицинской диагностики/ Синергетика: от прошлого к будущему. –М.: Эдиториал УРСС, 2004. – 328 с.

16 . Чернавский Д.С. Синергетика и информация: Динамическая теория информации/ Синергетика: от прошлого к будущему/ Предисл. и послесл. Г.Г.Малинецкого/ Изд. 3-е, доп. – М.: ЛИБРОКОМ, 2009. – 304 с.

17 . Турчин П.В. Историческая динамика: На пути к теоретической истории/ Пер. с англ./ Под общ. ред. Г.Г.Малинецкого, А.В.Подлазова, С.А.Боринской. Предисл. Г.Г.Малинецкого/ Синергетика: от прошлого к будущему. – М.: ЛКИ, 2007. – 368 с.

18 . Любимский Э.З. На пути к построению общества программ// Программирование. 2009, №1, c .4-9.

19 . Волков О.Г. Требования работодателей и государственный стандарт профессионального образования. Методическое эссе-пособие. – Чебоксары, 2009.

20 . Цетлин М.Л. Исследования по теории автоматов и моделированию биологических систем. – М.: Наука, 1969. – 316 с.

21 . Кун Т. Структура научных революций. – М.: АСТ, 2009. – 320 с.

22 . Мао В. Современная криптография. Теория и практика. – М.: Вильямс, 2005. – 768 с.

23 . Редько В.Г. Эволюция, нейронные сети, интеллект: Модели и концепции эволюционной кибернетики/ Изд.4/ Синергетика: от прошлого к будущему. – М.: КомКнига, 2006. – 224 с.

24 . Платонов А.К. Проблемы и перспективы робототехники// Будущее прикладной математики. Лекции для молодых исследователей/ Под. ред. Г.Г.Малинецкого. – М.: Эдиториал УРСС, 2005. С.315?342.

25 . Малинецкий Г.Г., Митин Н.А. и др. Экспериментальный стенд Комплексной системы научного мониторинга. Структура и функции. – М.: ИПМ им. М.В. Келдыша, 2007. Препринт №47.

26 . Антипов В.И., Десятов И.В. и др. Центр внедрения технологий социально-экономического планирования в России и прогнозирования мировой динамики. – М.: ИПМ им. М.В. Келдыша, 2009. Препринт №10.

Препринт ИПМ им. М.В. Келдыша № 46 2010 год