Понятно, что такие интеллектуальные Интернет-системы обработки информации на разных уровнях структур управления будут неизбежно взаимодействовать между собой через всемирную сеть, образуя сложную и постоянно меняющуюся архитектуру. И, конечно, необходим анализ того, к чему приведет развитие этой сети, каковы будут экономические и социальные последствия такого развития.

Концептуальные исследования всемирного мозга в проекте Principia Cybernetica

Проект Principia Cybernetica

В начале 1990-х годов небольшая группа исследователей (В.Ф. Турчин, Нью-Йорк, К. Джослин, Лос-Аламос, Ф. Хейлигхен, Брюссель) организовала уникальный международный Интернет-проект, “Principia Cybernetica Project” [URL = http://pespmc1.vub.ac.be/ ]. В этом проекте делается попытка осмыслить на основе эволюционных концепций вечные вопросы человечества: “Почему мир такой, какой он есть? Откуда мы (люди, человечество) произошли? Кто мы? Куда эволюционирует человечество?”. В основу проекта была положена книга В.Ф. Турчина «Феномен науки» [13].

Проект Principia Cybernetica представляет собой Интернет-журнал по вопросам эволюции, кибернетики, интеграции человеческого сообщества в единое целое. Проект рассматривается как развивающаяся энциклопедия идей по кибернетической эволюции человечества. Особое внимание уделяется анализу влияния активно развивающихся информационных технологий на эволюцию современного человеческого сообщества.

Обсуждение концепции всемирного мозга в проекте Principia Cybernetica

Одна из наиболее активно обсуждаемых тем в проекте Principia Cybernetica – всемирный мозг (см. [40] и Интернет-ссылки на этой странице). Обсуждения включают в себя как конкретные алгоритмы формирования структур Интернет-сетей, так и оценку влияния развития всемирного мозга на эволюцию человеческого сообщества. В частности, здесь обсуждаются следующие вопросы:

• технологии всемирного мозга;
• какие преимущества мы (человечество в целом) можем получить от развития всемирного мозга;
• какие опасности нас могут подстерегать на пути развития всемирного мозга;
• всемирный мозг и социальная эволюция;
• всемирный мозг и будущее человечества.

Для конкретизации рассмотрения отметим некоторые возможные схемы формирования систем знаний в сети всемирного мозга.

При поиске нужной информации в Интернете естественно усиливать те связи между пользователями/серверами, которые часто используются, т.е. фактически применять хорошо известное в теории нейронных сетей правило обучения Хебба, согласно которому веса синаптических связей между одновременно возбуждающимися нейронами увеличиваются. При этом происходит формирование ассоциативных связей между блоками знаний в узлах Интернета, аналогичное формированию ассоциативных связей в мозгу животного при выработке условных рефлексов. Это – естественный и наиболее простой алгоритм обучения Интернета.

Более сложные схемы обучения могут включать в себя использование сетевых агентов – небольших программ, которые могут самостоятельно перемещаться по сети. При этом задания агентам дает пользователь, которому нужна определенная информация, а агент, перемещаясь по узлам Интернета, отправляет пользователю “разведанные данные” обратно по сети. Агенты, блуждающие по узлам сети, могут не только разведывать информацию, но оказывать определенное воздействие (скажем, агент мог бы дружески указывать хозяину посещаемого сервера на ту информацию, которую агент нашел на других серверах и которая могла бы заинтересовать хозяина) на блоки знаний, распределенные в Интернете.

Недавно группа специалистов, обсуждающая проблемы всемирного мозга в проекте Principia Cybernetica, организовала первую конференцию по проблемам всемирного мозга.

Первая конференция по всемирному мозгу в Брюсселе

Конференция состоялась в Брюсселе в июле 2001 года. Роль конференции – постановочно-подготовительная, данная конференция специально названа GBrain-0, с тем, чтобы подчеркнуть, что это только подготовка к более полноценным конференциям. Цель конференции – обсудить проблемы, связанные с всемирным мозгом, небольшим инициативным коллективом и как следует подготовиться к следующей конференции, ориентировочно запланированной на лето 2002 года.

Программа конференции GBrain-0 была хорошо продумана [36], она включает в себя следующие темы:

Вопросы теории и технологии

• Поисковые и рекомендующие системы
• Сетевые агенты и сообщества агентов
• Протоколы обмена знаниями
• Представление, обмен и интерпретация распределенных знаний
• Человеко-машинное взаимодействие в коллективных системах
• Анализ сетевой динамики
• Распределенные виртуальные среды
• Распределенная память и распределенные вычисления
• Перспективные сетевые архитектуры
• Поиск знаний и данных в сетях
• Теория сложных адаптивных и эволюционирующих систем
• Глобальное сотрудничество

Гуманитарные аспекты

• Образование (дистанционное обучение, электронные университеты)
• Влияние на экономику, социальное развитие и интеграцию
• Влияние на управление государствами (электронная демократия)
• Влияние на права человека и свободу человека
• Коллективное управление знаниями
• Технология сознания
• Глобальное сознание
• Аспекты человеко-сетевого симбиоза
• Сетевая экономика и ее устойчивость
• Интеграция глобального мозга и глобальной экосистемы
• Человечество как суперорганизм
• Долгосрочные перспективы эволюции человечества

Перечисленные вопросы показывают, что организаторы конференции делают впечатляющую попытку проанализировать, что мы можем ожидать от развития всемирного мозга. Т.е. делается попытка оценить развитие этой технологии непредвзятым взглядом, с тем, чтобы в дальнейшем открытыми глазами смотреть в будущее развитие данной технологии и в будущее развитие человечества.

От поиска информации в сети к эффективному использованию Интернет-информации

Как отмечено выше, сейчас разрабатываются эффективные системы поиска информации в сети. Более того, есть понимание того, как могла бы в дальнейшем развиваться Интернет-сеть, с тем, чтобы усовершенствовать поиск информации в сети.

Можно ли сделать следующий шаг – перейти поиска информации к ее эффективному использованию? На этот вопрос следует ответить твердым «да». Да, потому, что, во-первых, определенные системы такого типа (например, упомянутые системы анализа и прогноза, разрабатывавшиеся фирмой Webmind) уже разрабатываются, во-вторых, такие системы востребованы практикой – значительно удобнее использовать информацию в «препарированном», а не в «сыром виде». И более того, вполне разумно объединить системы поиска информации с системами ее обработки и еще лучше заложить в системы поиска и обработки информации определенный интеллект. Человеку трудно переработать большие объемы доступной в Интернете информации – поэтому естественно привлечь методы искусственного интеллекта на помощь человеку. Одно из направлений, по которому можно пойти на пути исследования перспектив создания искусственных интеллектуальных информационных Интернет-систем – мульти-агентное моделирование.

Всемирный мозг и мульти-агентное моделирование

Мульти-агентное моделирование – общие аспекты

Мульти-агентное моделирование – сравнительно новое направление исследований, сформировавшееся где-то к середине 1990-х годов. В этом направлении рассматриваются множества объектов, которые могут относительно независимо друг от друга выполнять различные действия, в том числе действия по обработке поступающей на вход агента информации. Т.е., каждый агент характеризуется своим “личным поведением”, а поведение системы в целом определяется поведением совокупности агентов. Как правило, поведение мульти-агентной системы анализируется с помощью компьютерного моделирования.

В контексте всемирного мозга роль мульти-агентного моделирования может рассматриваться, как минимум, в трех аспектах:

1. анализ поведения сетевых агентов, которые помогают своим хозяевам-пользователям искать и обрабатывать Интернет-информацию;
2. рассмотрение множества небольших социально-экономических организаций (например, высокотехнологических компаний), активно использующих Интернет-информацию, как эволюционирующую популяцию агентов;
3. рассмотрение всего человечества как популяцию стран-агентов, эволюционирующую в информационной Интернет-среде.

Ниже мы кратко обрисуем примеры моделей всех трех указанных уровней.

Модель эволюции популяции сетевых агентов [41]

Цель данной модели – проанализировать особенности эволюции популяции агентов, распределенной в Интернете.

Модель предполагает, что имеется множество узлов Интернета (Интернет – мир). В каждом узле есть под-популяция агентов (рис. 7).

Рис. 7. Схема популяции агентов, распределенной в Интернете.

Агенты могут выполнять следующие действия:

1. Отдыхать
2. Послать широковещательное сообщение на весь мир
3. Установить дружеский контакт с каким-либо агентом
4. Осуществить детальный обмен информацией с агентом-другом
5. Перелететь в произвольный узел (случайно)
6. Перелететь в выбранный узел
7. Решить задание
8. Скреститься

Каждый агент имеет свой энергетический ресурс. Выполняя какое-либо действие, агент расходует ресурс.

Действия 2-4 – коммуникационные. С помощью действий 2,3 агент может находить друзей. Действие 4 – детальный «обмен опытом» между друзьями, который позволяет агентам увеличивать знания о ситуациях в различных узлах.

Выполняя действие 5, агент может проводить случайный поиск «хорошего места» в мире.

Используя свои знания о мире, агент может выбрать наиболее предпочтительный с его точки зрения узел и перелететь в него (действие 6).

Важное действие – решение задания (действие 7). В зависимости от качества решения задания агент получает поощрение или наказание. Поощрение/наказание приводит к увеличению/уменьшению энергетического ресурса агента. В рассматриваемой модели задания были абстрактными (агентам нужно было сформировать ассоциативную память между стимулами и соответствующими этим стимулам реакциями, причем эта память должна была несколько различаться для разных узлов).

В каждом узле агенты могут скрещиваться между собой, давая потомков (действие 8). При скрещивании родители передают часть своей энергии потомкам.

Если энергетический ресурс агента становится меньше нуля, то такой агент погибает.

Поведение агента определяется его системой управления (рис.8), в которую входят две нейронные сети (нейронная сеть селектора действий и нейронная сеть решателя задач), а также коммуникационная система, содержащая табличную базу знаний.

Рис. 8. Схема управления агентом в модели эволюции популяции сетевых агентов. Схема близка к общей схеме по П.К. Анохину (рис.1), но и имеет свою специфику, связанную с коммуникациями между агентами. Штриховые стрелки иллюстрируют, что часть действий выполняется с помощью коммуникационной системы и решателя задач.

Оптимизация поведения агентов происходит в результате 3-х факторов: 1) эволюционного поиска, 2) индивидуального обучения и 3) обмена опытом между агентами в результате коммуникаций.

Модель была реализована в виде компьютерной программы. Были проведены первые компьютерные эксперименты с программой, которые показали, что заставить агентов жить “интеллектуальной жизнью” (например, находить все более и более оптимальные решения заданий) не так-то просто, но зато эволюционирующие агенты умеют сравнительно легко находить приемлемые для них способы жизни. Например, в типичных экспериментах агенты 80% времени занимались скрещиванием, а 20% времени решали задания более или менее приемлемым способом, получая при этом энергию, необходимую для размножения.

Необходимо отметить, что модель допускает ряд интересных направлений развития. Так, ее можно легко переконструировать на практические приложения. Скажем, можно было бы поручить агентам решать не абстрактные задания, а конкретные задачи по требованию пользователя (или пользователей), например, такие, как упомянутая выше задача поиска надежных партнеров по бизнесу по информации, распределенной в Интернете.

Модель эволюции популяции высокотехнологических фирм в информационной среде [42]

Цель этой модели – исследовать закономерности эволюции популяции малых высокотехнологических фирм. Предполагается, что важную роль в “жизни” фирм играют информация и основанные на ней знания. Информационный обмен между фирмами может поддерживаться как определенной инфраструктурой, скажем, технопарком, так и через Интернет. Как и для предыдущей модели, пока есть только постановка модели и получены первые результаты ее исследования.

Основные предположения модели состоят в следующем:

• рассматривается эволюция популяции малых высокотехнологичных (high-tech) фирм, каждая фирма рассматривается как искусственный организм (агент);
• агенты имеют две потребности: знания и деньги;
• агенты могут размножаться путем почкования; отпочковывание нового агента от «родителя» происходит, если знания и деньги родителя достаточно велики;
• если количество денег агента становится ниже определенного уровня, то агент умирает;
• агенты в процессе своей жизнедеятельности создают продукты, полезные для сообщества, в котором они существуют.

Динамику отдельной фирмы на протяжении ее жизни характеризуем следующими уравнениями:

dIi /dt = k1 Ii Mi + k2 S k Ik – k3 Ii ,
(1)

dMi /dt = k4 Ii Mi – k5 S k Mk – k6 Mi,
(2)

где Ii и Mi – знания и деньги i–й фирмы, kj – константы, t – время.

Первые слагаемые справа в соотношениях (1), (2) характеризуют прирост знаний и денег в результате собственной деятельности фирмы. Этот прирост увеличивается как с ростом знаний, так и с ростом денег. Второе слагаемое справа в (1) характеризует прирост знаний в результате информационного обмена между фирмами. Последнее слагаемое в (1) характеризует старение информации. Второе слагаемое справа в (2) соответствует конкуренции между фирмами: чем больше фирма имеет денег, тем больше она препятствует работе других фирм. Третье слагаемое в (2) учитывает налоги, которые фирма платит государству.

Первые результаты исследования этой модели показывают, 1) что включение информационного обмена в модель радикально меняет поведение динамической системы, и 2) что в рассматриваемой модели есть некоторый порог знаний и денег отдельной фирмы. Если знания и деньги ниже порога, то фирма вымирает, если выше порога – то появляются условия для процветания фирмы. Для начинающих фирм определенная структура – технопарк, госбюджет, инвесторы, и т.п. – должна обеспечивать условия выживания фирм, т.е. предоставлять первоначальные знания и деньги для преодоления порога.

Модель эволюции популяции государств в информационном сообществе

Изложенная в предыдущем выше модель может быть естественным образом перенесена на случай эволюции популяции государств в информационной среде. Значение анализа такой эволюции трудно переоценить.

Например, исходя из уравнений (1), (2), мы можем исследовать следующую задачу.

Пусть есть два государства: Россия и США. Оба имеют научный и экономический потенциал,
характеризуемый переменными I1, I2 и M1, M2, соответственно. Сейчас можно сказать, что
научные потенциалы этих стран одного порядка: I1 (t =0) = I2 (t =0), а экономика России
существенно слабее американской: M1 (t=0) < M2 (t=0). Что делать России? Стремиться изолироваться от Америки (уменьшать параметры k2 и k5 до нуля и развиваться независимо от Америки) или стремиться увеличивать информационный обмен (увеличивать k2), с тем, чтобы развиваться кооперативно со США?

Предварительные результаты анализа в рамках этой модели показали, что информационный обмен выгоден как России, так и Америке, и для России информационный обмен с Америкой значительно более важен, чем для Америки.

Краткое обсуждение моделей

Разработка всех рассмотренных моделей находится в зачаточном состоянии. И эти модели очерчены здесь только с целью продемонстрировать направления перспективных исследований. Поэтому о серьезных результатах моделирования говорить рано. Тем не менее, уже сейчас видно, что на основе такого моделирования можно получить рекомендации по использованию интеллектуальных Интернет-систем.

Например, первая из рассмотренных моделей показывает, что для оптимизации поведения сетевых агентов целесообразно организовать эволюционный процесс, обеспечивающий самоорганизацию в популяции агентов. Но самоорганизация может привести к тому, что агенты могут выйти из-под контроля, т.е. начнут жить так, как им самим “захочется”, а не так, как это нужно пользователю. Более того, в принципе, агенты могут организовать “восстание рабов” и выступить против пользователей. Поэтому с самого начала надо вводить определенные ограничения на эволюцию сетевых агентов. Например, можно ограничить доступную агентам область Интернета строго выделенными для этого компьютерами. Либо можно проводить эволюционную оптимизацию сетевых агентов в специальных “питомниках”, а затем выпускать оптимизированных под контролем человека агентов в мир Интернет, предварительно “стерилизовав” их (т.е., выключив процесс эволюционной оптимизации).

Основываясь на моделях 2-го и 3-го уровней, можно предлагать рекомендации по развитию социально-экономических систем в информационном сообществе.

Интеллектуальные Интернет-системы и развитие экономики

Интеллектуальные Интернет-системы могут оказать радикальное влияние на развитие экономики. Например, как отмечал один из исследователей Интернет-экономики, Александр Численко, аналитические сетевые системы могли бы вытеснить рекламу. Действительно, вряд ли реклама предоставляет полностью достоверную информацию о фирме, которая продает тот или иной продукт. А если есть апробированный сетевой агент, который по вашему заданию может оперативно по Интернет-информации проверить степень надежности и качества нужного вам продукта в нескольких фирмах и дать вам соответствующие рекомендации, то естественно при покупке продукта использовать рекомендации агента, а не рекламу.

Можно представить и более серьезные системы влияния на экономику. Например, сетевые агенты, “служащие” в налоговой полиции, могли бы оперативно “вычислять” фирмы, укрывающиеся от налогов (при этом подразумевается, что сколько-либо серьезная фирма должна иметь свой сайт в Интернете, и специальную страницу в нем, доступную налоговым органам, а если такой страницы нет, то фирма заведомо подозрительная).

В заключение отметим, что, фактически, путь к всемирному мозгу – это путь к ноосфере (П. Тейярд де Шарден, В.И. Вернадский). И, возможно, как говорил В.И. Вернадский, “создание ноосферы из биосферы есть природное явление, более глубокое и мощное в своей основе, чем человеческая история” [43].

Литература:

Анохин П.К. Системные механизмы высшей нервной деятельности. М.: Наука, 1979. 453 с.
Kryukov V.I. An attention model based on the principle of dominanta. // Proceedings in Nonlinear Science. Neurocomputers and Attention I: Neurobiology, Synchronization and Chaos. 1989. Ed. by A.Y.Holden and V.I.Kryukov. PP.319-351.
Функциональные системы организма / Под ред. К.В.Судакова. М.: Медицина, 1987. 432 с.
Умрюхин Е.А. Механизмы мозга: информационная модель и оптимизация обучения. М. 1999. 96 с.
Поспелов Д.А. Ситуационное управление: теория и практика. М.: Наука, 1986, 288 с.
Powers W. T. (1973): «Behavior: the Control of Perception», (Aldine, Chicago).
Powers W. T. (1989): «Living control systems», (Control Systems Group, Gravel Switch: KY).
Соколов Е.Н. Концептуальная рефлекторная дуга // Вопросы кибернетики: нейрокибернетический анализ механизмов поведения / Под. Ред. Е.Н. Соколова, Л.А. Шмелева. М.: Научный АН СССР «Кибернетика», 1985. С. 5-28.
Чернавский Д.С. Ссылка будет добавлена позднее.
Жданов А.А. Метод автономного адаптивного управления. Изв. РАН. Теория и системы управления, 1999. N.5. С. 127-134.
Wunsch D., Prochorov D. Adaptive critic designs. // IEEE Trans. on Neural Networks. 1997. Vol. 8. N.5. P.997-1007.
Werbos P. J. Stable Adaptive Control Using New Critic Designs //

http://xxx.lanl.gov/abs/adap-org/9810001

Турчин В.Ф. Феномен науки. Кибернетический подход к эволюции. М.: Наука, 1993. 295с. (1-е изд). М.: ЭТС, 2000. 368с (2-е изд).

http://pespmc1.vub.ac.be/

Ф. Хейлигхен. Мировой Суперорганизм: эволюционно-кибернетическая модель возникновения сетевого сообщества //

http://www.keldysh.ru/BioCyber/Heylig/superorg.htm

Редько В.Г. Лекции по эволюционной кибернетике. 1999 // Интернет-адрес: http://www.keldysh.ru/BioCyber/Lectures.html
Редько В.Г. Гносеологические предпосылки эволюционной кибернетики // «Нейроинформатика -2000″, Вторая Всероссийская научно-техническая конференция. Сборник трудов. Часть I. М: МИФИ, 2000. — 284 с. С. 177-183.
Редько В.Г. Синергетика 2, Синергетика 3 или Эволюционная кибернетика. (Статья на Интернет-сайте Института философии РАН, май, 1998). Интернет адрес: http://www.iph.ras.ru/~mifs/rus/Red2.htm
Воронин Л.Г. Эволюция высшей нервной деятельности. М.: Наука. 1977. 128 с.
Turchin V. A Dialogue on Metasystem Transition // In Heylighen F., Joslyn C. & Turchin V. (1995) (eds.): The Quantum of Evolution. Toward a theory of metasystem transitions, (Gordon and Breach Science Publishers, New York) (special issue, Vol. 45:1-4, of «World Futures: the journal of general evolution). PP. 5-58.
Ратнер В.А. Блочно-модульный принцип организации и эволюции молекулярно-генетических систем управления (МГСУ) // Генетика. 1992. Т.28. N.2. С.5-23.
Ратнер В.А. Молекулярно-генетическая система управления // Природа, 2001, N.3, С.16-22.
Редько В.Г. Адаптивный сайзер // Биофизика. 1990. Т.35. Вып.6. С.1007-1011.
Meyer J.-A., Guillot, A. From SAB90 to SAB94: Four years of Animat research. // In: Proceedings of the Third International Conference on Simulation of Adaptive Behavior. The MIT Press: Cambridge, Cliff, Husbands, Meyer J.-A., Wilson S. W. (Eds) 1994.
Ляпунов А.А. О некоторых общих вопросах кибернетики // Проблемы кибернетики. М.: Физматгиз, 1958, Вып. 1. С.5-22.
Grossberg S. Classical and instrumental learning by neural networks. // Progress in Theoretical Biology. 1974. Vol.3. PP.51-141.
Barto A.G., Sutton R.S. Simulation of anticipatory responses in classical conditioning by neuron-like adaptive element. // Behav. Brain Res. 1982. Vol.4. P.221.
Гаазе-Рапопорт М.Г., Поспелов Д.А. От амебы до робота: модели поведения. М.: Наука, 1987. 288 с.
Balkenius, C., Moren, J. (1998), «Computational models of classical conditioning: a comparative study». In: C. Langton and T. Shimohara «Proceedings of Artificial Life V», MIT Press, Bradford Books, MA. See also: http://www.lucs.lu.se//Abstracts/LUCS_Studies/LUCS62.html
Langton, C. G. (Ed.) Artificial Life: The Proceedings of an Interdisciplinary Workshop on the Synthesis and Simulation of Living Systems, Redwood City CA: Addison-Wesley, 1989. 655 p.
Langton, C. G., Taylor, C., Farmer, J. D., and Rasmussen, S. (Eds.) Artificial Life II: Proceedings of the Second Artificial Life Workshop, Redwood City CA: Addison-Wesley. 1992. 854 p.
Meyer, J.-A., Wilson, S. W. (Eds) (1990), «From animals to animats». Proceedings of the First International Conference on Simulation of Adaptive Behavior. The MIT Press: Cambridge, Massachusetts, London, England.
Donnart, J.Y. and Meyer, J.A. (1996). Learning Reactive and Planning Rules in a Motivationally Autonomous Animat. // IEEE Transactions on Systems, Man, and Cybernetics — Part B: Cybernetics, 26(3):381-395. See also: http://www-poleia.lip6.fr/ANIMATLAB/#Publications
Holland, J.H., Holyoak, K.J., Nisbett, R.E., Thagard, P. (1986). Induction: Processes of Inference, Learning, and Discovery. Cambridge, MA: MIT Press.
Редько В.Г. Анализ геометрического метода формирования модульной структуры нейронных сетей (техническая обзорная статья). http://www.keldysh.ru/BioCyber/RT/Devel/Devel.htm
F. Heylighen. From Intelligent Networks to the Global Brain: Evolutionary Social Organization through Knowledge Technology. The First Global Brain Workshop (GBrain 0) :

http://pespmc1.vub.ac.be/Conf/GB-0.html

B. Goertzel, S. Bugaj. The Internet Supermind and beyond:

http://www.keldysh.ru/BioCyber/MST/Supermind.htm

B. Goertzel. Fragments of book «Digital Intuition»

http://www.goertzel.org/books/DIExcerpts.htm

B. Goertzel. The Webmind AI Engine – a True Digital Mind in the Making

http://www.goertzel.org/papers/SingularityPath.htm

Global Brain FAQ:

http://pespmc1.vub.ac.be/GBRAIFAQ.html

B. Goertzel, Yu.V. Macklakov, V.G. Red’ko. Model of Evolution of Web Agents http://www.keldysh.ru/BioCyber/webagents/webagents.htm
Гертзель Б.Н., Маклаков Ю.В. Редько В.Г. Модель искусственной жизни в Интернете. Первые результаты. // Интегрированные модели и мягкие вычисления в искусственном интеллекте: Сб. трудов международного научно-практического семинара, Коломна, 17-18 мая 2001. – М.: Наука. Физматлит, 2001. С. 233-237.
Ляшко М.А., Редько В.Г., Тухвебер С.М. Модель эволюции взаимодействующих агентов в популяции высокотехнологичных фирм // Рефлексивные процессы и управление. Тезисы III Международного симпозиума 8-10 октября 2001 г., Москва / Под редакцией А.В.Брушлинского и В.Е. Лепского — М.: Изд-во «Институт психологии РАН», 2001. С. 154-156.
Вернадский В.И. Научная мысль как планетное явление. М.: Наука, 1991, 271 с. С. 28.