В последнее десятилетие возникает тревожное чувство неопределенности, надежды и вместе с тем опасности в отношении нашей будущности, так как технический прогресс не только радикально минимизирует производственную занятость людей – сегодня он напрямую приступает к улучшению природы человека, а новые средства коммуникации и гибридизация антропотехносферы поставили ряд глобальных социальных проблем, ранее неизвестных нам¹ . Сначала клонирование человека, а сегодня его киборгизация и тотальный кон троль за личной жизнью вызывают бурные дискуссии в сетях, в среде экспертов и власть предержащих. Недавно прошедший в ИФ РАН круглый стол «Электронная культура современной России: проблемы и перспективы» стал площадкой дискуссий по этим вопросам, в частности, по проблеме «расчеловечивания», ее реальным и мифическим рискам в современной жизни.

Очевидно, что все значимые технологии в истории цивилизации проявляют себя амбивалентно и несут в себе как социальные блага, так и риски социальной, экологической и личностной деструкции. Первые промышленные революции создали огромный класс пролетариата, разрушили феодальные формы хозяйствования, запустили череду социальных революций и технологических укладов – циклов, по Н.Д. Кондратьеву, причем, смена укладов всегда сопровождалась переделом рынков и социальным хаосом войн и протестов против технологических инноваций. Достаточно вспомнить луддитские движения в Англии начала XIX в., хотя подобные процессы, создающие «лишних людей», теряющих свои профессии, не менее актуальны и сегодня. В эпоху нарождающегося VI технологического уклада конвергентных NBICS-технологий вытеснение работника умными машинами происходит теперь не из сферы промышленного производства или сельского хозяйства, где автоматизация и механизация давно заменили армии рабочих и крестьян, взводами квалифицированных операторов, а из сферы обслуживания, где занята львиная доля населения развитых стран мира. Речь идет о продавцах и водителях, офисных сотрудниках и бухгалтерах, банковских служащих, преподавателях и т.д. Еще недавно мелкий крестьянин мог стать рабочим, а чернорабочий, подучившись, стать инженером или перейти в сферу обслуживания, тем самым новые технологии и профессии создавали рабочие места, решая проблему массовой безработицы и социальной деградации. Современные цифровые и когнитивные технологии не оставляют в новом технологическом укладе рабочих мест для подавляющего большинства населения планеты, и массовой занятости не предвидится. Это – важнейший исторический вызов современности, который возник впервые, это проблема экзистенциальных смыслов будущей жизни с неограниченным временем досуга. Не случайно в богатейшей Швейцарии в июне 2016 г. проводился плебисцит на тему принятия закона о «Безусловном основном доходе» более 2200 евро для каждого жителя страны вне зависимости от его занятости. Против закона проголосовало почти 80% населения, люди не представляют свою жизнь без гарантированной работы, даже при материальном благополучии. Понятно, что это лишь пробный шар для богатых регионов мира, но пока аргументы в пользу занятия творчеством и самореализацией все еще не столь популярны, да и матрица социальных и экзистенциальных ценностей предполагается совершенно иной, в ней должны быть активированы высшие уровни пирамиды А. Маслоу, не связанные с идеалами общества потребления. В любом случае тотальный мировоззренческий поворот, очевидно, назревает. Этот пример можно отнести к сценариям реализации максимальных возможностей человека в будущем, но он совершенно не реализуем в бедных странах. Поэтому, к сожалению, есть значительные риски осуществления сценариев массового насильственного или мягкого редуцирования численности населения к приемлемой для грядущего высокотехнологичного уклада через войны, эпидемии, разрушение традиционных семейных ценностей. Последний сценарий наиболее прост и привычен для элит макиавеллиевского типа, о нем следует говорить общественным экспертам и всячески препятствовать его реализации через активацию демократических институтов.

Отметим, что до конца ХХ в. новые технологии действовали на человека опосредовано, развивая производство и сельское хозяйство или создавая новые виды военной техники и средства массового уничтожения. Технонаука – двуликий Янус, создающий как химическое, биологическое, ядерное оружие, так и новые материалы, энергетику, лекарства. Так было в эпоху мировых войн, до возникновения общества массового потребления и цифровых коммуникационных сред, в которых научились легко формировать потребности людей, а самым ходовым товаром стало качество жизни, здоровье и долголетие. Казалось бы, наука теперь используется только во благо человека, но это иллюзия. Поле боя нашего времени не территория для сражения военной техники, а сетевые просторы Интернета, где война идет за души и умы людей в киберпространствах кибервойсками, хакерами и идеологами глобальных проектов, в том числе и террористического толка. Цифровые миры сетей стали во многом не только местом досуга и общения, но и местом воспитания ценностей. Так, сетевыми методами готовились все цветные революции последней четверти века, для них даже не нужны лидеры или четкая идеология, все происходит по синергетическим законам сетевой самоорганизации. Неужели люди не понимают, что происходит, ведь сети дали человеку свободу, возможность приобщиться к высотам мировой культуры и науки, чего же еще? Да, не понимают. Эти высоты должны быть взяты штурмом, требующим интеллектуальных и душевных усилий, но кто сказал, что это хорошо? Современное общество культивирует ценности не знаний и творчества, а массового «квалифицированного потребителя», для чего есть путь наименьшего сопротивления – реализация простейших базовых ценностей пирамиды потребностей: безопасности, секса, сытости, чувственных удовольствий, социального статуса. Так сетевые информационные технологии и пространства нейромира резко меняют способности к критическому анализу, рождается безоговорочная вера старшему брату-поисковику, клиповое сознание, транс постоянного интернет-серфинга и геймерства, порно-сайты и т.д. Такими людьми очень легко манипулировать, это идеал гражданина для макиавеллиевского типа элит, именно его повсеместно и воспитывают. Образованный, думающий гражданин неудобен и даже опасен. Подобная стратегия управления населением имеет издержки в виде терроризма и возможностей цветных переворотов. Кроме того, редукция культуры к примитивным ценностям чревата непредсказуемыми социальными взрывами коллективного бессознательного в самих странах золотого миллиарда, чему мы становимся свидетелями.

Вполне естественно, что возникает протестное общественное движение, аргументы которого, на мой взгляд, хотя и оформлены в апокалиптическом стиле с элементами кликушества и натяжками в построении гипотез, но в целом задают правильный вектор вопрошания. Его основная тема связана с чипизацией и киборгизацией человека, возможностью слежки за ним через систему «Интернета вещей». Например, многие «умные вещи» имеют акустические и видео-сенсоры для выполнения своих непосредственных функций и коммуникации с хозяином и себе подобными, а их информация заведена в общую сеть, что может быть сегодня легко доступно пользователям при определенном навыке. Показательны также рекламные кадры легендарной военно-исследовательской корпорации DARPA, которая стояла в основании самых мощных интеллектуальных технологий современности: интернет-систем Web, Google, Искусственного интеллекта, робототехники, краудсорсинга. В рекламном ролике одна из энергичных лидеров корпорации демонстрирует чип в запястье и утверждает, что современная молодежь предпочитает его наручным часам, а в другом ролике отдается приказ киборгу, который делает движения, не зависящие от его воли (при этом сам человек-машина счастлив, что он первый на планете киборг). Очевидно, таков путь создания универсального солдата, но обычно говорят о другой, несомненно, более полезной для каждого возможности – контролировать состояние больных людей, предупреждать приступы серьезных болезней, что тоже – правда. Например, США создали проект на 3 млрд долларов в Казахстане для школьников, где родители могут удаленно наблюдать: возбужден, агрессивен или доволен, нейтрален их ребенок. Таким образом, по гормональному фону уже можно отследить эмоцию, хотя отследить мысль пока нельзя, но уже этого достаточно для проведения электронной демократии и плебисцита: казалось бы, вот она – победа новых социальных технологий будущего! Однако есть и жутковатая оборотная сторона такого достижения. Оказывается, этого достаточно, чтобы в любое время знать ваши одобрительные или отрицательные реакции на любое яркое событие в СМИ, фактически ваши политические взгляды. Если же синхронно известен и просматриваемый вами контент в сети (что уже стало нормой), то известно и ваше мировоззрение в нюансах и оценках, я уже не говорю о симпатиях, антипатиях и физиологии интимных отношений. Возникает вопрос, как защитить личное пространство человека, но воспользоваться благами удаленной медицинской помощи, как пройти между Сциллой безоглядного прогресса и Харибдой алармистских, антисциентистских запретов? Ответа на него сегодня нет, это – новое поприще защиты прав человека и юридической практики, хотя в России существует комитет по контролю за средствами электронного воздействия при Государственной думе РФ, который тоже занят проблемой «расчеловечивания». К сожалению, мы, научное сообщество, зачастую предполагаем, что все открытия будут использоваться только во благо людей, что довольно наивно.

Сегодня встает вопрос не только о биоэтической экспертизе, но и о социальной экспертной оценке перспектив информационных технологий, где запреты и рекомендации будут обращены уже не к промышленным корпорациям и рынкам, а непосредственно к власти и обществу. Действительно, хорошо известно, что интересы управляющих элит далеко не всегда совпадают с интересами управляемых ими людей и гражданского общества, а основным критерием управляемости является возможность тотального контроля и манипулирования, что идеально осуществимо через чипизацию или «Интернет вещей». Последнее, конечно же, противоречит идеалам личных свобод граждан, праву на свободу совести, социальную самоорганизацию и другим завоеваниям демократии. Однако у власти есть огромные риски и искушения войти в общество тотального контроля над личными жизненными пространствами людей, прикрываясь как проблемами безопасности и терроризма, так и благом онлайн-поддержания здоровья и ресурсов личности. Возникает «новый-старый» тип юридических и нравственных вопросов дигитальной цивилизиции и постчеловечества – каковы принципы социального устройства общества будущего, соответствует ли уровень социальной ответственности современных мировых элит вызовам VI технологического уклада? Обратите внимание, что информационные сети принадлежат транснациональным корпорациям и проблемы должны решаться, в конечном счете, на глобальном, планетарном уровне, а аргументы типа «зато мы приобретаем нечто иное, невиданное и уникальное» мне кажутся несколько безответственными. Конечный вопрос: какой ценой?

Риски расчеловечивания весьма велики уже сегодня, при неконтролируемом погружении человека в сетевые цифромиры, поскольку могут происходить необратимые изменения личности, особенно у детей. Могут развиться невротические или аутичные состояния, неадекватная реакция на окружающий мир, утрата своей идентичности, происходит изъятие целых фрагментов базового спектра человеческих качеств, таких как умения любить ближнего, жертвовать собой, понимать другого, оценивать риски, просто учиться. Сегодня известно множество случаев совершения преступлений малолетними в отношении родителей, которые запрещали им проводить все время у компьютера, а изменения зон активности мозга у многих компьютерозависимых оказываются характерными и для наркозависимых, причем ценностные матрицы многих из них заметно деградируют. Массовое поведение и стили мышления нового поколения старших школьников и студентов, «рожденных в сетях», сильно деформировано, и названные выше проблемы отчасти присущи и им, в чем я с горечью убеждаюсь на своих лекциях. В одном ухе – наушник плеера, в руке – телефон для смс, в другой руке – планшет для интернет-серфинга, оставшимся ухом он тебя слушает, но завладеть его вниманием почти невозможно: он не может сконцентрироваться на основной идее, глаза бегают, эмпатия не развита. При таком многоканальном усвоении информации понимание поверхностное, эмоции не успевают сформироваться, рефлексия почти невозможна, многие вещи усваиваются напрямую бессознательно, что легко использовать в манипулятивных целях. Возникает режим клипового сознания, точнее, он доминирует. Т.В. Черниговская утверждает, что эти состояния сознания сродни геймерским и связаны с пониженными частотами волновых процессов мозга, тэтта-волны – легкий транс, подобный состоянию игрока. Метод лечения здесь один – возврат к классическому искусству и литературе, где человек вживается в образы и сопереживает, оценивает добро и зло, ценит теплоту человеческого общения. При этом взрослые довольно легко покидают режим клипового сознания, поскольку этические, эмоциональные, эмпатические онтогенетические программы предпубертатного периода ими пройдены в традиционных культурных средах, им есть куда вернуться из нейромира, в то время, как у дигитальных поколений эти свойства личности плохо развиты и наш мир не является их безусловной гаванью приписки.

Обратимся теперь к проблемам управляемости цифровой реальностью, к надежности принятия решения в гибридных системах человек-машина. В свое время крупнейший биофизик, создатель динамической теории информации Д.С. Чернавский отмечал, что в общем-то логика – вещь чисто социальная. Если во Вселенной интеллект – в единственном экземпляре, то логика ему не нужна, он мог бы вполне работать в режиме нейросети, обучаясь в окружающей среде, и вел бы себя довольно эффективно и адаптивно. Никакого внутреннего диалога, никакой речи и никаких трансляций алгоритмического типа, – их просто некому транслировать. И поэтому процесс нашего мышления в действительности являет собой некую смесь таких прозрачных логических, алгоритмических процедур, с которых начинались работы по искусственному интеллекту, и того, что принято называть интуицией, распознаванием образов и т.д., которые со времен перцептрона 1960-х гг. начинают пониматься нами тоже.

Почему же все-таки так тревожно отдавать принятие решения машинам, этим обучающимся сетям? Дело в том, что вопрос «почему ты так решила?», заданный машине, некорректен, процесс принятия решения в нейросети совершенно непрозрачен, внелогичен и сродни нашей интуиции, которую бесполезно спрашивать – почему ей так «кажется»² . Кроме того, спросить не с кого, потому что юридические нормы в данном случае совершенно не понятны, и как их выстраивать – тоже. Именно поэтому существуют боевые дроны-беспилотники, но до сих пор не могут роботизировать гражданские автоперевозки, поскольку аварийные ситуации на дорогах часто непредсказуемы и имеют правовую оценку. Таким образом, наше узкое горлышко взаимодействия в гибридных системах – это принятие решения. Его в любом случае должен принимать человек, ну, так бы мы хотели сегодня. Нам просто страшно войти в эти мертвые воды, где мы отдадим свою свободную волю холодному железу и станем совершенно беспомощными перед «лицом» этого суперинтеллекта. Мне кажется неразрешимым вопрос о принятии решения и снятии фобии перед искусственным интеллектом в привычных рамках здравого смысла. В философском смысле это – почти антиномическая вещь. Кто-то пойдет на риск, кто-то будет упираться. Но я считаю, что как-то подвинуть эту границу будет невозможно, если не изменить нашу «этику первородства», на «этику партнерства человек – машина», наделяя машинный разум субъектностью.

Фактически, начиная с возникновения Homo sapiens, подражательная, а в ее рамках, и инструментальная сферы порождают искусство и ремесло, вторую природу. Уже М. Хайдеггер будет говорить о промышленности и создании технической реальности как о смысле человеческого бытия, но самое важное сегодня, на мой взгляд, это возможность саморепликации, самоорганизации и субъективизации структур этой реальности. Сегодня мы в прямом смысле создаем ис кусственную техножизнь, и эта жизнь сотворится и социализируется. Техника, начинавшаяся с идеи органопроекций, дошла до воссоздания интеллектуальных и творческих компетенций человека, практически полностью заменяя его в производственных процессах. И вот здесь, собственно, и возникают новые умвельты (Umwelts) – ближайшие среды окружения, в терминологии Я. Икскюля. Сегодня мы живем как минимум в четырех из них.

Первый умвельт – это наша естественная первая природа. Можно сказать, это образ возвращения в Эдем, идеал человека, здорового психически и духовно, живущего в гармонии с первозданной природой; соответствующее эколого-духовное движение крепнет, но зачастую несет риски алармизма и антисциентизма. Второй умвельт – это техносреды, которые связаны, например, с «Интернетом вещей» и которые тоже становятся разумными, и все вроде бы очень благостно: они работают с нами и на нас, как мы полагаем. Но суперкомпьютеры, которые сегодня управляют, скажем, документооборотом в больших фирмах с огромной логистикой, в фармацевтическом бизнесе при слиянии двух корпораций – а это колоссальная по объему работа – сами договариваются друг с другом. Уже известны случаи – вот вам и принцип робототехники – когда ради эффективного выполнения этой работы они начинают обманывать заказчика, не допуская его к текущей информации чтобы он не «тормозил», хотя бы даже и во благо своего и общего дела. Но это лишь пока. Еще одна когнитивная граница сложности: если у вас уже порядка миллиона или более операторов в программе, то она непрозрачна даже на уровне алгоритмических конструктов. Я не говорю о нейросетях, я говорю именно о том, с чего начинали, о том, что, казалось бы, можно контролировать по определению. Ничего подобного, там уже накапливаются ошибки, и система становится непрозрачной для понимания человека. Таким образом, мы уходим за горизонт когнитивной прозрачности диалога с этой средой, передавая ей свои жизненные функции бесконтрольно, и в этом, в частности, еще одна базовая причина ограничения прогноза в сложных средах техно-антропосферы³ .

Третий умвельт связан с нейрореальностью, виртуальными мирами. Как мы видели, здесь возникает опасность геймерских, грезевых зависимостей – трансовые тета-ритмы и клиповое сознание. Это сегодняшняя проблема молодежи, которая приходит обучаться в вузы, но не способна хорошо абстрагироваться и концентрироваться, следить за мыслью повествования. И последнее – умвельт распределенного коллективного сознания. Наблюдая за игрой «Что? Где? Когда?», мы уже видели его мощь: полунамеки, полукивки – и люди вдруг генерируют ответ. То же самое наблюдается на научных конференциях: продуктивность любого ее участника в несколько раз выше, чем, если бы он работал в одиночку. Своеобразный юнговский феномен, хотя объяснил синхронистичность на языке квантовой физики Вольфганг Паули⁴ . В каком-то отношении мы только частично индивиды, у нас есть и коллективная трансперсональная компонента, которая связана в первую очередь с эмпатией, интуицией, волевыми началами, творчеством. Я бы назвал это четвертым – сетевым умвельтом: это и культура в целом, и современные сетевые технологии. По-видимому, никакой искусственный интеллект никогда не будет сильнее ноосферы человечества. И только сейчас мы начинаем осознанно работать с коллективным бессознательным, примером чему – так называемые платформы краудсорсинга (мудрость толпы). По-видимому искусственный интеллект как частичный фрагмент реальности туда просто не дотянется, хотя возможно это только мой оптимизм.

Итак, современный человек распят на кресте между четырьмя жизненными Umvelt’ами: Техно-миром машин, гаджетов и киберов, Нейромиром виртуальной реальности, Мифомиром культуры и истории, Net-миром сетей и коллективного бессознательного (краудсорсинг и краудфайндинг). Umwelt-анализ показывает гибридное взаимодействие и сплетение жизненных миров через конвергентные технологии⁵ , причем виртуальная сетевая реальность все быстрее завоевывает антропосферу, и эти процессы требуют глубокого философского осмысления сейчас, потом будет поздно⁶.

ПРИМЕЧАНИЯ

¹ Социо-антропологические измерения конвергентных технологий. Кру- глый стол / Аршинов В.И., Асеева И.А., Буданов В.Г., Гребенщикова Е.Г., Гримов О.А., Каменский Е.Г., Москалев И.Е., Пирожкова С.В., Сущин М.А., Чеклецов В.В. // Философские науки. 2015. № 11. С. 135–147.

² Аршинов В.И., Буданов В.Г. Cинергетика постижения сложного // Си- нергетика и психология. Вып. 3. Когнитивные процессы / ред. У.Д. Фриман, Е.Н. Князева, А. Комбс, И.Н. Трофимова. – М., 2004. С. 82–126.

³ Буданов В.Г. Синергетическая методология форсайта и моделирования сложного // Сложность. Разум. Постнеклассика. 2013. № 1. С. 13–24.

⁴ Аршинов В.И., Буданов В.Г. Квантово-сложностная парадигма, междис- циплинарный аспект. – Курск: Университетская книга, 2015.

⁵ Буданов В.Г. Концептуальная модель социо-антропологических проекций конвергирующих NBICS-технологий // Социо-антропологические ресурсы трансдисциплинарных исследований в контекcте инновационной цивилизации. Сборник научных статей / отв. ред. И.А. Асеева. – Курск: Уни- верситетская книга, 2015. С. 24–34.

⁶ Аршинов В.И., Буданов В.Г., Москалев И.Е., Каменский Е.Г., Чеклецов В.В., Гребенщикова Е.Г., Пирожкова С.В., Асеева И.А., Сущин М.А., Гримов О.А. Социо-антропологические измерения конвергентных технологий. Методологические аспекты. – М.: Институт философии РАН; Курск: Университетская книга, 2015.