Нет темы, вызывающей большее количество споров и различных интерпретаций, чем проблема возможности создания Искусственного Интеллекта. И за этими спорами теряется очень важный момент — а что, собственно, будет, если нам удастся создать настоящий, мощный, универсальный ИИ? Будет ли он безопасен? И если нет, то каковы масштабы создаваемого им риска? Статья Э.Юдковского показывает, что риски, связанные с ИИ, очень велики и систематически недооцениваются. Ситуация похожа на ситуацию, имевшую место в годы до открытия цепной реакции на уране, но значительно серьёзнее. Природа не жестока, но равнодушна; эта нейтральность часто выглядит неотличимой от настоящей враждебности. Реальность бросает перед вами один выбор за другим, и когда вы сталкиваетесь с вызовом, с которым не можете справиться, вы испытываете последствия. Часто природа выдвигает грубо несправедливые требования, даже в тех тестах, где наказание за ошибку – смерть. Как мог средневековый крестьянин 10 века изобрести лекарство от туберкулёза? Природа не соизмеряет свои вызовы с вашими умениями, вашими ресурсами, или тем, сколько свободного времени у вас есть, чтобы обдумать проблему. И когда вы сталкиваетесь со смертельным вызовом, слишком сложным для вас, вы умираете. Может быть, неприятно об этом думать, но это было реальностью для людей в течение тысяч и тысяч лет. Тоже самое может случится и со всем человеческим видом, если человеческий вид столкнётся с несправедливым вызовом

К настоящему времени Аральское море – четвертое по величине озеро в мире – полностью потеряло статус стабильной, сверхсложной природной системы, созидательная энергия которой на протяжении последних трех столетий совершенствовала взаимоотношения между различными живыми системами и последними с неживой природой. Аральская экологическая система поддерживала хрупкое, но весьма устойчивое экологическое равновесие на огромных пространствах, гасила энтропию окружающего мира, сдерживала движения пустынь на Север. Что касается Чернобыльской ядерной катастрофы, то и она создала множество проблем – экономических, политических, социальных, причем неполнота и противоречивый характер знаний, касающихся последствий Чернобыльского эффекта, породили пестроту прогнозов, чаще всего высвечивающих только одну сторону проблемы, а именно: необратимость разрушительных процессов, угрозу биологическому разнообразию, здоровью человека. Между тем сегодня на Арале и в Чернобыле мы имеем уникальную возможность наблюдать одну и ту же картину – картину общности явлений критической самоорганизации живых систем, способность организмов, видов, целых родов преодолевать энтропийный барьер и выходить на новые, устойчивые эволюционные режимы. Таким образом, если в зонах крупных экологических катастроф, действительно, что-то и происходит, то это что-то не выходит за рамки великих законов Природы – законов сохранения, гарантирующих стабильность мира атомов и генов, а следовательно, непрерывность бытия жизни.

Человечество переживает эпоху глобальной демографической революции. Время, когда после взрывного роста, население мира внезапно переходит к ограниченному воспроизводству и круто меняет характер своего развития. Это величайшее по значимости событие в истории человечества с момента его появления в первую очередь проявляется в динамике народонаселения. Однако оно затрагивает все стороны жизни миллиардов людей, и именно поэтому демографические процессы стали важнейшей глобальной проблемой мира и России. От их фундаментального понимания зависит не только настоящее, но и после текущей критической эпохи перемен, предвидимое будущее, приоритеты его развития и глобальная безопасность, неравномерность и устойчивость роста. Для понимания этого времени перемен ниже дано краткое изложение теории роста человечества в свете физики разрывных явлений.

Прошло более сорока лет с тех пор, как вышла в свет замечательная книга крупного советского ученого, самого сильного представителя кольцовской школы, биолога-эволюциониста и генетика, основоположника химического мутагенеза, Героя Социалистического труда, лауреата Ленинской премии, члена-корреспондента АН СССР Иосифа Абрамовича Рапопорта “Микрогенетика”. Микрогенетика – это понимание особенностей генетических процессов, таких как аутокатализ (репликация ДНК), гетеросинтез (транскрипция), мутагенез, репарогенез – процессов, протекающих на микроуровне. Микрогенетика – это понимание, дающее ключ для получения глубоких знаний о структуре и функции наследственного вещества, в том числе и с позиции классической термодинамики. В «Микрогенетике» впервые показано термодинамическое своеобразие микрогенетического аппарата, господство в нем порядка, исключающего возможность таких преобразований, которые свойственны химическим веществам, для которых, как известно, высокая упорядоченность возможна только при t абсолютного нуля.

Развитие методов математического моделирования и междисциплинарных исследований позволяет по-новому взглянуть на некоторые научные проблемы. Развитие так называемого «мягкого моделирования», в котором модели строятся, опираясь не на строгие, в первую очередь, количественные законы, а на качественные закономерности, тенденции развития моделируемых систем, правдоподобные гипотезы, позволило подойти к исследованиям в таких науках, как психология, социология, история и т.п. с несколько другой точки зрения, нежели ранее было принято в этих науках. В процессе становления математического моделирования и работы над большими научно-исследовательскими проектами была выработана концепция иерархии упрощенных моделей . Опыт показал, что детальная проработка и моделирование отдельных подсистем изучаемой системы, а потом объединение этих частей в единую модель далеко не всегда приводят к хорошему результату [1,2]. Бывает значительно важнее построить более простую модель и даже очень простую, но отражающую ключевые механизмы исследуемого явления, и только потом, выяснив все ее особенности, усложнять ее, добавляя подробное описание изучаемых закономерностей. Такие простейшие модели, как правило, называют базовыми . Из них, как из кирпичиков, пытаются строить максимальное реалистичное описание изучаемых объектов и процессов. Во многих случаях оказывается, что уже при анализе базовых моделей удается получать новую информацию об исследуемом явлении, не проходя всю иерархию упрощенных моделей снизу вверх от самых простых моделей к самым сложным.

Главный итог данной работы можно сформулировать следующим образом. В достаточно простой модели типа реакция – диффузия обнаружен новый класс нестационарных диссипативных структур. Основными их чертами являются подвижность и способность к мультикативному делению. Структуры такого типа существуют как в одномерном случае, так и на плоскости. В двумерном случае они представляют собой локализованные подвижные образования (химические пятна) чечевицеобразной формы по активатору.
Другим важным итогом работы следует считать обнаруженный в численных расчетах (и подтвержденный экспериментально) эффект остановки автоволн в гомогенной среде на конечном расстоянии от места активации процесса свертывания. В цилиндрически-симметричном случае в результате формируется система фибриновых колец («мишень»), в плоском случае – система параллельных полос.

Инновационная деятельность исключает стандартные решения, и прошлый опыт ограниченно полезен. Задачи такого уровня может решать лишь тщательно подобранная под конкретный проект группа специалистов. Но при этом взаимодействие в группе должно развиваться в согласии с принципами социальной самоорганизации . Именно устойчивая неравновесность самоорганизующихся систем гарантирует чувствительность и надежность в поиске оптимальных решений. Однако для становления и поддержки этого феномена нужна ювелирная точность координации процессов в условиях коллегиальности и автономии человеческой креативности. Лишь при этом кристаллизуется групповой интеллект, метаразум, соизмеримый по сложности инновационным проблемам современности. И вообще говоря, перед лицом грядущих цивилизационных кризисов нам не на что больше надеяться.

А.Г. Вишневский — российский демограф, доктор экономических наук (1983), действительный член Российской Академии естественных наук (РАЕН), руководитель Центра демографии и экологии человека РАН. Сотрудник Института народнохозяйственного прогнозирования РАН (ИНП РАН).

Одним из наиболее заметных явлений демографической истории последних десятилетий стало небывалое снижение рождаемости. Надо научиться жить с низкой рождаемостью, и это гораздо более важная и реалистическая задача – и для общества, и для его полномочных представителей, нежели тупые попытки заставить лететь вспять стрелу времени. Нельзя шутить с мировыми законами. Сейчас низкая, а может быть даже и очень низкая рождаемость – часть механизма, обеспечивающего постепенный возврат мировой демографической системы в состояние равновесия. Этот механизм не зависит от желания политиков и правительств, как не зависит от него движение планет.

В современном обществе динамика социальных процессов зачастую опережает управленческие возможности жесткой структуры государственного аппарата, которая перестает быть адекватной быстро изменяющейся социальной реальности. В качестве альтернативы жесткому реформированию или революционным трансформациям сложившейся системы предлагается концепция государственного управления, в основе которой заложена идея эффективного использования инновационного потенциала двух сопряженных систем – государства и общества. Инноватика государственного управления требует рефлексивных подходов в управлении и понимания сложности социальных процессов. Мы говорим о необходимости разработки новых технологий управленческой рефлексии для эффективного управления сложной социальной реальностью. Эти технологии должны обеспечивать процесс динамического моделирования структуры и процесса государственного управления, включая диагностический мониторинг, дифференциальную диагностику, анализ рисков и моделирование инновационных изменений, а также технологии управления инновационными проектами.