You are here

Законы, которые нам неподвластны.

 

 

 

 

ВИКТОР ЛЕОНОВ, к.т.н., главный редактор журнала "Современное машиностроение"           

 

 

 

 

Девиз Лондонского королевского общества по развитию знаний о природе - «Nullius in verba» - в переводе с латыни означает «Ничьими словами». Собственно это даже не девиз, а предельно лаконичное и ёмкое определение науки, как общей системы знаний, где значение имеют не слова, а теоретические расчеты, эксперименты и эмпирические наблюдения.

 

 

«Nullius in verba»

Есть, по крайней мере, две причины, по которым мы изучаем законы природы.  Первая очевидна: способность накапливать знания и применять их на практике, опираясь на предыдущий опыт - это собственно и есть то, что делает Homo sapiens господствующим биологическим видом на планете Земля. Вторая причина – это возможность экстраполировать полученные знания и получать более или менее вероятные прогнозы на обозримое будущее при тех или иных управляющих воздействиях.

Кроме того, есть еще одно важное обстоятельство, объясняющее, почему наши знания о мире увеличиваются не линейно, а в геометрической прогрессии: новые открытия и изобретения многократно расширяют саму область познания. Самый простой пример: изобретение микроскопа и телескопа сделало возможным изучение микромира и космоса, что ранее было недоступно по вполне понятным причинам.

Впрочем, все сказанное справедливо по отношению к наукам, которые принято называть точными, а к ним можно отнести даже не все естественные науки, не говоря уже о дисциплинах общественных и гуманитарных. Тем интереснее процессы, которые мы сейчас наблюдаем и которые коротко можно описать так: небывалая по своим масштабам и возможным последствиям формализация научных дисциплин, никогда ранее к точным не относившихся.

Первыми и, несомненно, наиболее важными для нас кандидатами на переход в категорию точных наук являются биология и медицина.

Вот как это описывают Рэймонд Курцвейл и Терри Гроссман в своей книге "TRANSCEND: девять шагов на пути к вечной жизни":

"Раньше разработка лекарственных препаратов называлась «открытием лекарств». По сути, мы вели поиск веществ, которые давали бы видимый положительный эффект. Аналогичным образом первобытные люди создавали орудия труда, просто подбирая их с земли: «О, вот лежит полезный камень. Из него выйдет хороший молоток». В те времена люди не умели придавать орудиям нужную форму, позже научились придумывать и создавать инструменты для решения конкретных задач. Сегодня, впервые в истории, мы можем делать то же самое в лечебных целях... Теперь мы можем создавать молекулы для выполнения определенных задач, например для отключения фермента, провоцирующего развитие заболевания, или для формирования белков, способных бороться с этим заболеванием".

Авторы проводят аналогию между современностью и неолитической революцией -  пожалуй, самым загадочным этапом в истории человечества, когда в исторически короткий период люди каменного века, обитающие в разных и практически не связанных друг с другом регионах, перешли от использования подручных средств для охоты и добычи растительной пищи к изготовлению орудий труда, используя для этого шлифование, сверление и другие виды обработки природных материалов. Одновременно произошёл переход от охоты и собирательства к земледелию и животноводству, стали развиваться ремёсла. Всё это закономерно привело к новому общественному укладу, а в дальнейшем - к появлению государственности.

Вопреки логике биологической эволюции (вряд ли повышение трудоёмкости добычи ресурсов и ухудшение качества пищи можно считать преимуществом в процессе естественного отбора) произошёл сознательный переход к производящей экономике, положившей начало, в том числе и техническому прогрессу. Существует множество гипотез, объясняющих причины  неолитизации, однако их обсуждение - определённо не наш формат. И всё же давайте согласимся с тем, что без накопления знаний об окружающем мире, без опыта применения полученных  знаний, все эти изменения не имели бы абсолютно никаких шансов на успех.

Так может мы опять подошли к тому порогу научного и технического прогресса, за которым нас ожидает совершенно новый этап развития?

 

Прощание с неолитом

Считается, что эпоха неолита окончилась с возникновением металлургии, хотя не очень понятно, как замена каменных орудий труда на бронзовые или железные могла существенно повлиять на уклад жизни человека. Я далёк от антропологии, но почему-то мне кажется, что человек эпохи неолита не очень бы растерялся, попади он, скажем, в средневековье. А вот то, что наш далёкий предок смог бы разобраться с машинами вызывает сильное сомнение. Весь его предыдущий опыт и знания ничего подобного не содержат.

Вообще-то (это личное мнение), переход к новому типу цивилизации начался два с половиной века назад, когда была изобретена первая машина и началась эра индустриализации. Сегодня уже вряд ли кто-нибудь рискнёт утверждать, что человеческая цивилизация вообще способна существовать и развиваться без машин.

Кроме очевидного и приятного во всех отношениях улучшения качества жизни, машины дали нам возможность по-новому взглянуть на фундаментальные основы мироздания. Произошло это на рубеже девятнадцатого и двадцатого веков и связано, в основном, с трудами Людвига Больцмана в Европе и Джозайя Уилларда Гиббса в Америке. Работы этих учёных в области статистической физики и термодинамики, сделанные независимо друг от друга, стали основой для появления и развития почти всех точных наук двадцатого века.  

Существует распространённое мнение, что теория информации, теория алгоритмов, теория игр и, наконец, кибернетика обязаны своим появлением второй мировой войне. Как, впрочем, и атомная энергетика. Это утверждение, видимо, лишь отчасти можно считать верным. Война действительно потребовала колоссальной мобилизации всех ресурсов, в том числе ресурсов интеллектуальных. Перед группами ученых, приглашённых после начала военных действий в научные центры США и Великобритании, были поставлены три главные задачи: создание машины для взлома немецкого шифратора Enigma, создание автоматической системы управления орудийным огнем для противовоздушной обороны и создание оружия, многократно превышающего по своей поражающей мощи все известные типы вооружений – атомной бомбы. К решению двух первых задач были привлечены выдающиеся математики Алан Тьюринг, Клод Шеннон, Джон фон Нейман, Норберт Винер и многие другие. Их вклад в сохранение жизней миллионов солдат и мирных жителей неоспорим. Но возникает закономерный вопрос: если бы не война, неужели фон Нейман не создал бы теорию игр,  Шеннон – теорию информации, а Винер – кибернетику? Нет, всё же утверждение, что война является двигателем прогресса, представляется сомнительным. Особенно сейчас, когда прорывные идеи как никогда востребованы в мирной жизни. А вообще есть довольно убедительная гипотеза, что войны возникли вместе с неолитом и не являются естественным состоянием для человека. В таком случае, вместе с остатками неолита должны бы исчезнуть и войны. Или нет?

Так или иначе, вторая половина двадцатого столетия стала временем рассвета точных прикладных наук, в совокупности позволивших вплотную приблизиться к созданию той части машины, которая предназначена для эффективного выполнения коммуникативных, сенсорных и управляющих функций, а также для накопления и обработки информации. Иначе говоря, к концу двадцатого века возникли все предпосылки для создания искусственного интеллекта.

 

Информационные технологии

В 1965 году Гордон Мур, ставший позднее одним из основателей Intel Corporation, обнародовал своё эмпирическое наблюдение, получившее название "Закон Мура". Суть его заключается в том, что число транзисторов на кристалле  микросхемы удваивается примерно каждые два года, и, таким образом, степень интеграции микросхем растет не линейно, а по экспоненте.

Надо сказать, что в то время микроэлектроника делала лишь первые шаги, но, когда это наблюдение с небольшими отклонениями стало подтверждаться из года в год, возник соблазн примерить его к другим высокотехнологичным отраслям промышленности. Получилось не очень.

Возьмём, например, автомобильную промышленность. В своей книге "Моя жизнь, мои достижения" Генри Форд приводит следующую статистику за 1909 – 1921 годы:

 

Годы

Цена в долларах

Выработка автомобилей

1909...10

950

18664

1910...11

780

34528

1911...12

690

78440

1912...13

600

168 220

1913...14

550

248 317

1914...15

490

308213

1915...16

440

533 921

1916...17

360

785 432

1917...18

450

706 584

1918...19

525

533 706

(1918 и 1919 фабрики Форда были загружены военными заказами)

1919...20

575 до 440

996 660

1920...21

440 до 335

1250 000

 

На первый взгляд – имеется экспоненциальный рост числа изготовленных автомобилей при снижении стоимости в 2,5 раза. А с другой стороны, статистика последующих лет в книге Форда не приводится, но мы знаем, что далее рост замедлился, экспонента превратилась в S-образную логистическую кривую, и всё это вполне объяснимо. Стоимость автомобиля имеет нижний предел, который, даже при идеальной организации труда и полной автоматизации не может быть ниже стоимости затрат на комплектацию, материалы и энергию, а сбыт, в свою очередь, ограничен ценой и насыщением рынка.

Еще одно любопытное сравнение было опубликовано в журнале "Scientific American" в 1983 году: "Если бы авиапромышленность в последние 25 лет развивалась столь же стремительно, как промышленность средств вычислительной техники, то сейчас самолёт Boeing 767 стоил бы $500 и совершал облёт земного шара за 20 минут, затрачивая при этом, пять галлонов топлива. Приведенные цифры весьма точно отражают снижение стоимости, рост быстродействия и повышение экономичности ЭВМ".

Наиболее общую трактовку закона Мура предложил Рэймонд Курцвейл (с 2012 года -  технический директор корпорации Google). Он предположил, что действие закона Мура распространяется только на информационные технологии, но при этом экспоненциальный рост должен наблюдаться во всех основных компонентах: технологической интеграции, скорости и рентабельности. Курцвейл назвал это законом ускорения отдачи вложений.

Здесь необходимо уточнение. К информационным технологиям до сих пор принято относить всё, что связано с накоплением и обработкой информации, будь то древние летописи, книги, счёты, арифмометры, ламповые ЭВМ или современные компьютеры. В интерпретации Курцвейла информационные технологии начинаются с микроэлектроники, и их основным признаком является соотношение стоимости материальной и информационной части объекта. Действительно – разве соизмеримы по стоимости кристалл кремния и технологически размещенные на нём аппаратные  и программные средства, в которые вложен труд многих высококвалифицированных специалистов. Так же очевидно и то, что несопоставимо низкая стоимость материального носителя при тиражировании как раз и создаёт экспоненциальный рост рентабельности.

В своей статье "Закон ускорения отдачи вложений", опубликованной в марте 2001 года Рэймонд Курцвейл пишет: "Итак, в XXI веке у нас не будет 100 лет прогресса – будет сразу 20 000 лет (по сегодняшним меркам). «Отдачи», такие как дешевая скорость и рентабельность, также будут расти экспоненциально. Экспоненциально будет расти и темп экспоненциального роста. Через несколько десятилетий интеллект машин превзойдет человеческий, что приведет к сингулярности…".

В подтверждение слов Курцвейла следует отметить, что на рубеже двадцатого и  двадцать первого века состоялись научные открытия, которые очевидно станут определяющими для человечества в самые ближайшие годы. Перечислим лишь некоторые из них.

  • В 1996 году за открытие фуллеренов (углеродных сфер с толщиной стен в один атом) Харальду Крото, Ричарду Смолли и Роберту Кёрлу была присуждена Нобелевская премия по химии. Сейчас на основе фуллеренов разрабатывается огромное количество приложений, в том числе нанороботы для медицинского применения.
  • В 2003 году завершился международный научно-исследовательский проект полной расшифровки генома человека. Сам проект стал блестящей иллюстрацией закона ускорения отдачи вложений: проект был рассчитан на 15 лет и за первую половину срока – 7,5 лет -  удалось расшифровать лишь одну сотую часть генома, но, так как скорость расшифровки возрастала в геометрической прогрессии, работа завершилась даже раньше намеченного срока. С 1990 года (год, когда стартовал проект) стоимость секвенирования одной пары оснований ДНК снизилась в десятки миллионов раз. Генетика стала точной научной дисциплиной и информационной технологией.
  • В 2006 году Нобелевскую премию в области медицины и физиологии получили Эндрю Файр и Крэйг Меллоу за открытие РНК-интерференции (РНКи) - подавления генов двухцепочечной РНК. По сути, это открытие механизма, позволяющего вносить изменения в работу генов в любом возрасте, что в перспективе неизбежно переводит в разряд точных информационных технологий большинство разделов медицины и биологии, а специальность врача становится инженерной.
  • В 2009 году присуждена Нобелевская премия по физиологии и медицине Элизабет Блэкбёрн, Кэрол Грейдер и Джеку Шостаку за открытие защитных механизмов хромосом от концевой недорепликации с помощью теломер и теломеразы. Теломеры – это концевые участки хромосом, которые выполняют защитную роль, но уменьшаются при каждом делении клеток. Таким образом, благодаря этому открытию возникает принципиальная возможность "перезапуска" механизма, ограничивающего количество деления клеток – одного из главных факторов, влияющих на старение и продолжительность жизни.
  • В 2010 году за открытие и исследования свойств графена Андрей Гейм и Константин Новосёлов получили Нобелевскую премию по физике. Применение графена и 3-D печати в энергетическом и транспортном  машиностроении позволит также перевести  их в разряд информационных технологий. Да и других приложений на основе графена разрабатывается великое множество.
  • В настоящее время в корпорации IBM заканчивается работа по полному моделированию коры головного мозга, именно той части мозга, которая отвечает за абстрактное мышление (горячий привет игрокам в Го). Работа является частью процесса по обратному проектированию искусственного интеллекта, в котором участвуют ведущие университеты мира и задействованы не менее 50 000 человек. Темпы выполнения этих работ полностью соответствуют закону ускорения отдачи вложений.

Уже этих открытий достаточно, чтобы осознать реальную возможность сингулярности – той точки, когда, по мнению Курцвейла и его единомышленников, дальнейший ход эволюции станут определять машины, а человек получит джекпот в виде вечной и счастливой жизни.

Чем не искушение?

 

Основной инстинкт

Обещание вечной жизни лежит в основе большинства религий мира. Правда, обещают они вечность либо не в земном существовании, либо вообще в другой жизни. И при соблюдении определённых правил в жизни земной и нынешней. Многие верят, правилам следуют не многие. Собственно это вопросы веры, а не знания.

Есть простые медицинские рекомендации, следуя которым можно избежать многих неприятностей со здоровьем, но многие ли готовы им следовать? Или просто отказаться от вредных привычек и вести здоровый образ жизни? При текущем состоянии медицины это тоже скорее вопросы веры, а не знания. Предыдущий опыт однозначных гарантий успеха не даёт. И почему-то вспоминаются слова великой Фаины Раневской: "Все приятное в этом мире либо вредно, либо аморально, либо ведет к ожирению".

Несмотря на то, что под страхом смерти человек способен на многое, инстинкт самосохранения для него всё же  не основной. А основной – сохранение вида, причём стремление к вечной жизни прямо противоположно целям биологической эволюции и естественного отбора. Может быть, поэтому в мировой мифологии так мало положительных бессмертных персонажей. Да, в общем-то, их и вовсе нет, всё больше оборотни да вурдалаки. Нежить, одним словом.

Так чем же привлекательна концепция Курцвейла и Гроссмана? Тем, что они не предлагают верить в обещания, а оперируют вполне точными понятиями. Их теоретические расчеты изложены в совместных публикациях и реализуется на практике в клинике долголетия в Денвере, США. При желании данные, которые они используют, можно представить в виде компьютерной программы и посмотреть возможные результаты, полученные в процессе моделирования. Они не нарушают законы природы – они используют инструментарий, созданный самой природой.

Определение "вечная жизнь" –  скорее, гипербола, вполне допустимая по отношению к жизни человека. В результате естественного отбора в геноме человека сформировался генетический код, запускающий процесс старения в возрасте 25 лет. Продолжительность активной жизни в современной Японии или Финляндии жителю прогрессивной Европы начала двадцатого века показалась бы если не вечностью, то уж точно фантастикой. Не очень частые примеры долголетия в прошлые века говорили лишь о том, что долгая жизнь возможна в принципе, и это внушало оптимизм. Но если приглядеться – большинство долгожителей, оставивших след в истории, склонностью к здоровому образу жизни не отличались, и способы достижения индивидуального долголетия были не вполне очевидны.

Десятки тысяч, а то и миллионов лет средняя продолжительность жизни человека росла незначительно, и лишь в прошлом веке произошёл настоящий прорыв - в большинстве развитых стран мира этот показатель к началу двадцать первого века превысил 80 лет, то есть за столетие увеличился более чем вдвое. Причин этому несколько: существенное повышение качества жизни, достижения в микробиологии, изобретение антибиотиков и противовирусных препаратов. Нужно ли говорить о том, что всё это прямо связано с прогрессом в приборостроении и машиностроении?

Дальнейший рост продолжительности жизни будет, несомненно, связан как раз  с теми открытиями, о которых говорилось выше.

Геном человека иногда сравнивают с программным обеспечением, которое не обновлялось 50 миллиардов лет. ДНК человека содержит и передаёт по наследству огромное количество давно устаревших или повреждённых генов, миллионы мутаций, многие из которых смертельно опасны. При этом геном каждого человека индивидуален, и для полного выявления и устранения дефектов требуется его полная расшифровка. Экспоненциальное сокращение расходов на расшифровку генома даёт вполне обоснованную надежду на то, что такая процедура очень скоро станет доступной практически любому. Как сейчас, например, томография.

Биотехнологии, созданные на основе открытий последнего времени, позволят произвести "очистку" генома от мусора, скопившегося за десятки тысяч лет, а также устранят многие причины старения организма. Эту перезагрузку Курцвейл называет версией Геном  2.0.

Версия Геном 3.0 в его же определении – это когда по кровеносным сосудам человека побегут нанороботы, исправляя по пути все замеченные безобразия. По расчётам Обри ди Грея, инженера и биотехнолога, основателя "Фонда Мафусаила", ожидаемая длительность жизни человека на конец нынешнего века достигнет 5000 лет – ну чем не вечность. Для сравнения: примерно столько лет прошло со времён появления первых каменных скрижалей. Гроссман и Курцвейл с ди Греем соглашаются, подкрепляя результат собственными расчётами.

Пожалуй, здесь уместно вспомнить знаменитый афоризм Альберта Эйнштейна: " Бог коварен, но не злонамерен". Природа не меняет свои законы, но кто возьмёт на себя смелость утверждать, что нам известна даже малая их часть?

Понятно одно - нашего предыдущего опыта уже недостаточно для принятия верных решений по отношению даже к собственным действиям. У нас просто нет опыта проживания в условиях такого технологического ускорения, Черная Королева из Зазеркалья Льюиса Кэрролла безнадёжно устарела. Помните, она говорила Алисе: "В нашем мире нужно бежать со всех ног, чтобы только оставаться на месте, а чтобы куда-то попасть, надо бежать как минимум вдвое быстрее". В нашем мире этого уже недостаточно - чтобы куда-то попасть, нужно бежать, ускоряясь как минимум вдвое с каждым следующим шагом, и при этом необходимо отчетливо понимать хотя бы ближайшую промежуточную цель этого забега. Добро пожаловать в нелинейный мир!

Несмотря на то, что процесс накопления знаний всегда шёл по экспоненте, очевидно, что в нижней части этой кривой нелинейность развития была практически незаметна на протяжении многих веков и поколений. В двадцатом веке ускорение прогресса было уже очевидно, а в начале двадцать первого столетия технологии стали сменять друг друга с ускорением, ломающим сложившиеся представления о социальном и экономическом устройстве нашего далеко несовершенного, но в целом - довольно стабильного общественного уклада.

Вызовы, которые сейчас стоят перед нами, каких-то десять-пятнадцать лет назад могли показаться лишь забавными фантазиями учёных чудаков. Сейчас эти чудаки стоят во главе самых крупных и технологичных компаний мира, и правительства мировых держав выстраивают свою государственную и социальную политику с учётом их рекомендаций. Управление – оно ведь тоже не может функционировать вопреки законам природы, а если и может, то крайне неэффективно. И последствия такого управления прискорбны. Без вариантов.

 

Управление как точная наука

Попытки как-то связать законы физики и законы общества предпринимались ещё во времена Платона и Аристотеля и не прекращались никогда. Но до середины двадцатого века особых успехов здесь не наблюдалось, если не считать некоторых интуитивных предположений и гипотез.

В 1948 году вышла книга американского математика Норберта Винера "Кибернетика или управление и связь в животном и машине". Несмотря на то, что, по признанию самого Винера, книга была издана небрежно, содержала множество опечаток, она моментально стала научным бестселлером. По сути это была программа для будущего развития части теории информации - такое скромное место кибернетике отвёл сам автор. Однако быстро выяснилось, что кибернетика представляет собой нечто большее.

Второе издание книги, которое вышло в 1961 году с исправлениями и значительными дополнениями, ожидаемо стало классическим трудом уже состоявшейся науки - возможно главной науки двадцатого века.

"Кибернетика" – книга достаточно специальная, требующая знаний основ термодинамики, математического анализа, статистической механики, теории алгоритмов и некоторой компетенции в вопросах биологии и физиологии. С целью популяризации кибернетики  Винер издал книгу, которую назвал "Человеческое использование человеческих существ", и эта книга стала уже бестселлером в самом общем смысле этого слова.

Надо отметить, что работы Винера достаточно оперативно переводили и издавали в СССР, но до середины восьмидесятых их вряд ли можно было назвать доступными. История об отношении к трудам Винера в советско-российских интеллектуальных и политических элитах – особая тема. Тема интересная, полная парадоксов и драматизма, и всё же это предмет отдельного разговора.

Кибернетика впервые позволила математически описать машины и живые организмы как объекты управления и, в тоже время, как сложные управляющие системы. Основные понятия кибернетики: положительные обратные связи для усиления входных сигналов, отрицательные обратные связи для коррекции входных сигналов, "черный ящик" (имеется в виду не бортовой регистратор), "белый ящик", самоорганизация, формы познания, - давно стали важной частью методологии большинства естественных и прикладных технических наук. Обсуждать их значение даже как-то неловко.

С общественными науками всё обстоит сложнее. Человеческое общество, будь то семья, корпорация или государство, представляет собой сложную динамическую систему. Как и в любой системе, поддающейся управлению, в ней действуют законы кибернетики, общие для любой управляемой системы. Вместе с тем, человек, являющийся частью этой системы, сам по себе представляет собой сложную динамическую систему, причём каждый человек индивидуален. Эта индивидуальность во взаимодействии с окружающей средой и другими людьми порождает огромное количество случайных многообразий, которые, тем не менее, в какой-то мере поддаются статистической обработке и имеют ряд общих особенностей.

Нужно честно признать - конечная цель того, что мы называем словом "прогресс", нам абсолютно неизвестна, но промежуточную цель мы вполне можем определить как рост качества жизни каждого члена общества, в условиях постоянно меняющейся окружающей среды. Если заданы критерии, определяющие параметры приемлемого качества жизни (что само по себе – задача не из простых), а также известны способы улучшения этих параметров, то теоретически существует возможность построить систему управления, состоящую, как минимум, из устройства оценки  текущего состояния системы, устройства вычисления коррекций, исполнительного механизма и комплекса сложных обратных связей.

Если речь идёт о государстве, эти функции должны выполнять соответствующие государственные и общественные институты, регулирующие взаимоотношения людей в различных сферах: общественной, производственной, сфере услуг, образования, а в качестве обратных связей должны полноценно функционировать независимые и многочисленные средства сбора, обработки и распространения информации, в том числе и средства массовой информации. Чем сложнее система – тем выше требования к достоверности и оперативности информации, тем быстрее и адекватнее должна быть реакция на сигналы обратных связей, тем надёжнее и точнее должно быть прогнозирование возможных последствий.

Казалось бы всё очевидно и даже банально. Однако первобытное стремление к упрощению, которое выглядит обманчиво надёжным и долговечным, заставляет вновь и вновь прибегать к вертикальной форме управления, где качество решений зависит только от компетенции и вменяемости органа, принимающего решения, а влияние обратных связей ничтожно.

В электронике такой способ управления называется синхронным. Он, безусловно, эффективен и экономичен, но лишь тогда, когда все элементы системы максимально однородны, а внешние воздействия содержат минимум информации и легко прогнозируются на основе даже незначительного опыта. В более сложных и неоднородных системах такой способ управления чреват регулярными сбоями и неизбежно приводит к выходу системы из строя. А самое обидное, что системная поломка, как это часто бывает, происходит в самое неподходящее для этого время.

Общество людей, к примеру, страна Россия, безусловно, относится к системам очень сложным и очень неоднородным. Значит, для успешного синхронного управления её нужно привести  в максимально возможное однородное состояние. Согласно второму закону термодинамики стремление к максимальной однородности, к усреднённому равновесию элементов системы – свойство полностью изолированных систем.

Но Россия всё-таки не КНДР. В силу огромной территории, географического положения, многонациональности и многоукладности превратить её в систему, изолированную от остального мира, категорически невозможно, хотя попытки, как известно, случаются, и они далеко не так безобидны, как кому-то может показаться.

Изоляция невозможна без ликвидации или деградации средств обратной связи – важнейшей части управления сложными системами. Косвенными признаками деградации каналов коммуникации можно считать появление в информационном пространстве фраз "о недопустимости подмены нравственных понятий ложными технократическими теориями", "о вульгаризации философии", "о духовной и исторической миссии", ну и прочее в том же духе – и как тут опять не вспомнить девиз авторитетнейшего Лондонского королевского общества: «Nullius in verba».

Ну а далее всё понятно: возрастание энтропии приводит к неизбежным сбоям в общем функционировании системы; предпринимаются попытки что-то исправить путём замены каких-то элементов в исполнительных механизмах, которые могут на какое-то время устранить локальные причины поломки, но на общую тенденцию к деградации всех компонентов управления системой такой ремонт повлиять не в силах. Природу не обманешь.

В настоящее время проблема усугубляется ещё и тем, что необходимость в существенной реформе управления в той или иной степени испытывают все страны мира. Кардинальной трансформации в ближайшем будущем подвергнутся буквально все стороны жизнедеятельности человека, причем изменения эти уже происходят и будут происходить в режиме экспоненциального нарастания.

Если говорить только о сферах деятельности, непосредственно влияющих на качество жизни: медицине, сельском хозяйстве, энергетике и машиностроении, то уже изменений в этих сферах достаточно, чтобы понять – перемены необратимы и требуют адекватной реакции.

Задача номер один, требующая немедленного решения – подготовка и переподготовка кадров. Как бережно, но быстро реформировать медицинское образование, чтобы готовить врачей-инженеров, врачей-биотехнологов? Возможно ли это без участия студентов и преподавателей в самых передовых научных исследованиях и возможно ли это без международной кооперации? И кто вообще будет готовить профессионалов по специальностям, которых сегодня ещё нет, но завтра без них никуда?

Такого рода вопросы будут нарастать, как снежный ком. Кто готов на них отвечать?

 

Человек или машина?

Казалось бы, мозг человека не должен быть приспособлен к восприятию нелинейного изменения окружающего мира - с точки зрения биологической эволюции такая способность определённо избыточна, и долгое время считалось, что нервные клетки вообще не восстанавливаются. Открытая сравнительно недавно нейропластичность мозга опровергает это утверждение. Более того, оказалось, что свойство пластичности делает мозг едва ли не самым динамичным органом человеческого тела, а его способность к самоорганизации, хотя и находится ещё в стадии изучения, но результаты уже впечатляют. Сейчас мы даже приблизительно не можем представить себе все возможности мозга, хотя судя по ряду заявлений, заслуживающих доверия, процесс познания здесь тоже движется по экспоненте. Человек легко приспособился к ускорениям двадцатого века, и нет никаких причин сомневаемся в том, что мозг человека способен адаптироваться к дальнейшим нелинейным и стремительным изменениям.

Требования к организации системных обратных связей и к качеству обработки их сигналов возрастают не менее быстро. Норберт Винер предвидел это ещё в середине прошлого века. Последние добавленные главы второго издания "Кибернетики", а также его работа "Нелинейные задачи в теории случайных процессов" посвящены, в том числе и вопросам математического описания сложных нелинейных систем. Если в то время задача имела скорее теоретическое значение, то сейчас актуальность проблемы и возможность её технического решения сомнений не вызывают.

И здесь опять возникает вопрос эффективности той системы управлением обществом, которую мы называем государством.

Абсолютно идеального государства быть не может хотя бы по той понятной причине, что нет одинаковых людей. Эффективность государства определяется адекватностью и оперативностью реагирования на поступающие вызовы, и надо признать, что делать это становится всё сложнее и сложнее в силу всё того же ускорения прогресса, а требования к эффективности – всё выше и выше. Притча о Ходже Насреддине, который обещал шаху за двадцать лет обучить осла человеческой речи, определённо потеряла актуальность, как и поговорка: "На наш век хватит".

Так неужели Курцвейл и компания правы, когда говорят, что близок момент сингулярности, и человек неизбежно передаст управление обществом машине, обладающей сверхмощным искусственным интеллектом? С радостью или без – вопрос десятый, в каком именно году - по большому счету тоже не очень важно.

Давайте попробуем отставить на время ту чепуху, которая неизбежным фоном сопровождает выдающиеся достижения на пути прогресса, и отвлечёмся от фантазий алармистского толка, которыми зачастую грешат даже самые вменяемые издания. Давайте вновь обратимся к классике. А точнее – к работам Норберта Винера, который в своих книгах, статьях, интервью многократно возвращался к проблеме нового уровня во взаимоотношениях человека, общества и машин.

Дискуссии на эти темы начались сразу, как только появились первые вычислительные машины. Удивительно, но в середине прошлого века взгляды учёных были также диаметрально противоположны, как и сегодня: одни считали компьютеры средством, которое может избавить человека от рутинных расчётов и затратных экспериментов, другие видели в них средство порабощения человека. Винер считал компьютеры в первую очередь мощнейшим средством коммуникации, хотя компьютерные сети в то время только зарождались, и их перспективы были ещё туманны. Он предполагал, что компьютерные коммуникации могут стать инструментом, способным привести людей к созданию нового типа социальных отношений, более оптимального и справедливого, хотя, как математик, прекрасно осознавал условность этих понятий.

В тоже время, Норберт Винер предупреждал, что искусственный интеллект может быть очень опасен для людей, но не сам по себе, а только в том случае, если окажется не в тех руках. Как, впрочем, и любой другой предмет. Вот только последствия будут несопоставимы, даже если сравнивать с применением атомного оружия.

"Чувство трагедии состоит в том, что мир не является приятным маленьким гнездышком, созданным для нашей защиты, а огромной и в основном враждебной средой, где мы можем добиваться чего-либо большого, только оказывая открытое неповиновение богам, и что это неповиновение неизбежно влечет за собой кару. Это опасный мир, где нет безопасности, за исключением некой негативной безопасности смирения и умеренных стремлений. Это мир, где заслуженную кару несут не только те, кто грешит преднамеренно, но и те, чье единственное преступление заключается в незнании богов и окружающего его мира.

Если человек с этим трагическим чувством приближается не к огню, а к другому проявлению первоначальной энергии, как, например, к расщеплению атома, он будет делать это со страхом и дрожью. Он не прыгнет в ту область, куда боятся ступить ангелы, если только он не готов понести кару, которая постигает падших ангелов. Он также не передаст спокойно машине, сделанной по его собственному образу, выбор между добром и злом, не снимая с себя полностью ответственности за этот выбор.

Я сказал, что современный человек, и особенно современный американец, сколько бы у него ни было «знаний, как делать», обладает очень малым «знанием, что делать». Он благосклонно отнесется к недосягаемой ловкости полученных машиной решений, не слишком задумываясь над побуждениями и принципами, скрывающимися за ними", - это цитата из книги "Человеческое использование человеческих существ".

Под "знанием что делать" Винер понимал не столько общее направление к достижению цели, сколько выбор самой цели. И если в вопросах "знания как делать" машина может, а возможно и должна быть совершеннее человека, то в области "знания что делать" она может и должна получать знания исключительно от человека. А точнее – от людей, потому что проблема формирования заданий для искусственного интеллекта в скором времени станет самой сложной и ответственной задачей человека, слишком велика цена вопроса.

Вот ещё одна фраза Винера, поясняющая эту мысль. Она была сказана им в интервью для журнала "United States News and World Report" и стала афоризмом: "Автомат обладает свойством, которым некогда наделяли магию. Он может дать вам то, что вы просите, но не скажет вам, чего просить"

Ну что ещё здесь можно добавить?