Версия этого аргумента, высказанная собственно Пенроузом была разгромлена в обзоре его книги "Новый разум короля", сделанным знаменитым кибернетиком Джоном МакКарти, изобретателем знаменитого языка программирования ЛИСП:

Аргумент Пенроуза против ИИ... состоит в том, что каков бы ни был набор аксиом, на основе которых программируется работа компьютера, например теория Зермело-Франкла, человек может сформулировать Геделевское высказывание для такой системы, которое будет истинным, но недоказуемым внутри системы.
Простейший ответ Пенроузу заключается в том, что для формулировки высказывания Геделевского достаточно однострочной программы на ЛИСП. Вообразите диалог между Пенроузом и компьютером с такой программой:

Пенроуз: Скажи мне, какую логическую систему ты используешь и я приведу истинное высказывание, которое ты не сможешь доказать.

Программа: Скажи мне, какую логическую систему ты используешь и я приведу истинное высказывание, которое ты не сможешь доказать.

Пенроуз: Я не пользуюсь фиксированной логической системой.

Программа: Я могу использовать любую систему, которая тебе нравится, хотя в основном я пользуюсь системой, основанной на варианте теории З-Ф, и происходящей из работы Давида МакАлестера 1980 г. Не напечатать ли справочное руководство? Ваше же предложение напоминает состязание, кто назовет число больше, причем я должен начать первым.

У Пенроуза есть другой аргумент в пользу того, что человеческий разум не может быть компьютерной программой: он находит крайне сложным представить себе происхождение такой программы. Но сам же Пенроуз описывает этот механизм:

Если мы предположим, что работа человеческого мозга... является просто реализацией некого очень сложного алгоритма, тогда мы должны спросить себя, как такой невероятно эффективный алгоритм мог возникнуть. Стандартный ответ, конечно - естественный отбор. По мере того, как существа, имеющие мозг эволюционировали, те из них, которые обладали более эффективным алгоритмом, могли иметь лучшие шансы на выживание, и следовательно, можно вообразить... некоторого рода естественный отбор, который направлен на приближение ко все более эффективным алгоритмам.

Однако, Пенроуз считает, что "с этим трудно согласится", поскольку он полагает, что (1) любой отбор может действовать только на результат работы алгоритмов, но не на сами алгоритмы, и (2) "малые 'мутации' алгоритма скорее всего бесполезны, и трудно видеть, как путем случайных изменений может возникнуть серьезное улучшение."

Проблема с обоими этими доводами в том, что если считать их истинными, то они могут опровергнуть всю современную теорию биологической эволюции. Все живые существа развиваются по программе, закодированной в молекулах ДНК. Эти ДНК-программы возникли именно таким способом, с которым Пенроузу "очень трудно согласиться". Биологический естественный отбор может на самом деле действовать только на целый организм, а не на программу в ДНК. Кроме того, мутация гена - это почти всегда изменение к худшему. И тем не менее, именно естественный отбор, действующий на такие мутации (и другие случайные изменения генофонда) создал человеческий генотип. Даже оставляя в стороне сложность человеческого разума, само человеческое тело - это замечательно устроенная машина, более сложная, более приспособленная к реальности (то есть способная выжить), и более замечательная, чем любое создание человеческого разума. Человеческое тело настолько прекрасно и сложно, что до тех пор пока Дарвин не доказал обратного, полагали, что оно сотворено непосредственно сверхчеловеческой Личностью, Самим Богом. Поскольку мы знаем, что естественный отбор, действующий на случайные мутации может быть, и на самом деле был более творческим, чем любой человеческий разум, то совершенно логично полагать, что человеческий разум может создавать идеи и сам быть созданным по такому же механизму.
Пенроуз осознает, что его доводы против естественного механизма возникновения разума как программы также можно направить и против современной теории биологической эволюции:

Для моего способа мышления все еще есть нечто таинственное в эволюции, с ее продвижением на ощупь к некой будущей цели. Вещи, как будто сами себя организуют, лучше, чем они "должны" это делать на основе эволюции слепого случая и естественного отбора. Может оказаться, что внешность весьма обманчива.

В самом деле, внешность действительно обманчива. Алгоритмы человеческого разума и человеческой ДНК - оба созданы "эволюцией слепого случая и естественным отбором". Развитие случайных алгоритмов, например "генентических алгоритмов" демонстрирует, как обманчива может быть внешность. Генетические алгоритмы - это компьютерные программы для поиска решений по тому самому способу, с которым Пенроузу "трудно согласиться". И в среднем, такие алгоритмы находят решения более быстро, чем обычные детерминистические алгоритмы.
В течение последних десяти лет, ученые очень разных дисциплин осознали, что случайность играет более существенную роль в изменениях, чем полагали прежде. Палеонтолог Давид Рауп представил убедительное свидетельство того, что исчезновение многих видов произошло благодаря непредсказуемым событиям, вроде столкновения с Землей гигантского метеорита (теперь этот механизм общепризнан в качестве объяснения для исчезновения динозавров 70 миллионов лет назад). Эволюционист Джон Мэйнард Смит еще более уверен в случайностях, чем Рауп:

Если бы кто-нибудь попытался повторить всю эволюцию животных, начиная с раннего Кембрия (и чтобы удовлетворить Лапласа, сдвигая одно из животных на два фута влево), нет никакой гарантии, что результат будет тем же самым. Может не быть соревнования на суше, прогресса млекопитающих, и следовательно - не будет человека.

Экономист Пол Крюгман произвел революционный переворот в теории международной торговли в 80-е годы, установив тот факт, что любая страна может стать главным производителем какого-нибудь товара, если ей посчастливится его впервые произвести. Например, нет никакой серьезной причины для того, чтобы считать Сиэттл лучшим местом на Земле для производства больших самолетов, хотя большинство таких самолетов в настоящее время производятся здесь. Наиболее вероятная причина этого в том, что поскольку расходы на исследования и проектирование этих машин так высоки, в мире может быть только один или два таких производителя, а Сиэттл - это просто то место, где оказался главный производитель. Логика технологии и экономики требует, чтобы производство больших самолетов было сконцентрировано где-нибудь, и Сиэттл просто оказался этим самым "где-нибудь". Короче говоря, я думаю, что Пенроуз серьезно недооценивает важность случайности в эволюции и человеческом творчестве.

Но мой главный аргумент против пенроузовского отрицания ИИ - это ограничение Бекенштейна, согласно которому существует верхняя граница числа различных квантовых состояний, в которых может находится область конечного размера и энергии, и верхняя граница скорости, с которой могут происходить изменения этих состояний. Ограничение Бекенштейна будет обсуждаться позднее более подробно в главе 9 и в Приложении для ученых, так что сейчас я приведу только краткую формулировку. Согласно квантовой механике, любая физическая система исчерпывающе описывается ее квантовым состоянием. То есть система является своим квантовым состоянием. Физик Якоб Бекенштейн показал, что квантовые системы - а согласно физике, все что мы видим - это квантовые системы - имеют только ограниченное число состояний. В частности, человек может находится в одном из 10¹⁰⁴⁵ состояний, и претерпевать 4*10⁵³ изменений в секунду. Эти числа, конечно, колоссальны, и если говорить о реальности, то скорее всего настоящие величины гораздо меньше, чем эти верхние пределы. Но они тем не менее конечны, и основаны на центральных законах квантовой механики. Таким образом доказано, что человек является конечным автоматом, и ничем кроме конечного автомата. Пенроуз - замечательный физик, естественно принимает достоверность ограничения Бекенштейна. Но это опровергает его утверждение о том, что человек не может быть машиной.
Нет нужды говорить, что Пенроуз не согласен. Читатель этой книги может заметить, что я питаю огромное уважение к Роджеру Пенроузу. Он создал общую глобальную теорию относительности, главную область моих исследований. Да и основная идея Точки Омега построена на пенроузовской концепции "п-границы", как я буду говорить в главе 4.
Рождер впервые сказал мне о своем несогласии в 1984, во время ланча на астрофизической конференции в Иерусалиме. На другой астрофизической конференции, на этот раз в Беркли, Калифорния в 1992, у нас была острая дискуссия с Роджером по поводу ИИ, снова за ланчем, но на этот раз к нам присоединился в качестве посредника П. Дэвис (Пол совершенно нейтрален в отношении ИИ, но склоняется в сторону скептицизма Роджера. Строгий постулат ИИ слишком "редукционистичен" для Пола).
В наших дебатах Роджер соглашался с ограничением Бекенштейна, но утверждал, что теорема Геделя исключает детерминизм, и число возможных состояний, разрешенных ограничением Бекенштейна для человека слишком велико, для чисто случайной эволюции между состояниями, способной объяснить прогресс математики. Следовательно, настаивал Роджер, должно быть нечто, управляющее скачками между квантовыми состояниями помимо квантовой механики, и следовательно мы не являемся конечными автоматами.
Я согласен с обоими доводами Пенроуза, но не принимаю его выводов. Мне все еще кажется, что разумная смесь случая и необходимости, постулируемая в современной эволюционной теории для объяснения создания человеческих существ, достаточна также для объяснения эволюции математики. Конечно это означает, что эволюционная история математики неизбежна не более, чем эволюция вида Homo Sapiens. В Теории Точки Омега прогресс неизбежен, но точная история этого прогресса - нет. Могут даже быть периоды отступления. Даже если бы и был неизвестный физике механизм, вызывающий переходы между состояниями, постулированный Пенроузом, двух ограничений Бекенштейна все еще достаточно, чтобы мы были конечными автоматами.

Компьютерная теория описывает два радикально различных типа автоматов: конечные и бесконечные. Поскольку это различие является ключевым в этой книге - тот факт, что мы - конечные автоматы, позволяет доказать, что однажды бесконечный автомат воскресит нас, я опишу оба этих типа в деталях.

Конечные автоматы ограничены в двух отношениях. Во первых, такой автомат имеет только конечное число состояний. Во вторых, время для такого автомата течет дискретно. На самом деле время может быть и непрерывным, но конечный автомат не видит этой протяженности. Его часы цифровые.
Давно известно, что система зрения у человека работает по дискретному принципу. Фильм или видеозапись в действительности состоит из серии дискретных картинок, мелькающих на экране со скоростью 25 кадров в секунду. Когда эти неподвижные картинки появляются на экране кинотеатра или телевизора, то создается иллюзия движения. Но его нет. Видеомагнитофон, кинопроектор и ваш мозг - это конечные автоматы. Для всех конечных автоматов время идет целыми числами: t = 1, 2, 3...

Конечные автоматы таким образом определяются значением их внутреннего состояния S(t) в данный момент времени t, и заданием правил, которыми они отвечают на любой внешний стимул. Поскольку автомат конечен, существует конечное число возможностей S(t), независимо от того, в какой момент времени это происходит: ( s₁, s₂, s₃....s_N ). В любой момент времени t, S(t) - одна из n возможностей. Ответный сигнал R(t+1) конечного автомата в момент времени t+1, помните, что время здесь идет дискретно, может зависеть только от от внешнего воздействия I(t) в момент времени t и внутреннего состояния S(t) автомата в момент t .
Внешний сигнал I(t) может вызвать изменение внутреннего состояния автомата. Поскольку время течет дискретными интервалами, внутреннее состояние S(t+1) в момент t+1 может зависеть только от входного сигнала I(t) в момент t и внутреннего состояния S(t) в момент t.
Конечный автомат полностью определяется заданием двух функций перехода S(t+1) и R(t+1). Каждая из этих функций определяется конечным числом входных значений, так что каждая может быть представлена в виде таблицы с конечным числом элементов. Например, рассмотрим простой автомат только с двумя состояниями, s₁ и s₂, и предположим, что он может воспринимать только два входных сигнала, которые мы обозначим числами 0 и 1. Пусть работа автомата будет заключаться в сохранении четности или нечетности количества единиц, которые он получает. Таблицы перехода выглядят следующим образом:

Эти таблицы показывают, что состояние S и сигнал на выходе R остаются теми же самыми если на входе 0, и изменяются, если на входе 1. Таким образом четное число единиц на входе не изменит состояния автомата. Это очень скучная машина, но все конечные автоматы вообще говоря похожи, разница только в размерах таблицы переходов. Поскольку человеческий мозг может кодировать 10¹⁵ бит, и, как мы рассмотрим в главе 9, число возможных состояний в которых может находится мозг составляет 10¹⁰¹⁵, так что таблица переходов S(t) для человеческого мозга содержит 10¹⁰¹⁵ элементов.
Теперь мы имеем точное определение конечного автомата, и ясно, что мы являемся именно такого рода машинами, даже если мистические пенроузовские квантовые скачки были бы реальными (Как я указывал не думаю, что такие силы существуют). Потому, что эффект любой такой силы может быть описан в точности как то, что называется "внешний сигнал".

Можно доказать некоторые достаточно общие теоремы об ограничениях конечного автомата. Вот одна из них:

любой конечный автомат в отсутствие внешних стимулов с необходимостью придет к состоянию, после которого он будет бесконечно повторять совершенную периодическую последовательность состояний.

Доказательство этой теоремы простое. Поскольку число состояний, в которых может находиться автомат конечно, то после конечного числа шагов он вернется к тому состоянию, в котором уже побывал прежде. Но поскольку отсутствуют внешние сигналы, позволяющие определить в первый раз он пришел к этому состоянию, или уже побывал здесь, автомат будет снова и снова проходить через те состояния, где он уже побывал. Это первый пример того, что я называю Теоремами вечного возвращения. Такого рода теорема гласит, что физическая система должна возвращаться в свое предыдущее состояние вновь и вновь. Даже при наличии внешних стимулов, мы увидим, что конечный автомат, если он функционирует вечно, должен совершать такое вечное возвращение. Но, если внешний стимул не является периодическим, то последовательность состояний, в которые попадает конечный автомат тоже не будет периодической. Однако он обязательно будет возвращаться в свои предыдущие состояния. Конечный автомат, безусловно, очень занудная машина.
Бесконечные автоматы куда более интересны.

рис. II.1 (оригинальный рисунок мне не известен. Я использовал на мой взгляд наиболее подходящий. Прим. А. С. )

Машина Тьюринга - это прототип всех бесконечных автоматов. Она состоит из конечного автомата (называемого головкой) который соединен с бесконечной бумажной лентой. (Здесь слово "бесконечная" означает "неограниченная" или "потенциально бесконечная" , а не "действительно бесконечная"). Машина Тьюринга показана на рис. II.1. Бумажная лента разделена на клетки одинакового размера. Головка может совершать только пять действий. Во-первых, она может записывать один из фиксированных символов, число которых конечно, на ту клетку, на которой она находится (двух символов, например 0 и 1 достаточно). Во-вторых, она может читать символы, написанные в данной клетке. В третьих, она может запоминать прочтенное (существует только конечное число вариантов, которые она может увидеть в клетке). В четвертых, она может стирать написанное в данной клетке (и заменять другим символом). В пятых, она может передвигать ленту в точности на одну клетку вправо или влево. Как и для всех конечных автоматов время является здесь дискретной величиной. Каждая из рассмотренных выше операций требует одной единицы времени.
Головка действует как запоминающее устройство машины Тьюринга. Поскольку лента бесконечна, машина Тьюринга имеет возможности, оставляющие далеко позади любой конечный автомат. В частности, она способна симулировать любой конечный автомат. Поскольку таблица переходов для любого конечного автомата конечна, очевидно, что эти числа могут быть закодированы на ленте машины Тьюринга. Кроме того, эти числа могут быть закодированы таким образом, что машина Тьюринга может использовать их для расчета реакции любого конечного автомата на любой внешний стимул. В глубоком смысле, числа таблицы переходов, закодированные на ленте машины Тьюринга являются конечным автоматом. Все, что может совершить реальный автомат с данной таблицей переходов, может совершить его цифровой двойник на ленте машины Тьюринга. "Автомат", который существует в виде чисел в машине Тьюринга (или другого компьютера) и который не является реальным физическим устройством, называется виртуальной машиной. Вирутальная машина, имеющая ту же таблицу переходов, что и машина в реальном мире, представляет собой совершенную компьютерную симуляцию машины реального мира. Такая симуляция называется эмуляцией. Большинство компьютерных симуляцией, конечно же не являются эмуляциями. Сегодня могут быть эмулированы только самые примитивные машины, поскольку память компьютеров и скорость вычислений, необходимые для эмуляции могут быть очень большими. Но все конечные автоматы могут быть эмулированы машинами Тьюринга.

Машины Тьюринга могут эмулировать другие машины Тьюринга. На самом деле существует единственная машина Тьюринга, называемая универсальной машиной Тьюринга, которая может эмулировать все машины Тьюринга, включая саму себя. Мы можем таким образом иметь иерархию машин, эмулирующих другие машины. Машина Тьюринга Т₀ может быть реальной машиной, но внутри ее имеется виртуальная машина Т₁, а внутри последней - виртуальная машина Т₂, которая в свою очередь кодирует машину Т₃ и так далее. Эти уровни виртуальных машин внутри других виртуальных машин называются уровнями воплощения (имплементации). Очевидно, что машины более высоких уровней полностью исполняются в машинах низких уровней. Следовательно, с высокими уровнями ничего не произойдет, если одну или более машин низкого уровня заменить совершенно другими. Нужно лишь, чтобы замененные машины были бы способны эмулировать машины высоких уровней с той же самой скоростью. Как правило, для реальных компьютеров машины различных уровней не смешивают между собой, однако это сделано лишь для облегчения жизни программистам-людям, а не потому, что того требует математика. Если машина перенесена на более высокий уровень воплощения, говорят, что она подгружена, а если такой перенос происходит на более низкую ступень, то говорят, что машина выгружена.

Существует бесконечное число машин, которые полностью эквивалентны универсальной машине Тьюринга, и следовательно могут эмулировать любые другие машины. Десятки таких машин описаны в компьютерной литературе, но я ограничусь только двумя: компьютером бильярдных шаров и игрой Жизнь.

Компьютер бильярдных шаров состоит из шариков, которые сталкиваются между собой и с упругими стенками, причем такие столкновения подчиняются стандартной ньютоновской механике. Шарики двигаются по бесконечной плоскости с постоянной скоростью, пока не столкнуться со стенкой или с другими шариками. Эта плоскость может быть разделена на клетки, а присутствие или отсутствие шарика в клетке можно рассматривать как 0 или 1 соответственно. Такое разделение на клетки эквивалентно бесконечной ленте в машине Тьюринга, шарики эквивалентны символам, которые головка записывает на ленте, а столкновения играют роль головки. Строгий анализ показывает, что существуют такие наборы шариков и стенок, с помощью которых можно вычислить все, что позволяет вычислить машина Тьюринга.
Игра Жизнь - это простая компьютерная игра, изобретенная английским математиком Джоном Конвеем. Как и в случае бильярдного компьютера, имеется бесконечная плоскость, разделенная на клетки. Каждая клетка или пуста, или содержит единственную точку. При переходе от одной дискретной единицы времени к другой для изменений в каждой клетке есть лишь три возможности:

1) в пустую клетку ставится точка;
2) из клетки, содержавшей точку последняя удаляется;
3) точка остается в той клетке, где и была.

Правило для выбора между этими тремя возможностями очень простое: каждая клетка граничит с восемью соседними. Точка будет добавлена в пустую клетку, если три из ее соседей содержат точки. Если клетка уже содержит точку, она сохранит ее до тех пор, пока двое или трое ее соседей будут также содержать точки, иначе она удаляется. Пример поведения точечной структуры называемой глайдером, эволюционирующей в течение пяти временных шагов приведен ниже. Глайдер изменяет свою форму, но на пятом шаге он ее восстанавливает такой, как она была на первом, и вся система в целом оказывается перемещенной в новое место на плоскости. Создавая структуры, подобные глайдеру, в игре жизни можно симулировать и эмулировать любую машину, которую может эмулировать машина Тьюринга.

("планер" я тоже взял из имеющейся у меня коллекции изображений, так как текст перевода был лишен рисунков. Прим. А.С.)

Если вы понаблюдаете за такими примерами лет шестьдесят, станет совершенно ясно, что невозможно представить себе машину, способную сделать то, чего не может сделать универсальная машина Тьюринга. Это хорошо демонстрирует то, что такой машины не существует.

Гипотеза о том, что такой машины не существует, или говоря другими словами, гипотеза о том, что универсальная машина Тьюринга (или ее эквивалент) может эмулировать любую машину называется тезисом Черча-Тьюринга. Обсуждавшаяся выше Проблема Остановки, также применима и к машине Тьюринга, и таким образом ни одна машина не может разрешить эту проблему.

Тот факт, что многие машины являются универсальными ввел в заблуждение Джона Сирла, философа из Калифорнийского университета. Он выдвинул широко обсуждаемый аргумент против строгого постулата ИИ известный под названием эксперимента с китайской комнатой. Давайте вообразим, говорит Сирл, что я нахожусь в комнате, заполненной книгами, которые все вместе кодируют компьютерную программу, способную пройти тест Тьюринга, но на китайском языке. Мы знаем, что работа любой программы эквивалентна тому, что мы открываем некую книгу, читаем то, что в ней написано, стираем некоторые из этих записей, некоторые из них запоминаем, переходим к следующей книге и так далее. (Эта процедура представляет собой еще одну универсальную машину).
Предположим, кто-то подсунул под дверь клочок бумаги, на котором написано что-то по-китайски. Поскольку я (Сирл), не знаю китайского языка, для меня эти эта надпись - просто бессмысленные значки. Однако, следуя утверждениям приверженцев строгого постулата ИИ, я могу, следуя инструкциям в книгах (и соответственно модифицируя эти книги) сделать надпись на другом клочке бумаги, точно так же не имеющую для меня смысла, которая будет признана за корректную фразу на китайском теми китайцами, что находятся за дверью. Таким образом, обмениваясь этими бумажками, мы завяжем разговор, и люди за дверью, говорящие по-китайски будут думать, что в комнате также находится китаец. Следовательно, говорит Сирл, я пройду тест Тьюринга на китайском. Если бы тест Тьюринга был корректным тестом на разумность, можно было бы заключить, что я понимаю китайский. Но я уже сказал ранее, что не понимаю по-китайски. Следовательно, тест Тьюринга фундаментально ошибочен и поэтому мы видим, что "понимание" не является свойством компьютерных симуляций; ни один компьютер, как бы сложен он не был, не может думать.

Я думаю, что фундаментально ошибочна основная предпосылка Сирла, а не тест Тьюринга. Человек не сможет вручную симулировать программу, способную пройти тест Тьюринга точно так же, как он не может допрыгнуть до Луны. Все мы знаем, что до Луны нельзя допрыгнуть, но это можно доказать, используя законы физики. Это очень простой расчет, который замечательно иллюстрирует, как физики могут доказывать физическую невозможность какого-либо процесса в принципе. Затем я проведу аналогичный расчет, чтобы показать, что симуляция вручную программы, проходящей тест Тьюринга, также физически невозможна, опровергая таким образом аргумент Сирла.

Для того, чтобы достичь Луны, необходимо иметь скорость, достаточную для преодоления гравитационного поля Земли. Это так называемая вторая космическая скорость, около 11 километров в секунду. Чтобы развить такую скорость на дистанции в один метр - это типичная длина прыжка - нужно иметь ускорение в шесть миллионов g. Такое ускорение попросту расплющит человека. Даже космонавты, покидая Землю испытывают ускорение около 6 g. Большинство людей теряет сознание, если ускорение превысит 10g. (Рекорд выносливости для человека составляет около 20g). Кинетическая энергия человека весом в 50 кг, двигающегося со скоростью 11 километров в секунду, составит 760000 ккал. Поскольку в среднем человеку в день требуется около 2000 ккал, то эта энергия, затрачиваемая за десятую долю секунды составит его годовую потребность. Килограмм жира имеет пищевую энергетическую ценность 9290 ккал (белки и углеводы вполовину меньше), так что даже если прыгун весом в 50 килограмм будет полностью состоять из жира, эта энергия составит лишь 460000 ккал. Человек не может допрыгнуть до Луны. Но, конечно это ясно каждому и без вычислений.

Менее очевидно, что так же невозможно вручную симулировать компьютерную программу, достаточно сложную, чтобы пройти тест Тьюринга. Причина неочевидности в том, что все когда-нибудь прыгали, но очень немногие пытались вручную симулировать программы. Если мои предыдущие оценки информационной емкости человеческого мозга как 10¹⁵ бит корректны, то поскольку книга в среднем кодирует 10⁶ бит (в этой книге немногим более 10⁷ бит), для того, чтобы закодировать человеческий мозг может понадобится 100 миллионов книг. Для того, чтобы их хранить, понадобится 35 больших университетских библиотек. Из опыта мы знаем, что для того, чтобы получить доступ к какой-либо информации в собственной памяти, нам нужно порядка 100 секунд. Таким образом, чтобы вручную симулировать программу, проходящую тест Тьюринга, человеку понадобится снять с полок, просмотреть, и вернуть обратно на полку около 100 миллионов книг за 100 секунд. Если каждая книга весит около полкилограмма, и в среднем книга перемещается на один метр в процессе ее снятия с полки и возвращения обратно, тогда за 100 секунд понадобится истратить энергию в 3*10¹⁹ джоулей; потребленная мощность составит 3*10¹¹ мегаватт. Поскольку обычно человек потребляет около 100 ватт, то потребуется энергия 3*10¹⁵ человек, в миллион раз больше, чем все нынешнее население Земли. Обычно, крупная атомная электростанция дает 1000 мегаватт, так что для ручной симуляции программы потребуется энергия 300 миллионов таких электростанций. Как я и говорил выше, человек не может допрыгнуть до Луны и вручную симулировать программу, способную пройти тест Тьюринга.

В действительности все сложнее. Пенроуз полагает, что возможно не потребуется всех ресурсов человеческого мозга, чтобы симулировать "единичное мыслительное явление". Однако в настоящее время уже известно, что для мышления требуется значительная часть ресурсов мозга, поскольку динамическое сканирование мозга размышляющего человека показывает, что по крайней мере 1% мозга, а возможно и больше, активируется в случае "единичного мыслительного явления". (Вспомните, что в моих оценках скорости вычислений в мозгу я полагал, что только от 1 до 10% мозга активны в данный момент времени). Динамическое сканирование мозга, выполняемое методом MRI (Magnetic Resonance Imaging) позволяет различать кровь в разной степени насыщенную кислородом в масштабе до 1 квадратного миллиметра поверхности мозга. Активные нервные клетки используют кислород быстрее, чем неактивные, и таким образом его убыль указывает на активность в какой-либо области. Поскольку такое сканирование не определяет электрическую активность, оно дает нижнюю границу размеров активного региона. По мере того, как мыслительная активность человека возрастает, так же растет и процент активной части в мозгу. Из этих экспериментов по сканированию мозга ясно, что прохождение теста Тьюринга требует ресурсов большей части мозга.

Вычисления, которые я только что привел, предполагают, что компьютер будет работать последовательно, и нам понадобится один человек, чтобы вручную симулировать его работу. Но первый компьютер, который будет обладать достаточной вычислительной мощностью, чтобы пройти тест Тьюринга, несомненно будет параллельным устройством. Последовательная машина выполняет только одну инструкцию за один момент времени, в то время, как параллельная - много инструкций. В таком случае для реализации предложения Сирла потребуется все население Индии (800 миллионов человек). Это более возможная ситуация, но для того, чтобы приблизиться к мощности 10 миллиардов нейронов человеческого мозга потребуется все человечество планеты. Но это означает разрешение аргумента Сирла, поскольку очевидно, что человечество в целом может "знать" то, что не под силу одному человеку. Например, ни один человек не обладает достаточными знаниями, чтобы построить автомобиль. Это не означает просто собрать автомобиль из деталей. Нужно еще сделать эти детали, добывать руду и выплавлять металл. И все детали этих процессов нужно знать в точности, а не приблизительно. Ни один отдельно взятый человек не обладает такими знаниями, они доступны только всей человеческой расе, коллективу. Таким образом, совершенно естественно, что человечество (или население Индии) коллективно может говорить на китайском, даже если ни один из отдельных людей, моделирующих компьютерную программу вручную не может этого сделать. Аналогичная ситуация происходит и в мозгу - ни один отдельный нейрон не может думать, но интегрированные в целостный мозг, нейроны безусловно обладают этим свойством. Кроме того, 10-терафлопный компьютер, параллельный или последовательный, сможет произвести поиск в памяти объемом в 10¹⁵ бит за 100 секунд, и затрачивая при этом мощность меньше чем киловатт. Так что мы можем уверенно полагать, что 10-терафлопный компьютер сможет выполнить программу, способную пройти тест Тьюринга.

Сирл также полагал, что необходимые затраты энергии могут быть снижены путем интериоризации программы, проходящей тест Тьюринга. То есть, человек в китайской комнате "запоминает правила вычислений, китайские символы, и делает все вычисления у себя в голове". Запомнить содержимое 100 миллионов книг? Невозможно! Помимо собственных номеров книг, содержимое каждой книги состоит полностью из таблиц чисел, как мы помним. Даже человек с фотографической памятью должен затратить на одну книгу не менее часа, а поскольку в году немногим менее 10000 часов, запоминание всех книг потребует 10000 лет, если не считать времени на еду и сон. Повторим, что это не может быть сделано. Эксперимент с китайской комнатой Сирла требует от нас вообразить логически невозможное: обычный человек, выполняющий работу, которая не может быть им выполнена.

Основной идеей Сирла в эксперименте с китайской комнатой является утверждение "Компьютер обладает синтаксисом, а не семантикой". То есть, все программы манипулируют символами в соответствии с некоторыми формальными правилами (синтаксисом). Они не понимают того, что значат эти символы (семантика). Это верно, манипуляция символами сама по себе не требует понимания их значения. Однако, когда программа создается, она разрабатывается для конкретных условий, в которых определенные наборы символов будут приводить к тому, что физические устройства будут выполнять определенные действия. Например, 5546 может привести к тому, что клапан 46 будет открыт, если компьютерная программа обслуживает химический завод. То есть символ "5546" означает: "Открыть клапан 46". В других условиях, если я запущу программу для обслуживания химического завода на своем настольном компьютере, ничего не случится, если появится набор символов %%$^. Эти символы бессмысленны для моего настольного компьютера. (Откуда взялось это %%$^? - спросите вы - Мы говорили о 5546! Вот откуда - %%$^, это то, что получится, если вы напечатаете 5546, держа нажатой клавишу верхнего регистра. Небольшое изменение условий превратило значимые символы в бессмыслицу).

Суммируя, можно сказать, что значение символов возникает из соединения их с окружающей средой через физические устройства компьютера, а не из манипулирования с ними. Программа, выполняемая на компьютере, соединенном с химическим заводом не просто симулирует контроль производства, а делает это на самом деле.

Если программа, способная пройти тест Тьюринга, будет работать на 10-терафлопном компьютере в китайской комнате, и те тексты, которые компьютер будет читать и печатать, будут иметь смысл на китайском языке, мы сможем заключить, что эта программа прежде работала в условиях, которые позволяли ей взаимодействовать с людьми, и выучить значения слов по крайней мере в одном из человеческих языков. Разумная программа может выучивать значения слов точно так же, как это делают дети. У меня двое дочерей, в 1993 году им было 4 и 7 лет, и я видел, как они учились говорить. Сначала они использовали слова не совсем правильно, но по мере того, как они контактировали с другими людьми, с окружающим миром, прислушиваясь к тому, что говорят другие, их словоупотребление становилось более правильным и словарный запас рос. Мои дети уже выучили, и учат до сих пор, то, что обозначают слова в реальном мире. Они учатся тому, что значат те звуки, которые они издают. То же самое может быть и с программой, проходящей тест Тьюринга. Цель программы, создаваемой на основе строгого постулата ИИ в том, чтобы она, будучи исполняемой на компьютере, который взаимодействует с реальным миром, была бы способна продвинуть саму себя к разумности. То же самое делают и мои дети - они создают сами себя, и я наблюдаю за этим. Когда им было год от роду, они не могли пройти тест Тьюринга, а теперь они сделают это с легкостью.

Таким образом, ошеломляюще очевидно, что в ближайшие тридцать лет мы сможем создать машину, которая будет так же разумна, как и человек, а может быть и более. Должны ли мы позволить этому свершиться? Я полагаю, что те аргументы против этого шага, которые обращены к ученым, занимающимся данной проблемой, являются близорукими, это продукт страха и невежества, а не рационального размышления. Мы сами являемся "разумными машинами". Существует мощный практический аргумент в пользу создания разумных машин. Такие машины повысят наше благосостояние, даже если они будут нас превосходить. Одной из наиболее твердо доказанных теорем экономики является Теория Сравнительной Выгоды, которая оправдывает свободную торговлю. Она говорит, что если два индивидуума, или страны, или расы, производят продукты с разной эффективностью, для них обоих выгоден свободный торговый обмен, даже если одна из сторон делает все лучше, чем другая. Это применимо к отношениям между людьми и разумными машинами так же, как и к торговле между странами. Конечно, для людей было бы неразумным пытаться поработить разумные машины или уничтожить их. В романе о Франкенштейне, созданном Мери Шелли, "монстр" был разумнее любого человека, и изначально он был настроен по дружески. Он начал атаковать людей только после того, как они первые атаковали его.

Но главной причиной, по которой мы должны создать разумные машины, является то, что без их помощи человечество обречено. С их же помощью мы сможем выжить и будем жить вечно. Чтобы понять это, давайте сначала посмотрим, как они могут помочь нам колонизовать космическое пространство.

. . .

Вопросы? Предложения? Претензии?
Обсудить материал в моем ЖЖ