5

5

Может случиться и то, что среди вопросов найдутся такие, которые «выявят принципиальное НЕПОНИМАНИЕ» «китайской комнатой» всех текстов, и это мне видится возможным, потому что Джону Сёрлу и его респондентам казалось странным (на мой взгляд), что так называемая «strong AI», или гипотеза о возможности прохождения машиной теста Тьюринга, решается в рамках «тайны китайской комнаты» отрицательно: машина, которую изображает комната, ничего не понимает и, несмотря на это, отвечает на вопросы так, как будто бы она их понимала.

Ключ к ЭТОМУ находится в «пакете вопросов». Например, пусть сюжетом для рассказа по-китайски является сказка о лампе Аладдина. Вопросы звучат следующим образом: «Была ли лампа электрической, на батарейках?», «Была ли лампа керосиновой и наполненной керосином, то есть способной благодаря фитилю и спичкам зажигаться и давать свет?» Если есть такие вопросы, которые A PRIORI мы исключаем как направляющие на ложный путь, то ни о какой аналогии с тестом Тьюринга даже и речи быть не может. Сейчас как краткий, подлинный и очевидный пример я приведу «argumentum ad hominem»,[117] причем этот человек — я. Я уже достаточно глуховат, без аппарата, воткнутого в оба уха, уже почти ничего не понимаю (так как не слышу) из того, что мне говорят. Если в булочной, где я покупаю хлеб, чужой человек, узнавший меня, потому что видел по телевизору, обратился ко мне, я не могу, учитывая всю ситуацию, тянуться к пуговицам плаща, потом в карман за мешочком со слуховыми протезами, но пытаюсь из того, что он мне говорит, выхватить хотя бы одно-два слова. Это обычно удается, а если нет, то этот человек повторит что-то громче и направит меня на размытый, но, возможно, и основной смысл своего высказывания. Недоразумения в разговорах с глухими, естественно, часто случаются, но и тогда никто, даже если это 100-процентное недоразумение, не считает, что разговаривает с манекеном или с роботом, имеющим такой компьютер в черепе, который «действует только чисто формально». Чисто формально действовал тот, кто складывал таблицу в картину (puzzle), тот, кто складывает непонятные китайские символы, но если он ошибется, то китаец скорее признает, что это только ошибка, а не 100-процентное отсутствие всякого понимания. Впрочем, все обстоит так, что смысл для понимания помогает определять окружающая обстановка, и я не думаю, чтобы человек, спрашивающий меня в булочной, интересовался числом звезд в туманности Андромеды или лучшим рецептом пряника с миндалем. А так как вопросы «направленно сжаты» текстом рассказа, то тем самым они предопределены, то есть они вероятностно продетерминированы в рамках такого «fuzzy set», такого размытого собрания, которое имеет направляющую стрелу, уже a priori ориентирующую его на «такое-сякое понимание». А мук и сложностей, высыпанных перед Сёрлом всеми мудрецами из университетов, я вообще не в состоянии понять. Так пусть Сёрл, вместо того чтобы описывать мысленные эксперименты, уничтожающие ложный миф об умных компьютерах, позволит закрыть себя в комнате, пусть ему всунут этот шрифт и этот рассказ, всего лишь скромно ограниченный стихами «Wlazі kotek na pіotek i mruga, krotka to piosenka nie dіuga»,[118] и пусть спросят (по-китайски, на карточках) о виде плетня, о породе кота и о том, имеет ли какое-то особое значение, когда кот моргает, или скорее всего он моргает просто так, а по-польски только для рифмы. И пусть Сёрл ответит более или менее дельно. Тексты такого рода, не хвастаясь, я могу производить возами, и из этого абсолютно ничего не следует. Как известно, в своей поздней книге о будущем Уэллс описал воздушные войны, в которых управляемые воздушные шары должны были бы распарывать дирижабли врага шпорами, с позволения сказать, как военные фрегаты делали это когда-то с вражескими кораблями. Доходит ли сейчас дело до столкновений враждующих воздушных сил во время войны? Конечно. Строили ли ПОСЛЕ Уэллса большие, легче воздуха, летающие машины? Естественно, это были (в основном немецкие) цеппелины. Разрезали ли враги шпорами их оболочки? Никогда, а на вопрос «почему нет», уже так лаконично ответить невозможно. Люди, занимающиеся АI, пока только узнали, что для игры в вопросы и ответы нужно создавать тщательные ситуационные РАМКИ («frames»), но также известно из опыта сегодняшнего дня, что можно спросить кухарку о том, как она делает поджарку, но скорее всего не следует ожидать ее осмысленного ответа на вопрос, почему в поршневом двигателе сжигания новейших автомобилей нет двух клапанов (всасывающего и выхлопного), а только четыре или хотя бы три. Она ничего не скажет, потому что понятия не имеет, и это с «пониманием» или с «непониманием» грамматики, идиоматики, синтаксиса языка не имеет ничего общего. Чтобы понимать высказывание, следует ухватить его смысл и его смысловой радиус, и last but not least его специфическую предметную ориентацию.

Китайская комната Сёрла, как и моя puzzle, ничего не предопределяет, ничего не обещает, ничего не предетерминирует, ничего не «решает» раз и навсегда. Еще добавлю (это также слегка относится к делу), что на особом месте в моей библиотеке находится книга 1924 года издания, написанная немецким ДОКТОРОМ (но не медицины), который математически, химически и физически доказал в ней полную невозможность космических полетов и даже получения ракетой ускорения, способного преодолеть гравитацию, чтобы она смогла выйти на околоземную орбиту. Это очень хорошее доказательство, «проведенное исключительно формальными средствами». О нем стоит помнить оппонентам искусственного интеллекта. Основным упреком против моего сведения «тайны китайской комнаты» к головоломке типа PUZZLE является чрезмерное упрощение дела. Ну, сейчас я его усложню. Не картина находится на аверсе PUZZLE’а, а те строки, произнесенные Отелло, где говорится о том, как он задушил Дездемону. Складывающий кусочки ничего об этом не знает. Он получает два пакета других кусочков в качестве «вопросов» и в качестве «ответов на вопросы». Всё это он видит только произвольно рассыпанными фрагментами картона и должен сложить из них целое благодаря тому, что их зубчики, зарубки и вырезы взаимооднозначно подходят друг другу. После переворачивания составленного видно, что вопросы были такими: «Почему Отелло душит Дездемону?» и «У него были на это какие-то основания?», а ответы соответственно: «Душит по причине ревности» и «Он был введен в заблуждение Яго». Целостность текста, вопросов и ответов должна быть составлена из АНГЛИЙСКИХ фраз, а складывающий их китаец, который ни слова по-английски не знает, благодаря чисто формальному процессу (составлению головоломки) получает сборный текст, сборные вопросы и адекватные ответы на них. Ранее Сёрл несколько вскружил голову тем, кому он описывал свой эксперимент, что это «китайщина» и т. п. Сейчас видно, что в принципе возможно при чисто формальном подходе (тоже складываются куски по их ФОРМЕ, а не по их смыслу) проведение эксперимента. Однако вместе с тем видно, на этот раз уже очень явно, что китаец в «английской комнате» действительно НИЧЕГО не понимает. Итак, КТО же понимает тексты в ОБОИХ случаях, в случае Сёрла и в моем? Конечно, тот, кто весь эксперимент — как первый, так и второй — выдумал, составил и запрограммировал. «Понимание» не находится ни в какой из комнат, ни в той «китайской» с англичанином, ни в «английской» с китайцем, программы же в обоих случаях отличаются друг от друга тем, что в одном случае знаки одного китайского письма ФОРМАЛЬНО приспосабливаются к знакам другого китайского письма, а в моем случае ФОРМАЛЬНО приспосабливаются формы вырезок картона. Разница несущественна, потому что существенным является исключительно поведение складывающего, который и здесь и там ничего не понимает из текста, и не важно, видит ли он текст и не понимает его, не зная китайского, или же не видит текст (китаец), потому что если бы он его видел, ТО ТОЖЕ БЫ НЕ понял, если уж он должен соединять формы, а не символы. Короче говоря, эксперимент вводит нас в заблуждение, при этом Хофштадтер в своей книге ТОЖЕ так считает, но зря усложнил объяснения. Не в том загвоздка, что китайское письмо несравненно труднее было бы приспосабливать к китайскому (НАПИСАННЫЕ буквы для невежды могут восприниматься графически как очень разные, например, латинская буква «f» формально тождественна «F»), но загвоздка в том, что работа всегда асемантично формальна. Следовательно, «понимание» в самих текстах не участвует вообще и a fortiori[119] нет и речи о присутствующем «сознании». Возможен ли искусственный интеллект, покажет будущее. С обсуждаемым «reductio ad absurdum[120]» это будущее НЕ ИМЕЕТ НИЧЕГО ОБЩЕГО.