СОЗНАНИЕ И МАТРИЦА

We use cookies. Read the Privacy and Cookie Policy

СОЗНАНИЕ И МАТРИЦА

Последний вопрос, который я намереваюсь рассмотреть в данной статье, довольно сложен. Его продолжают анализировать и обсуждать в научных и философских кругах. Могут ли машины обладать сознанием? В повседневной жизни они оказываются настолько тупы, что мы можем не обращать внимания на этот вопрос. Поэтому у нас и нет установленного критерия, чтобы судить, наделены ли разумные машины, фигурирующие в научной фантастике, сознанием. Насколько машина должна быть похожей на человека, чтобы обрести сознание? Люди наделены определенной совокупностью качеств, всегда идущих рука об руку: людям присуща способность сознательного восприятия, они могут испытывать эмоции, иметь мнение и веру, интуицию и интеллект, они пользуются языком, ко всему прочему они живые и теплокровные, и у них есть биологический мозг. В обычной жизни нам не нужно разделять эти свойства и решать, какие из них необходимы и достаточны для обеспечения способности сознавать. Эти качества приходят в комплекте. Низшие животные могут быть похожи на нас, однако в отличие от нас у них нет языка и они не настолько разумны, как мы. Итак, считается, что высшие животные, вероятно, наделены базовым сознательным восприятием, то есть способны воспринимать цвета и звуки, жар и холод во многом так же, как умеем мы, но им не хватает надстройки в виде мышления. А как насчет машин, обладающих разумом и использующих язык, но созданных не из биологической ткани? Могли бы они обрести сознание?

Чтобы рационально ответить на этот волнующий вызов, нам необходимо четко уяснить основные понятия. Самое распространенное и наносящее больше всего вреда заблуждение — это смешение понятий «интеллект» и «сознание». В своей знаменитой работе, где был представлен тест Тюринга, Алан Тюринг использовал эти термины как взаимозаменяемые, но математики печально известны употреблением своих терминов в широком смысле. Философы, которых отличает тщательное разграничение понятий, всегда настаивали на соблюдении различий. Интеллект — это способность решать задачи, тогда как сознание — это способность субъективно переживать качества.

Как мы увидим дальше, интеллект может существовать и без сознания.[99] Цифровую вычислительную машину можно запрограммировать так, чтобы она решала интеллектуальные задачи, например играла в шахматы и понимала язык. Всего этого можно добиться при помощи четких детерминированных процедур, и для этого совсем не требуется вводить в программное обеспечение таинственные «осознанные переживания». С другой стороны, обладающее сознанием существо способно на субъективные переживания; например, оно может видеть красный цвет или чувствовать гнев, не нуждаясь при этом в работе интеллекта, справляющегося с любыми задачами. Андроид может быть наделен куда более развитым интеллектом, чем любой человек, но он все равно будет лишен малейшего проблеска внутренней психической жизни. С другой стороны, живое создание может быть непроходимо глупым, но в то же время иметь субъективные переживания.

Агент Смит представляет собой пример машины, чье поведение напоминает поведение человека. Если бы вам довелось стать свидетелем того, как какой-нибудь человек говорил так же, как агент Смит, и пользовался такими же жестами, как он, вы моментально сочли бы и его речь, и его жесты проявлением осознанных эмоций и желаний. Действительно, именно поспешность интерпретации вводит нас в заблуждение. Когда вы видите, как кто-то смеется от радости или кричит от боли, вы делаете неосознанные выводы о психическом состоянии человека по этим внешним признакам, словно вы видите сами эмоции. В то же время пример виртуозных актеров доказывает нам, что признаки эмоций можно сфальсифицировать. Поэтому вы и делаете вывод о выражении эмоций, хотя и автоматическом. Доскональный анализ подобных машинальных умозаключений — это задача философии. Когда вы наблюдаете, как другой человек проявляет эмоции, ваши выводы основываются не только на том, что вы видите, но и на вводной информации (например, эта информация может сообщать, что человек, на которого вы смотрите, играет на сцене театра). Более того, вы исходите из разумного предположения о том, что поведение этого человека обусловлено деятельностью биологического мозга, как и ваше собственное. А когда эти исходные посылки подрываются, вы неизбежно начинаете пересматривать все заключения, сделанные вами на основе наблюдений за эмоциями другого человека. Если поток эмоций прекращается и окружающие вас люди начинают аплодировать, вы понимаете, что все увиденное — это часть представления уличного театра, и тот человек лишь изображал эмоции. Или если этот человек на ваших глазах попадает в ужасную автомобильную аварию, в которой ему пробивает череп, и вместо мозга там оказывается электронная начинка, до вас доходит, что это был всего лишь андроид, и отсюда вы можете заключить, что он просто симулировал эмоции.

Ключевой момент в вынесении суждения — это допущение того, что эмоция играет некую роль в бессистемном цикле, порождающем слова и жесты, которые находят внешнее проявление. Если вместо этого мы оттолкнемся от того, что наблюдаемые нами слова и жесты целиком и полностью объясняются как-то по-другому, без участия эмоций, тогда наши выводы ждет неудача. В этом случае поведение перестает служить доказательством внутренних эмоциональных переживаний. Если нам известно, что слова и жесты актера заданы сценарием, то мы уже не считаем их подтверждением внутреннего психического состояния. Точно так же, если мы знаем, что слова и жесты андроида или виртуального воплощения запрограммированы, они перестают подкреплять любой вывод о психическом состоянии.

Слова и жесты андроида или запрограммированной модели человека являются результатом работы миллионов строк различных программ. Программное обеспечение переходит от команды к команде в строго заданном порядке. Отдельные команды перемещают фрагменты информации в память, другие проводят вычисления, третьи посылают двигательные сигналы в исполнительные механизмы тела. Каждая строка программы ссылается на реальные ячейки памяти и порты, существующие в материальных аппаратных средствах. Это может происходить очень символично и через сложные структуры данных, например с использованием метки «поле зрения», чтобы сослаться на стабилизированные и более контрастные данные, поступившие из глазных камер. Тем не менее этот код объективной окружающей среды не нарушается ни на одном участке программного обеспечения и не ссылается на таинственное содержание сознания. Не мог бы этого сделать и программист, поскольку ему потребовался бы объективный третий маркер, который подвел бы его к сознательному опыту, который, являясь субъективно-первичным, не может быть определен при помощи такого указателя.

Все, что может сказать и сделать андроид, полностью задается его программным обеспечением. Здесь не существует объяснительного зазора, который пришлось бы заполнять сознанию машины. Когда андроид говорит «я вижу цвета и чувствую эмоции, как люди», мы знаем, что эти слова порождены детерминированными строками программного обеспечения, которое прекрасно функционирует без всякого вмешательства сознания. Именно поэтому эмоции андроида не обеспечивают ни малейших доказательств внутренней психической жизни. Все внешние признаки эмоций оказываются подделанными, и программист во всех подробностях знает, каким образом они подделаны.

Этот момент систематически не принимается в расчет математиками и инженерами, приходящими в восторг от искусственного интеллекта. Вам нужно в следующую дверь, на кафедру философии, если вы ищите людей, которые придадут этому обстоятельству должное значение. Даже если каким-то неизвестным способом андроид и обрел бы сознание, он никогда бы не рассказал нам об этом. Как мы видели, все сказанное андроидом определяется его программным обеспечением. Даже если где-то в глубине его схемных плат мелькнет призрачный проблеск сознания или воли, он никогда не повлияет на речь и поступки андроида.

Может ли статься так, что информация в компьютере и есть искомый сознательный опыт? Этот аргумент пользуется популярностью у инженеров, специализирующихся на проектировании прикладных информационных систем, поскольку, судя по всему, он затушевывает саму проблему разума и тела. Но этот довод страдает недостатками, потому что информация и сознательный опыт имеют разную логическую структуру: информация существует только в качестве артефакта интерпретации, однако опыт не нуждается в интерпретации для того, чтобы вы его осознали. Если я дам вам диск с числовыми данными (21, 250, 11, 47; 22, 250, 15, 39 и т. д.), эти числа могут означать все что угодно. В одной программе они являются результатами метеорологических измерений, то есть обозначают температуру, влажность, количество осадков, в другой — результатами медицинских измерений и показывают пульс, кровяное давление, степень ожирения. У интерпретации нет независимой реальности, числа сами по себе не обладают врожденным смыслом. Сознательный опыт кардинально отличается от информации. Если вы прищемили дверью большой палец руки, вам не нужно сначала интерпретировать свои ощущения как боль. Вы чувствуете боль сразу. Точно так же вы не можете истолковать эти ощущения как нечто другое, — например, благоухающие розы. Осознанные переживания обладают реальными, субъективными, засвидетельствованными качествами, существование которых не зависит от того, будут ли они проинтерпретированы так или эдак. По сути дела, осознанным переживаниям присуще какое-то иное свойство по сравнению с голой информацией.

Еще один популярный аргумент — ссылка на «происхождение». Говорят, что системы более высокого уровня «произошли» от систем более низкого уровня. Простой классический пример: термодинамические свойства, такие как тепло и температура, являются результатом статистического поведения молекулярных ансамблей. И все-таки концепция «температуры» не опирается на изолированную молекулу, хотя в совокупности миллиарды этих молекул и создают температуру. По аналогии с этим примером было высказано предположение о том, что сознание возникает из совокупного поведения миллиардов нейронов, которые в отдельности никогда бы не смогли обладать собственным сознанием. Однако на самом деле эмерджентные свойства являются искусственным следствием того нашего описания окружающего мира и не существуют объективно за пределами математических теорий. Группу молекул можно описать либо через траекторию движения отдельных молекул, либо через их совокупные свойства, но последние изобретены людьми ради упрощения. Внешняя реальность состоит лишь из молекул: статистические свойства, такие, как средняя кинетическая энергия, существуют только в голове у физика. Подобно этому любые динамические свойства совокупного поведения клеток головного мозга существуют лишь в моделях ученых, занимающихся изучением мозга. Внешняя реальность заключает в себе лишь клетки мозга. В то же время, как вам известно, когда вы прищемите свой палец дверью, ощущаемая вами боль будет реальной и возникнет в один момент, и это не теоретическое построение, существующее в мозгу ученого.

Итак, имеются веские причины полагать, что машины не обладают сознанием. Однако нельзя ли те же самые аргументы применить к мозгу? Разве он не является биоэлектрохимической машиной? Он выполняет строго заданные программы, закодированные в его генетических и нервных проводках. И все же, если наш аргумент в пользу того, что машины лишены сознания, можно использовать и по отношению к мозгу, тогда он становится ошибочным, ведь мы доподлинно знаем, что наш собственный мозг наделен сознанием!

Ответ на эту загадку состоит в том, что в ткани головного мозга протекают определенные процессы, затрагивающие недетерминированные квантовомеханические явления. И, пробираясь через хаотическую динамику мозга, эти бесконечно малые явления могут развиваться в открытое поведение. Отсутствие заданности открывает сознанию ворота, через которые оно оказывает влияние на деятельность мозга.

Как мы видели выше, вы можете говорить лишь об осознанных переживаниях, которые находятся в случайном цикле, порождающем речевые акты. Если вы можете сказать, что вам больно, значит, ощущение боли должно оказать случайное воздействие на какой-то участок последовательности нейрологических событий, который управляет вашей устной и письменной речью. Не детерминированный физически шаг обеспечивает удобный момент для вмешательства сознания в случайную последовательность. Поэтому, будучи людьми, мы знаем, что мы действительно выражаем свое осознанное восприятие, и можем сделать вывод о том, что в мозгу где-то должна присутствовать подобная незаданность. Пока что лишь квантовомеханические явления подходят на эту роль. К примеру, Роджер Пенроуз и Стюарт Хаммерофф сформулировали подробную теорию о том, каким образом квантовые действия в микроканальцах клеток головного мозга могли справиться с этой задачей. Эксперты все еще спорят насчет того, в действительности ли микроканальцы являются местом, где сознание вторгается в последовательность причин и явлений.

У стандартного детерминированного компьютера нет подобного входа в сознание. Поэтому андроиды и виртуальные воплощения, которые управляются компьютерами подобного рода, не могут выражать осознанное понимание, и, следовательно, их поведение не может служить доказательством присутствия сознания. Однако если бы машину пришлось строить с использованием квантовых вычислений так, как это делает мозг, тогда не остается никакой философской причины считать, что машина не может иметь тот же самый вход в сознание, который есть у живого существа. И не потому, что квантовый модуль позволит машине проводить такие расчеты, которые не в состоянии выполнить классический компьютер. Все, что может делать квантовый компьютер, по зубам и классическому, разве что скорость у него будет медленней. Тут дело, скорее, в том, что квантовый компьютер снабжен специфической реализацией, которая обеспечивает переход к сознательным процессам.

«Матрица» не дает оснований считать, что машины в фильме оснащены своеобразными квантовыми механизмами, необходимыми для реализации сознания. Квантовые явления в фильме не упоминаются; с другой стороны, в нем имеются косвенные доказательства того, что Матрица и ее агенты лишены сознательного мышления.

Поэтому агенты — программные модули, работающие внутри Матрицы, — обладая интеллектом, похожи на глупые автоматы. Большую часть времени агенты действуют, не проявляя воображения, и мы можем наивно решить, что это обстоятельство подтверждает недостаток интеллекта, которым они страдают. В то же время агент Смит проявляет инициативу и, похоже, в своей речи, обращенной к Морфеусу, демонстрирует сознательную неприязнь по отношению к человеческому роду. Но действительно ли он наделен сознанием или всего лишь подражает людям? На самом деле Смит выдает себя с головой, когда говорит о мире людей: «Это запах, если такая вещь вообще существует… Я чувствую вашу вонь, и каждый раз я боюсь, что она как-нибудь меня заразит». Собственная логическая цельность Смита обязывает его сомневаться в существовании этого невычислимого качества, о котором говорят люди, в осознанном переживании запаха. Когда Смит говорит «…запах, если такая вещь вообще существует», он проявляет характерную черту автомата. Это подтверждается следующей фразой насчет того, что он может «чувствовать вонь». Отсюда вытекает, что Смит просто не понимает разницы между ощущениями, существующей для человеческого разума. Для компьютера информация — вещь взаимозаменяемая, но для человека вкус, запахи, цвета, звуки и другие ощущения непреодолимо различны. Этот факт ускользает от агента Смита.

Смит имитирует поведение человека. Эту тактику он избрал для того, чтобы склонить Морфеуса к сотрудничеству. Поскольку допрос Морфеуса заходит в тупик, Браун высказывает следующее предположение: «Возможно, мы задаем не те вопросы». Так что Смит всего лишь делает вид, что беседует с Морфеусом по-человечески, с целью завоевать сочувствие последнего. Надо ли говорить о том, что его тактика терпит сокрушительное поражение.