Андрей Краснобаев ВЕРОЯТНОСТЬ ОШИБКИ

Андрей Краснобаев

ВЕРОЯТНОСТЬ ОШИБКИ

— История создания андроидов вымощена десятками человеческих жизней, сложенными на алтарь собственных ошибок, пустых надежд и переоценённых возможностей.

Этой дежурной фразой Эл начинал свою двухчасовую лекцию, посвящённую взаимоотношениям человека и машины. Несколько лет назад его сняли с полётов, отправив делиться опытом в Московский университет астронавтики. Здесь готовили будущих штурманов и пилотов звёздных кораблей.

Пытаясь уйти от ошибок, вызванных человеческим фактором, люди старательно развивали технику, перекладывая на машины всю ответственность за собственные жизни. При этом забывая один небольшой, но очень важный момент. Слабый, по своей сути, и склонный к ошибкам человек никогда не сможет создать идеальную машину. Все промахи, просчёты и недоделки, невольно вложенные в своё создание, он стыдливо называет вероятностью ошибки. Неверное поведение андроидов в нештатных ситуациях, повлёкшее человеческие жертвы, заставило пересмотреть их роль, внеся серьёзные коррективы в основные законы поведения.

В качестве примера Эл всегда подробно разбирал один из подобных случаев.

Это произошло более трёх лет назад. Звёздный корабль с исследовательской группой на борту после трёх месяцев пути вплотную приблизился к заданной цели. Прямо по курсу лежала недавно открытая планета. По мнению многих учёных, она была вполне пригодна для жизни.

В состав группы, помимо девяти человек входил андроид серии R03 I-AL9082. Выполняя обязанности техника и помощника капитана, он отвечал за жизнеспособность корабля. Вероятность ошибки в действиях подобных андроидов составляла всего лишь один процент. То есть в одном случае из ста он мог поступить неверно.

Уже выходя на орбиту, они случайно столкнулись с метеоритом. Вынырнув из чёрной пустоты, космическое тело размером с футбольный мяч насквозь прошило обшивку корабля. Была нарушена герметизация, выведен из строя спасательный катер и почти все системы управления.

Согласно трём основным законам поведения, андроид никогда не сможет причинить вред человеку. Жизнь человека для него бесценна, и ничто не сможет нарушить данное утверждение. Опираясь на эти законы, андроид пришёл к единственному выводу. Дальнейшая сохранность жизни людей напрямую зависела от жизнеспособности корабля. Включив ручное управление, андроид посадил корабль на поверхность планеты. Этих роботов создавали с прицелом именно на такие моменты. В критической ситуации, когда счёт идёт буквально на секунды, даже подготовленный человек часто впадает в панику. Работающий по заданной программе андроид, быстро просчитав все возможные варианты, действует стремительно и практически безошибочно.

Прибывшая через несколько месяцев команда спасателей обнаружила почти полностью отремонтированный корабль. Из всей группы уцелел лишь один андроид. Действуя согласно заданной программе, он полностью восстановил обшивку, вернув работоспособность всем системам.

Как потом показало проведённое расследование, люди погибли ещё при посадке. Выключившаяся система торможения и компенсации плюс незначительная ошибка в расчёте глиссады. Перегрузка в несколько десятков g просто размазала человеческие тела в неработающих амортизационных креслах. У андроида не было программы, позволяющей отличить мёртвого человека от живого. Даже не подозревая, что вся команда мертва, андроид ремонтировал корабль, послушно следуя своей основной программе.

В аудитории стояла напряжённая тишина. Эл был хорошим рассказчиком. Передавая в мельчайших деталях картину происшедшего, он вызывал у слушателей чувство причастности и сопереживания.

— Прежде чем мы перейдём к обсуждению, хочу внести ясность, — заложив руки за спину, Эл не торопясь прошёлся перед аудиторией, — этот андроид был заурядной машиной со своим процентом вероятности ошибки. Так что не стоит удивляться тому, что он просчитался. Те, кто расследовал этот случай, были простыми людьми. Они не стали принимать во внимание вероятность ошибки, обвинив во всём андроида.

— Вам не кажется это циничным, рассуждать о вероятности ошибки андроида, забывая, что за ней стоят человеческие жизни? — кто-то эмоционально выкрикнул с места.

Эл усмехнулся.

— Если машина, созданная руками человека, начинает действовать неправильно, то чья в этом вина? — чуть излишне громко спросил он.

Аудитория притихла.

— Вероятность подобной ошибки в своё творение заложил сам человек. Вернее, он не смог её исключить. А когда это произошло, обвинили во всём андроида. Так я повторю, чья в этом вина?

Студенты молча переглядывались. Выдержав небольшую паузу, Эл окинул взглядом аудиторию.

— В свете изложенных фактов предлагаю всем подумать и ответить, чем опасны андроиды для человека?

После подобного вопроса среди студентов всегда возникало небольшое замешательство. Не зная, что ответить, они перешёптывались, косясь на преподавателя. Эл терпеливо ждал.

— Это невозможно, — наконец кто-то из студентов несмело подал голос.

Перестав прохаживаться, Эл остановился.

— Почему? — поинтересовался он, окидывая взглядом аудиторию, — смелее! Вы же будущие пилоты. Учитесь принимать решения и высказывать своё мнение.

С задних рядов поднялся худощавый парень.

— Это невозможно, — повторил он. — Согласно трём основным законам робототехники, андроид никогда не причинит вред человеку. Если он случайно ошибся, неправильно оценив обстановку, то это не значит, что андроид опасен для человека.

— Кто думает иначе? — громко спросил Эл.

В третьем ряду поднялась симпатичная девушка.

— Инга Морозова, — представилась она.

Её фамилия неприятно кольнула Эла. Может просто совпадение?

— Бесшумные механические шарниры, новые композиционные материалы, искусственные волосы, тщательно проработанная мимика лица — всё это превращает андроида в точную копию человека. Добавьте сюда быстроту и смелость в принятии решений, и перед вами харизматическая личность с задатками лидера. Общаясь с андроидом, человек невольно попадает под его влияние, забывая, что перед ним машина со своим процентом вероятности ошибки. В критический момент, потеряв контроль над ситуацией, свою растерянность и страх человек с лёгкостью перекладывает на плечи андроида, доверяя ему в принятии важных решений. Что, как показывает статистика за последние несколько лет, в одном случае из ста приводило к несчастным случаям, — чётко отчеканила Инга.

Слишком чётко для человека и не совсем для андроида. Впрочем…

— Откуда такая осведомлённость? — поинтересовался Эл.

— Читала кое-что, — неопределённо пожала плечами Инга.

— Совершенно верно, — подвёл черту Эл, — андроиды серии R03 I-AL9082, благодаря конструктивным материалам, полностью воссоздающим человеческое тело, получили наибольшее распространение. Как выяснилось в ходе эксплуатации, у них есть два больших минуса. Первый — это внешность, благодаря которой люди им безоговорочно доверяют. Второй — программа поведения со слишком большими полномочиями. В нештатной ситуации машина брала на себя ответственность, самостоятельно принимая решение, что, хоть и редко, но всё же приводило к несчастным случаям.

Аудитория возбуждённо загалдела. С мест стали раздаваться отдельные выкрики.

— Андроиды этой серии получили наибольшее распространение, — громко сказал уже знакомый парень, — если они так опасны, почему их не изъяли из обращения?

Стараясь утихомирить студентов, Эл поднял руку.

— Андроиды серии R03 I-AL9082 наделены искусственным интеллектом, а значит, способны осознавать свои ошибки и учиться. К тому же конструкторы внесли изменения в их программу поведения, сделав андроидов более человечными. Теперь в критической ситуации они быстро просчитают возможные варианты выхода, оставив право выбора за человеком. В этой спарке он по-прежнему главный.

— А что стало с тем андроидом? — выкрикнула какая-то девушка с места.

— Не знаю, — сухо ответил Эл, — возможно деактивировали. Если у вас больше нет вопросов, то можете быть свободны.

Стоя у доски, Эл наблюдал, как медленно пустеет аудитория. Последней у выхода задержалась Инга. Потоптавшись на пороге, она вернулась.

— Вы что-то хотели? — поинтересовался Эл, видя её смущение.

— Александр Морозов — капитан погибшей группы, мой отец, — тихо сказала Инга, — вы спрашивали, откуда такая осведомлённость. После его гибели я много читала о взаимоотношениях андроида и человека.

Выходит не совпадение.

— Ну и каково ваше мнение?

— Не знаю, — честно ответила Инга, — для объективного суждения надо хорошо знать сложившуюся ситуацию. Я читала выводы комиссии, но там всё очень расплывчато. Возможно, андроид всё правильно просчитал, и другого выхода у него просто не было. Если мой отец ему доверился, выходит, он очень хорошо его знал.

Не зная, как закончить разговор, Инга неловко замолчала.

— Наверное ваш отец был хорошим человеком, раз у него такая дочь, — сказал Эл.

— Спасибо, — Инга порывисто сжала его руку.

Она уже давно убежала, а он всё стоял, ощущая на ладони теплоту её пальцев. Покинув аудиторию, Эл вошёл в свой маленький кабинет, по размеру больше напоминающий кладовку. Скрестив на груди руки, остановился у окна.

За три месяца полёта они стали настоящими друзьями. Девять членов группы и андроид серии R03 I-AL9082. Это Санька Морозов окрестил его Элом. Пытаясь спасти своих друзей, он неверно оценил ситуацию и ошибся. Заклеймённый смертью, Эл стал изгоем среди андроидов, да и в мире людей не смог найти своего места.

После той злосчастной катастрофы его хотели деактивировать. Но, посчитав хранящиеся в его электронных мозгах подробные сведения о катастрофе слишком ценными, Эла перепрограммировали, отправив в Московский университет делиться опытом со студентами. Люди сделали его слишком человечным. В ожидании вопросов о судьбе экспедиции, его нейроны всякий раз замирали, давая сбой программы. Это чувство было сравнимо с ёканьем человеческого сердца. Завтра он пойдёт к руководству и попросит сделать его грубее. Слишком велика тяжесть хранимых им знаний, невыносимо сознавать себя виновником гибели человеческих жизней — самого ценного, что есть в мёртвой пустоте бескрайних просторов Вселенной. И сейчас, после встречи с дочерью погибшего по его вине друга, его нейроны словно взбесились. Эл чувствовал, как от их действия микрочипы постепенно разогреваются, уверенно набирая температуру. Он не мог остановить это, а может, просто не хотел.

Эла обнаружили на следующий день. Он стоял перед окном всё в той же позе со скрещенными на груди руками. Его взгляд потух. Вопрос, сам он это сделал или нет, так и остался открытым. Когда Эла вскрыли, то обнаружилось, что все файлы безвозвратно стёрты, а процессор, карта памяти и жёсткие диски расплавились от высокой температуры. Их словно выжег кто-то изнутри.