3

We use cookies. Read the Privacy and Cookie Policy

3

Скажем, что так оно и есть, но что это может иметь общего с моей философией в вопросе обсуждения сферы споров «про-AI» и «контр-AI»? Вначале следует сказать, что нас ожидает.

Во-первых, мы уже пришли к частичному опережению человеческого мозга компьютером, но не надо это смешивать с какой-то «антропологизацией» компьютеров, словно осталось сделать еще пару шагов вперед в техническом развитии — и они начнут действовать так же, как люди. Я позволю себе процитировать то, что писал более четверти века назад в «Сумме технологии».

«Возникнут и будут разрастаться машинные центры, управляющие производством, товарным оборотом, распределением, а также исследованиями (координация усилий ученых, поддержанная на раннем этапе машинами, то есть вспомогательными компьютерами). Возможны ли между ними конфликтные ситуации? Очень возможны. Конфликты будут возникать в плоскости инвестиционных, исследовательских, энергетических решений, потому что надо ведь будет определять первенство разных действий (…). Такие конфликты надо будет разрешать. Разумеется, это будут делать люди. Очень хорошо. Следовательно, решения будут касаться проблем огромной сложности, и люди — контролеры Координатора (компьютерного. — С.Л.) должны будут, чтобы разобраться в предоставленном им математическом море, обратиться к помощи других машин, оптимализирующих решение (…). Возможно ли, что машины контролеров, дублирующие работу континентальных машин, дадут другие результаты? Это вполне возможно, поскольку машина (в ходе работы. — С.Л.) становится как бы „необъективной“. Известно, что человек не может не быть пристрастным, почему же машина (компьютер) должна быть пристрастной? Необъективность не должна вытекать из предпочтения (что касается качества), она вытекает из предоставления разнообразного веса противоречащим себе звеньям альтернатив. (Поскольку такие машины, будучи правдоподобными системами, не действуют тождественно.) Ситуация становится все более ясной, если мы выразим ее на языке игр. Машина является как бы игроком, ведущим состязание против некой „коалиции“, которая складывается из огромного количества разнообразных группировок: производственных, рыночных, а также транспортных, обслуживающих и т. п.».

Этот длинный вывод заканчивает следующее утверждение. Дело выглядит так: либо компьютеры не умеют учитывать большего количества переменных по сравнению с человеком, и тогда вообще не стоит их создавать, либо они это умеют, и тогда человек не может сам разобраться в результатах или принять независимое от компьютера решение… Человеку не остается ничего другого, как стать связным, который переносит информационную ленту от решающего компьютера к контрольному компьютеру. Если результаты компьютеров неодинаковы, человек не может сделать ничего другого, как выбрать, подбросив монету: из «высшего надзирателя» он становится механизмом случайного выбора!

И вот опять, и то лишь при управляющих компьютерах, мы столкнулись с ситуацией, когда они становятся «более быстрыми» по сравнению с человеком. Далее я писал, что «сегодня» (то есть в 1965 г.) мы вообще обходимся без таких компьютеров в экономике и менеджменте. Но в настоящее время (1994 г.) компьютерные сети уже протягивают свои «щупальца» в эти отрасли. И кроме того, сегодня оказалось, что в отраслях математики и математической физики, в которых на результаты работы компьютеров, распоряжающихся вычислительными мощностями, каждый математик или физик должен положиться, такую работу ни один человек даже на протяжении всей жизни проконтролировать не в состоянии. И если в этих отраслях, как бы близких логически, состав исходных аксиом не совпадает идеально с таким же составом при проведении работ в разных исследовательских центрах, то ничего, кроме проверяющих «суперкомпьютеров», придумать нельзя, и такие «суперкомпьютеры» вовсе не являются судом Божиим, а только очередным шагом развития компьютерных технологий, то есть нам открывается пропасть как regressus ad infinitum…[46]