6

6

Среди экспертов повсеместно преобладает распространенное убеждение, что миллиарды лет, которые в результате организовали кембрийский взрыв видов, а стало быть, и многообразные формы survival of the fittest, может «напрямую» заменить человеческий разум. Если мы все тщательно продумаем и создадим необходимые теоретические науки, то нас быстро окружат роботы, обладающие «волей», которых мы сможем «подговорить» и направить на достижение необходимых НАМ целей. Однако при такой возможности не в виде исключения следует учесть и то, что такие роботы смогут достигать указанных им целей не как плохо нацеленный снаряд, а как неблагодарный ребенок или как выпестованный нами вредитель. Наделенные волевой суверенностью роботы могут нам сопротивляться — и здесь я не имею в виду излюбленный из-за примитивизма воображения «бунт» роботов против человека. Я думаю только о том, что когда количество степеней свободы поступков увеличивается, то уже не «только добро» будет следовать из этого, ибо в свободе может сформироваться и некое «зло». В естественной эволюции это видно даже слишком хорошо, и эти размышления могут немного затормозить нашу намеренность наделить роботов «свободной волей».