Истинный ИИ не то чтобы невозможен с логической точки зрения, но он совершенно неправдоподобен. Мы не имеем ни малейшего понятия о том, как мы можем начать разрабатывать его, к тому же вообще не представляем, как работают наши собственные мозг и разум. Это означает, что нам не следует заморачиваться по поводу возможного появления сверхразума. Что действительно важно — тот факт, что нарастающее присутствие постоянно развивающихся технологий оказывает огромное влияние на то, как мы воспринимаем самих себя, мир, наши взаимодействия с ним. Дело не в том, что у наших машин есть сознание, или ум, или что они могут делать то, что нам не под силу. Все это неправда. Существует множество хорошо известных результатов, демонстрирующих вычислительные ограничения, так называемые неразрешимые задачи.
Множество машин могут делать поразительные вещи, среди которых игра в шашки, шахматы, Го или телевизионная игра-викторина Jeopardy. И играют они лучше нас. И тем не менее, они все являются версиями Машины Тьюринга — абстрактной модели, которая ставит ограничения на то, что может сделать компьютер, используя свою математическую логику. Квантовые компьютеры точно также ограничены лимитом того, что может быть вычислено (так называемые вычисляемые функции). Никакая наделенная сознанием сущность не возникнет из Машины Тьюринга. Дело в том, что наши смарт-технологии — во многом благодаря невероятным объемам доступных данных и весьма изощренному программированию — все чаще справляются с некоторыми задачами лучше нас, в том числе, лучше предсказывают наше поведение. Так что, да, мы не единственные, кто может успешно выполнять задачи.
Мы должны сделать ИИ дружественным окружающей среде. Нам необходимы самые высокие технологии, которые мы только можем создать, чтобы бороться с реальными бедствиями, будь то преступления, терроризм, война, или голод, бедность, безграмотность, неравенство и ужасающий уровень жизни. Глупость ИИ должна всегда работать на разум человека. Миллионы рабочих мест могут быть сокращены, исчезнуть или появиться: вся польза от этого должна делиться между всеми, а затраты нестись обществом. Нам необходимо использовать прогностические способности ИИ на благо наших свобод и независимости. И, наконец, нужно настроить ИИ на поддержание нашей собственной человечности. Высок риск того, что мы злоупотребим нашими высокими технологиями в ущерб большинству человечества и всей планеты. Как сказал Уинстон Черчилль, «мы лепим наши творения, а потом наши творения лепят нас».
66