бизнес | страна советов
кретный оператор. Нет пока беспилотников, которые бы убивали сами. Пелевин в своей книге « Зенитные кодексы Аль-Эфесби » предвосхитил развитие искусственного интеллекта в области беспилотников. Он написал про полковника КГБ, который рисовал на земле знаки, выводящие из строя умных беспилотников, которые пытались их анализировать и их от этого клинило. Шикарная книга. Собственно, это самое опасное – то, какие задачи выберет искусственный интеллект для решения. А вдруг он сам по себе ради математического интереса поставит задачу « убить всех людей » и будет ее решать?
Крымский: И ничего его не остановит. Потому что человек – единственное существо, которое придумало себе нормы морали.
Малыгин: Верно. Все говорят про искусственный интеллект, и никто не говорит о том, что человеком движет не только разум, но и воля или эмоции. Почему мы говорим только об искусственном интеллекте? Почему не говорим об искусственном гневе? Искусственной печали? Искусственной воле? Давайте делать робота, который снабжен и интеллектом, и волей. Кто‐то живет ради высокой цели, кто‐то живет ради пива в пятницу, кто‐то ради детей. Разные причины жить. Ради чего жить роботу? Куда ему развиваться? Его создали, и он наливает кофе или выдает купюру. И в этом весь смысл его жизни? А вдруг он задумается над этим и создаст искусственный смысл жизни искусственной жизни искусственного интеллекта. Так что, пока люди опасаются искусственного разума, я больше боюсь искусственных эмоций. А если робот будет разгневан? В видеороликах компании Boston Dynamics, изобретающей шагающих роботов, человек пинает или бьет робота, чтобы показать его устойчивость и способность восстанавливать равновесие. А что если робот развернется и треснет обидчику? Надо расширить диа пазон восприятия. Если робот будет способен к искусственным эмоциям, его тогда можно и разжалобить. Заставить переживать, сострадать, изменить решение под влиянием искусственных эмоций. А голый разум будет поступать только оптимально. Если будет оптимально убить – он убьет. Мне кажется, что искусственный разум без искусственных эмоций опасен тем, что у него нет тормозов. Мы всегда прикидываем последствия и переживаем о том, что о нас подумают. Человек живет в обществе. А искусственный интеллект – нет.
Крымский: Мне не верится, что это возможно. Мы же не боги. Вряд ли человек способен создать такое же совершенное существо, как он сам. А если просто научить робота испытывать сочувствие при виде слез – это опять же работа по заданному алгоритму. Искусственный интеллект сам должен решать – испытывать сочувствие или нет. Как люди: один при виде слез испытывает сострадание, а другой – раздражение. Маск берется за неподъемные задачи. Вряд ли он задумывается о последствиях.
Малыгин: Он недавно увел девушку у Джонни Деппа. Для него нет неподъемных тем.
Крымский: Да, но даже он не способен предсказать последствия. Не все, кто изобретает, знают, каким будет результат.
Малыгин: Время жизни человека ограничено. Ну сколько Маск еще протянет? 30‐40 лет. Есть тот, кто продолжит его дело? Вряд ли. Если бы он мог сделать себя вечным, это было бы опасно. А так – нет. Человек слишком мало живет, чтобы сделать что‐то серьезное. Жил бы лет 400, тогда да. А так ничего не успеваешь понять – и уже умирать пора.
Крымский: Поэтому меня тянет к староверам съездить – посмотреть, как они живут. Считается, что все болезни из‐за отсутствия гармонии с природой. Староверы ее обрели и счастливы.
Малыгин: Мой друг Андрей Хазов тесно общается с жителями старообрядческой деревни Быньги в районе Невьянска. Раньше там был золотой прииск, сколько‐то золота добыли и еще тонны три осталось. Одна компания хочет это золото из‐под старообрядцев достать, хотя для этого придется отравить воду и землю, после чего и люди постепенно умрут. Да, старообрядцы живут в гармонии с природой, но что им это дало? Придут к ним скоро за золотом, и староверы умрут от отравленной воды.
Крымский: Не только староверы, но и мы не можем себя защитить. Что происходит в Челябинской области на Томинском ГОКе? То его запретили строить из‐за экологической опасности, то вдруг разрешили без изменений проекта. Люди протестуют. У них уже есть Карабаш – город, признанный ООН зоной экологического бедствия. Но вряд ли те, кто зарабатывает на ГОКе, всерьез воспринимают эти протесты. Всё потому, что завязаны очень большие деньги.
Малыгин: Не это ли искусственный интеллект? Когда не остается ни жалости, ни эмоций. Только холодный расчет.
Крымский: У них другая картина мира.
Малыгин: Оптимальность и получение максимальной прибыли.
Крымский: Для себя. В соответствии с заложенным алгоритмом. Получается, что будущее, которое нас тревожит, уже наступило.