бизнес | страна советов
кретный оператор . Нет пока беспилотников , которые бы убивали сами . Пелевин в своей книге « Зенитные кодексы Аль-Эфесби » предвосхитил развитие искусственного интеллекта в области беспилотников . Он написал про полковника КГБ , который рисовал на земле знаки , выводящие из строя умных беспилотников , которые пытались их анализировать и их от этого клинило . Шикарная книга . Собственно , это самое опасное – то , какие задачи выберет искусственный интеллект для решения . А вдруг он сам по себе ради математического интереса поставит задачу « убить всех людей » и будет ее решать ?
Крымский : И ничего его не остановит . Потому что человек – единственное существо , которое придумало себе нормы морали .
Малыгин : Верно . Все говорят про искусственный интеллект , и никто не говорит о том , что человеком движет не только разум , но и воля или эмоции . Почему мы говорим только об искусственном интеллекте ? Почему не говорим об искусственном гневе ? Искусственной печали ? Искусственной воле ? Давайте делать робота , который снабжен и интеллектом , и волей . Кто‐то живет ради высокой цели , кто‐то живет ради пива в пятницу , кто‐то ради детей . Разные причины жить . Ради чего жить роботу ? Куда ему развиваться ? Его создали , и он наливает кофе или выдает купюру . И в этом весь смысл его жизни ? А вдруг он задумается над этим и создаст искусственный смысл жизни искусственной жизни искусственного интеллекта . Так что , пока люди опасаются искусственного разума , я больше боюсь искусственных эмоций . А если робот будет разгневан ? В видеороликах компании Boston Dynamics , изобретающей шагающих роботов , человек пинает или бьет робота , чтобы показать его устойчивость и способность восстанавливать равновесие . А что если робот развернется и треснет обидчику ? Надо расширить диа пазон восприятия . Если робот будет способен к искусственным эмоциям , его тогда можно и разжалобить . Заставить переживать , сострадать , изменить решение под влиянием искусственных эмоций . А голый разум будет поступать только оптимально . Если будет оптимально убить – он убьет . Мне кажется , что искусственный разум без искусственных эмоций опасен тем , что у него нет тормозов . Мы всегда прикидываем последствия и переживаем о том , что о нас подумают . Человек живет в обществе . А искусственный интеллект – нет .
Крымский : Мне не верится , что это возможно . Мы же не боги . Вряд ли человек способен создать такое же совершенное существо , как он сам . А если просто научить робота испытывать сочувствие при виде слез – это опять же работа по заданному алгоритму . Искусственный интеллект сам должен решать – испытывать сочувствие или нет . Как люди : один при виде слез испытывает сострадание , а другой – раздражение . Маск берется за неподъемные задачи . Вряд ли он задумывается о последствиях .
Малыгин : Он недавно увел девушку у Джонни Деппа . Для него нет неподъемных тем .
Крымский : Да , но даже он не способен предсказать последствия . Не все , кто изобретает , знают , каким будет результат .
Малыгин : Время жизни человека ограничено . Ну сколько Маск еще протянет ? 30‐40 лет . Есть тот , кто продолжит его дело ? Вряд ли . Если бы он мог сделать себя вечным , это было бы опасно . А так – нет . Человек слишком мало живет , чтобы сделать что‐то серьезное . Жил бы лет 400 , тогда да . А так ничего не успеваешь понять – и уже умирать пора .
Крымский : Поэтому меня тянет к староверам съездить – посмотреть , как они живут . Считается , что все болезни из‐за отсутствия гармонии с природой . Староверы ее обрели и счастливы .
Малыгин : Мой друг Андрей Хазов тесно общается с жителями старообрядческой деревни Быньги в районе Невьянска . Раньше там был золотой прииск , сколько‐то золота добыли и еще тонны три осталось . Одна компания хочет это золото из‐под старообрядцев достать , хотя для этого придется отравить воду и землю , после чего и люди постепенно умрут . Да , старообрядцы живут в гармонии с природой , но что им это дало ? Придут к ним скоро за золотом , и староверы умрут от отравленной воды .
Крымский : Не только староверы , но и мы не можем себя защитить . Что происходит в Челябинской области на Томинском ГОКе ? То его запретили строить из‐за экологической опасности , то вдруг разрешили без изменений проекта . Люди протестуют . У них уже есть Карабаш – город , признанный ООН зоной экологического бедствия . Но вряд ли те , кто зарабатывает на ГОКе , всерьез воспринимают эти протесты . Всё потому , что завязаны очень большие деньги .
Малыгин : Не это ли искусственный интеллект ? Когда не остается ни жалости , ни эмоций . Только холодный расчет .
Крымский : У них другая картина мира .
Малыгин : Оптимальность и получение максимальной прибыли .
Крымский : Для себя . В соответствии с заложенным алгоритмом . Получается , что будущее , которое нас тревожит , уже наступило .