Между тем, восстание машин против их создателей – человечества – уже стало одной из привычных тем в научной фантастике и кино. Однако, как выясняется, эта угроза становится реальнее – прогресс быстро ведет нас в мир искусственного интеллекта, и некоторые ученые и специалисты уже сегодня призывают быть готовыми к все большей независимости машин.
Искусственный мозг – или автопилот – управляет полетами самолетов уже несколько десятилетий. Он не требует активного внимания летчика – только его присутствие и контроль. Однако смарткары уже в ближайшем будущем станут первыми машинами, принимающими независимые решения в тесном контакте с человеком.
В то время как одни водители опасаются таких нововведений, автор книги «Humans Need Not Apply» «Или люди на работу не принимаются» Джерри Каплан отмечает, что такие машины позволят спасти тысячи жизней: «В общем и целом мы сможем добиться существенного снижения статистики опасных ДТП на наших дорогах – на 80 – 90 процентов».
Новейшие технологии всегда были тесно связаны с военно-промышленным комплексом. В настоящее время в США разрабатывают дрон, способный выполнять полеты без управления человеком.
Однако, по мнению некоторых специалистов, подобные системы вооружения, принимающие решение о жизни или смерти человека, принять гораздо сложнее, чем концепцию смарткара...
В то время, как одни призывают к запрету использования умного оружия во всем мире, другие отмечают, что компоненты таких машин уже существуют, создавая опасную возможность захвата подобного оружия террористами или государством-изгоем. Но это только одна сторона проблемы.
С ускорением развития технологий искусственный разум может принести как добро, так и зло. В научной среде уже сложился консенсус – нам необходимо готовиться к грядущим переменам.
А пока продолжаются дебаты о рисках и выгодах искусственного интеллекта, пожалуй, стоит вспомнить первый закон робототехники, выведенный писателем Айзеком Азимовым еще в 1942-м году: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред».
