Когда наступит четвертая мировая? Андрей Курпатов на QWERTY
Здравствуйте. Меня зовут Андрей Курпатов, я приветствую вас на канале QWERTY. Здесь я отвечаю на ваши вопросы. Вы можете задать вопрос, записать его на видео и прислать нам на почту. После этого я на него отвечу.
Сейчас я отвечаю на вопрос Игоря. Привет, QWERTY. Я недавно натолкнулся на рассуждение о том, что четвертая мировая война реальна в обозримом будущем, но только воевать будут не люди с людьми, а с машинами, роботами. Возможно ли это или не более, чем фантазия?
Что ж, Игорь, большое спасибо за вопрос. Мне приятно, что вы знаете про четвертую мировую войну. Когда я стал рассказывать об этом на Снобе, я делал аллюзию к той четвертой технологической революции, которая сейчас происходит и о которой активно обсуждают все крупные бизнесмены. Этому посвящены огромные мероприятия на Давосском Международном Экономическом Форуме. Это очень серьезный вопрос.
Действительно, роботы приходят, техника заменяет людей на производстве. И то, что происходит дальше - это очень серьезный, опасный для человека, для гуманитарной сферы вопрос: может ли искусственный интеллект взбунтоваться? Об этом нам рассказывают киношники, создают по этому поводу массу фильмов и сериалов: "Терминатор", "Я робот", и сейчас самый модный, может быть, и актуальный на эту тему сериал "Мир дикого Запада".
Возможно ли, что машины действительно вот так оживут и станут руководить нами? Ну здесь надо честно сказать, что все это фантазии, и, конечно, никакие роботы не оживут и не будут ходить и порабощать человечество. Происходить эти процессы будут совсем по-другому. Искусственный интеллект - это не то, что делает машину человеком.
Особенность искусственного интеллекта состоит в том, что он будет намного умнее нас именно потому, что он по-другому устроен. Механизмы, которые определяют сейчас главные тренды в создании искусственного интеллекта, заложены такие, что эта машина реально будет думать лучше, чем мы. И с компьютерами типа Deep Blue, который в свое время выиграл у Каспарова в шахматы, и у компьютера IBM Watson, который выигрывает в Jeopardy и который сейчас прекрасно ставит диагнозы уже человеку как врач, выполняя соответствующие медицинские функции.
Проблема с искусственным интеллектом не в том, что он будет на нас нападать и у него есть по поводу нас какая-то агрессивная модель поведения. Не случайно все всегда начинают ссылаться на законы Айзека Азимова, который в свое время говорил об этих законах робототехники, что мы обязательно заложим в машину эту идею, что навредить человеку нельзя.
С другой стороны, фантасты говорят: а что если машина посчитает, что мы вредим сами себе и в этом случае, защищая нас, она возьмет нас в рабство? Короче говоря, дискуссии по этому поводу ведутся серьезные и их очень много. В книге "Последнее изобретение человечества" Джеймс Баррат приводит прекрасную аналогию, нам нужно о ней подумать. Он говорит: представьте себе, что вы проснулись в клетке, охраняемой мышами.
Это искусственный интеллект, который обретает эту способность мыслить лучше, чем мы благодаря навыкам нейронной сети, благодаря использованию данных Big Data. Мы в этом смысле совершенно оказываемся бессильны как-то его ограничить. Говорят, у искусственного интеллекта не будет желаний, у него нет никаких стремлений.
С какой стати он захочет идти куда-то дальше, нежели те пределы, которые установит ему человек? В этом вся и фишка-то. Мы с вами, думаете, обладаем желаниями? Нет, мы тоже движимы какими-то нашими внутренними подсознательными структурами. У нас есть цели, которые мы достигаем, и именно они становятся нашими желаниями.
И дальше мы начинаем действовать. У искусственного интеллекта его нельзя иначе программировать. Обязательно есть цель, он преследует какую-то цель и дальше он начинает понимать, что ему для достижения этих целей нужно, например, много энергии. А мы с вами, в каком-то смысле очень такая серьезная структура из атомов и молекул, которую можно превратить в хорошую энергетическую... в батарейку, что, собственно говоря, и сделали создатели Матрицы в своей фантазии о том, как будет развиваться будущее.
Еще таких исследователей называют алармистами, предполагая, что вот эта паника перед будущим - это прямо какая-то патология. На самом деле, мы должны думать серьезно и смотреть правде в глаза. Наш мозг - это, по сути дела, такая, пусть и очень сложная, но машина. Она состоит из элементов, эти элементы связаны друг с другом и они производят определенные информационные процессы.
Наше сознание, в этом смысле, не является никакой данной нам свыше силой, какой-то уникальной способностью. Машина вполне способна решать те же задачи, которые решаем мы, но она будет решать их лучше, потому что технически она устроена иначе, более эффективно.
Лично я не разделяю паники в отношении искусственного интеллекта. Мне кажется, это очень хорошо, если мы создадим машины, которые будут способны помогать нам жить, решать наши задачи. И будут делать это лучше, чем другие люди, чем врачи. Если это будут учителя, которые будут учить лучше, чем другие люди, вообще это очень хорошо, и ждать этого счастливого момента, возможно, осталось совсем недолго.
Но есть риск. И здесь нужно понять, где развернется самая настоящая война. Война развернется за наше с вами сознание, за наше с вами мышление. Представьте, что все, что вам нужно, делает машина, решает любую вашу задачу. Вот что бы у вас ни возникло, какой-то проблемы - искусственный интеллект знает, что с этим делать.
Он знает, как управлять вашим домом, он знает, как решать любую производственную задачу, он знает, как даже поднять вам настроение, потому что он создаст в 3D такие визуальные картинки, которые вас будут радовать и веселить.
Что станется с вами, если вы не будете постоянно решать какие-то интеллектуальные задачи? Интеллект - это тренировка, это навык решения сложных интеллектуальных задач, и мы с вами - homo sapiens, обезьяны разумные.
Но если все за нас начнет делать машина, а к этому все и идет, то останемся мы разумными или нет? Для меня - большой вопрос. И мне очень бы не хотелось потерять человечество в том виде, в котором я его знаю, с великими и замечательными людьми, с которыми интересно поговорить, потому что разговаривать с искусственным интеллектом все-таки не хотелось бы.
Это была программа Игры Разума и я, Андрей Курпатов, канал QWERTY ждет ваших вопросов, видеовопросов. Я буду на них отвечать, и мы будем разбираться, как жить дальше в этом сложном и непростом времени.