Александр Генис: Бердяев писал, что человек стал царем природы, чтобы оказаться рабом машины. О том, надо ли понимать эти слова буквально, спорили участники конференции в Калифронии, обсуждавшие опасности, которые нам несут революционные открытия в области искусственного интеллекта. Сегодня в гостях “Американского часа” - один и участников этой конференции, эксперт в сфере информационных технологий, профессор компьютерных алгоритмов университета Карнеги-Меллон Том Митчелл. С гостем беседует наш корреспондент Ирина Савинова.
Ирина Савинова: Как участник этой конференции, не могли бы Вы рассказать о ней подробнее?
Том Митчелл: Группа ученых собралась в Асиломаре на конференцию, созванную президентом Ассоциации по решению вопросов искусственного интеллекта. Его намерением было организовать широкую дискуссию, отличающуюся от рутинных обсуждений. Как правило, ученые этой области знаний собираются, чтобы решать сугубо технические вопросы: как сделать так, чтобы робот выполнил такое-то задание; с какой стороны подойти к созданию алгоритма, способного распознать и остановить спам. Но искусственный интеллект – могущественная технология. И на этот раз мы хотели рассмотреть в перспективе, как она будет развиваться, каково будет ее влияние на общество и как предотвратить возможные нежелательные ее применения.
Группа приготовит отчет о конференции, он будет готов осенью. А пока я могу только поделиться своим мнением и теми идеями, которые интересуют меня больше всего.
Ирина Савинова: Какие наиболее впечатляющие достижения ученых, занимающихся проблемами искусственного интеллекта?
Том Митчелл: Последние десять лет наука искусственного интеллекта может похвастаться многими важными достижениями, в грядущем их будет еще больше. Например, созданы системы искусственного интеллекта, позволяющие нам сегодня управлять гидро- и атомными станциями с удивительной эффективностью и безопасностью. Программы искусственного интеллекта помогли улучшить медицинскую помощь. Накопление и обобщение исторического опыта, - какие симптомы сопутствуют какому заболеванию и какие лекарства наиболее действенны, - позволяют создавать наиболее эффективный курс лечения. Системы ИИ позволяют отфильтровывать компьютерный спам. Мы не можем полностью читать его текстовую часть, но определяем смысл с большой точностью. Умные компьютеры напоминают старикам во время принять лекарство, что позволят пожилым людям жить дома, а не в домах престарелых.
А в недалеком будущем мы увидим такие изобретения, как безопасные автомобили, не допускающие столкновения с пешеходом по вине водителя.
Примеров положительного участия в жизни общества систем искусственного интеллекта очень много.
Ирина Савинова: Тогда в чем причина тревоги, побудившей созвать конференцию?
Том Митчелл: Системы искусственного интеллекта могут иметь и хорошее, и плохое применение. Это как с автомобилем. Мы знаем, что они необходимы, но мы также знаем, что они убивают людей, и довольно часто. Но вместо того, чтобы запретить автомобили, люди совершенствуют контроль над их действиями. С одной стороны, мы улучшаем их конструкцию – устанавливаем в них ремни безопасности; с другой – ограничиваем пределы скорости, с какими автомобили могут ездить. По аналогии, конференция в Асиломаре преследовала эти же цели: как уменьшить зло от систем ИИ и максимально увеличить то добро, какое общество от них получает.
Ирина Савинова: Чего Вы опасаетесь больше всего от систем искусственного интеллекта: того, что наступит время, когда будут созданы машины умнее человека?
Том Митчелл: В фильмах научной фантастики мы иногда видим, как роботы захватывают мир. С моей точки зрения, подобные идеи не имеют отношения к реальности. Если рассмотреть такую систему как фильтр от спама или другие примеры, которые я только что приводил, то становится понятно, что это - компонентная технология. Никто не занимается разработкой компьютеров, которые будут выполнять свои собственные задачи или думать о том, как им поступать. Ученых интересуют системы, выполняющие специфические задания. Исследований, ведущих к созданию автономных систем ИИ не ведется. Так что опасаться этого нечего.
Но с другой стороны, есть вопросы, вызывающие опасения и имеющие гораздо больше значения для нас, людей, чем фантазии о революции роботов.
Один из них – сбор и накопление нашей личной информации. Возьмем мобильный телефон. Сразу возникает вопрос вторжения в частную жизнь. Телефонная компания не только фиксирует, с кем мы говорим, но и следит за нашими передвижениями, если в вашем телефоне есть система глобального позиционирования. Так обо мне собирается огромное количество личной информации. Кем-то и каким-то образом она используется без моего ведома. Иногда, правда, на пользу общества. Представьте такую ситуацию: пациент заходит в отделение неотложной помощи госпиталя, и ему ставят диагноз – свиной грипп. По информации на его мобильном телефоне можно установить, где он бывал, с кем встречался, кто был рядом с ним в радиусе трех метров. Этим людям можно сообщить об опасности заражения. Это простой пример хорошего применения системы ИИ.
Ирина Савинова: Но как быть с вопросом вторжения в частную жизнь?
Том Митчелл: В разных странах с собранной информацией о частных лицах поступают по-разному. У нас в Америке вы даже не являетесь владельцем вашей информации – она принадлежит телефонной компании.
Другая опасность – компьютерные вирусы. Вирус в вашем мобильнике “видит” все, что вы делаете на вашем телефоне: кому и как отвечаете на электронную почту, на какие сайты заходите в интернет, как делаете покупку, используя кредитную карточку. В потенциале вирус способен использовать ее номер и тоже что-то купить – он “видел” номер моей кредитной карточки, когда я его вводил. Предположим, что этот вирус запущен в ваш компьютер или телефон государственным агентством или организованной преступной группировкой для достижения тех или иных целей: следить за вами, запугать, обмануть, нажиться за ваш счет. Понятно, что телефонная компания – не преступная группировка, она делает деньги легальным способом. А что, если преступная группировка создаст и запустит в мой компьютер или телефон вирус, который может быть довольно усовершенствованным, узнающим голос, например? Сценарий становится все более пугающим.
Ирина Савинова: Что же делать?
Том Митчелл: Нас затапливает море собранной о нас всех информации. Ее можно использовать с толком: например, как мы уже говорили, остановить распространение эпидемии, но остается вопрос вторжения в нашу частную жизнь. Проблема сегодня достигла астрономических размеров – мы с такими никогда еще не сталкивались. Потому необходимо, прежде всего, создать законодательство, определяющее, кому принадлежит частная информация. Я лично считаю, что моя информация принадлежит лично мне, и только я могу дать разрешение на ее использование. Сегодня такого законодательства в Америке нет. Так что можно начать именно с его создания.
Что касается вирусов – тут необходима помощь технологий и немедленная, поскольку вирусы все труднее опознать и расшифровать.
Резюмируя, можно сказать, что всем, а не только ученым, необходимо понять риск, связанный с Искусственным интеллектом. Тогда мы сможем установить на него, продолжая автомобильную метафору, своего рода ремни безопасности и определить необходимые ограничение скорости.