Александр Генис: А сейчас - новый выпуск новой рубрики АЧ - “Разговоры с Цветковым”. В ней моим собеседником выступает известный поэт Алексей Цветков. Помимо стихов, которые знатоки считают одними из лучших в современной русской поэзии, Цветков активно занимается публицистикой. Эрудит, любитель и знаток самых разных областей знаний, он интересуется многими, но равно увлекательными темами.
Сюжет сегодняшнего “Разговора с Цветковым” подсказала дискуссия в американской прессе. В последнее время в ней появилось немало серьезных статей, которые предрекает нам тихий бунт машины. Речь идет о роботизации производства в самом широком смысле. Эта тема стала актуальной после того, как выяснилось, что машины претендуют отнюдь не только на рабочие места синих воротничков. Из-за наступления поумневших технических ассистентов исчезают целые профессии, вроде туристических агентов, секретарей, приемщиц и так далее. Теперь очередь за творческими работниками. Журналисты с ужасом обнаружили, что очень скоро грамотные и всезнающие программы научатся писать вместо них.
Помимо грандиозных социальных проблем, тут еще и проблема философская, общекультурная.
Значит ли, что человек сталкивается с проблемой чужого - нечеловеческого - разума? Вот с этого вопроса я, Алексей, и хочу начать нашу сегодняшнюю беседу.
Алексей Цветков: Во-первых, отделим котлеты от мух. Все-таки роботизация — это не совсем то же, что чужой разум.
Александр Генис: Дело в том, что роботизация возможно только с участием того, что сейчас называется искусственный интеллект. Насколько это справедливо — второй вопрос. Но то, что именно поумневшая машина неизбежная часть роботизации бесспорно.
Алексей Цветков: Опять позволю себе разделить. Есть искусственный интеллект, то, что называет AI, и есть то, что называется “Strong AI” – это сильный искусcтвенный интеллект. И под этим имеется в виду автоматы, обладающие сознанием. Это уже другая ступень, а не просто роботы, которые, кстати, журналистов, копирайтеров вполне могут заменять. Были уже соревнования, где выяснилось, что роботы пишут быстрее и лучше. Скоро очень многие профессии окажутся доступными для таких программ.
Александр Генис: Включая роботов-авторов бульварных романов. Я прочитал, что существует достаточно умная программа, которая может заменить большую часть писателей, сочиняющих романы для супермаркетов.
Алексей Цветков: Это как раз довольно просто, я думаю. Но вернемся к теме “Strong AI”. Как раз сейчас об этом один за другим выходят на экраны фильмы. Один их них - «Она» про умную операционную систему, которая обладает как бы сознанием, и в нее влюбляется человек, хозяин этого компьютера.
Александр Генис: Это миф о Галатее.
Алексей Цветков: А еще одна Галатея с более зловещим концом — это фильм, который сейчас идет, он называется ‘Ex Machina”, где по сюжету какой-то предприниматель из Силиконовой долины, большой миллиардер приглашает к себе в поместье человека, одного из самых умных сотрудников, и просит, чтобы он провел тест Тьюринга с женщиной-роботом, которую он создал, и определил, есть ли у нее сознание. Причем у машины соблазнительное лицо, но все время из нее выглядывают какие-то детали электронные. Все это заканчивается очень плохо для нашего героя.
Александр Генис: Голливуд - подсознание общества. И эти фильмы говорят о том, что нас подспудно пугает и волнует. Но раз зашла речь об Алане Тьюринге, я не могу не вспомнить замечательный фильм «Игра в имитацию», который справедливо, по-моему, получил «Оскар» за лучший сценарий. Пафос этого фильма в том, что только столь необычный человек... а Тьюринг был совершенно необычным человеком, он был аутистом, он не понимал, что такое юмор, он не понимал, что такое отношения между людьми, он был чужаком среди людей. Так вот, только такой необычный человек, как герой этого фильма, смог построить нечто принципиально чуждое нашему разуму — первый компьютер. Это уже не отвертка и еще не человек, а нечто среднее между ними — чужое. Значит ли это, что искусственный интеллект, в том числе сильный искусственный интеллект следует определять не по человеческим критериям?
Алексей Цветков: Вспомним, что у самого Тьюринга был критерий — это так называемый “тест Тьюринга”. Когда ты в течение какого-то времени, заранее определенного, беседуешь с такой машиной, и не можешь определить, что это не человек, допустим, она спрятана за стенкой, и вы общаетесь таким образом, то тогда надо считать, что у нее есть сознание.
По-моему, это сказка и полный бред. Между прочим, недавно, и по-моему, это не первый раз, какая-то машина прошла тест Тьюринга. Но что это было? Это программисты, по-моему, из бывшего СССР, вложили в нее биографию какого-то мальчика из Одессы. Что знают испытующие о мальчиках из Одессы? Но он как-то убедил их, что он мальчик из Одессы. Но давайте посмотрим на эту вещь иначе— он же их обманул. То есть имеется в виду, что мы сделаем такую машину, которая обманет вас, и у нее будет сознание. Я сижу напротив вас, я полагаю, что у вас есть сознание, для этого не надо никакого теста Тьюринга. В вас никто не вкладывал программу, с помощью которой вы должны меня обмануть, что у вас есть сознание.
Александр Генис: Я понимаю, здесь как раз имитация сознания, а не собственно мыслящая машина. Вообще все эти соревнования, все эти конкурсы, они меня тоже не устраивают в качестве критерия прогресса. Я помню, когда Каспаров соревновался с компьютером ‘Deep Blue’ и проиграл ему шахматный матч. Но это все равно, что силачу соревноваться с трактором. Однако, давайте вернемся к проблемы сознания. То есть вы прежде всего разделяете интеллект и сознание?
Алексей Цветков: Конечно! Интеллект, который способен решать задачи, в том числе и творческие задачи, сколько угодно сложные — это совершенно другое. Я не сомневаюсь, что техника достигнет больших успехов. В том, что она когда-либо воспроизведет сознание, я сильно сомневаюсь, более того, я просто уверен, что этого никогда не будет, потому что мы даже и не начали понимать, что такое сознание.
Александр Генис: Раз мы не знаем, что такое сознание, как мы можем его воспроизвести? Хотя, конечно, не исключено, что сознание родится помимо нашей воли.
Алексей Цветков: Посмотрите на парадокс. Вот есть, допустим, мышь, у нее в какой-то степени есть сознание в том смысле, что она видит окружающий мир и воспринимает его. Она видит это с перспективы своего первого мышиного лица. Она точно не автомат.
Александр Генис: Декарт считал, что все животные автоматы.
Алексей Цветков: Но современная биология полностью это отвергла. Люди, которые общались с животными, прекрасно знают, что сознание у них существует. До какой степени оно простирается, может до гидры и медузы, мы этого не знаем. Но мы же начинаем не с мыши, мы начинаем, мы хотим создать сознание с интеллектом, равным человеческому или даже превосходящим человеческий. Нам говорят о сингулярности, которая вот-вот предстоит, и что эти машины потом в своих интересах могут захватить мир. Все нас предупреждают, большие ученые и предприниматели предупреждают нас, что, пожалуйста, смотрите осторожнее. Смешно. Это как если бы мы пытались изобрести фотонный двигатель до того, как мы поняли принцип действия велосипеда или самоката.
Александр Генис: Я понимаю, о чем вы говорите. Для сознания нужно первое лицо: “Я мыслю, следовательно, Я существую”. Достаточно “Я”, чтобы было сознание. Другой разговор, что я не очень представляю себе, как мыслит мышь, или как мыслит собака, или как мыслит кошка. Мне кажется, что это как раз и есть чужое сознание, которое нам понять с одной стороны труднее, а с другой стороны привычнее, чем любой компьютер.
Алексей Цветков: Есть замечательная статья об этом, которая сейчас изучается во всех курсах философии в первом семестре. Я имею в виду, конечно, аналитическую философию, а не метафоры, которыми пользуются в Европе. Это статья такого философа Томаса Нагеля, которая называется «Что такое быть летучей мышью». И вот там он пытается анализировать эту проблему. А у летучей мыши, как вы знаете, даже органы чувств другие, она воспринимает мир через эхолот, а зрение у нее вспомогательные. Во-первых, он не сомневается, конечно, что какое-то сознание у нее есть, она видит, она чувствует, у нее есть перспектива первого лица. Но мы никогда не сможем себе представить, никогда не сможем влезть в ее шкуру, побыть летучей мышью и понять, что это такое. Это же относится и к мышкам, и к кошкам.
Александр Генис: Это, конечно, верно. Я 17 лет жил с моим котом Геродотом, и никогда его не мог понять, зато он меня запросто. У него гораздо больше было аналитических способностей, чем у меня, и он прекрасно приспособил меня к своим нуждам. Я думаю, что с точки зрения кота я как раз и есть та самая умная машина, которую можно заставить делать то, что нужно, и очень просто запрограммировать. Мяукнул — дай еду, мяукнул еще раз — открой окно и так далее.
Вы произнесли важное слово — сингулярность. Это - хлеб современной фантастики, самопроизвольное возникновение чужого разума, знаменитая точка сингулярности. Недавно один футуролог у нас в передаче выступал и говорил, что в 2050 году как раз и возникнет точка сингулярности, то есть возникнет чужой разум. Самопроизвольно, неизвестно как, непонятно почему, но он возникнет, потому что слишком сложная система всех этих коммуникаций, неминуемо породит чудовище Франкенштейна. Как вы относитесь к этой перспективе?
Алексей Цветков: Футурологи могут многое, кроме одного — они не могут предсказывать будущее.
Александр Генис: Только случайно.
Алексей Цветков: Допустим, Артур Кларк предсказал коммуникационные спутники — это единственное исключение.
Александр Генис: Ну уж тогда и Жюль Верн предсказал массу всего. Но тогда это было проще, по-моему, тогда прогресс был более линейным.
Алексей Цветков: Тогда линейный был прогресс. Но никто не предсказал интернет.
Александр Генис: У Стругацких был интернет - всеобщая сеть информационной паутины.
Алексей Цветков: Мне вспоминается в одном романе Азимова, где герои путешествуют в будущее, они набивают карманы перфолентами — это замечательно.
Александр Генис: В одном фантастическом романе XIX века действие происходит в XXIV веке и там женщинам разрешено кататься на велосипедах.
Алексей Цветков: Замечательно. Но вернемся к этой проблеме. Научная фантастика, конечно, очень важная отрасль литературы — это наша современная мифология, хотя мы не относимся к ней как к таковой. Даже мусорная фантастика имеет какое-то значение в этом смысле. Хотя есть замечательные писатели первого ранга, те же Стругацкие, Станислав Лем, Урсула Ле Гуин и можно еще перечислить. У фантастики есть одна-единственная подавляющая тема, хотя существует много ее разновидностей, но их всех можно свести к одной — это контакт.
Александр Генис: Совершенно с вами согласен. Нет другой темы в фантастике, поэтому я считаю, что это не только мифология, но и теология. Фантастика изучает только одну проблему — как нам общаться с неземным разумом, то есть с Богом. И в таких романах, как, например, «Солярис» Лема, эта тема поставлена очень остро.
Алексей Цветков: Она еще острее поставлена в романе Лема же «Глас Господень», где люди, которые разбирают весть из Вселенной, понимают, что они ничего и никогда не поймут, что они могут питаться только какими-то крошками этой вести. Контакт этот отчасти это пришельцы, с другой стороны это чужой разум или это будущее, что тоже по отношению к нам пришельцы.
Александр Генис: Совершенно верно. Стругацкие сказали, что главное в будущем — это то, что оно не имеет ничего общего с настоящим.
Алексей Цветков: Мифология, конечно же, имеет религиозную нагрузку, и в данном случае это связано с тем, с чем связаны все остальные религии. Мы боимся смерти, поэтому отгораживаемся от нее либо путем мифологии, либо путем религии. Но еще больше, как показали новые исследования философов, мы боимся вообще исчезнуть. Если нам скажут, что после нашей смерти исчезнет вообще вся Вселенная — это еще страшнее, чем наша личная смерть. Если мы одни и наша цивилизация кончится, то — эта перспектива пострашнее личной смерти. Научная фантастика — способ каким-то образом отгородиться от такого кошмара. Но она, фантастика, приходит и в нашу жизнь. Потому что опыты по созданию искусственного интеллекта — это современная алхимия. Как алхимики рассуждали? Есть свинец, есть золото, значит должен быть какой-то философский камень, который одно превращает в другое.
Александр Генис: Трансмутация металлов.
Алексей Цветков: Есть сознание, которое почему-то называют интеллектом, но неважно, допустим, интеллект, есть интеллект у нас в голове, мы его чувствуем каким-то образом. Есть компьютер, который почти такой же умный, но еще не такой. Значит мы еще немножко поднажмем, и он без нашего понимания, ведь алхимики ничего не знали об атомном устройстве свинца и золота, и одно перейдет в другое. Нейрофизиологи исследуют сейчас мозг, очень больших успехов добились, вот они и решили, что все поняли, что у нас нет свободной воли. Они там каким-то образом видят наши мысли, но они не видят перспективы первого лица, они видят лишь искры, электрические разряды. Если я поглажу свой свитер, то тоже выскочат электрические разряды.
Александр Генис: Помните, как Базаров говорил: мозг вырабатывает мысль, как печень - желчь.
Алексей Цветков: И сейчас есть такие.
Александр Генис: Давайте завершим этот разговор простой формулой: зачем нам нужен чужой разум? С одной стороны мы его смертельно боимся, с другой стороны мы к нему стремимся. Вы говорите о контакте как предельной точке человечества. В конце концов, нам нужно понять, как выйти за пределы себя, чтобы было с кем поговорить, а то мы все время говорим с собой. Так вот: Зачем нам нужен контакт, зачем нам нужно чужое сознание?
Алексей Цветков: Дело в том, что этим в основном занимаются люди, которые уже далеки от религии. Религиозного человека все это не пугает, потому что он верит, что найдет трансцендентное. Мы этого не знаем, но инстинкты у нас те же самые. Поэтому мы хотим, чтобы все продлилось. И это способ, конечно, со всеми опасностями, но это способ нас продлить, потому что иначе мы прекрасно понимаем, что в этой Вселенной мы какое-то время просуществуем и исчезнем, поэтому ищем способа выскочить в вечность без всякой религии. Только это тоже религия.
Александр Генис: У меня есть знакомые, которые ждут не дождутся, когда они смогут переселиться в компьютер, и таким образом стать бессмертными. Я не раз встречал людей, которые считают, что наше поколение — первое поколение бессмертных.
Алексей Цветков: Это алхимия. Человек не будет бессмертным, человек даже не будет долгожителем, как они считают. Он просто не приспособлен для этой жизни, он создан эволюцией, нельзя сделать, чтобы он жил тысячу лет, даже если физически можно сделать, у него личность растворится.
Александр Генис: Алексей, а вы можете себе представить чужое?
Алексей Цветков: Ну я я читал массу научной фантастики, но это все, на что нашей фантазии хватает.
Александр Генис: Не очень. Обычно в научной фантастике чужое — это значит, что у пришельца не две ноги, а три или пять.
Алексей Цветков: Нет. Есть Лем.
Александр Генис: Кроме исключительных случаев и главный из них - Лем. Вы знаете, что именно из-за этого он вылетел из ассоциации американских фантастов. Он сказал, что фантастика рептильна, за это его и выгнали. Лем, конечно, сумел показать, что чужое может быть чужим, но в принципе это необычайно трудно и очень редко.
Алексей Цветков: Я думаю, что есть еще, мне просто сейчас в голову не приходят примеры. Отчасти та же Урсула Ли Гуин, у которой есть планета, похожая на нашу, но там у людей по сезону меняется пол.
Александр Генис: Но это частности. Вот у Лема Солярис — существо, у которого нет множественного числа. Это - настоящая фантастика. Алексей, а что бы вы спросили у пришельца?
Алексей Цветков: Я в них не верю.