Иван Толстой: Цивилизации создаются, прежде всего, в результате научно-технического прогресса. В культуре прогресса, как известно, нет. Никто не превзошел Аристофана, Дюрера, Моцарта, а вот скорость передвижения сильно выросла, канализация, лифт и мобильник у нас лучше, чем у Андрея Рублева.
Появившись в середине века, компьютеры за последние двадцать лет вошли в нашу повседневную жизнь и сильно изменили ее. Существует много мифов и представлений, окружающих эти устройства. В произведениях фантастов мы меряемся мыслью с искусственным интеллектом, сравниваем себя с компьютерами, спорим с ними и соревнуемся, но в обычной жизни чаще всего злимся и раздражаемся из-за неспособности добиться от этого прибора желаемого результата, заставить его делать именно то, чего мы хотим.
Какие они – компьютеры, и чего ждать от них и их прогресса – тема программы, подготовленной Валентином Барышниковым.
Валентин Барышников: Они здорово поменялись на нашей памяти – в восьмидесятых, школьником, я сдавал практикум по программированию, засылая программу в компьютер при помощи стопки перфокарт. Сам компьютер при этом занимал целую комнату, куда нас, практикантов, и близко не подпускали. Спустя несколько лет мы уже рубились в первые игры, наблюдая за перемещениями зеленых крестиков по черному экрану, засовывая в приемные отверстия гибкие диски черного картона. Потом персональные компьютеры появились повсюду, затем пришел интернет, письма стали электронными, телефония – дешевой, пространство – виртуальным. В этом году, по одной из оценок, число персональных компьютеров на планете перевалило миллиард – имеются в виду только работающие. И это только вершина айсберга. По-прежнему существуют гигантские вычислительные приборы и дата-центры, занимающие комнаты и здания. И одновременно компьютеры становятся все меньше – их встраивают во все, во что только можно встроить. Они в машинах, в мобильных телефонах, в кардиостимуляторах, повсюду.
Поговорим о компьютерах, о том, какими они будут в будущем, и о том, как это может изменить жизнь. Начнем с короткого экскурса в историю. Профессор Бостонского университета Леонид Левин, один из основателей современной компьютерной науки:
Леонид Левин: С древних времен искусство вычисления называлось математикой. Затем люди осознали сходство между вычислениями и другими видами рационального мышления. Пример тому - универсальная система логических вычислений, предложенная немецким математиком Лейбницем. Параллельно развивались механические средства счета, от абака – счетной доски, использовавшейся в античности, до громадных массивов электрических реле, использовавшихся во время Второй мировой войны для военных расчетов. Препятствием было то, что решение всякой новой проблемы требовало создания нового устройства, или, по крайней мере, перестройки старого в соответствии с новыми требованиями. Революционная идея была выдвинута Алланом Тьюрингом – английским математиком, который внес большой вклад в победу над Германией, расшифровав ее самые секретные коды. Он придумал весьма простое устройство – универсальную машину Тьюринга, – которое могло произвести любое вычисление, если в него вводили данные проблемы и алгоритм ее решения. Так работают компьютеры – каждый может выполнять огромное количество приложений. Сама машина Тьюринга была теоретической, воображаемой – слишком примитивной и медленной для использования на практике. Но она иллюстрировала ключевую идею.
Валентин Барышников: Юлий Барышников – руководитель одной из лабораторий американского исследовательского центра Bell - Labs – продолжает экскурс в историю создания компьютеров.
Юлий Барышников: Идея программы, которую можно записать на ленте, и которая потом будет исполняться, она принадлежала Тьюрингу. Это было нечто совершенно абстрактное. В то время, мне кажется, никто не думал, что мы близко к этому находимся. Шла война, пришла атомная бомба, и потом фон Нейман – венгерско-американский математик, которого привлекли к работе над атомной бомбой, занялся тем, как надо создавать компьютеры и придумал то, что сейчас называется «архитектурой фон Неймана». Как все наши компьютеры устроены? Они устроены (с небольшими отклонениями) в целом, по архитектуре фон Неймана. И эта архитектура предполагает, что программа записана в том же самом месте, где записаны все данные, то есть находится в памяти на тех же самых правах, как все исходные данные того, над чем программа эта будет работать. Это был такой большой шаг, но, в частности, он привел к тому, что программа стала восприниматься как нечто линейное. То есть, это последовательность команд, которые мы выполняем. Складываем два числа, смотрим - больше сумма, чем ноль или нет, если больше, мы переходим на какую-то строчку и там что-то выполняем. Так вот этот линейный способ мышления за последние 50-60 лет, как он укоренился, так он и существует до сих пор. Но в последнее время стали появляться новые физические методы вычислений, и это, похоже, приведет к тому, что мы откажемся от этой линейной точки зрения. Закон Мура, который говорил, что каждые 18 месяцев объем доступной памяти и скорость вычисления удваиваются, этот закон действовал на протяжении довольно долгого времени. Сейчас мы, похоже, приближаемся к его концу. Конечно, неприятно быть такой Кассандрой, но уже понятно, что чипы сейчас примерно размера 32, может быть, сейчас сделают 15-16 нанометров. Количество электронов, которые участвуют в этих операциях, измеряется буквально несколькими десятками. Понятно, что еще в 10 раз уменьшить эти размеры мы не сможем, потому что тогда в каждой операции будет участвовать два электрона. Это абсолютно ненадежно. Поэтому, может быть, еще десять лет вот такой удали, вот этого закона Мура еще осталось, а потом мы должны будем остановиться и искать какие-то другие, собственно, уже сейчас ищем другие принципы, на которых следующие вычислительные модели будут основаны. Естественно, возникают разные спекуляции. Одна из спекуляций - это биологические всякие модели. Говорят, что ДНК очень приспособлена к тому, чтобы вычисления эти делать. Вот это одна ветвь, довольно тупиковая, на мой взгляд.
А другая ветвь, менее тупиковая, хотя мнений на эту тему много - это квантовые вычисления. Опасения людей основаны на том, что энтузиасты обещают слишком много. Но сами эти квантовые вычисления, может быть, они не решат всех проблем, но уже точно, если мы реализуем эти квантовые компьютеры, они позволят нам делать больше. Квантовые компьютеры устроены по-другому. В них заложено автоматически то, что ты многие вещи делаешь параллельно. Если нужно сделать что-то быстро, вот это «быстро» надо превратить в большое количество одинаковых операций, которые ты как бы одновременно можешь делать. Тогда этот алгоритм можно будет реализовать как квантовый алгоритм, и тогда все эти операции, поскольку они будут выполняться одновременно, они реально ускорят все процессы. Тут мы опять сможем продлить на несколько десятков лет действие закона Мура, что было бы совершенно превосходно.
Валентин Барышников: Упомянутый квантовый компьютер - предлагаемая технология создания компьютеров будущего, основанная на квантовых эффектах, вызывает разногласия, в том числе, и в нашей программе. Вот что о них думает Леонид Левин:
Леонид Левин: Квантовые компьютеры – мистификация. Чтобы быть великодушным, скажу, что это научная фантастика, хоть и хорошая. Тем не менее, математические методы, стоящие за этой идеей, определенно представляют интерес, хотя совершенно не как инструменты для создания компьютеров.
Валентин Барышников: О потенциальных технологиях создания компьютеров говорит и еще один участник нашей программы - Моше Раппопорт – высокопоставленный представитель исследовательской лаборатории компании IBM в Швейцарии. Он упоминает и о квантовом компьютере.
Моше Раппопорт: Такая возможность существует. Сейчас трудно сказать, когда это может произойти - в этом году, в следующем или через 5 лет, хотя мы уже смогли кое-чего достичь в этой области. Вопрос в другом. Квантовый компьютер – это один из многих возможных кандидатов на роль устройств, которые в будущем будут использоваться для вычислений.
Например, нанопровода или молекулы в качестве кандидатов на строительный материал для будущих компьютеров. Предсказывать, что именно заменит нынешние кремневые и подобные им системы, слишком рано, поскольку все зависит от открытий ученых, от экономических реалий, от других факторов. Если мы говорим об архитектуре сегодняшних компьютеров, построенных на кремниевых чипах, мы приближаемся сейчас к атомному барьеру и на самом деле мы должны думать, как в будущем делать компьютерные чипы уже не двухмерными, а начать их делать трехмерными, идя вверх, поскольку мы не можем их сделать намного меньше в двух измерениях. Если мы говорим о долгосрочной перспективе – 10-20-30-40 лет - мы сможем делать транзисторы, базовые блоки компьютера, меньше, используя другие материалы, и, мы полагаем, нам удастся использовать значительно меньшие структуры, меньше даже, чем атомы в какой-то момент. Мы, возможно, сможем использовать частицы в атомах для вычислений, но это - в отдаленной перспективе, так что в ближайшие годы наступит момент, когда нас будет тормозить размер, структура материала.
В природе есть процессы, про которые мы едва ли понимаем, как они работают. Если бы могли понять, каким образом природа делает определенные вещи столь быстро, это помогло бы нам строить гораздо лучшие компьютеры в будущем. Здесь нам потребуется еще много исследований. Если вы посмотрите, например, как работает наше тело, или как работают вещи на генетическом уровне, как молекулы присоединяются к другим молекулам - существуют тысячи различных способов таких соединений, но они всегда, похоже, очень быстро находят правильный способ присоединения, гораздо быстрее, чем наши компьютеры сделали бы аналогичные расчеты. Если бы мы поняли, как это происходит, мы смогли бы построить гораздо более быстрые компьютеры.
Валентин Барышников: Сейчас мы говорили об аппаратной основе компьютеров – hardware , так называемом «железе». Но, на самом деле, вероятно, ключевым для будущего компьютеров является вопрос software – программ, которые управляют компьютерами.
Леонид Левин : Единственное, зачем нужно более совершенное оборудование – чтобы оно могло выполнять все более сложные программы. Они развиваются рука об руку. Более того, через несколько десятилетий технический прогресс в компьютерном оборудовании дойдет до атомарного уровня и упрется в это естественное ограничение. Тогда прогресс в программном обеспечении останется единственной возможностью развития. Я не беру в расчет, конечно, создание колоссальных компьютеров, которые в конце концов окружат Солнечную систему и будут использовать каждый фотон для вычислений.
Валентин Барышников: О том, что мы умеем, точнее, о том, чего мы не умеем программировать, - Алексей Лебедев – программист, специализирующийся на алгоритмах реального времени, и глава компании, работающей на Уолл-стрит.
Алексей Лебедев: Компьютеры на самом деле находятся в очень примитивном и зачаточном состоянии. Мы практически не умеем программировать в этих компьютерах ничего, кроме самых тривиальных убыстренных вычислений, рисовать какие-то треугольники на экране или посчитать уравнение. Такие вещи мы умеем. А ничего хоть сколько-нибудь сложного мы не умеем делать.
Моше Раппопорт: Чего мы не понимаем еще – как писать хорошие программы для компьютеров. Мы не знаем, как обеспечить безопасность данных настолько, насколько мы этого хотим. Мы не знаем, как отслеживать очень сложные и взаимосвязанные компьютерные системы, где многие части работают вместе и используют одни и те же данные, и так далее. Есть еще много вещей, которые мы должны научиться лучше понимать, если хотим добиться прогресса.
Юлий Барышников: То, как сейчас программирует 90 процентов людей, а именно «объектное программирование» в некотором смысле позволяет думать только в терминах функций. Возникает такое лего. Функциональное мышление полезно в некотором смысле, но оно стало заменять людям взгляд извне на эти алгоритмы, на то, как они функционируют, и это приводит часто к потерям. Те люди, которые программируют, часто не знают, что же, собственно, какого Франкенштейна они производят. Дональд Кнут - один из самых известных программистов, можно сказать, отец многих алгоритмов, отец много чего, он просто не понимает, почему эти программы работают, как они работают, почему они верны.
Валентин Барышников: Поиск хороших, правильных алгоритмов, базируется на довольно широком объединении разных математических дисциплин, объединяемых названием «информатика» или computer science . Чтобы получить представление, чем занимаются ученые в этой области, послушаем, как Леонид Левин пытался объяснить мне – неспециалисту, а потому на пальцах - что такое проблемы полиномиальной сложности. Вопрос о равенстве классов сложности P - NP , сформулированный Левиным одновременно с математиком Стивеном Куком, является одной из семи так называемых «математических проблем тысячелетия», за решение которых институт Клея, кстати, обещает миллион долларов - это мне – неспециалисту - показалось особенно увлекательным.
Леонид Левин: Многие функции, например, перемножение длинных чисел, легко вычислять, но, известными сейчас средствами, совершенно невозможно обращать, то есть найти исходные данные, которые дают такой результат. Скажем, найти множители, которые, перемножив, получают данное число. Все родители знают: есть много вещей, которые легко сделать и ужасно трудно привести в исходное состояние. Есть очень много задач, где проверить, годится ли продолженное решение, - легко, а найти само решение нам часто не по силам. И пока никто не знает, действительно ли это неразрешимая проблема, или просто следствие нашего невежества.
Положительный ответ сделал бы решение каждой проблемы столь же легким, как проверка, устраивает ли нас ответ этого решения. Отрицательный ответ в несколько более сильной форме был бы огромным прорывом во многих областях, например в криптографии, гарантируя взаимодействие компьютеров с использованием секретной частной информации без риска злоупотреблений. Но самыми важными результатами будут те, которые мы пока даже не можем предугадать, но которые определенно появятся при столь значительном продвижении в понимании компьютеров.
Валентин Барышников: Одна из главных тем мифологии, окружающей компьютеры – это вопрос соперничества, кто лучше – компьютер или человек, и в чем. Суперкомпьютер выиграл в шахматы у Гарри Каспарова. Я проигрываю в шахматы любому компьютеру. Чем отличается мышление человека от, так сказать, «мышления» компьютера, если этот термин можно к нему применить?
Леонид Левин: Я совсем не понимаю этот вопрос. Мышление, в отличие от решения задач, является социальным феноменом. Когда компьютеры будут признаны равноправными членами общества, этот вопрос мне станет яснее. Если же говорить о решении ясно поставленных задач, то для многих из них, о которых мы говорили, наше понимание возможностей компьютера совершенно рудиментарно. Компьютеры, по крайней мере, в отношении определенных задач, обладают гораздо большими возможностями, чем осознанная человеческая мысль. И мы слабо представляем, как пробуждать полную мощь компьютеров и как далеко она простирается. Необходим значительный прогресс в этой сфере,
прежде чем мы сможем решать эти проблемы при помощи компьютеров, так же, как и Природа сможет решать эти проблемы при помощи нашего мозга.
Валентин Барышников: Эту тему продолжает Моше Раппопорт.
Моше Раппопорт: Если вы говорите о чистом переборе больших массивов чисел, обычно компьютер может сделать это гораздо быстрее человека. Это помогает нам во многих областях – в медицине, в прогнозе погоды, в других подобных сферах.
Однако есть области, где человек по-прежнему действует лучше, чем компьютеры, и это связано с интуицией, с чувством, с тем, чтобы брать в расчет много разных вещей, таких как эмоции, политику, социальные вопросы. Ну и есть гении, которые, как мы знаем, могут чрезвычайно быстро совершать арифметические действия над очень длинными числами, и у нас нет ни малейших преставлений, как им это удается.
Так что если вы говорите об искусственном интеллекте, все зависит от того, что вы понимаете под этим. Если вы говорите о поддержке решений, когда есть все данные, которые нужно быстро просмотреть, и есть правила, и есть числа, конечно, компьютер может сделать это гораздо быстрее, чем любой человек, но если мы говорим о вещах, для которых сложно описать правила, основанных больше на ощущениях, тогда, конечно, люди гораздо лучше компьютеров. Если вы возьмете игру в шахматы – которая, в принципе, играется по правилам, то, теоретически, если компьютер, что играет против Гарри Каспарова, очень быстрый и хорошо запрограммирован, то, конечно, он сможет просчитать партию быстрее. Но в обычной игре между людьми есть еще и человеческий фактор. Если я сделаю этот ход, чем ответит мой противник? Может, он не поймет, что я собираюсь делать, и мне удастся его обмануть. Конечно, когда вы играете против компьютера, у него никаких эмоций нет, он просто перебирает все возможности и говорит, какая наиболее вероятно ведет к успеху, и может предложить вариант, который человек не заметил.
Многие решения, которые мы принимаем в жизни, основаны на правилах, и в этих областях компьютер может действовать очень неплохо. Что касается других вещей, например – что нравится, что не нравится, что кто-то собирается сказать, какая будет погода, как поступит правительство и каковы законы моей страны – понимаете, когда речь начинает идти об очень сложных вещах со многими различными факторами – люди принимают такие решения лучше компьютеров. Мы обычно можем охватить взглядом больше, мы думаем о гораздо большем числе вещей, чем мы способны записать на бумаге. Предположим, кто-то пришел к врачу за помощью, есть несколько симптомов, и мы идем в каталог симптомов, и тут компьютер очень хорош в том, что называется поддержкой при принятии решений – он может помочь врачу, быстро просеивая сотни возможностей и говоря – возможно, это то-то, то-то или то-то. И есть последний элемент – когда врач смотрит на пациента, если доктор хороший диагност, он может сделать то, что компьютеру не под силу, например, сказать, мои ощущения мне говорят, что это не то, что пациент говорит, не то, что показатели говорят, это на самом деле что-то другое. И в этом человек лучше компьютеров и, вероятно, будет лучше какое-то время.
Но врачу не повредит компьютер, который будет делать предположения о природе болезни, потому что порой что-то может быть упущено.
Я вижу, как некоторые элементы искусственного интеллекта начинают существовать, но многое будет находиться в руках человека еще долгое время. Это не будет заменой человека, но определенно поможет людям оптимизировать свои сильные стороны. Им не придется тратить множество времени, разыскивая что-то или делая что-то подобное.
Валентин Барышников: Возможности человека и компьютера сравнивает Алексей Лебедев
Алексей Лебедев: Компьютер пишет в ящик. Его просят: вот сделай это, и он делает это. Поскольку у него нет отдачи никакой, то нет и возможности написать алгоритм, который был бы умным. На самом деле, у нас нет даже способа определить, какой такой род отдачи мы хотели бы иметь у компьютера, чтобы компьютер мог быть умным. Большая часть того, что компьютер производит, он не в состоянии обратно прочитать и оценить. Например, возьмем такую вещь, как автоматический перевод текстов. Настолько это нелепо, когда компьютер переводит текст с одного языка на другой, это всегда очень смешно, потому что он абсолютно не понимает, что он сделал. Он просто берет какие-то куски текста и составляет их. Самые примитивные компьютерные алгоритмы перевода пытаются прочесть предложение, разбить его на какую-то грамматическую структуру, посмотреть в словаре перевод отдельных слов. Когда у одного слова есть несколько переводов, они выбирают наиболее вероятный, с их точки зрения, дальше находят соответствующую грамматическую структуру в языке перевода. Это всегда получается очень плохо. У чуть более изощренных методов компьютерного перевода как бы даже нет модели языка, у них есть огромная база текста и соответствующего параллельного текста. Например, переводы совещаний ООН. Там хороший, человеком сделанный, качественный перевод с одного языка на другой, и там их много. Если, скажем, кто-то говорит по-английски, это переводится сразу на 20 языков. Это загоняется в компьютер, выставляются эти параллели, и дальше, когда ему нужно перевести кусок текста, он берет кусочки фраз, ищет их у себя в базе, и если он их там нашел, выписывает соответствующий перевод. И это получается на порядок лучше. Потому что мы берем естественный текст, который произнес какой-то человек. Но, заметьте, при этом компьютер еще меньше имеет понятия о том, что он сделал. То есть в первом случае мы попытались хотя бы понять, какая структура у предложения, у нас есть словарь, а во втором случае мы просто тупо ищем набор слов и смотрим, чему он соответствует. Мы даже не знаем, что такое предложение, мы не знаем с какого языка на какой мы переводим, а получается лучше. Компьютер не может посмотреть на фотографию и сказать, изображен на ней котенок или нет. Степень нашей возможности распознавания образов при помощи компьютера, на данный момент, очень ограничена. Например, у нас есть компании, которые делают программы для распознавания лиц. Но на самом деле они никакие лица не распознают. У них есть какие-то там алгоритмы, которые говорят, что здесь - темно, а здесь - светло. Наверное, это глаза и нос. А потом они, пытаясь развернуть это лицо так, чтобы оно было не под углом, и так, чтобы не было искажений перспективы, они дальше смотрят в базе данных, соответствует ли это одному из записанных туда заранее лиц. Это невероятно примитивно, и даже человек, который наденет на себя маску хэллоуинскую, будет зарегистрирован как тот, кем он прикидывается. У этих программ отсутствует здравый смысл. А что такое здравый смысл? Это весь наш жизненный опыт.
У специализированных компьютерных алгоритмов есть все, кроме всего остального. Скажем, программа, которая распознает лица, не знает, что делать, когда проходят люди с табличками с фотографиями, потому что она думает, что это лица. Программа, которая распознает лица, у нее нет, скажем, трехмерного мышления, она не понимает, что вот это плоская поверхность, на которой изображено лицо. А программа, которая пытается что-то трехмерное сделать, она не знает, что такое лица. И сейчас мы находимся в ситуации, где у нас много экспертных систем, то есть алгоритмов, которые очень хорошо функционируют в очень узких областях, но ничего связывающего их еще нет. Мы не можем сделать автоматическую машину, которая бы ехала и не врезалась. Мы даже не можем сделать робота, который бы летал по комнате и садился бы на поверхности. Какая-нибудь муха. Автопилот никогда не сможет посадить самолет в какое-нибудь кукурузное поле.
Валентин Барышников: Алексей Лебедев считает, что биологическое развитие человека намного превосходит все существующие компьютерные технологии.
Алексей Лебедев: Я приведу, в качестве примера, количество нейронов в человеческом мозгу - приблизительно 10 миллиардов. Это, учитывая только те нейроны, о которых мы знаем. Еще есть всякие вспомогательные клетки, которых в несколько раз больше. Об их функциях мы просто ничего не понимаем. У каждого нейрона приблизительно 10 тысяч связей с другими нейронами. Если бы у нас сейчас была возможность отсканировать человеческий мозг и узнать трехмерное расположение каждого нейрона, адреса всех его соседей и записать это в компьютер, то вам понадобилось бы приблизительно столько же места, сколько сейчас использует вся компания Google для хранения всей информации, которую она собрала в интернете. И это - один мозг. Я не говорю о том, чтобы этот мозг заработал, я просто говорю о том, чтобы выписать адреса всех нейронов и с кем они связаны. Все эти сотни тысяч компьютеров и хард-дисков, надо будет забить вот этими цифрами. Вот, для сравнения, уровень нашего технологического развития сейчас, и уровень нашего биологического развития. Нужен качественный скачок. У нас недостаточно опыта с массивно-параллельными вычислениями. А это единственный способ сделать что-то интересное в области моделирования мозга. Понимаете, у нас только в последние несколько лет появились компьютеры с несколькими процессорами. До этого у человека был один процессор, и все алгоритмы, которые он писал, были, грубо говоря, линейны. Просто брали задачу, разбивали ее на более простые подзадачи, и задача была решена. А мозг совершенно не так устроен. Там огромное количество абсолютно независимых модулей, каждый из которых что-то такое делает, и в сумме дает вот этот интеллект. И вот с такого рода алгоритмами у нас нет практически опыта.
Валентин Барышников: О возможности воссоздать или смоделировать мозг человека на компьютере говорит Юлий Барышников.
Юлий Барышников: Либо мухи, либо колбаса. Либо ты признаешь свободу воли, либо ты говоришь, что мозг работает, как компьютер, и, таким образом, можно компьютер моделировать на мозге. Идея о том, что мозг в некотором смысле эквивалентен компьютеру, означает, что, в итоге, мозг человека можно смоделировать. Сказать, что теперь мы просто поставим компьютер и будем вводить в этот компьютер то же самое, что ты видишь, что ты слышишь, что ты ощущаешь. И этот компьютер будет говорить, что ты будешь делать, будет предсказывать. Это совершенно противоречит идее свободы воли. С этой идеей как-то не хочется расставаться. Я придерживаюсь точки зрения, что, в итоге, мозг, чтобы его смоделировать, нужны какие-то другие способы. Например, Роджер Пенроуз - такой известный физик - он, совершенно не смущаясь, заявляет, что это в мозгу действуют такие квантовые принципы, что непредсказуемость психики человеческой объясняется тем, что там действуют квантовые эффекты, и неопределенность, непредсказуемость, случайность того, что произойдет, она заложена в самих аксиомах. Это та тайна мироздания, в которую мы до сих пор не проникли, она отражается, в частности, в тайнах психики. Не то, что я совсем с этим согласен, но это точка зрения, которая мне гораздо более близка, чем точка зрения людей, которые считают, что можно смоделировать мозг на компьютере или, наоборот, можно построить компьютер, который будет основан на тех же принципах, на которых основан мозг. Как всегда, это не означает, что какие-то приемы, какие-то штучки из того, как мозг устроен, мы не можем взять. Мы можем на него посмотреть, он состоит из таких больших клеток, нейронов, в которых наступает возбуждение, это возбуждение накапливается, когда это возбуждение переступает какой-то порог, сигнал на выход из этого нейрона поступает куда-то еще. Можно попытаться построить что-то, что состоит из таких частей и как-то функционирует. Ничего дурного и предосудительного в таких моделях нет, почему бы не попытаться построить какие-то такие цепи из нейронов, нейрональные цепи, который будут тебе что-то делать, можно пытаться смоделировать распознавание образов. Двух лиц, которые по-разному повернуты, в разном освещении, компьютер понять не может, а человек узнает немедленно, что это одно и то же лицо. Что одинакового в этих двух образах, мозг немедленно знает. Вот пытаются определенные функции, которые непонятно как запрограммировать, таким образом пытаются воссоздать.
Валентин Барышников: Мы вернемся к теме будущих технологий, но сначала зададим вопрос - а зачем вообще нам нужен прогресс в компьютерных технологиях. Чего мы хотим от компьютеров - если бытового подспорья, то что будет, когда компьютеры покроют все бытовые нужды человечества?
Леонид Левин: Ограничить прогресс трудно. Если часть цивилизации ограничивает свои амбиции, она устаревает и становится незначительной. Что же касается компьютеров, покрывших все нужды человечества, надо будет спросить: зачем тогда компьютерам будет нужно человечество?
Моше Раппопорт: Прежде всего, мы знаем, что потребности людей меняются в зависимости от того, что им доступно. Чем больше становится возможностей, тем более творческие люди начинают думать, что еще можно сделать с компьютерами. Но что может стать еще более важным, это иные области применения компьютеров, отличные от повседневного написания писем, разглядывания картинок и слушания музыки. Мы говорим о крупнейших изменениях в будущих подходах. Скажем, к медицине. Наше понимание того, как работает тело, почему люди болеют, все, связанное с генетикой, мы пока только на поверхности, только начинаем работу в этой области. И в ближайшие годы ожидаются глубокие изменения в здравоохранении, в науке, которые потребуют огромной компьютерной мощности, гораздо большей, чем все, что у нас есть сегодня.
Область, где предстоит наибольшая работа – это вопросы взаимодействия между человеком и компьютером, интерфейс. Отслеживание движения глаз, излучений мозга, датчики на пальцах – все эти вещи демонстрировались в лабораториях, некоторые из них даже начинают становиться коммерчески доступными. Правда в том, что на ближайшие годы это, вероятно, последний крупный рубеж в смысле использования компьютеров. Предсказать, что станет самым востребованным – управление голосом, что-то еще – вероятный ответ – всего понемножку. Мне кажется, что кто-нибудь еще предложит значительно более простой путь взаимодействия с компьютером, по сравнению с тем, как мы это делаем сегодня, и станет очень богатым и знаменитым. То, как сейчас устроено взаимодействие с компьютерами мешает многим из нас использовать их, как мы бы могли. Например, вы видели эти новые типы телефонов, которые были анонсированы в последнее время, с гораздо более приятным и забавным управлением. Их приняли очень хорошо, потому что люди все еще ждут более приятных и забавных способов взаимодействия с компьютерами и цифровыми устройствами. Здесь еще много чего можно изобрести. Кто-то сделает это.
Леонид Левин: Я полагаю, что произойдет некое слияние
компьютеров и людей во что-то новое. Тут вы должны
понимать, что я говорю не как специалист, а как обычный человек,
основываясь просто на здравом смысле. Кстати, такое слияние уже
происходит. Я сталкиваюсь с изрядными трудностями, отделяя членов своей семьи от их компьютеров, даже на короткое время. Вообразите, что будет, когда компьютеры станут крохотными, как кольца на пальцах, дисплей будет на контактных линзах, ввод будет осуществляться с помощью крошечных сенсоров улавливающих движение тех же пальцев или вообще мыслью, когда wi - fi будет вездесущ, за исключением самых отдаленных пустынь... Я даже не говорю о тех отдаленных временных, когда мы поймем, как работает мозг, и сольем его с компьютером. При этом все больше функций будет переходить от человека к компьютеру, и трудно сказать, где и как долго роль человека будет доминировать. Тем временем, биологи начнут играть с генами, и сама человеческая природа будет меняться. Не знаю, каким образом, но слияние будет происходить быстро. Эволюция не закончилась, я думаю.
Моше Раппопорт: Сегодня вокруг есть люди с электрокардиостимуляторами, которые представляют собой компьютеры, рассчитывающие поступление электричества в сердце в зависимости от разных факторов. Компьютеры встроены в них. Мы видим, что подобное будет у людей, страдающими проблемами с сахаром, диабетиков. У них, вероятно, будет встроено устройство, которое будет измерять уровень сахара и выпускать инсулин при необходимости.
То, о чем говорит господи Левин, не является невозможным. Вопрос, когда это может произойти. И ответ связан не только с технологиями – это социальный вопрос. Как много людей будут готовы отдать часть своего тела под контроль машин. Может, такие люди будут, может, их будет много, может все. Но сейчас почти невозможно предугадать, случится ли это. Это не столько вопрос технологий, это вопрос признания со стороны человека, вопрос возможности сделать это безопасно. Если мы возьмем крайний случай, если в меня встроен компьютер, а кто-то взломает его и перепрограммирует, мне это не понравится.
Эти вопросы всегда окружают технологии, вопросы – как эти технологии используются, и если мы не предложим решение, как сделать их безопасными, разумными и надежными, никто не будет их использовать, даже если мы будем знать, как. Так что здесь мы, в исследовательской лаборатории Ай-Би-Эм, перестаем строить предположения о том, что будет происходить, а что нет, потому что да, технологически мы, вероятно, сможем в дальней перспективе значительно усилить человека при помощи компьютера, но собирается ли мир идти к этому или нет, мы не знаем. Мы не можем сказать - то-то точно произойдет. Это может случиться, но, возможно, через два-три поколения, а может, никогда.
Валентин Барышников: Те перспективы, о которых сейчас говорил Моше Раппопорт, питают еще одну теорию, на взгляд одних людей, мифологическую, фантастическую, на взгляд других – совершенно реальную. Это теория технологической сингулярности, согласно которой, по крайней мере, в ее канонической версии, выдвинутой математиком и писателем-фантастом Вернером Винджем, до 2030 года технологический прогресс породит сверхчеловеческий интеллект (как вариант, в результате слияния человека с компьютером), который будет стремительно эволюционировать, оставив далеко позади обычное человечество. Об этой теории – историк, профессор РГГУ Андрей Коротаев:
Андрей Коротаев: Откуда взялось это понятие технологической сингулярности? Термин сингулярность идет из математики. В математике это точка, в которой математическая функция имеет какую-то нерегулярность поведения, например, принимает бесконечное значение. На мой взгляд, эта традиция восходит к Хайнцу фон Фёрстеру, одному из основателей кибернетики, наряду с Винером и фон Нойманом. Фон Фёрстер в 1965 году опубликовал в журнале «Сайенс» знаменитую статью под названием «Конец света - пятница 11 ноября 2026 года», где он впервые показал наличие демографической сингулярности, что динамика численности населения земли, вплоть до 1958 года (у него данные были до 1958 года) описывается неким уравнением, которое имеет сингулярность, которая как раз приходится на 11 ноября 2026 года. Именно в этот день, по идее, население Земли стало бы бесконечным. На самом деле это, на мой взгляд, была такая хорошая пиарная находка. Я не думаю, что сам фон Фёрстер всерьез относился к тому, что у него получилось, но потом стало обнаруживаться, что если мы берем динамику почти любых показателей – динамику ВВП, динамику числа изобретений до 60-х годов прошлого века, показатели развития компьютеров - там везде обнаруживаются сингулярные точки в районе 20-х годов этого века, 30-х годов… Часть народа стала к этим сингулярным точкам относиться с какой-то неоправданной серьезностью. Но, на самом деле, что касается той же самой демографической сингулярности, о чем она нам говорила? На самом деле она говорила, что развитие человечества не может продолжаться долго по той модели, которая наблюдалась до 1960 года. И на самом деле вот какой прогноз из этого следовал: что где-то в самые ближайшие годы должен начаться фазовый период в демографической эволюции человечества. Теперь все это сработало, потому что буквально через несколько лет после публикации фон Фёрстера, так называемый гиперболический рост численности населения земли сменился на противоположный. До этого рост численности населения Земли сопровождался ускорением - и относительным, и абсолютным - за последние десятилетия произошла радикальная смена, теперь рост численности населения сопровождается замедлением его темпов. Но самое интересное, что если взять данные вплоть до настоящего времени и их обсчитать, то сингулярность будет обнаруживаться. Сингулярность будет находиться все дальше и дальше. Если фон Фёрстер по данным до 1958 года показывал сингулярность в районе 2026 года, то если бы мы взяли данные за середину 90-х годов, сингулярность была бы уже где-то в районе 50-го года, если мы возьмем данные вплоть до настоящего времени, эта сингулярность уже будет где-то в 22-м веке. В реальности, чем мы ближе приближаемся к сингулярности, тем она дальше от нас отодвигается. В реальности сингулярность исчезает, и в плане развития технологии, насколько мне известно, большая часть конкретных исследований по части технологического развития, показывает, что в последнее время темпы технологического развития реально замедляются. Интересный момент, что если мы посмотрим историю фантастической литературы, то мы увидим, что 19-й век, тот же самый Жюль Верн, или начало 20-го века, типа Герберта Уэллса, они явно темпы человеческого роста недооценивали. Но мы видим, что это техника совершенно архаическая по сравнению с нашей современной техникой. Какие-то жалкие подобия магнитофона, телевизора, и так далее. А вот если мы возьмем писателей фантастов 50-х – 60-х годов, какую-нибудь «Космическую Одиссею 2001 года», они предполагают, что уже в районе 2000 года люди будут совершать полеты к звездам, то есть представить себе такой кошмар, что в районе 2008 года даже на Марс экспедиции не будет, в 60-е годы никто себе не мог. Это тоже довольно интересный пример того, что за последнее время темпы технологического роста, конечно, замедляются. Есть отдельные точки, где наблюдается очень впечатляющий рост, в том числе, в компьютерной технике. Но вот весь опыт предыдущего развития человечества показывает, что точка перегиба в самое ближайшее время будет пройдена. Реально просто и компьютерная техника сейчас находится в состоянии фазового перехода, видимо, к новому, более стабильному состоянию.
Алексей Лебедев: Насчет технологической сингулярности сильно сомневаюсь. Люди, которые считают, что можно экстраполировать закон Мура о том, что каждые полтора года плотность носителей и скорость чипов удваивается - это напоминает мне экстраполяцию количества навоза в Париже, сделанную в начале 19-го века. Когда количество лошадей и повозок сильно росло, они посчитали, что к концу века улицы будут покрыты двухметровым слоем говна. Естественно, этого не произошло. И точно так же, мне кажется, считать, что компьютеры будут бесконечно убыстряться… Я ничего не имею против оптимистов, но я считаю, что этого не произойдет и будут непредвиденные сложности, и выяснится, что все это намного ограниченнее, чем казалось.
Андрей Коротаев: Графики, которые публикуют трансгуманисты, имеющие особые точки, привлечение их для обоснования образного метафорического выражения «технологическая сингулярность», которая означает изменение природы человека, я считаю, что это не вполне научно корректная процедура. Мое ожидание следующее. Все-таки тот фазовый переход, через который мы сейчас проходим, это отнюдь не первый фазовый переход в истории человечества. Был еще и фазовый переход в первом тысячелетии до нашей эры, так называемое «Осевое время», и вот если бы какие-нибудь Платоны или Аристотели смогли бы собрать данные по динамике показателей до четвертого века, они тоже обнаружили бы целый ряд сингулярностей в начале первого тысячелетия нашей эры. Если бы та же самая численность населения продолжала расти и дальше, как она росла до 200 года нашей эры, то население Земли стало бы бесконечным в первом-втором веках нашей эры. Но в реальности, все время за периодами такого ускоренного, взрывообразного роста, уходящего в бесконечность, следовали периоды стабилизации. По всем основным показателям. За последние годы все-таки идет вовсе не ускорение уже, а стабилизация. С компьютерной революцией настоящего научного прогноза, как будет точно компьютерная техника развиваться, дать совершенно невозможно. Я не ожидаю какой-то еще новой серьезной трансформации, сопоставимой с той, которую мы пережили за последние несколько десятилетий.
Валентин Барышников: А вот мнение священника Якова Кротова - историка, ведущего на Радио Свобода программу «С христианской точки зрения»:
Яков Кротов: С древнейших времен, во всяком случае, тех, которые зафиксированы в письменных источниках, люди мечтают изобрести какой-то механизм, чтобы стать совершенными людьми. То есть настоящий человек, предполагается, что имеющегося недостаточно. Не случайно в «Повести о настоящем человеке» настоящий человек на протезах, потому что протезы оказываются лучше, чем живые, от бога данные, ноги. И нынешняя страсть к компьютерам, к информатике, к информационной революции, это продолжение все того же. Судья Дред, как идеал справедливого судьи. Заправили в человека перфокарту, снабдили идеальным оружием, щитом и мечом, лишили всех чувствий и получается идеальный судия. Это продолжение викторианских представлений о боге, как существе бесполом, бесстрастном, механическом. Идеальный бог тогда это, конечно, компьютер. Тогда идея сингулярности, соединения человека с компьютером, это превращение древней святоотеческой, православной, можно сказать, концепции теозиса: человек становится богом благодаря тому, что бог снисходит к человеку. Все это не имеет ни малейшего отношения к действительности. Ни к высшей божественной, ни к человеческой. Сингулярность человеку уже дана, и она описана в первой Книге Бытия. Взял бог прах и вдохнул в него дух. Соединения духа божия, образа, любви, доброты, творчества и праха, глины, кальция, углеводорода, углеводов, простите, желчи, камней в почках и почек, это соединение и есть изначальное противоречие в человеке. Человек это дух, который соединен с материей. Если когда-нибудь к этой материи добавят еще компьютер, ничего принципиально не изменится, человек останется каким есть. Это не означает, что мы останемся плохими. Наоборот, мы останемся способными к бесконечности, к вечному познанию, к вечной любви. Компьютер тут не прибавит и не убавит. Другой вопрос, что эта способность у нас не шибко реализована. Так ведь и компьютер не сразу строился.
Алексей Лебедев: Можно ли человека снабдить какими-то компьютерными органами чувств, чтобы сделать из него какого-то сверхчеловека? Тут как раз есть интересные, недавно сделанные прорывы, и связано это как раз с тем, что человек очень хорошо умеет интегрировать новую данную ему информацию и расширять, при помощи этой информации, свое сознание. И это как раз заслуга гибкости человеческого мозга, а не заслуга компьютера. Я приведу два примера. Первый пример - это видение слепых. Я читал о том, что слепым людям на язык кладут такую пластинку, в которую встроена камера, которая дает сигнал на эту пластинку, и эта пластинка касается языка и говорят: здесь – темно, а здесь - светло. И человек через некоторое время начинает эту информацию понимать и, грубо говоря, языком этим уже видит. И это как раз заслуга человека, а не компьютера. Потому что компьютер делает что-то очень простое. А второй пример, вот мы все думаем, каково оно будет, если человеку дать какой-то компьютерный орган, или вставить чип в мозг, или еще что-то привинтить. И на самом деле мы все забываем, что мы, когда пользуемся инструментами, мы именно это и делаем. Дело в том, что когда вы берете в руки молоток, вы престаете чувствовать рукой и начинаете чувствовать кончиком молотка, по крайней мере, после того, как пару раз себя ударите по пальцу этим молотком. И вы начинаете понимать, что ваша рука на самом деле длиннее, и учитываете этот размах молотка, с какой скоростью он идет, куда он приземлится. Самый простой пример того, как он интегрирует любой данный ему инструмент, который дает какую-то отдачу.
Валентин Барышников: Ну что же, в завершение программы поговорим о будущем компьютеров. Моше Раппопорт.
Моше Раппопорт: Он будут встроены в другие вещи. Вы даже не будете их видеть. Они будут производить вычисления, собирать информацию, обрабатывать ее и передавать, компьютеры будут повсюду, большинство из них незаметны. И будет так называемое cloud computing – облачная обработка данных, когда используются большие компьютеры, которые доступны для всех, и мы даже не знаем, где они находятся. Когда они нужны нам, мы их используем.
Юлий Барышников: Компьютер, он станет повсюду. Не будет важно, где ты находишься, не будет важно, у какого экрана ты сидишь, на какой клавиатуре ты стучишь. Все это вместе - твой телефон, твой телевизор, твой компьютер - это станет просто окошками куда-то. Вот это что-то, оно будет содержать всю ту информацию, все фильмы, которые ты смотришь, всю твою переписку, все твои контакты. Оно будет где-то, ты не будешь знать, где оно находится. И, собственно, тебя это не будет интересовать. В кофейне на Мясницкой, или в Африке, или в Антарктиде, всюду ты подсоединишь вот это окошко, уж не знаю, какое будет окошко, и будешь иметь доступ абсолютно к той же самой информации. Не знаю, сколь это важно. Вот кредитная карточка, это важный шаг был для высвобождения людей от тирании денег, которые надо было с собой носить, терять, ходить менять? Не очень принципиальный, но важный. О новых вещах, достижениях цивилизации, мы часто думаем с большим осуждением. Потом к ним привыкаем, они становятся совершенно естественными. Лев Толстой ужасно возмущался врачами, мол, они все время говорят, что надо делать, а сами ничего не понимают. Действительно, врачи героическими усилиями увеличили продолжительность жизни, зубы у нас не болят. А ему казалось, что это такое вмешательство в естественный ход событий. Точно так же и компьютеры. Мне кажется, что компьютеры будут играть все большую и большую роль в отношениях между людьми. Огромное количество времени люди тратят на всякие совещания. Почему люди должны встречаться и сидеть вместе скучать? Потому, что это важно. Когда кто-то что-то говорит, важно понять, как люди реагируют на это. Какой-то взгляд, какой-то вздох или реплика, может быть, даже пробормотанная, может быть, даже не услышанная. Все это нужно. А теперь представьте себе следующий шаг. Компьютер как бы подхватывает и усиливает неосознанные жесты, неосознанные гримасы, обращает твое внимание на них или, наоборот, скрывает. Огромная помощь в выстраивании отношений между людьми. А отношения между людьми это то, ради чего мы живем. Компьютеры, мне кажется, смогут создать эту новою среду. Я не знаю, какие механизмы этого будут, но мне кажется, что, как врачи сделали жизнь намного качественнее, так и компьютер позволит таким же технологическим образом намного улучшить наше общение, сделать наши связи друг с другом лучше и сильнее. Мы это видим сейчас. Особенно в России. Кто работает рядом с компьютером, у них там есть блоги, совершенно неожиданно неплохо зарабатывающая Россия превратилась в одну большую коммунальную кухню. Все эти люди вдруг увидели: вот они мы. Мне кажется, что это большой положительный шаг. Компьютер невероятно повысил продуктивность менеджмента, довольно сильно повысил продуктивность производства. И мне кажется, что в совсем недалеком будущем, у нас хватает технологий, нужна только, как говорится, политическая воля, чтобы эти технологии внедрить, и проблема производства будет решена в течение нескольких десятилетий. Естественно, я говорю о развитых странах. В конечном счете, материальное благополучие будет обеспечено машинами. Роль компьютеров в том, как они помогут людям лучше общаться, лучше понимать друг друга, это то, куда сейчас экономика идет. ВВП западных стран на 70 процентов состоит из так называемых услуг, это сфера услуг. Роль производства – станки, заводы, танки, еда - это все составляет совсем даже не половину и даже не треть того, за что люди платят деньги в западных странах. Компьютеры помогут сделать жизнь лучше, убирая человека оттуда, где ему не нужно быть. С другой стороны, облегчая довольно трудную задачу понимания людьми друг друга. Мы не будем понимать, как работать без средств компьютерных, как без очков. Когда люди надевают очки: боже мой, я вижу это яблоко на дереве!
