Помощник? Конкурент? Убийца?

Сергей Медведев: Мы снова и снова говорим о "новых луддитах". В последний год все сильнее страх перед тем, что искусственный интеллект заменит человека. Он пишет картины и музыку, сдает экзамены вместо студентов. Чего боятся техно-алармисты? Надо ли ограничивать применение ИИ, как ограничило человечество ядерное оружие? Является искусственный интеллект конкурентом или это продолжение, расширение человека?

Корреспондент: С развитием нейросетей и искусственного интеллекта перед миром встал вопрос о регулировании этих инструментов, а особо паникующие заговорили даже о вытеснении некоторых профессий. Сегодня ИИ оформляет сайты, пишет программы, сочиняет музыку, делает диссертации. Он прочно вошел во многие сферы. Огромный потенциал у ИИ видят и военные. На фронте он уже успешно применяется в связке с дронами: расчеты радиуса, расстояний и аналитика целей противника.

Однако не стоит путать ИИ с разумом человека: он не обладает сознанием. Алгоритм создает информацию на основании входных данных. ИИ не способен мыслить и выстраивать приоритеты, у него нет иерархий и абстракций, не существует причинности.

Сергей Медведев: С нами IT-эксперт Михаил Гуревич. Вспоминаю скандал в конце 2023 года с увольнением, а затем триумфальным возвращением Сэма Альтмана в OpenAI. Тогда проходила информация, что была создана последняя модель ИИ, мыслящая на уровне человека, и это якобы вызывало трения в совете директоров.

Михаил Гуревич: Ситуация с OpenAI во многом описывает ту дилемму, с которой столкнулись и разработчики, и мыслители в области ИИ, да и все человечество в целом. Утверждается, что внутри компании было два лагеря. Первый, во главе с Сэмом Альтманом, говорил, что в первую очередь это коммерческое предприятие, у которого есть цель – зарабатывание денег. А второй лагерь возглавлял родившийся в городе Горьком Илья Суцкевер. По его мнению, у OpenAI есть некая миссия – улучшить человечество. И вот эти два подхода к использованию ИИ столкнулись, и окончилось это, как говорят, тем, что в рамках нового соглашения между всеми участниками была достигнута договоренность, что если некая разработка действительно будет угрожать человечеству, то ее сотрут.

Бумажного подтверждения этим словам нет, но я бы советовал всем почитать интервью Джеффри Хинтона "Нью-Йоркеру". Хинтон подробно рассказывает: проблема в том, что чем более глобальную задачу вы даете ИИ, тем больше возникает так называемых вторичных задач. ИИ начинает искать решение этих вторичных задач, которые должны привести к той задаче, которую вы перед ним поставили, и, по сути, решение этих вторичных задач превращается в борьбу за контроль, за власть. Хинтон считает, что мы уже находимся на грани этой проблемы. И если ее сейчас каким-то образом не отрегулировать (кстати, никто не знает как), то в ближайшем будущем работа искусственных нейронных сетей может превысить возможности человеческого мозга и борьба за власть в рамках решения каких-то совершенно других задач может привести к непоправимым результатам, которые скажутся на нас с вами.

Сергей Медведев: Что значит – борьба за власть? Тут фактически имплицитно ИИ приписывается какая-то субъектность. Или уже действительно появляются какие-то признаки личности?

Михаил Гуревич: Появляются не признаки личности, а признаки так называемого… мы с вами начинаем переходить в какие-то теории заговора, но – высшего разума, то есть некоего разума, который может методом обратного отсчета сказать, что этот подход неправильный и вот этот неправильный, и искать правильное решение. А мы не знаем, с помощью чего и с какими инструментами будет достигнуто это правильное решение. Более того, зачастую ИИ в борьбе за это правильное решение использует живые жизни. Например, в войне в Газе, которую сейчас ведет Израиль, активно используется ИИ, определяет, по каким точкам наносить удары. Мы исходим из того, что он правильно все определяет, но он же учится на ошибках, а ошибки – это человеческие жизни.

С одной стороны, использование ИИ в задаче нужно для того, чтобы свести к минимуму потери среди гражданских лиц. Но по ходу обучения, вполне возможно, люди становятся жертвами этого обучения высшего разума. Тут (курица-яйцо) возникает вопрос, что правильно, а что неправильно. Я даже где-то читал очень странный научный текст, который предполагал, что, например, Владимир Путин, решив нападать на Украину, тоже использовал что-то такое, ИИ. Возможно, это нападение даже было некой вторичной задачей. Может быть, он говорил: "А как мне достигнуть международной власти? Как мне достигнуть договоренности с Западом о чем-то третьем?" А ИИ выдал ему, например…

Сергей Медведев: "Напади на Украину". Мы даже знаем, где находится этот ИИ – Лубянская площадь, дом 1.

Михаил Гуревич: Люди, которые занимаются этой разработкой, действительно опасаются. Так же, наверное, опасались разработчики первых атомных бомб. Они же тоже тогда говорили: если бы мы знали, мы бы остановили эту разработку. Но здесь это невозможно, потому что в процессе этих разработок никто не нарушает никаких конвенций.

Михаил Гуревич

Сергей Медведев: Кроме того, внутри ИИ развивается по своим собственным законам, которые уже не заложены человеком. А не кажется ли вам, что здесь мы немножко нагоняем хайп, приписывая ему такие антропоморфные черты: вот ИИ нас опрокинет, превзойдет нас, будет машина Франкенштейна… Но ИИ – это же продолжение человека, как и компьютер? Мы просто изобрели некую механическую руку, и это все равно как если бы механическая рука восстала на нас. Тогда что такое человек? Это обязательно белковая машина? Сознание обязательно должно состоять из белков или оно может быть уже вложено в какие-то другие алгоритмы, которые находятся уже на кремниевых чипах, а не на белковых?

Михаил Гуревич: Главная роль человека – правильно формулировать задачи. Он является неким ОТК. Машина может предложить вам некие решения, но только человек может нажать на кнопку Enter, для того чтобы это решение было реализовано. Это вершина разума! В любом случае последнее слово за нами. И параллельно с машинами, которые разрабатывают какие-то решения, разрабатываются машины, эти решения контролирующие.

Невозможно остановить прогресс. Хорошо, скажем, что мы не готовы, и в этот момент Китай скажет: "А я готов!" Тогда мы окажемся просто обезоружены перед лицом некой другой системы, которая не жалела денег, времени и возможностей для разработки.

Сергей Медведев: Это как гонка вооружений. Это то, о чем предупреждал Маск: что начнется гонка искусственных интеллектов.

Михаил Гуревич: Она уже происходит по полной программе. Посмотрите, как американцы ограничивают возможности вычислений для китайских компаний. Китай, кстати, регистрирует больше всего патентов в области ИИ в мире, обгоняя американцев. Мы не можем остановиться, потому что ИИ занимаются даже террористы. Если хорошие люди что-то сделают, то это может разгромить полмира, а если плохие – то весь мир. Поэтому нет альтернативы разработке ИИ. Проблема скорее в некоем регулировании, потому что по ходу возникает масса философских проблем, связанных с авторскими правами.

Сергей Медведев: И с этикой, прежде всего.

Михаил Гуревич: Безусловно!

Сергей Медведев: Та же "проблема вагонетки": кого спасать в экстремальных ситуациях? И что, тогда человечеству двигаться так же, как с ядерным оружием, вырабатывать международные соглашения по регулированию ИИ, чтобы, по меньшей мере, обязать государства типа Китая следовать каким-то общим этическим нормам?

Михаил Гуревич: Транснациональные корпорации, присутствующие в разных точках мира, владеют этими наработками. Это меняет мир. Эти наработки сегодня, с одной стороны, принадлежат какой-то отдельной стране, а с другой стороны, принадлежат частным лицам! И с этим нужно как-то соотноситься.

Окончательного решения здесь нет. Но в любом моменте возникнет юрисдикция, как с биткоинами: вы можете в одной стране запретить криптовалюту, а в другой стране ее легализуют, и, соответственно, криптовалютчики начинают мигрировать туда. То же самое происходит и с ИИ. Как только кто-то запрещает или начинает слишком регулировать, люди переходят в юрисдикцию той страны, которая как раз за счет ИИ хочет поучаствовать в этой гонке.

Когда мы говорим про авторские права, это вопрос правоприменения. Закон под это менять не нужно. Просто юристы принимают решение, исходя из человеческого опыта, и распространяют его на ИИ. Например, американским судом было принято решение, что то, что разработано с помощью ИИ, не обладает авторскими правами. Но откуда мы знаем, как это разработано? Есть какое-то изображение. Вы можете сказать, что это разработано ИИ, а можете сказать, что это вы сами нарисовали такую картинку. И поди докажи, что это не так!

Сергей Медведев: ИИ придумывает целые миры. Мне это напоминает знаменитый рассказ Борхеса "Тлён, Укбар, Орбис Терциус". Группа анонимных специалистов создала энциклопедию вымышленного мира. Затем вымышленный мир начинает проникать в реальный мир. Боюсь, что с ИИ то же самое: когда он чего-то не знает, он иногда начинает вдохновенно и умело лгать.

Михаил Гуревич: В современных медиа сейчас популярен такой формат: вам предлагают пять новостей, а вы должны определить, какая из них ненастоящая. И с каждым днем это становится все сложнее и сложнее, потому что политтехнологи и медиатехнологи сами активно прибегают к услугам ИИ. Тут крайне важно доверие. Не зря люди все меньше доверяют результатам поиска и все больше используют opinion leaders. Вы ищете не просто обзор какого-то предмета или услуги, а опыт человека, которого вы или знаете, или понимаете, что он реальный, или у вас есть какой-то уровень доверия к его словам. Такие проверки становятся все более и более важными.

Сергей Медведев: Должна возвращаться теплая ламповая человечность для постоянной проверки той цифровой реальности, в которой мы живем.

Михаил Гуревич: Именно так!

Сергей Медведев: Тем не менее, ИИ очевидно врывается в профессиональные области. Где он может заменить людей? Все чаще говорят о бухгалтерском учете, об аналитике и даже о преподавании.

Михаил Гуревич: Да, а больше всего это медицина. Анализ большого объема данных, выбор лучшего решения – здесь ИИ просто незаменим. Я читал исследование, согласно которому развитие ИИ в самой непосредственной близости приведет к автоматизации 25% всей работы, которую выполняют сотрудники в ЕС и США, то есть в развитых странах. Если мы посмотрим на статьи дохода развитых стран, то это сервисы, и в сервисах ИИ, безусловно, просто заменяет людей.

Сергей Медведев: Еще налоговые сервисы, юридические, в журналистике – агрегаторы новостей.

Михаил Гуревич: Возможно на 40% ускорить написание материалов, в первую очередь – информационных.

Антон Меркуров

Сергей Медведев: К нам присоединяется Антон Меркуров, художник и арт-дилер. Хочу поговорить о том, что производит ИИ в области изобразительного искусства. Пришла новость, что он дорисовал замечательную неоконченную картину американского художника Кита Харинга, который умер от СПИДа в 1990 году. Это вызвало большое возмущение в арт-сообществе. По-моему, то, что производит визуально ИИ, – это какой-то сплошной Арбат.

Антон Меркуров: Тут я бы так сказал: чтобы выглядеть интеллигентно, недостаточно носить очки, надо еще плохо видеть. ИИ сегодня сам по большому счету не генерирует ничего, это обработанный массив имеющихся данных, на базе которых он что-то там придумывает. Он может выдумать нечто, имеющее что-то, уже произведенное человеком или другим ИИ. Да, можно взять все творчество Кита Харинга, обработать нейросетью и дорисовать. Это доступно всем. Тут не то чтобы пошлость, просто во всей этой истории нет души. Он может написать сказку, прекрасную по формальным признакам, но там нет главного – души, это не цепляет. Да, красиво, да, человек так никогда не сделает, но тут массовая доступность, что делает это не очень интересным.

Сергей Медведев: Это ориентация на массовый вкус потребителя. Берется некий большой массив данных, из которого, конечно, побеждает усредненная литература, поэзия или музыка. В результате он воспроизводит на основе статистических, а не творческих закономерностей, не создания нового.

Антон Меркуров: Без человека ИИ вообще бесполезен, потому что ему надо поставить какую-то задачу. Что нужно для того, чтобы ИИ сгенерировал то, что я за несколько лет своей карьеры художника рисую руками? Мне надо скормить ему все то, что я читал и смотрел в детстве, все, что произвело на меня впечатление, и то, что я занял из чужого творчества. Наверное, если я бы эти два года потратил на обучение ИИ, я бы добился того же результата. Если скармливать ему свой персональный опыт и долго его обучать, безусловно, можно получить такой результат. Но, по сути, держа в руках кисточку, краски и прочие причиндалы, можно получить тот же результат. ИИ – это ассистент. Это не решает никаких проблем.

Сергей Медведев: Значит, он никогда не сможет создать гениальное прорывное произведение?

Антон Меркуров: Никогда! И тут еще один момент. По поводу "Черного квадрата" Малевича иногда говорят: "я так тоже нарисую". Нарисовать-то – да, но ты пойди и продай. Есть истории, когда картины, созданные ИИ, продавались, но за всем этим стоит человек! Да, каждый сегодня может сгенерировать, напечатать и повесить себе на стену, но это будет работа, сделанная никем, за этим нет личности. Главное, что отсутствует сегодня и, я думаю, будет долго отсутствовать у ИИ, – это та самая личность. Это то, ради чего мы соприкасаемся с искусством: мы чувствуем там личность художника.

Сергей Медведев: ИИ, видимо, остается как творец все-таки в сфере массового продукта. А изменит ли он тогда каким-то образом арт-рынок?

Антон Меркуров: В случае продажи – нет, конечно. Все равно нужен человек, который убедит другого человека это купить. Другой важный момент. Мы переживаем большое количество хайповых трендов. Если зайти на сайт Product Hunt, то в последнее время там все с приставкой AI. Все это доступно, но сейчас появляются всякие очки виртуальной реальности. Есть шанс, что тема ИИ спадет через год-два.

Сергей Медведев: Три-пять лет назад был раскручен рынок NFT. Где он сейчас?

Антон Меркуров: На аукционе Сотбис можно за криптовалюту купить вполне интересные работы. NFT никуда не делось. ИИ тоже, безусловно, никуда не денется. Сейчас Маск запускает свою компанию. Chat GPT запустил свой магазин. Все это развивается, но просто есть медийное ощущение, ради хайпа, что появился ИИ – и всё, наша жизнь поменяется, теперь каждый может так, теперь у всех выросло по три дополнительных руки и какая-то таблетка для счастья. Но, к сожалению, ее нет.

Сергей Медведев: В любом случае, и Chat GPT, и все другие виды ИИ, и нейросети не являются пока что конкурентами или заменителями человека. Это просто очередные помощники.

Антон Меркуров: Это помощники, но очень крутые помощники. Если взять и нарисовать кружочек, ИИ его вам дорисует. Есть дроны для распознавания лиц, могут убивать всех плохих людей. Есть еще куча вещей, например, написание текстов: какой-то драфт вы сегодня можете набросать за доли секунды, вам это сделает ИИ. Тут скорее умные станут еще умнее, благодаря тому, что могут этим воспользоваться, но какой-то принципиальной революции я пока не ожидаю.

Сергей Медведев: Искусственный интеллект не отменяет человека, не обладает ни собственной субъектностью, ни собственным целеполаганием, ни собственной волей. В нем нет той самой творческой искры, той интуиции и того порыва, который отличает подлинное произведение искусства от воспроизводимого. Пока что все это будет творением наших рук и нашей свободы воли.