Сергей Медведев: Наш мир полон фейков: вокруг дезинформация, манипуляция, "спецоперация". Все осложняется еще искусственным интеллектом, который генерирует дипфейки. Осталась ли в мире истина, и как ее узнать? Какова роль фактчекинга и расследовательской журналистики?

С нами Илья Бер, журналист, фактчекер, руководитель проекта "Проверено. Медиа". С чего началось ваше увлечение истиной и поиском фактов?

Илья Бер: Я оканчивал историко-филологический факультет РГГУ по специальности "история". Наука в моем представлении должна познавать мир, открывать истину, а не быть пространством интерпретаций. Ознакомившись с постмодернистской методологией истории и поняв, каков мейнстрим исторической науки, я немножко загрустил. Думаю, тогда начался мой интерес к более дробным кирпичикам, из которых строится человеческое знание, то есть к фактам.

Сергей Медведев: Пошатнулся онтологический статус истины в современном мире. Знаменитая книжка Питера Померанцева "Ничто не является правдой, и все возможно". Достаточно прийти Трампу, который сказал, что существуют альтернативные факты… Настала ситуация, в которой люди одинаково легко оперируют разными версиями реальности.

Илья Бер: Есть устоявшаяся фраза-мем "у всех своя правда". А если это так, то невозможен никакой спор об истине или о том, чья правда лучше. И вот эта ситуация жизни в пространстве точек зрения и мнений меня категорически не устраивает. Именно после прихода к власти Трампа в 2016 году Оксфордский и Кембриджский словари выбрали словом года слово "постправда". Например, Оксфордский словарь трактует это так: "постправда – это обстоятельства, при которых объективные факты менее значимы для формирования общественного мнения, чем обращение к эмоциям и личным убеждениям".

Понятно, что эти словари хотели сказать: "Посмотрите, куда мы движемся, к чему может привести такой мир, сделаем шаг назад от этой бездны". Но не все это так восприняли. Кто-то, наоборот, обрадовался. Авторитетные институции поставили жирную круглую печать на том, что истины не существует, и "мы вступили в эпоху постправды". Но лично я делаю все, что можно, чтобы отсрочить наступление этой ужасной эпохи.

Сергей Медведев: Не складывается ли впечатление, что в России пришествие этой постправды произошло очень гладко? Во-первых, она сильно инструментализована властью, во-вторых, само общество очень легко принимает на веру эти альтернативные версии реальности. На поверхность снова выплыл Анатолий Кашпировский, а на работу сейчас даже в крупнейших корпорациях принимают только с учетом мнения тарологов. Россия с каким-то детским восторгом погрузилась в тотальный кризис рациональности.

Илья Бер: Не стоит преувеличивать специфическую российскость этого феномена. В 2013-14 годах для меня неким триггером стало включение на полную мощность российской пропаганды. Казалось, что именно Россия погружается в эту пучину. Но с тех прошло много лет. И когда в ковидную эпоху я стал профессионально этим заниматься, выяснилось, что ничего особенно уникального в российском опыте нет. В истории почти любого крупного государства мы найдем периоды, где были более-менее похожие явления. Глядя на то, что происходило с Германией после прихода к власти в 1933 году Гитлера и НСДАП, мы видим огромное количество похожих явлений.

Сергей Медведев: Видимо, у этого кризиса правды есть социально-политическая основа: он приходит в какие-то кризисные моменты слома общества?

Илья Бер: Да, это ситуация неких общественных сломов, общественной фрустрации, огромного количества людей, для которых абсолютно поменялись и внешний мир, и парадигмы, и восприятие себя в этом мире. Это, по сути, кризис самоидентификации у людей. И они ищут новые объяснения происходящего. Здесь на помощь приходят любого рода мракобесы, которые отлично умеют это делать.

Смотри также

Meta запускает кампанию по борьбе с ИИ-дезинформацией и дипфейками

Сергей Медведев: А насколько сейчас велика опасность того, что искусственный интеллект создаст нам абсолютную иллюзию правды? Не получится ли, что ИИ амплифицирует этот объем ложной информации, который есть в интернете?

Илья Бер: Любое технологическое новшество, связанное с медиа, амплифицирует количество любой информации, а значит, и фейков тоже. Человечество всегда жило в мире фейков, мифов, иллюзий и популярных заблуждений. Просто раньше люди про это не знали и не могли оценить масштаб из-за отсутствия технологических средств, а теперь эти средства появились, и все больше людей стали осознавать это как проблему. И сейчас как раз лучшее время в истории человечества, для того чтобы узнавать эту истину при желании и некотором умении.

Конечно, опасность ИИ есть. Но тут вечно идет соревнование – фальшивомонетчики придумывали все новые и новые способы подделывать деньги, а ученые или госслужащие находили способы разоблачать подделки. Сейчас новый технологический шаг – появились дипфейки и способы их распознавания. Такие программы работают не идеально, пока это лишь дополнительный инструмент к головам опытных людей, фактчекеров, расследователей. Но и они тоже все время улучшаются. Пока я не видел ни одного фейка, который нельзя было бы распознать своими собственными глазами, ориентируясь на какой-то набор признаков.

Есть решение проблемы – это поиск первоисточников. Самое сложное – это не сделать технически дипфейк, а вбросить его в медиасреду так, чтобы было непонятно, откуда он взялся. И с этим фейкоделы пока справляются довольно плохо. Если вы находите первоисточник появления в медиа некоего текста, изображения, видео, то по характеру первоисточника мы с очень высокой вероятностью определяем характер информации: фейк, не фейк, ошибка, не ошибка.

Сергей Медведев: А растет ли количество фейков в инфосфере, в сети?

Илья Бер: Я бы сказал, что во времена войн растет количество намеренно сфальсифицированной информации. А что касается недостоверной информации вообще, то, я думаю, не особенно, но сдвигается пропорция ошибок и намеренных действий. В нормальной ситуации, на мой взгляд, ошибочной, недостоверной информации всегда больше 80%, или, может быть, даже еще больше в ситуации конфликтов или политических противостояний.

Сергей Медведев: Какие ваши самые запоминающиеся разоблачения доставили наибольшее удовольствие в процессе и по результату?

Илья Бер: У нас с октября 2020 года уже больше 2300 разборов. Может быть, самый успешный наш разбор, который взлетел абсолютно на всех платформах, даже в TikTok, был на тему: правда ли, что патриарх Кирилл – это инсценировавший свое убийство вор в законе Япончик?

Когда я впервые наткнулся на это, я просто вбросил это в наш рабочий чат как шутку. А потом я наткнулся на пару видео на YouTube с миллионами просмотров, где какие-то люди на полном серьезе продвигали эту теорию. Я уговорил коллегу: "А давай с абсолютно серьезным лицом будем проверять это утверждение по стандартам фактчекинга". И мой коллега Павел Солахян написал этот разбор.

Сергей Медведев: Что вы посоветуете простому потребителю медиа, чтобы различить фейк?

Илья Бер: Простого ответа нет. Ориентируйтесь на авторитетные источники информации. Если вы видите супергромкую новость, связанную с большой политикой, но ее нет на ВВС, в Рейтерс, "Нью-Йорк Таймс", "Дойче Велле" или хотя бы в Агентстве ТАСС, то, скорее всего, с этой новостью что-то не так.

Кроме того, явление последнего времени – это фактчекинг и профессиональные фактчекерские проекты. В мире их уже порядка 200, сертифицированных в International Fact-Checking Network (Международная фактчекерская сеть) – порядка 120. Мы тоже имеем эту сертификацию.

Сергей Медведев: У нас в студии Андрей Сошников, главный редактор "Системы", расследовательского проекта "Настоящего Времени" и Радио Свобода. Объем фейков увеличивается?

Андрей Сошников: Они становятся разными, гибридными, заточенными под целевые аудитории. Раньше фейк – это было какое-то всеобъемлющее явление. Люди читали что-то, сначала принимали за правду, а потом это опровергалось, часть людей продолжали в это верить, часть опровергали. Так появлялись всевозможные конспирологические теории, которые продолжали существовать веками. Сейчас фейк может быть заточен на одного человека, на небольшую группу людей, а может быть заточен на некое сообщество, собранное по какому-то признаку: полу, национальности, гражданству. Вот такие фейки становится сложно отслеживать, потому что если ты не являешься их целевой аудиторией, то как тебе их ловить? Поэтому фактчекинг, опровержение фейков становятся индустрией, как и создание фейков.

Сергей Медведев: Вы считаете, что обладаете достаточными инструментами для разоблачения фейков?

Андрей Сошников: Я не занимаюсь у себя в отделе фактчекингом как таковым. Я автор или редактор материалов. Если я с самого начала вовлечен в создание материала, значит, у меня несвежий взгляд, я некоторые вещи, которые мне говорил коллега-журналист, воспринимаю уже на веру. Фактчекингом занимаются отдельные люди, часто это журналисты-расследователи, часто – нет.

В некоторых изданиях есть отделы фактчекинга, состоящие из профессионалов. У них должен быть абсолютно независимый взгляд. Они не должны разговаривать с автором по поводу материала, взаимодействовать с редактором, принимать на веру то, что он сказал. Фактчекер должен читать весь текст от начала до конца – это часто то, что делает расследование таким дорогим и долгим жанром.

Сергей Медведев: Существуют ли технические инструменты для того, чтобы понять истинность или ложность любого свидетельства?

Андрей Сошников: Нет! Есть возможность по косвенным признакам, по утечке или по сливу понять, какова была мотивация сливщика и какие тут есть опасные моменты, в которых не уверена редакция. Об этом нужно предупреждать аудиторию, говорить, что "здесь мы свечку не держали, а вот здесь у нас была возможность независимо подтвердить".

Сергей Медведев: Вопрос, которого невозможно избежать сейчас, когда соцсети и оппозиционная российская и эмигрантское сообщество расколото всей этой историей по поводу публикации ФБК, по поводу Невзлин-гейт. На ваш взгляд, являются ли предоставленные доказательства достаточными для того, чтобы выносить суждения по ним? Можно ли их сфальсифицировать?

Андрей Сошников: Мы внутри отдела строим разные гипотезы по поводу мотиваций героев этого материала и происхождения этой переписки. Мы их публично не выдвигаем, потому что у нас нет доступа ко всему корпусу доказательств.

Но нужно отдать должное команде ФБК: обычно их расследования, если они основаны на открытых данных (последнее было на закрытых), проходят независимый фактчек. Было несколько случаев, когда они публично извинялись за какие-то детали расследования. ФБК – это большая профессиональная команда, выпускающая расследования, которые могли бы публиковаться не только на их площадках, но и в СМИ: СМИ часто их цитируют.

Что касается последнего расследования о Леониде Невзлине, то здесь источник – это переписка, к которой у них есть доступ и есть доступ у двух других редакций, которым мы тоже доверяем.

Сергей Медведев: Но теоретически сама переписка могла быть фальсифицирована?

Андрей Сошников: Теоретически все что угодно может быть сфальсифицировано, и это как раз задача журналиста – проверить и понять контекст, тайминг. Есть же файлы, есть съемки с телефонов. Их можно проанализировать, посмотреть, в какое время суток, например, сделана эта съемка, когда пролистывалась переписка. Можно смотреть на мельчайшие элементы интерфейса, мессенджеров, в которых она происходила.

Сергей Медведев: К нам присоединяется Лев Гершензон, руководитель новостного агрегатора The True Story. Растет ли число фейков в сети?

Лев Гершензон: Правильно не считать, сколько их в сети, а оценивать их контакты с аудиторией: насколько они влияют на умонастроения, насколько успешно распространяются. Вот тут, мне кажется, они прогрессируют и очень эффективно себя ведут.

Основное место, где люди взаимодействуют с информацией, – это интернет, приложения, платформы: их ограниченное число, тех, которые обеспечивают доставку информации для большинства населения Земли. Критически важно, какие критерии качества действуют на этих платформах, какой контент для них предпочтителен. Мои наблюдения: к сожалению, принципы правдивости или качественной журналистики, несмотря на то, что они часто заявляются этими платформами, не являются основными для выбора и определения, что лучшего всего показать большому количеству людей.

Сергей Медведев: За последний год чудовищно изменился Фейсбук, превратился в какую-то желтую газету из электрички, где, продираясь через завалы каких-то роликов, реклам, ненужных мне вещей, я с трудом получаю какую-то новостную информацию.

Лев Гершензон: Сам Марк Цукерберг года три-четыре назад решил, что новостного политического контента в Фейсбуке должно быть сильно меньше. Это, в частности, реакция на скандал с "Кембридж Аналитика" (на мой взгляд, очень детская реакция). Фейсбук продал сторонней компании данные о поведении пользователей на платформе у себя в соцсети. Эта компания, "Кембридж Аналитика", использовала их для очень точного таргетинга в информационной кампании, в предвыборной кампании президента Трампа, и считается, что внесла, может быть, решающий вклад в победу Трампа.

В результате Цукерберг сказал: "пойдемте в другие стороны, а новостного контента нам не надо". Как следствие вы видите ту помойку, в которую это превратилось.

Второй момент: все равно основной инструмент заработка на соцсетях сейчас – это рекламные поступления. Чем больше рекламы вместить в ленту, тем лучше, чем больше вы при этом проводите времени, продираясь, тем лучше.

Сергей Медведев: Такой желтеющий интернет создают питательную среду для распространения фейков.

Лев Гершензон: Конечно! Моя гипотеза: платформам, что бы они ни заявляли, гораздо важнее, чтобы контент, который они показывают, завлекал вас как пользователя.

Сергей Медведев: Фейк накручивает трафик.

Лев Гершензон: Да, взвешенное спокойное изложение с проверкой фактов проигрывает такой уличной борьбе, яркому хлесткому неточному заголовку, который цепляет. Вот это "цепляет" гораздо важнее, чем взвешенная и правдивая информация.

Сергей Медведев: Во время ковида это стало особенно очевидно.

Лев Гершензон: Ковид оказался питательной средой, потому что все это растет на страхах, на неуверенности. Но ковид закончился, а дело живет.

Сергей Медведев: А можно ли запрограммировать алгоритм на то, чтобы он отфильтровывал фейки?

Лев Гершензон: Конечно, можно. Это не значит, что можно написать программу, которая со стопроцентной полнотой и точностью будет отличать ложь от правды. Но есть много решений, при которых с хорошей точностью и полнотой можно определять: этот текст подозрительный, в нем мало ссылок, много оценочной и эмоциональной лексики, он содержит факты, которые мало где встречаются в других авторитетных источниках, и так далее. Такие алгоритмы-классификаторы должны быть. И подозрительный контент, у которого есть все признаки недостоверной информации, не должен получать широкого охвата. Вопрос в том, как заставить эти платформы принять такие цели и метрики, чтобы они были для них важными.

Сергей Медведев: И для этого вы предлагаете очень интересный механизм под названием "информационная карма". Условно говоря, каждая статья, каждый видеоролик должны нести в себе какой-то критерий оценки качества их достоверности.

Лев Гершензон: Да. Карма, может быть, не самый удачный термин, но он тоже цепляет. Есть более скучные вещи из той же области: какой-нибудь научный фактор или из банковской сферы – кредитная история, – это свойство или накапливаемый рейтинг паблишера, издателя, автора.

Сергей Медведев: Вспомню рассказ Хорхе Луиса Борхеса "Тлён, Укбар, Орбис Терциус". Там идет речь о некоей секте специалистов, создавших энциклопедию вымышленного мира – Тлёна, которую потом случайно обнаружили в одной из этих библиотек. Постепенно этот вымышленный мир начинает вторгаться и захватывать мир реальный. И вот сейчас мы находимся под той же самой угрозой, когда разные новостные платформы, ИИ, производящий дипфейки, правительство и различные фейкоделы создают огромный вымышленный мир. И нам действительно нужен такой академик Зализняк, который встанет и скажет: "Истина существует!".

Установите Мобильное приложение Радио Свобода

Установить

Читайте Свободу в Телеграме

Войти

Подпишитесь на Свободу в Google новостях

Подписаться