Десять веков назад великий Омар Хайям сказал: «Никогда не позволяйте вашим ушам поверить в то, что не видели ваши глаза». Попытками опровергнуть этот мудрый завет вполне можно считать аудиовизуальные цифротехнологические манипуляции, которые все чаще будоражат публику в Центральной Азии, включая Казахстан.
Не верь уже и глазам своим
В первую зимнюю неделю уходящего года казахстанских пользователей соцсетей заставила недоумевать мимика акима Кызылординской области Нурылбека Налибаева. Ее можно было лицезреть на распространенном видео, запечатлевшем вручение главой региона ключей от новых квартир их счастливым обладателям. Лицо руководителя на видеоряде выражало... явное недовольство, будто он участвует в приятной процедуре против собственной воли. Едва ли не из-под палки.
В минувшем ноябре пользователей соцсетей удивило видео, на котором вещает Дарига Назарбаева: «Я наконец-то открыла проект, который сможет помочь каждому жителю Казахстана. В этом проекте вы сможете получить 500 000 тенге всего за два часа. Вам следует подписаться на канал и написать личное сообщение. После этого вы сможете получить 500 000 тенге».
Еще раньше, в октябре, Instagram, Facebook и Telegram были вздернуты двумя видео с участием президентов Узбекистана и Казахстана. На одних кадрах Шавкат Мирзиеев объявлял о создании госкомитета по возврату и компенсации денежных средств, потерянных гражданами в результате обмана брокерами и мошенниками. На другом видео Касым-Жомарт Токаев призывал соотечественников стать вкладчиками инвестиционной платформы, созданной Правительством Казахстана и... миллиардером Илоном Маском.
Как уже знает или догадался читатель, все четыре упомянутых видеоролика — обман, который был разоблачен лично акимом Кызылординской области, а также компетентными органами Узбекистана и Казахстана. Во всех четырех случаях использовались дипфейк-технологии.
Они родились и развиваются с конца прошлого века, но достаточно долго интересовали лишь узкий круг специалистов. Однако в 2009 году вышел фильм «Аватар» — первое крупное публичное свидетельство широких возможностей дипфейков. В 2014-м актриса Одри Хепберн, ушедшая из жизни в 1993-м, «снялась» в видеорекламе шоколада. Ее лицо из старых кинофильмов было «пересажено» на тело современной актрисы, схожей по комплекции с хрупкой Одри. И пошло-поехало...
Современное наименование эти технологии получили в 2017 году, когда некий(е) пользователь(и) развлекательного портала Reddit создал(и) и разместил(и) несколько похабных видео с лицами знаменитостей, подписавшись Deepfake — от deep (глубина, глубокий) и fake (подделка, фальшивка, фальсификация). Последовал скандал, видео удалили, но подпись их автора(ов) закрепилась как название использованных технологий. Сегодня их суть кратко определяется как комплексный метод синтезирования изображения и голоса, в большинстве случаев с помощью искусственного интеллекта.
От порнографии до политики рукой подать
Чтобы создать убедительный дипфейк, требуются большие объемы видео, статических изображений, голосовых записей. Этого добра, принадлежащего широко известным персонам, в интернете полным-полно. И процесс упрощается за счет натаскивания нейросетей на тысячах лиц и связанных с ними голосов. После чего ИИ показывает впечатляющие результаты. Они обусловили взрывной рост синтетической генерации видео и аудио, и уже не только отдельных личностей, но и целых эпизодов и сюжетов.
И до, и после того как дипфейки решили называть дипфейками, их жертвами уже становились десятки публичных персон во многих странах. Например, в Штатах самыми нашумевшими фальшивками, изготовленными на высоком технико-технологическом уровне, считаются видео, на которых еле ворочает языком якобы пьяная Нэнси Пелоси в бытность спикером палаты представителей США, Дональд Трамп отрицает глобальные изменения климата, а экс-президент Барак Обама обзывает Трампа «засранцем».
В России жестким дипфейк-атакам подвергались телеведущая Арина Шарапова, юмористка Клара Новикова, актриса Анастасия Мельникова, певица и бывшая фигуристка Анна Семенович, модель Алина Рин и другие публичные дамы. Их лица переносились на обнаженные женские тела в ракурсах на грани порнографии, в жанре которой в мире генерируется более 90 процентов дипфейков. А в 2019 году в России распространялись видеоролики, в которых дипфейк шоумена Дмитрия Нагиева обещал приз или вознаграждение, для чего призывал посетить некий сайт, переход на который был чреват потерей денег.
Опасный политический прецедент возник в африканском государстве Габон, глава которого Али Бонго в 2018 году долго не появлялся на публике из-за перенесенного инсульта. Поэтому габонцы с особым нетерпением ожидали выступит ли их президент с традиционным новогодним поздравлением народу. Бонго выступил, но выглядел на телеэкране вялым и заторможенным. Вспыхнули противоречивые слухи.
Одни — о том, что глава государства еще не вполне оправился после болезни. А другие, распространяемые оппозицией, — о том, что показанное поздравление — дипфейк, а сам Али Бонго при смерти, а то и ушел в мир иной. Результатом брожений стала попытка военного переворота, подавленная в начале 2019 года. Но даже анализ президентского телепоздравления двумя независимыми друг от друга группами экспертов, подтвердившими его подлинность, не угомонил оппозицию. В итоге переворот все-таки состоялся — в августе 2023 года. Сразу после того, как было объявлено о том, что Бонго в третий раз якобы победил на выборах главы государства, получив 64 процента голосов.
Исход политической ситуации в Габоне показывает, как даже не сам дипфейк, а его вероятность превращается в жупел с далеко идущими последствиями.
Опираясь на заслуживающие доверия источники, мы могли бы просветить читателя о специфике как безобидного, так и злонамеренного использования дипфейков, а также о признаках подделок и способах их распознавания. Но не будем подменять более квалифицированных специалистов, консультаций и советов которых на эту тему в интернете предостаточно.
Ограничимся лишь ссылкой на единодушное мнение экспертов, считающих, во-первых, что дипфейки стимулируют дальнейшее падение доверия уже к любым источникам информации, во-вторых, что с дальнейшим развитием этих технологий отличать изготовленные по ним фальшивки от реальности будет все сложнее. И это не считая клубка новых проблем, которые порождает даже вроде бы невинное применение дипфейков в кино, видеоиграх, рекламе, моделировании и т.д.
На наш взгляд, еще важнее уяснить, что дипфейк-технологии и их плоды стали очередным, теряемся, каким уже по счету, подтверждением несвободы IT-технологий от влияния людей с низкими моральными стандартами. В этом смысле IT-технологии ничем не отличаются от других отраслей деятельности, науки и в целом знаний. В результате многие изобретения и даже открытия приносили и приносят человечеству далеко не только пользу, а подчас лишь сплошной вред.
Защитная реакция
В 1928 году был впервые синтезирован фреон — новый газ, нашедший широкое применение в холодильниках, кондиционерах, парфюмерии и аэрозолях. Да вот только через полвека обнаружилось, что фреон разлагается с выделением хлора, разрушающего озоновый слой. Парниковая активность фреонов в 1300-8500 раз превышает аналогичные свойства углекислого газа.
В 1900-х как побочный продукт препарата для остановки обильного кровотечения был впервые получен 3,4-метилендиокси-N-метамфетамин, семь десятилетий никак не применявшийся. Его стали использовать в 1980-х в танцевальных клубах, и он вошел в четверку самых опасных наркотиков, убивая в среднем 50 человек в год только в одной Англии. Это экстази, изобретатель которого Энтони Келиш погиб еще во время Первой мировой войны. Как тут не поверить в провидение?..
Первые лагеря для беженцев придумал и воплотил в конце XIX века как убежище для гражданских лиц во время англо-бурской войны главнокомандующий британскими войсками в Южной Африке граф Робертс Кандагарский сэр Фредерик Робертс. Но сменивший его в 1900 году лорд Герберт Китченер превратил эти лагеря в концентрационные, смертоносная роль которых в истории не требует комментариев.
В 1898 году был изобретен полиэтилен, получивший широчайшее распространение для производства упаковки и массы других изделий, включая игрушки. Потребовались столетие, миллиарды тонн пластикового мусора и миллионы погибших от полиэтилена морских и земных обитателей, чтобы мир спохватился и начал бороться с этим синтетиком. Хотя то, что, например, пакет из полиэтилена разлагается и исчезает в естественных условиях минимум 500 лет, было известно с самого начала.
В 1876-м был создан первый двигатель внутреннего сгорания (ДВС), а через девять лет — и первый автомобиль с ним. Сейчас таких машин на планете свыше 700 миллионов. Каждый из них ежегодно поглощает из атмосферы в среднем более четырех тонн кислорода, выбрасывая 800 килограммов оксида углерода и 200 килограммов других парниковых газов. По данным ВОЗ, эти выбросы сокращают продолжительность жизни человека в среднем на четыре года.
В сравнении с другими великими изобретениями возраст цифротехнологий в целом составляет без году неделю. Но и за этот краткий по историческим меркам период люди успели капитально подпортить репутацию самого значимого изобретения за последние 50 лет. Дипфейк-технологии вообще, можно сказать, новорожденные детища, успевшие, однако, стать, по оценкам экспертов, едва ли не главной угрозой не только кибербезопасности, но и общественной безопасности как таковой.
Первый вывод напрашивается сам собой: если раньше на то, чтобы кажущийся прогресс оборачивался регрессом, требовались многие десятилетия вплоть до века и дольше, то в наше время этот процесс сжимается до нескольких лет, месяцев и даже недель. Ну какой же это прогресс, если уже даже не сами по себе дипфейки, а лишь их вероятность ввергает отдельных граждан и целые социальные группы, даже элиту общества, в страх быть оболганными и смешанными с грязью? Второй вывод вытекает из первого: именно в цифротехнологиях благодаря анонимности наиболее сильно влияние безликих инвидумов, цинизм которых априори не имеет границ.
Оба вывода позволяют задаться банальным вопросом: а насколько вообще, в принципе, человечество готово к тем фантастическим возможностям, которые открывают цифротехнологии?