В мире растет беспокойство по поводу бесконтрольности ИИ. Католическая церковь и лично ее глава Папа Римский Лев XIV наращивают усилия в предупреждении реальных и потенциальных угроз искусственного интеллекта (ИИ). Очередным шагом в этом направлении стал проведенный 16-17 октября Папской академией социальных наук семинар под названием «Digital Rerum Novarum: искусственный интеллект для мира, социальной справедливости и целостного человеческого развития».
Остановить гонку ИИ
Участники семинара призвали к остановке гонки вооружений в сфере ИИ, поддерживая папский призыв к «смелости разоружения». Главным итогом мероприятия стало заявление о необходимости объединения разрозненных инициатив по регулированию ИИ в единую глобальную систему, которую смогут продвигать влиятельные организации, включая Католическую церковь.
В ней первым озаботился проблемами цифровизации и ИИ скончавшийся в апреле текущего года Папа Франциск. В письме католической пастве 1 января 2024 года он выражал тревогу тем, что из-за неэтичного использования ИИ мир может столкнуться с технологической диктатурой. В связи с этим Франциск предлагал принять международную конвенцию, которая бы регулировала создание и применение ИИ.
Избранный 8 мая 2025 года преемником Франциска Папа Лев XIV уже через два дня на своей первой же Коллегии кардиналов назвал ИИ одним из вызовов человечеству. Он подчеркнул, что ИИ создает многочисленные проблемы в «защите человеческого достоинства, справедливости и труда». В обращении к участникам октябрьского семинара Лев XIV признал потенциал ИИ для достижения больших целей, но в то же время задался вопросом: как создать «более справедливое и человечное глобальное общество»? При этом понтифик процитировал покойного Франциска, который говорил: «Хотя ИИ, несомненно, представляет собой исключительный продукт человеческого гения, он прежде всего остается не более чем инструментом».
Предлагаемая Львом XIV система регулирования должна иметь обязательный характер с механизмами принуждения и получить поддержку ведущих технологических корпораций. Из них прислала на семинар своего представителя одна Microsoft, а Google, Meta, Apple и другие технологические гиганты IT-индустрии приглашение Ватикана проигнорировали.
Кроме глобальной системы регулирования ИИ, участники семинара обсуждали необходимость мышления «вне непрозрачной коробки алгоритмов» и важность экологической устойчивости перед лицом аномально высокой энерго- и водоемкости дата-центров для разработки и эксплуатации ИИ. Особое внимание семинар уделил концепции «технологической социальной справедливости», включая обсуждение «нейроправ» — новой области этики, призванной защитить людей от риска таких инвазивных технологий, как мозговые импланты компании Neuralink миллиардера Илона Маска. Участники семинара подчеркнули критичную важность этого направления для защиты человеческого сознания.
Душа и сердце будут потеряны
Кардинал Джузеппе Версальди, знакомый с действующим понтификом со времен, когда тот был кардиналом Робертом Фрэнсисом Превостой, объясняет позицию Папы: «Лев XIV хочет, чтобы мир науки и политики немедленно взялся за эту проблему, не позволяя научному прогрессу развиваться с высокомерием, нанося вред тем, кто вынужден подчиняться его власти. Инструменты ИИ не следует демонизировать, но их надо регулировать. Вопрос в том, кто будет их регулировать… Неубедительно, если их регулируют сами создатели. Нужна высшая власть».
В сентябре текущего года Лев XIV категорически отверг предложение создать своего цифрового двойника на базе ИИ. В интервью своему биографу Элоизе Аллен понтифик рассказал: «Недавно меня просили дать разрешение на создание искусственной версии меня. Этот ИИ-Папа отвечал бы на вопросы пользователей, но я отказался давать на это разрешение. Если есть кто-то, кого точно не следует представлять в виде аватара, то Папа Римский, безусловно, находится в верхней части этого списка».
Также в сентябрьском интервью итальянским СМИ Лев XIV вновь затронул тему человеческого достоинства: «Если мы автоматизируем весь мир и лишь у немногих будут средства не просто для выживания, а для хорошей жизни и осмысленного существования, мы столкнемся с огромной проблемой в будущем».
Святой Отец выразил обеспокоенность действиями «крайне богатых людей, которые инвестируют в искусственный интеллект», но при этом «полностью игнорируют ценность людей и человечества в целом». «Если церковь не выскажется, если никто не выскажется об этом, существует опасность, что цифровой мир пойдет своим путем, а мы станем пешками либо окажемся на обочине», — сказал Лев XIV.
Понтифик подчеркнул, что не выступает против новых технологий как таковых, но обеспокоен текущим вектором развития. «Я считаю, что потеря связи между наукой и человечностью превратит науку в пустую холодную оболочку, которая нанесет огромный ущерб сущности человечества. И человеческое сердце будет потеряно среди технологического развития, если все продолжится в том же духе», — сказал он.
«Заявление о сверхразуме»
Через неделю после семинара в Ватикане достоянием гласности стала петиция под названием «Заявление о сверхразуме», призывающая остановить разработку так называемого общего ИИ (суперинтеллекта), чем занимаются все крупнейшие высокотехнологичные компании мира. Петиции предшествовал массовый опрос Института исследований искусственного интеллекта (FLI) граждан США.
Его результаты показали, что только пять процентов американцев поддерживают быструю и нерегулируемую разработку ИИ. Более 73 процентов опрошенных высказались за внедрение жесткого его регулирования. Около 64 процентов респондентов заявили, что пока не будет доказано, что общий искусственный интеллект будет безопасным и контролируемым, его разработку допускать нельзя.
«Многие хотят мощных инструментов ИИ для науки, медицины, повышения производительности и других целей, — комментирует результаты опроса соучредитель FLI Энтони Агирре. — Но путь, по которому идут корпорации, совершенно не соответствует потребностям общественности, мнению ученых и религиозных лидеров о безопасности.
Никто из тех, кто разрабатывает системы ИИ, не спрашивал человечество, приемлемо ли это. Мы спрашивали и получили ответ, что неприемлемо».
В петиции отмечается, что ИИ необязательно достигать уровня общего ИИ, чтобы вызвать массовый хаос. Уже сейчас генеративные модели искусственного интеллекта, далекие от уровня общего ИИ, оглупляют детей и молодежь, наполняют интернет огромным объемом дезинформации и мусорного контента, провоцируют психические расстройства и суициды.
Среди подписавших петицию сотен известных персон соучредитель Apple Стив Возняк, советник Папы Римского по вопросам ИИ монах Паоло Бенанти, принц Гарри и Меган Маркл, занимавший должность председателя Объединенного комитета начальников штабов при президентах Джордже Буше-младшем и Бараке Обаме адмирал ВМС США Майк Маллен, большая группа экспертов и ученых в области ИИ, включая лауреата премии Тьюринга Йошуа Бенджио и лауреата Нобелевской премии Джеффри Хинтона. По подсчетам FLI, в интернете петицию поддержало свыше 45 000 граждан из разных стран мира.
«Системы ИИ нового поколения смогут превзойти большинство людей в решении ряда когнитивных задач всего за несколько лет, — заявил профессор Монреальского университета Йошуа Бенджио. — Эти достижения могут открыть пути решения глобальных проблем, но они также несут в себе значительный риск. Чтобы безопасно двигаться к сверхразуму, мы должны научно определить, как проектировать системы ИИ, которые принципиально неспособны нанести вред людям, будь то несоответствие заявленным целям или злонамеренность. Мы также должны обеспечить, чтобы общественность имела значительно большее влияние на решения, которые определят наше будущее».
Подписывать петицию отказались гендиректор Open AI Сэм Альтман, директор Microsoft по ИИ Мустафа Сулейман, глава Anthropic Дарио Амодеи, советник Белого дома в сфере ИИ и криптовалют Дэвид Сакс, самый богатый человек в мире Илон Маск и другие толстосумы, финансирующие разработки ИИ триллионами долларов.