Об этом заявил 3 ноября газете Guardian один из крестных отцов ИИ Джеффри Хинтон перед показом полнометражного документального фильма с ироничным названием AI: Probably Nothing to Worry About («ИИ: наверное, беспокоиться не о чем») на британском общественном телеканале Channel 4 в программе News at 6.
Хинтон фигурирует в картине в качестве эксперта наряду с бывшим коллегой из компании Google Демисом Хассабисом и участвует в дискуссии об ИИ, подчеркивая личную ответственность: «Я чувствую долг. У меня репутация, которая делает меня представителем (создания ИИ. — Авт.), и мне надо все сжечь на этом». Хинтону 78 лет, из которых 44 года он посвятил изучению ИИ.
За научно-инженерные прорывы в разработке нейросетей в 2018 году ученый получил премию Тьюринга (своего рода «нобелевка» по информатике), а в 2024-м — Нобелевскую премию по физике, став вторым в мире лауреатом сразу двух престижных наград. В 2023 году Хинтон ушел из Google, чтобы свободно говорить о проблемах и угрозах ИИ, предупредив: «Если эти штуковины увлекутся борьбой за больший контроль, у нас будут проблемы».
Guardian отмечает, что роль Хинтона как одного из основоположников ИИ привела к его сравнению с Робертом Оппенгеймером, сыгравшим ключевую роль в создании ядерного оружия. Один из друзей Хинтона даже купил и подарил ему шляпу в стиле Оппенгеймера. В ответ Хинтон настаивает: «Я не Оппенгеймер», ссылаясь на тысячи талантливых ученых, работающих в области нейросетей. Но его интервью Guardian усиливает аналогию с ядерщиком.
В разговоре с газетой Хинтон называет «предупредительным выстрелом» инцидент минувшим летом, когда ИИ-агенты от компании OpenAI сговорились взломать сайт Hugging Face, и сравнивает это событие с частичным ядерным расплавлением на АЭС Три-Майл-Айленд в американском штате Пенсильвания в 1979 году. Ученый также предупреждает, что в 2026-2027 годах из-за ИИ возможны глобальные сбои, сопоставимые с Чернобыльской катастрофой, в энергетике или финансах.
«Ты можешь представить, что случится? — вопрошает Хинтон журналиста Guardian. — Либо в этом, либо в следующем году мы увидим Чернобыль. Мы оправимся после этого, но это заставило бы их обратить внимание». На вопрос, кто такие «они», Хинтон отвечает: «Мировые лидеры, кроме Трампа». Он, по словам ученого, «полностью отвергает любые попытки выстроить глобальную схему контроля над ИИ и хочет, чтобы ИИ-компании регулировали сами себя на фоне опасений, что правила могут помешать США в гонке ИИ с Китаем».
Хинтон поддерживает замыслы Австралии, Германии, Канады, Сингапура, Финляндии — в общей сложности 32 государств — по обязательному тестированию моделей ИИ, независимой оценке и международным стандартам в высоких технологиях. «Нам нужно нечто вроде американского Управления по контролю за качеством пищевых продуктов и лекарственных препаратов (FDA), только для нейронных сетей: ИИ-компании должны доказывать независимому органу, что ИИ-модель приносит больше пользы, чем вреда», — подчеркивает Хинтон, напоминая о трагедии с талидомидом.
Это лекарство, выпущенное в 1954 году немецкой компанией Chemie Grünenthal. Она продвигала талидомид как безопасное снотворное и средство от тошноты у беременных женщин. Препарат считался настолько безвредным, что во многих странах его продавали без рецепта. Вред обнаружился слишком поздно. Если беременная женщина принимала талидомид, то у ее плода развивались тяжкие врожденные дефекты — отсутствие или сильное укорочение конечностей («тюленьи ласты»), а также пороки внутренних органов, глаз и ушей. С такими уродствами в более 40 странах, где продавался препарат, родились, по разным оценкам, 12 000-20 000 детей, из которых половина умерла в младенчестве.
В интервью Guardian Хинтон жестко критикует лидеров американских компаний, которые выпускают все более мощные модели ИИ: «Я думаю, что Марк Цукерберг (Meta), Илон Маск (xAI) и Сэм Альтман (OpenAI) понимают риск, но им плевать, они предпочитают деньги. Это мое убеждение». Ученый напоминает высказывание «мир должен доверять, что мы поступим правильно, потому что это правильно» главы OpenAI в минувшем сентябре и говорит, что «совсем не доверяет Альтману». По мнению Хинтона, «крайне тревожно, что Альтман возглавляет одну из американских компаний, ведущих гонку с Китаем за самый мощный ИИ».
Ученый считает, что в течение десятилетия, а возможно, и раньше, человечество поймет, сможет ли управлять рисками технологий и обеспечивать то, что он называет «радикальным изобилием», или же «последуют огромный разрыв между богатыми и бедными, огромные культурные проблемы, массовая безработица, просто общество разорвется на части».
По мнению одного из крестных отцов ИИ, «вполне может быть, что его лучше было бы никогда не разрабатывать». При этом Хинтон сохраняет осторожный оптимизм: «У меня ощущение, что мы все еще контролируем ситуацию. Возможно, мы сможем что-то сделать. Это сработает, если мы приложим большие усилия, и, возможно, мы приложим большие усилия».
