Американская компания OpenAI, считающаяся одним из лидеров разработки моделей генеративного искусственного интеллекта (ИИ), отказалась от его прорывной роли в технологическом прогрессе. Это следует из заявления компании мировому сообществу.
Уже беглый взгляд на документ в первоисточнике (интернет-блог компании, How we think about safety and alignment | OpenAI) обнаруживает три момента, подрывающих доверие к автору (авторам). Его (их)… нет, хотя в тексте многократно повторяется «мы» с претензией на программность заявления. Кто это «мы» — топ-менеджмент, совет директоров или акционеров, а может быть, их наемник, возведенный в «гуру» отрасли, Сэмюэль Альтман?
Самое подозрительное: неясно, кто же — де-юре некоммерческая OpenAI Inc. или ее дочерняя коммерческая OpenAI Global LLC — подразумевается под «мы». Ведь между ними большая разница. Что, кстати, послужило то ли причиной, то ли поводом к тому, что вдрызг разругались старые друзья — Альтман и Илон Маск, стоявшие у истоков некоммерческой OpenAI Inc.
Вторая деталь — отсутствие даты публикации, чего не позволяют себе уважающие себя коллективные и персональные авторы. Поэтому с уверенностью можно сказать лишь то, что документ увидел свет в первую весеннюю неделю текущего года.
Эта двойная «неряшливость», как становится понятно из дальнейшего анализа, неслучайна.
Третье — не просто большой, а громадный размер документа. Лишь его основная часть в переводе на русский язык — свыше 23 500 знаков. Это не считая десятков тысяч в других материалах (самой OpenAI и других источников), с которыми заявление предлагает ознакомиться по 40 (!) ссылкам в основном тексте документа. Как известно, многословность нередко используется для камуфляжа отсутствия ясной цели и путей ее достижения.
Не уверены, но верят
Предположение о маскировке крепнет по мере анализа содержания заявления. «Миссия OpenAI заключается в том, чтобы общий искусственный интеллект (AGI) приносил пользу всему человечеству», — многообещающе начинается документ. Уточним, что AGI — это ИИ, сопоставимый с человеческим или даже его превосходящий.
Но уже во втором абзаце преамбулы OpenAI вступает в противоречие с собой: «Мы не уверены во всем, во что верим». Сразу вспоминается знаменитый перл из советской кинокомедии «Берегись автомобиля»: «Кто-то верит, что Бог есть, а кто-то — что его нет, но и то, и другое недоказуемо».
А вот и фактический отказ от прежних широковещательных заявлений Альтмана и его коллег насчет того, что AGI скоро избавит бизнес от рутины, обеспечит прорыв в экономике и превратит нашу жизнь чуть ли не в рай земной. «AGI в несколько этапов, а не один гигантский скачок» — это название первой же главы документа. В ней OpenAI признает: «Теперь мы рассматриваем первый AGI как лишь одну из точек в ряду систем возрастающей полезности».
"Электронные мозги будут ошибаться гораздо точнее".
Вроде бы обнадежив читателя заявления, во второй главе «Влияние AGI» OpenAI нисходит до банальности: «Интеллект — нейтральный термин, и сам по себе не является гарантией позитивных преобразований». Кто бы спорил. Умных интеллектуалов предостаточно среди злодеев.
Дальше OpenAI сворачивает к тревогам: «AGI приведет к быстрым изменениям, которые могут иметь непредсказуемые и, возможно, негативные последствия для мира или отдельных людей, такие как рост социальной напряженности и неравенства или сдвиги в доминирующих ценностях и социальных нормах. Доступ к AGI будет определять экономический успех, что может привести к тому, что авторитарные режимы вырвутся вперед перед демократическими, если будут более эффективно использовать AGI».
Знать, плохи дела у демократий, которые в представлении многих существуют лишь на Западе, если заранее допускается их проигрыш авторитарным режимам.
Общая ответственность за неопределенность
«Как и в случае с любой новой технологией, возможны разрушительные последствия, часть из которых неотделима от прогресса, — продолжает OpenAI. — Некоторые из них можно хорошо контролировать, а некоторые могут быть неизбежны. Обществам придется найти способы демократическим путем принять решение об этих компромиссах, и многие решения потребуют сложной координации и общей ответственности». Запомним это: акцент на общей ответственности.
Третья глава заявления посвящена основным принципам OpenAI в разработке AGI. Эти принципы компания предваряет откровением: «Мы не знаем, как будет выглядеть будущее, но со временем мы уже довольно сильно эволюционировали в нашем мышлении». В чем эволюция? В постановке на первое место среди принципов… Чего бы вы думали? Принятия неопределенности!.. Что однозначно не прибавит оптимизма ожиданиям от AGI как массе его потенциальных клиентов-людей, так и бизнесу. В том числе инвесторам, вложившим сотни миллиардов долларов в сегодняшние далекие от человеческого мышления модели машинного обучения, лишь авансом именуемые ИИ.
"Опасность не в том, что компьютер однажды начнет мыслить как человек, а в том, что человек однажды начнет мыслить как компьютер".
Показательны и следующие строки заявления: «Мы рассматриваем ответственность за повышение безопасности как коллективную работу. Обеспечение безопасности и выгоды AGI для всех не может быть достигнуто одной организацией. Это общая ответственность, которая зависит от открытого сотрудничества между промышленностью, научными кругами, правительством и общественностью в целом». Вновь педалируется общая ответственность.
Как убеждает анализ заявления в целом, именно неоднократные предупреждения о неопределенности последствий внедрения AGI и призывы не к персональной и корпоративной, а к общей ответственности всех и вся — лейтмотив документа, что пересекается с туманностью его авторства.
Квинтэссенция этого лейтмотива — в заключении заявления OpenAI: «Мы не знаем всех ответов. У нас даже нет всех вопросов. Поскольку мы не знаем, мы открыты для того, чтобы ошибаться в наших ожиданиях относительно того, как будет развиваться прогресс, и в нашем подходе к проблемам, которые мы видим. Мы верим в культуру здоровой дискуссии и хотим получить обратную связь от людей с разными взглядами и отношением к рискам, связанным с искусственным интеллектом, особенно от тех, кто может не согласиться с текущей позицией OpenAI».
Спасибо, конечно, за доверие и приглашение к дискуссии. Но налицо и сомнения фронтмена разработок ИИ в собственных силах. Рискнем назвать главную причину этой неуверенности. Она в том, что даже фундаментальные науки, не говоря уж о прикладной IT-отрасли, пока не понимают, что такое человеческие мозг, сознание, мышление, как они работают. При таком даже теоретическом мраке для OpenAI делать ставку на практические эксперименты в создании AGI — все равно что лезть в пекло поперед батьки. Так и сгореть можно.
Подстелив себе соломку
Невозможно поверить, что программное заявление OpenAI вызвано ее благородным порывом к откровенности и открытости. Не верить в это заставляет ряд предшествующих оценок и событий в IT-индустрии.
В 2024 году впервые в США Массачусетский технологический институт, Институт производительности и Институт ценности бизнеса IBM проанализировали возможность замены человеческого труда искусственным интеллектом там, где возможно использовать компьютерное зрение. Оказалось, что только 23 процента работников могут быть эффективно заменены таким условным ИИ (моделью машинного обучения). Даже при снижении затрат для его внедрения на 20 процентов в год потребуются десятилетия, чтобы внедрение компьютерного зрения стало выгодным для бизнеса.
Еще одним примером преувеличения значимости ИИ в 2024 году стал шведский платежный сервис Klarna одноименной компании. Она объявила, что заменит людей для клиентской поддержки на ИИ. Но в итоге он в Klarna заменил только телефонную систему, что невозможно назвать значимым успехом.
В конце января 2025 года в беседе с Financial Times миллиардер-инвестор Рэй Далио оценил состояние американского рынка акций высокотехнологичных компаний очень похожим на пузырь аналогичных ценных бумаг на стыке ХХ — ХХI веков. Тот пузырь громко лопнул в 2001-м, обернувшись разорением сотен тогдашних интернет-компаний и обеднением не только 100 миллионов их мелких, но и десятков крупных инвесторов. Оценка Далио прозвучала на фоне обвала 27 января акций высокотехнологичных компаний. В частности, крупнейший в мире производитель микрочипов Nvidia, считавшийся главным бенефициаром бума ИИ, потерял 590 миллиардов долларов рыночной капитализации, что стало крупнейшим обрушением в истории.
В феврале текущего года сама OpenAI протестировала три модели ИИ (машинного обучения), в том числе две чужих и свою флагманскую GPT-4o, на предмет способности к программированию. Результат плачевный: все три модели признаны негодными для замены даже новичков-программистов-людей. Хотя бы такой уровень в моделях машинного обучения (условного ИИ) глава OpenAI Альтман обещал и в 2024-м, и в начале 2025-го.
Наконец, также в минувшем феврале к оценке Рэя Далио фактически присоединился генеральный директор Microsoft Сатья Наделла. Он признал, что широко разрекламированный ИИ не находит подтверждения в реальном экономическом росте. Поэтому, по словам Наделлы, отрасль может ожидать резкое разочарование, сопоставимое с упомянутым пузырем на рубеже XX — XXI веков. По оценке Наделлы, лишь ежегодный экономический рост на 10 процентов (прежде всего за счет увеличения производительности труда) оправдает многомиллиардные вложения в ИИ.
Пикантность оценкам Наделлы придает то, что Microsoft — старший бизнес-партнер OpenAI. Между ними действует долгосрочный договор, заточенный на разработку моделей искусственного интеллекта, для чего Microsoft предоставлял OpenAI десятки миллиардов долларов. Но на сомнения «старшого» в «малом» указывает не только февральское заявление Наделлы. Microsoft не вчера начал разработки собственных моделей ИИ. А с текущего марта, по сообщениям технологических ресурсов, Microsoft активизировал сокращение своей зависимости от OpenAI на фоне растущих разногласий.
Лишь после приведенных и других негативных для ИИ событий и оценок последовало программное заявление OpenAI с отказом от концепции прорывной роли искусственного интеллекта, неопределенностью его перспектив и призывами к общей ответственности.
"Братья! Интеллект в опасности! Он уже не просто никому не нужен, он вызывает вражду". Михаил Жванецкий
Поэтому заявление OpenAI и ее задний ход в перспективах уже и общего искусственного интеллекта — в первую очередь попытка обеспечить себе алиби. Алиби на случай, если AGI, как и сегодняшние модели машинного обучения (условный ИИ), тоже не повысит буксующую производительность и не принесет ощутимого экономического эффекта. Многословное заявление компании сравнимо с подстиланием себе соломки, если не оправдает себя и AGI. На такую перспективу у OpenAI уже готова отмазка: ну мы же всех предупреждали, что все неопределенно.
Что касается призывов OpenAI к «общей ответственности», то от нее за версту несет перегаром советской «общенародной собственности». Фактически ничьей, за которую никто не нес ответственности. Нет ее сегодня по гамбургскому счету и за качество не только ИИ, но и в сравнении с ним простых цифровых продуктов — программ, приложений, сервисов и тому подобного. Купил его — ну так и мудохайся с ним сам и снова плати, если начнет глючить. «Общая ответственность» — это ее размазывание и нивелирование до «отсутствия» виновников ошибок и провалов.