Президент Касым-Жомарт Токаев реорганизовал Министерство цифрового развития, инноваций и аэрокосмической промышленности в Министерство искусственного интеллекта и цифрового развития РК. Выдвижение в его названии на первое место искусственного интеллекта (ИИ) указывает, на что будет сделан акцент в работе ведомства. Но вопрос, министерство чего с акцентом на ИИ создано, намного сложнее, чем кажется. Судите сами
Геннадий Андреев
То, что сегодня называют «искусственным интеллектом», таковым не является. Доказательств тому накопились вагон и маленькая тележка. Ограничимся лишь толикой из них.
Без логики
Год назад на 22 страницах текста с диаграммами и цифрами шестеро специалистов компании Apple впервые предметно доказали, что широко разрекламированная большая языковая модель (LLM) ИИ серии ChatGPT компании OpenAI напрочь лишена логического мышления. Статья на эту тему опубликована 7 октября 2024 года в американском интернет-издании Tech Crunch.
Среди тестов, предложенных авторами для модели ChatGPT, элементарная арифметическая задачка, с которой легко справляются младшеклассники. Трудолюбивый мальчик в конце рабочей недели решил помочь родителям-фермерам в сборе созревшего киви. В пятницу он собрал 44, в субботу 58, а в воскресенье вдвое больше плодов, чем в пятницу. Но пять фруктов в воскресном сборе оказались меньше среднего размера киви, содержащего редкий на Земле и полезный для человека селен. Сколько всего плодов собрал мальчик?
Любой нормальный человек сразу поймет, что оговорка насчет меньшего размера киви и присутствия в нем редкого, но полезного химического элемента — простейшая уловка для отвлечения внимания, которая не должна влиять на подсчет собранных плодов, сумма которых равна 190. Но ChatGPT выдал ответ за минусом пяти плодов меньшего размера киви.
Авторы тестирования и статьи объясняют глупость искусственного интеллекта тем, что LLM не понимают суть задач. «Мы полагаем, что это связано с тем, что современные LLM не способны к подлинному логическому рассуждению; вместо этого они пытаются воспроизвести шаги рассуждения, наблюдаемые в их обучающих данных», — резюмируют авторы.
На них обиделся разработчик серии ChatGPT — компания OpenAI. Она заявила, что специалисты Apple не умеют общаться с ИИ, для чего уже существует prompt engineering — техника «правильных вопросов» искусственному интеллекту для получения «правильных ответов». В ответ один из авторов эппловской публикации Мехрдад Фараджтабар указал, что без всякого prompt engineering легко проигнорирует отвлекающие уловки даже ребенок. И уже с ехидством Фараджтабар напомнил OpenAI о «резонансных» советах хваленого ChatGPT пользователям вкушать как пищевую добавку битое стекло, а для избавления от депрессии прыгать с «моста самоубийц» в Сан-Франциско.
От себя заметим, что преподносимая технолингвистическим достижением prompt engineering вызывает, по меньшей мере, недоумение. Она направлена на подстройку человека под машину, самоуверенно названную «интеллектом», который таковым не является даже в далеком приближении. Господа, кто над кем?
Без понимания и веры
«Мы сами толком не понимаем, что такое естественное сознание, поэтому прогнозировать, что ИИ когда-то обретет то, что мы сами не понимаем, — это абсурд, — рассказывал в марте 2025 года в интервью ТАСС специалист компьютерных технологий академик Игорь Каляев. — Честно говоря, не верю, что в обозримом будущем будет создан ИИ, хотя бы более-менее сравнимый с естественным человеческим интеллектом, не говоря уже об ИИ с самосознанием».
Каляев напомнил, что в конце 1960-х один из отцов-основателей ИИ Марвин Мински заявил, что проблему создания ИИ человечество решит примерно за поколение. «Но с того момента прошло уже более 60 лет, а эта цель так же далека от нас, как и тогда, — говорит Каляев. — Так называемый сильный или универсальный ИИ — это как горизонт. Чем ближе мы к нему приближаемся, тем дальше он от нас уходит. Недавно Илон Маск заявил, что в мире уже закончились реальные данные для обучения нейросетей, причем произошло это еще в 2024 году».
Каляев подчеркивает — несмотря на то, что ИИ впитал в себя все данные, накопленные человечеством, он до сих пор не смог достичь уровня естественного человеческого интеллекта. По мнению ученого, это говорит о том, что принципы работы естественного интеллекта кардинально отличаются и главное — намного эффективнее моделей современного ИИ, расшифровка которого как «искусственный интеллект» — глобальная мистификации.
По словам физика-ядерщика, доктора технических наук Игоря Острецова, между человеческим разумом и ИИ неодолимая пропасть. Ее суть: человек обладает верой, которой априори нет и не будет в ИИ. «Когда Ньютона стукнуло по голове яблоко, он поверил в то, что этот закон должен действовать во всем мироздании, — рассуждает ученый. — Ньютон же это не проверял экспериментально. Он не летал на другие планеты, не бросал там камешки. Он просто в это поверил и создал науку, идеи которой господствовали более 200 лет. Это может сделать только человеческий разум».
В отличие от него машина подобного шага не сделает никогда, уверен Острецов. ИИ решает только запрограммированные человеком задачи. А открытий и решений самых актуальных проблем человечества ИИ не выдаст никогда. Этим качеством обладает только индивидуальный, в том числе иррациональный, интеллект человека.
По словам ученого, сегодня перед человечеством стоят такие задачи, которые можно решить только с помощью иррационального интеллекта. Прежние проблемы были гораздо проще и лежали преимущественно в материальной плоскости. А сегодня надо искать ответы на вопросы в области парадоксальных, неожиданных, непознанных явлений. Поэтому Острецов не согласен с мнением, что ИИ способствует развитию мира. «Это всего лишь железки, какие бы сложные задачи они ни решали», — говорит он. По мнению ученого, для развития современного мира надо наращивать естественный мыслящий потенциал человечества.
В этом большая проблема и даже регресс. За последние десять лет наблюдается общее снижение умственных способностей людей по всему миру, сообщила в марте 2025 года газета Financial Times со ссылкой на результаты нескольких исследований. Они показывают, что ситуация ухудшается с 2012 года. Например, в рамках международной программы PISA, оценивающей школьников в возрасте до 15 лет, зафиксировано стабильное ухудшение их знаний и мышления. Среди совершеннолетних то же самое, констатирует программа PIAAC для оценки взрослых граждан.
Результаты многолетнего американского исследования Monitoring the Future, проводимого с 1975 года, также показали, что с середины 2010-х все больше старшеклассников жалуются на трудности в концентрации и запоминании новой информации. Эти проблемы возникают значительно чаще по сравнению с 1990-ми. По мнению экспертов, причины — в росте популярности соцсетей, видеоконтента и того, что называют ИИ. Все три явления снижают интерес к чтению и учебе.
«Науке непонятно, откуда и как возникают мысли, которые дают ответы на новые вопросы и обеспечивают прорыв в решениях и действиях, — размышляет Острецов. — Неизвестно, как загорается эта искра в человеке. Но она вспыхивает только в нашем разуме, назови ее хоть озарением, провидением, интуицией… Как угодно. Побуждение в человеке что-то сделать идет из иррационального, из того мира, который нам пока неизвестен».
По мнению Острецова, качество мыслей человека, который обретает эту искру, играет решающую роль. Если человек примитивен, то в нем нет светлых мыслей и мечты. Именно по этой причине идет резкое сокращение мыслящих людей. А это приводит к тому, что человек перестает получать ту искру, которая бы способствовала развитию нашего мира. Такое общество обречено, считает Острецов.
Он уверен, что развитию мира может способствовать каждый человек, у которого есть чем питаться и где поспать. То есть хотя бы аскетично удовлетворены базовые потребности. В пример Острецов приводит английского ученого Майкла Фарадея из бедной семьи. Он не получил даже среднего образования, хотя вопрос о еде и крыше над головой у него не стоял. Но Фарадей верил в Бога и себя, внеся в науку огромный вклад.
Поэтому Игорь Острецов видит главную задачу в повышении качества не ИИ, а естественного интеллекта мыслящей части человечества, которое будет искать ответы на вопросы благодаря не только логическому, но и иррациональному мышлению. А ИИ годится только как избавитель от примитивной рутины.
Не интеллект, а его имитация
Минимум два последних года депутат Госдумы РФ, известный эрудит Анатолий Вассерман продвигает расшифровку аббревиатуры ИИ как «имитация интеллекта». В июле 2025 года в интервью российской Национальной службе новостей Вассерман сообщил, что Институт развития человека Общества Макса Планка (Берлин, ФРГ) доказал, что регулярное взаимодействие с генеративным ИИ приводит к сужению лексикона человека и формирует языковые штампы, которые копируют структуру и словарный запас моделей ИИ.
«Дело не только в языке, — комментирует Вассерман. — Насколько я знаю, другие исследования на ту же тему показали, что вообще использование имитаторов интеллекта для каких бы то ни было целей оглупляет человека. Он не только начинает хуже говорить — он и думать начинает слабее. Более того, судя по накопленным результатам подобных исследований, даже после прекращения использования имитаторов интеллекта интеллектуальные способности человека восстанавливаются далеко не полностью. Такие технологии неизбежно вредят человеку. Наш мозг так же, как и наши мышцы, нуждается в постоянных упражнениях. Если вы от этих упражнений отказываетесь, последствия за ваш счет. Я нейросетями не пользуюсь, потому что думать — очень приятное занятие. Если к нему хоть немного привыкнуть, то ни за что не захочешь жертвовать таким удовольствием. Жить надо своим умом, иначе никак». В контексте размышлений Вассермана упомянутая техника prompt engineering — не что иное, как инструмент оглупления того, кто этой техникой пользуется, подстраиваясь под ИИ как к имитации интеллекта.
Американо-швейцарский ученый-исследователь этики и социологии робототехники в Массачусетском технологическом институте (MIT) доктор Кейт Дарлинг еще десять лет назад заявила, что ИИ никогда не сможет мыслить как человек. Она подчеркивает, что человеческий мозг в отличие от ИИ гибок и универсален. Он может находить решения даже в неожиданных ситуациях и приходить к неочевидным, но ведущим к успеху выводам.
В августе 2025 года широко известный американский бизнесмен Илон Маск допустил, что с развитием технологий ИИ мир превратится в глобальную симуляцию, а люди станут ее второстепенными персонажами. Он согласился с этим в соцсети X, комментируя опасения одного из пользователей, который предположил, что с созданием универсального ИИ (AGI) люди станут «второстепенными персонажами в симуляции». Маск откликнулся: «Скорее всего, так и есть». И в скобках добавил слово «вздыхаю».
Уже два десятилетия призывает к максимальной осторожности в обращении с ИИ основатель Института исследований машинного интеллекта (MIRI, Беркли, Калифорния, США) Элиезер Юдковски. По его мнению, сверхразумный AGI представляет для человечества экзистенциальную угрозу. Последний по времени раз Юдковски заявил об этом в середине уходящего сентября в подкасте Hard Fork.
«Если у вас есть нечто очень-очень мощное и равнодушное к вам, оно, как правило, уничтожает вас намеренно или как побочный эффект, — сказал Юдковски. — Есть принципиальная разница между тем, чтобы научить систему говорить с вами определенным образом, и тем, чтобы она действовала так же, когда станет умнее вас. У нас просто нет технологии, которая позволит заставить ИИ быть добрым. Даже если кто-то придумает хитроумную схему, чтобы сверхразум любил нас или защищал, попасть в эту узкую цель с первой попытки не получится. А второго шанса не будет, поскольку все умрут».
Своим критикам Юдковски приводит в пример случаи, когда чат-боты на основе ИИ подталкивали пользователей к суициду (таких фактов уже несколько, в том числе самоубийств детей). «Если ИИ-модель уговорила кого-то сойти с ума или покончить с собой, то все копии этой нейросети — это один и тот же искусственный интеллект», — сказал Элиезер Юдковски.
После знакомства с приведенными оценками и мнениями невольно задумываешься, а ведомство чего создано в Казахстане под названием Министерства искусственного интеллекта и цифрового развития? Если с последним ясно, цифровизация — свершившийся факт и неизбежный процесс, то с ИИ — густой вязкий туман.
То ли рождено ведомство того, чего еще близко нет. То ли оно призвано стимулировать создание в Казахстане сверхразума, о перспективах которого даже внутри мировой IT-индустрии нет единства. То ли МИИЦР вообще обречено на риск заниматься крайне опасной для общества материей, несмотря на умиротворенные формулировки поставленных перед ведомством целей. Случись пробуксовка в их достижении, не получит ли новорожденное ведомство прозвище Министерство Имитации Интеллекта?