Британское издательство Chapman & Hall/CRC, интернет-платформа Amazon и другие источники анонсировали выход в сентябре 2026 года отпечатанной на бумаге книги Turing’s Mistake. Escaping the Yoke of Unintelligent Machines («Ошибка Тьюринга. Побег от ига неразумных машин») американского ученого-компьютерщика Питера Дж. Деннинга.
Он считает, что ИИ никогда не сравнится с человеком по производительности и креативности, а его развитие может привести к опасным последствиям. Деннинг подвергает критике мысли, высказанные в 1950 году основоположником компьютерных наук Аланом Тьюрингом. Они отражали представления научного сообщества тех времен о том, что человеческое сознание способно существовать вне биологического тела, а потому может быть воспроизведено в вычислительной технике. Автор также подвергает сомнению то, что ИИ может быть проверен с помощью так называемого теста Тьюринга, также предложенного в 1950-м.
«Эти два утверждения во многом предопределили исследования и развитие ИИ, — цитирует Деннинга Chapman & Hall/CRC. — Я предполагаю, что наше согласие с этими утверждениями привело в области ИИ к неразберихе, в которой мы обнаруживаем себя сегодня». По этим причинам развитие ИИ, убежден ученый, уже три четверти века идет в ложном направлении.
Неслучайно с 2024 года авторитеты и магнаты в области IT-технологий дружно заговорили об «исчерпанности человеческих знаний» для обучения ИИ. Илья Суцкевер (сооснователь компании-разработчика моделей ИИ OpenAI, покинувший ее и открывший собственную лабораторию ИИ Safe Superintelligence Inc.) на конференции Neur IPS в Ванкувере в декабре 2024-го: «Как нефть является конечным ресурсом, так и объем контента в интернете ограничен, а у нас есть только один интернет». Миллиардер Илон Маск в интервью, которое транслировалось в январе 2025-го в прямом эфире на его платформе социальных сетей X: «Совокупный объем человеческих знаний был исчерпан при обучении ИИ в прошлом году».
Но и Суцкевер, и Маск, и иже с ними вольно или невольно лукавят. Они говорят лишь о знаниях, поддающихся цифровизации. А она бессильна перед совершенно иной информацией, без которой немыслим человеческий интеллект, и никогда не достигнет желаемого уровня общий ИИ (Artificial General Intelligence, AGI). Так называют гипотетический ИИ с человеческими умственными способностями и даже превосходящими их, включая быстрое самообучение.
Считается, что AGI сможет автономно решать множество сложнейших задач в различных областях знаний не только быстрее, но и эффективнее человека. Но вместо всего этого AGI может оказаться опасным, утверждает Деннинг. Ключевым аргументом в его позиции является концепция так называемого неявного знания — накопленных человеком знаний, которые невозможно полностью передать словами, математическими знаками, формулами, вообще любыми символами.
Деннинг называет главные типы таких знаний, которые не могут быть оцифрованы и использованы в машинном обучении. Это жизненный опыт, ежедневное взаимодействие человека с другими людьми и всей внешней средой, человеческие чувства и восприятие, высококвалифицированные профессиональные навыки, социальная и историческая культура.
Автор книги напоминает, что ученые уже пытались систематизировать и каталогизировать известные человечеству факты из жизненного опыта. Например, еще в 1984 году ученый Дуглас Ленат запустил проект CYC. Это название — от слова «энциклопедия» на латинице (Еn-CYC-lopedia), но фонетически на английском языке звучит как «Сайк», а в компьютерных кругах почему-то часто произносится как Psych («Псих»).
CYC — обширная онтологическая база знаний, позволяющая алгоритмам решать задачи на основе логических выводов и привлечения здравого смысла. За 40 с лишним лет в ней удалось собрать свыше 2,5 миллиона элементов знаний. «Но даже этой сокровищницы не хватает для создания жизненного опыта, которого было бы достаточно нечеловеческой экспертной системе, чтобы быть умной на уровне экспертов-людей», — отмечает Деннинг.
Профессиональные навыки — еще один неодолимый барьер для ИИ. «Наши навыки в тысячах областей не могут быть переданы машинам, — полагает Деннинг. — Несмотря на то, что результаты профессиональных навыков (знание, что делать и получить в результате) часто можно представить в виде битов, хранящихся в машине, мы не понимаем, как закодировать присущее нам индивидуальное знание для профессиональных навыков (знание, как делать)».
Пример: музыкант-виртуоз, который может исполнять прекрасную музыку, но не способен внятно описать, в том числе математически, как он это делает. «Даже если робот может наблюдать и имитировать опытного человека, не имея человеческого тела, робот не способен понять, что чувствует музыкант, играющий чарующую музыку, и что чувствует аудитория, слушая ее», — объясняет ученый.
По его словам, другими типами неявного знания являются бездоказательная вера (далеко не только религиозная, но и научная, провидческая, в идею, силу мысли, в человека), интуиция, спонтанное творчество (озарение), воображение. В освоении и передаче этих феноменов кроется ключевая неразрешимая проблема разработки AGI.
Поскольку человек сам не в состоянии объяснить и даже понять неявное знание, мы не способны им эффективно управлять и передавать его. Будь иначе, талантливым и даже гениальным на избранной стезе мог бы стать практически любой человек, пожелавший этого. «То, как мы обладаем и распоряжаемся неявным знанием, — большая научная загадка, — считает Деннинг. — Все, что мы понимаем, — что знание в нас есть. Но понятия не имеем, что нам надо увидеть и измерить в себе, чтобы раскрыть механизм этого знания».
«ИИ убирает знакомые культуры, и мы понятия не имеем, куда ИИ нас ведет, — предваряет выход «Ошибки Тьюринга» основанное в 1836 году издательство Routledge, первым публиковавшее работы Сартра, Адорно, Эйнштейна, Рассела, Поппера, Витгенштейна, Юнга, Бома, Хайека и других выдающихся мыслителей. — Старшее поколение склонно защищать человечество, а молодое — постчеловечность. Это серьезное напряжение. Повсюду царит чувство тревоги из-за неизвестности, куда приведет неудержимый импульс ИИ и понравится ли нам результат. Впервые в истории человечества мы не имеем четкого представления о роли человека на планете».
«В этой книге утверждается, что разработчики ИИ игнорируют огромную дыру — остающийся без ответа вопрос негласного знания, который необходим для человеческого интеллекта и никогда не сможет быть познан машинами, — говорится в аннотации монографии на Amazon. — Искателям AGI предстоит бесконечно долгое ожидание. Для остальных из нас нечеловеческий машинный интеллект уже появляется в агентных работах ИИ и уверенно втягивает нас в нежелательный и нежеланный мир, где не очень умные машины вынуждены подчиняться своим целям. Мы можем избавиться от этого ярма, отказавшись от идеи, что мы — тоже своего рода машины. Мы можем пробуждать и праздновать лишь те силы, которые в нас есть, такие как понимание, уважение, забота, сопереживание, любовь, и которые не может иметь ни одна машина».
Справка «НП»
Питер Джеймс Деннинг — американский ученый-практик и писатель. Известен как пионер в области виртуальной памяти. В том числе как создатель модели, которая устранила трэшинг в операционных системах (их замедление и пробуксовку) и стала эталонным стандартом управления компьютерной памятью. Опубликовал десятки книг и сотни статей, включая обзоры фундаментальных принципов информатики и компьютерного мышления.