Известный американский математик австралийского происхождения Теренс Тао предложил отказаться от термина «общий искусственный интеллект» (Artificial General Intelligence, AGI — гипотетическая концепция ИИ-системы, обладающей таким же интеллектом, как человек, или превосходящей его), сообщило интернет-издание Devby.io (Беларусь).
Взамен Тао предагает понятие «общая искусственная сообразительность» (Artificial General Cleverness, AGC). По словам математика, то, что сегодня называют ИИ, лучше описывать как способность решать задачи с помощью частично импровизированных методов. Такие решения могут опираться на перебор вариантов, случайности, большие вычислительные мощности или данные обучения, но при этом не свидетельствуют о наличии интеллекта в человеческом смысле.
Тао отмечает, что подобная «сообразительность» может быть эффективной особенно в условиях строгой проверки результатов, когда ошибочные ответы быстро бракуются. Однако это не делает ИИ по-настоящему разумным. «В результате возникает парадоксальная ситуация: технология может быть одновременно полезной, но при этом фундаментально неудовлетворительной и разочаровывающей», — считает Тао.
Математик подчеркивает, что у людей интеллект и сообразительность тесно связаны, тогда как в ИИ они фактически разделены. Машины могут демонстрировать выдающиеся результаты в отдельных задачах, не обладая намерениями, пониманием, общим мышлением. Тао далек от позиции анти-ИИ. Ранее он неоднократно говорил, что инструменты на базе ИИ заметно ускорили его собственную научную работу. Критика Тао направлена против завышенных ожиданий и неточного языка, которым описывают современные технологии. Предложение заменить AGI на AGC, по мнению математика, должно помочь более трезво оценивать текущее состояние ИИ и не путать вычислительную эффективность с настоящим интеллектом, основы и механизм которого пока не может объяснить даже теоретическая наука.
Devby.io также распространило рекомендации бывшего топ-менеджера корпорации IBM Сол Рашиди о том, как избежать из-за ИИ интеллектуальной деградации. Она предупреждает о риске нездоровой зависимости человека от ИИ и призывает людей и компании выстраивать правила использования цифровых технологий так, чтобы они не отучали, а побуждали думать самостоятельно.
Рашиди 15 лет участвовала более чем в 200 ИИ-проектах, занимала руководящие посты в IBM, Amazon Web Services (AWS), Sony Music, Estеe Lauder и считает, что ключевая угроза — «интеллектуальная атрофия», когда человек теряет навыки критического мышления, беспечно отдавая его технологиям. По ее словам, важно «передавать ИИ задачи, а не собственное мышление».
В работе Рашиди использует шесть-восемь ИИ-инструментов в день, но постоянно проверяет собственную мотивацию. «Я использую это, чтобы ускорить работу, которую должна сделать, или чтобы работу за меня сделал ИИ?» — регулярно спрашивает она себя. Рашиди подчеркивает, что ИИ должен ускорять, а не подменять экспертизу: «Это делает меня быстрее, но делает ли это меня более способной? Это делает меня продуктивнее, но делает ли более ценной?».
Важнейший принцип — не перепоручать ИИ коммуникации. Рашиди сообщила, что не использует ИИ для писем и публичных выступлений: «Все, что идет от сердца или ума, должно быть искренним и органически созданным мной. Без исключений».
Она также предостерегла от копирования ответов ИИ. По словам эксперта, в мире растет объем ИИ-контента, который «каннибализируется» и переиспользуется для обучения моделей, а потому навыки проверки и верификации становятся критически важными: «Можно использовать ИИ для первого черновика, но дальше не копируйте и не вставляйте — ИИ часто неточен».
В свою очередь, действующий глава AWS Мэтт Гартман в интервью журналу Wired заявил, что практика замены младших разработчиков технологий (джуниоров) имитацией интеллекта не имеет смысла для компаний, ориентированных на долгосрочный рост. Гартман назвал такой подход «одной из самых глупых идей». Он подчеркнул, что отказ от найма начинающих специалистов подрывает кадровый конвейер и лишает бизнес притока нестандартных мнений.
По словам Гармана, представление о том, что ИИ должен вытеснить младших сотрудников, основано на неверных предпосылках. «Сказать, что мы больше не будем нанимать джуниоров, — тупиковый путь для любой компании, которая хочет существовать долго», — отметил он. По мнению Гартмана, именно начинающие специалисты часто лучше других разбираются в ИИ-инструментах и быстрее учатся извлекать из них пользу.
Он также указал на экономический парадокс подобных рассуждений. Джуниоры, как правило, обходятся работодателю дешевле. В результате «оптимизация затрат» за счет отказа от молодежи, по словам Гартмана, не выдерживает критики. «Если у вас нет постоянного притока людей, которых вы учите и выращиваете внутри компании, эта конструкция в какой-то момент просто рушится», — пояснил глава AWS. При этом Гартман не отрицает, что ИИ радикально меняет рынок труда.