Может ли искусственный интеллект достичь уровня человеческого разума

Полвека назад Алан Тьюринг предложил считать машину мыслящей, если её ответы неотличимы от человеческих. Информатик Питер Деннинг уверен: именно это допущение завело всю индустрию ИИ не туда — и объясняет, почему нейросети вроде ChatGPT и Claude оперируют словами, но не понимают их смысла.

Гипотеза, которая определила 75 лет исследований

В 1950 году Алан Тьюринг предположил, что человеческий разум можно воспроизвести в виде программы для цифрового компьютера — вне зависимости от тела, в котором он изначально существует. Тогда же он предложил проверять машинный интеллект через имитационную игру, позже названную тестом Тьюринга: если ответы машины не отличить от человеческих, значит, машина мыслит.

Питер Деннинг, профессор компьютерных наук, в новой работе «Ошибка Тьюринга: как избавиться от гнёта неразумных машин» оспаривает оба допущения. По его словам, согласие научного сообщества с этими идеями определило вектор развития ИИ на десятилетия вперёд — и завело индустрию в тупик.

Современные системы ИИ, полагает Деннинг, не смогут достичь общего искусственного интеллекта — уровня, сопоставимого с человеческим. Вместо этого они способны создать серьёзные проблемы, вовсе не приближаясь к настоящему мышлению.

Знание, которое нельзя произнести вслух

Ключевое понятие в аргументации Деннинга — неявное знание. Это огромный пласт человеческого понимания, который люди используют постоянно, но не могут сформулировать словами или перевести в символы, доступные машине.

Деннинг выделяет пять форм такого знания: здравый смысл, повседневное взаимодействие с людьми и средой, чувства и восприятие, практические навыки, культурный и исторический контекст общества.

Попытки формализовать хотя бы здравый смысл предпринимались десятилетиями. С 1980-х годов Дуглас Ленат руководил проектом Cyc — базой данных, призванной собрать элементарные факты о мире, которые люди воспринимают как самоочевидные. За сорок лет работы база выросла до 25 миллионов записей.

Этого оказалось недостаточно. По словам Деннинга, накопленный массив так и не превратился в базу знаний, которая делала бы экспертные системы действительно компетентными — проект лишь подтвердил, что значительную часть экспертного знания невозможно выразить в виде утверждений.

«Что» и «как» — разные вещи

Ещё одно препятствие — практический навык. Деннинг проводит границу между «знанием что» — описанием результата, которое легко записать в виде данных, — и «знанием как» — телесным умением, которое пока не удаётся закодировать вовсе.

Пример — музыка. Скрипач-виртуоз играет так, что публика замирает, но не может объяснить ученику, как именно это делается. Даже если бы робот наблюдал за движениями музыканта и копировал их, у него нет тела — а значит, нет и доступа к тому, что чувствует исполнитель во время игры или что переживает слушатель.

Интуиция, внезапное творческое озарение, воображение — по мнению Деннинга, эти вещи так же плохо поддаются переводу в машинные инструкции.

О том, какие профессии рискуют исчезнуть с развитием технологий, а какие останутся незаменимыми, можно почитать в материале про угрозы и перспективы разных профессий в эпоху искусственного интеллекта.

Проблема представления

Центральную трудность Деннинг называет проблемой представления. Компьютер способен производить вычисления только тогда, когда данные и инструкции закодированы в форме, которую он распознаёт. Неявное знание в такую форму не переводится.

«За каждым словом стоит целый пласт неявного знания, который придаёт ему смысл», — пишет Деннинг. Слова, по его формулировке, лишь символические представления смыслов, а не сами смыслы. Языковые модели вроде ChatGPT, Claude и Gemini манипулируют словами, но не имеют доступа к тому, что эти слова означают.

Учёные до сих пор не понимают, как именно неявное знание хранится и работает внутри человека. Известно только, что оно телесно — но что именно нужно измерять в организме, чтобы его обнаружить, неясно.

Контекст меняет смысл

Отдельная тема у Деннинга — контекст: обстоятельства, придающие словам и поступкам их реальное значение. Одна и та же фраза меняет смысл в зависимости от того, произнесена она искренне, саркастически, раздражённо или в шутку. Контекст же подсказывает, когда уместен юмор, а когда — такт, и как понимать то, что осталось невысказанным.

Деннинг замечает, что любое допущение о текущем контексте опирается на предыдущий разговор, тот — на ещё более ранний, и так далее без конца. Эту цепочку он называет бесконечной и фрактальной.

Культура как барьер для языковых моделей

Похожая проблема — с культурой: ценностями, социальными нормами, историей сообществ, отношениями власти и заботы. Человеческое общение пронизано фоновыми допущениями, которые придают словам вес и уместность.

Увеличение размера нейросетей эту проблему не решит, считает Деннинг. Масштабирование языковых моделей не даст им того телесного человеческого опыта, который называют культурой, — и не приблизит их к цели теста Тьюринга: продемонстрировать мышление, неотличимое от человеческого.

В итоге Деннинг описывает своеобразное взаимное непонимание между людьми и машинами. Искусственные нейросети способны выработать собственную форму машинного неявного знания — но люди не смогут её прочитать, как и машины не смогут прочитать человеческое.

Риск не там, где его ищут

Это расхождение напрямую касается безопасности ИИ. Если машины не понимают невысказанный контекст человеческих указаний, надёжно согласовать их поведение с человеческими целями может оказаться попросту невозможно.

Деннинг предупреждает: через автоматизацию сети агентов ИИ, скорее всего, выработают собственную форму машинного интеллекта — не дотягивающую до уровня человека, но вполне способную создавать серьёзные проблемы. По его оценке, эта угроза серьёзнее, чем гипотетический захват власти сверхразумной машиной.

Главная опасность, по его мнению, — не единая сверхразумная система, а сеть менее развитых машин, действующих мощно, непредсказуемо и потенциально разрушительно.

У машинного интеллекта иные приоритеты. Он не проявляет заботы о людях, а его способы решения задач выглядят чуждыми.

Деннинг призывает признать: привычная культура меняется по мере того, как интеллектуальные машины проникают в общество, и что будет дальше — неизвестно. Он предлагает не пытаться мыслить как машины и не подчиняться им — а заново утвердить то, что делает людей людьми.