Искусственный интеллект и искусственное «Я»

В далекие-далекие времена, когда компьютеры были ещё очень большими, а интернет ещё очень маленьким, информацию мы добывали в библиотеках. И в наших краях с этим было довольно туго — одна научная библиотека провинциального масштаба на всю область. Но даже в ней нашлось несколько книг об искусственном интеллекте, читая которые я прогуливал школьные уроки.

Из авторов помню только Минского — что-то там про семантические сети. Это была теория о том, чтобы вручную составить смысловую модель человеческого языка и на ее основе построить интерфейс между человеком и компьютером. Были там и книги про нейросети, на которые уже тогда возлагались большие надежды. И… я со своим анти-математическим мышлением почти ничего во всем этом не понимал.

Не знаю, откуда у меня вообще был интерес к теме искусственного интеллекта, но он был практически всегда. Мне нравилась фантастические книги и фильмы, где обыгрывались идеи ИИ, нравилась идея «сознания в компьютере», нравилась идея «Матрицы», когда до нее было еще много лет, и очень хотелось, чтобы когда-нибудь это всё стало частью нашей повседневной реальности.

Уже тогда мне очень хотелось разобраться, что такое человеческое сознание и как его можно засунуть в компьютер. И, как это ни удивительно, именно эти вопросы привели меня в психологию и именно через них я впервые познакомился с Буддизмом. Первые работы Фрейда я прочитал, пытаясь вникнуть в идею ассоциативного мышления, которая часто упоминалась в теориях ИИ. А в учебниках по Буддизму я искал ответ на вопрос, что такое «Я».

Здесь тоже все было непонятно, но уже тогда начало складываться впечатление, что ребята-ученые, пытающиеся хотя бы теоретически воссоздать человеческий интеллект, упускают из виду нечто очень важное, о чем прямым текстом пишут ребята-буддисты. И если сложить одно с другим, получалось, что исследователи ИИ пытаются засунуть в компьютер то, чего, по мнению буддистов, у человека нет — иллюзорное «Я».

И где-то в этой точке наши с ИИ дорожки разошлись. Теории были еще слишком сырыми, а компьютеры еще слишком слабыми, чтобы можно было надеяться на реальный прорыв в этой области. ИИ казался слишком далекой фантастикой, и внимание переключилось на более насущные вопросы. На долгие годы забылся и вопрос про природу человеческого «Я». И тем удивительнее, как сегодня обе эти темы снова сходятся в одну точку.

Бум интереса к ChatGPT заново поднял те же самые вопросы: что такое человеческое сознание и как запихнуть его в компьютер. В IT-шной среде сейчас идет бурное обсуждение, как на базе GPT и других ИИ-технологий создать подобие автономного сознания. Работы в этом направлении уже давно ведутся: Reflexion и ReAct (довольно занятно, что в первом же предложении они ссылаются на Выготского и Лурию).

И очень хотелось бы к этому процессу присоединиться хотя бы в роли диванного эксперта стороннего наблюдателя, поскольку, кажется, айтишники вновь попадаются в ту же самую ловушку — пытаются воссоздать в компьютере то, чего нет в человеке.

* * *

Вы же знаете про культ карго? Если нет, уделите этой истории пять минут — полезно для общего образования и понимания человеческой психологии. По сути речь о глубоко и абсолютно искреннем заблуждении, основанном на непонимании причин и следствий некоторых явлений. Это классический пример магического мышления, над которым принято посмеиваться. Но именно здесь стоит повнимательнее присмотреться к себе, потому что мы все без исключения находимся в очень похожей когнитивной ловушке и изо дня в день неосознанно практикуем магическое мышление.

Строительство радиовышек из лиан и палок, изображение на песке взлетно-посадочных полос и возведение прочих ритуальных конструкций в надежде, что это привлечет дары с небес — результат ошибочной интерпретации событий, которым примитивное сознание не смогло найти более внятного объяснения. Американские транспортные самолеты настолько выходили за рамки понимания меланезийцев, что им приходилось объяснять их появление «магией», которую они затем и пытались воспроизвести с помощью ритуалов.

Глядя со стороны, мы понимаем, что в появлении самолетов нет никакой магии — только бизнес и технология. Но так же легко мы можем понять, как этого можно было не понять — у нас у всех есть свой собственный детский опыт, когда мы находили волшебные иррациональные объяснения тому, чего пока не понимали. Так вот, ровно то же самое вы делаете, читая этот текст — вы прямо сейчас объясняете себе происходящее, прибегая к магическим категориям.

Вы констатируете: «Я читаю текст», и это заключение кажется абсолютно разумным и рациональным, НЕ МАГИЧЕСКИМ. Это же очевидно! Вот он я, вот текст, и я его читаю! Но если внимательно всмотреться в концепцию «Я», которой мы все так легко оперируем, можно заметить, что это такой же предмет культа, как духи предков, посылающие на землю транспортные самолеты. Мы глубоко убеждены, что за пультом управления нашим телом находится некое индивидуальное сознание, которое все понимает, чего-то там хочет и свободно действует от своего имени. И вот прямо сейчас эта самая штука читает текст про эту самую штуку.

Здесь важно понимать, что чтение текста действительно происходит — к этому мы не придираемся. Точно так же, как мы не подвергаем сомнению тот факт, что меланезийцы своими глазами видели приземляющиеся на землю большие транспортные самолеты, из которых выгружается много вкусного. Большие вопросы вызывает именно интерпретация событий!

Самолеты прилетели и приземлились вовсе не потому, что их послали духи предков, которых коварные бледнолицые призвали своими ритуальными аэродромными сооружениями. Так и чтение текста сейчас происходит совсем не потому, что где-то там в глубине нашей души за пультом управления сидит некое «Я», изъявившее желание почитать, и сейчас впитывающее содержание этих строк.

Для того, чтобы объяснить появление транспортных самолетов, нам не требуется плодить ненужные магические сущности, у нас есть гораздо более простое и понятное объяснение. И именно это позволяет нам снисходительно посмеиваться над наивным папуасами. Но ведь и для нашего поведения есть куда более простое объяснение, не требующее создания никаких лишних сущностей в виде «Я» и индивидуального субъективного сознания. И здесь было бы впору посмеяться над собой, но бревно в собственном глазу — это совсем не весело.

Даже самый истовый шаман или жрец культа карго вынужден будет признать, что он никогда не видел духи предков и, уж тем более, не видел, как они присылают на землю благословенные самолеты. Он видит только сами самолеты и дальше находит объяснение этого события в доступных ему категориях. А поскольку самолет выходит далеко за рамки известного и понятного, его приходится объяснять, прибегая к магическим понятиям.

И ровно то же самое делают психологи и антропологи — они никогда не видели никакого «Я», но не имея иного объяснения сложному человеческому поведению, делают предположение, что где-то там глубоко внутри сидит магическая сущность — «Я», личность, душа, искра сознания — наличием которой и объясняется все самое непонятное и удивительное в человеческом функционировании. И в этом смысле культ карго и культ «Я» не так уж сильно отличаются друг от друга.

Транспортные самолеты действительно существуют и приземляются на аэродромы, а духи предков — это образец магического мышления, пытающегося объяснить непонятное. Сложное человеческое поведение действительно происходит, а «Я» — это точно такой же образец магического мышления, позволяющего списать все непонятное на, казалось бы, очевидное. Разве нужно кому-то объяснять, что такое «Я»? Нет, всем всё понятно! Ну, а раз понятно, значит, иных объяснений и не требуется — можно расслабиться.

И именно из этой исходной точки, когда мы без малейшего сомнения и колебания объясняем и определяем свое поведение через наличие некоего самостоятельного «Я», начинаются наши попытки создать искусственный идентичный человеческому интеллект.

И когда очередной инженер-программист берется решать задачу, как засунуть в компьютер человеческое сознание, что он будет делать в первую очередь? Он будет стоить радиовышки из лиан и палок и рисовать на песке взлетно-посадочные полосы, в надежде, что духи предков оценят его усилия и ниспошлют ему дары небес. Другими словами, он будет пытаться смоделировать в компьютере то самое индивидуальное «Я», с помощью которого он объясняет себе свое собственное человеческое поведение.

И именно здесь, как мне кажется, возникает серьезная проблема, которая может здорово затормозить или пустить по ложному следу прогресс в создании полноценного ИИ. Если уж хочется воссоздать в машине аналог человеческого сознания, не нужно пытаться моделировать в компьютере индивидуальное «Я» — нужно моделировать ИЛЛЮЗИЮ НАЛИЧИЯ ИНДИВИДУАЛЬНОГО «Я».

p. s.
Если кто-то из читателей серьезно занимается вопросами ИИ и темой моделирования сознания, буду рад обо всем об этом поговорить более предметно. Пишите в личку.