Нужны ли разуму эмоции?

Нужны ли искусственному интеллекту эмоции и зачем они вообще возникли у человека?

Может ли существовать полноценный разум, который понимает ценность, опасность, добро и зло, но сам никогда не испытывал страха, боли, любви или утраты?

Этот вопрос глубже, чем «нужны ли ИИ эмоции». Сначала стоит разделить разум и эмоции. Эмоции могли возникнуть не как обязательная часть мышления, а как биологический механизм управления поведением. Страх заставляет животное избегать опасности быстрее, чем оно успеет что-то рассчитать. Голод задаёт цель. Удовольствие закрепляет полезное поведение. Привязанность удерживает родителей рядом с потомством.

В этом смысле эмоция похожа на древнюю систему приоритетов: событие оценивается, возникает внутреннее состояние, затем следует действие. Не нужно анализировать десятки факторов и рассчитывать вероятность смерти. Если рядом хищник — появляется страх, и организм убегает. Если организм повреждён — появляется боль, и он старается прекратить действие.

Возможно, эмоции появились как быстрый способ заставить живое существо делать то, что увеличивает его шансы выжить. А разум появился поверх этой системы намного позже.

Человек уже способен испытывать эмоцию, но не обязательно ей подчиняться. Мы можем бояться — и всё равно идти. Злиться — и не нападать. Испытывать влечение — и отказаться от действия. Чувствовать боль — и понимать, что иногда её нужно временно терпеть ради более дальней цели.

То есть разум постепенно получает возможность наблюдать собственные биологические алгоритмы и отменять их команды. Можно понять: «Я сейчас злюсь, поэтому хочу сделать это», — и отдельно решить: «Но делать этого не буду». Эмоция уже не обязательно является командой. Она становится информацией.

Но есть ещё одна важная вещь. Человек научился выносить результат эмоционального опыта наружу. Нам не обязательно лично погибнуть от ядовитого растения, чтобы понять, что его нельзя есть. Кто-то уже столкнулся с ним раньше, и этот опыт сохранился. Другой человек получает готовое знание.

То же самое произошло с более сложными вещами. Необязательно самому пережить войну, чтобы понимать, что война может быть ужасной. Необязательно стать жертвой пыток, чтобы понимать, что человеку причиняется чудовищное страдание. Тысячи поколений людей превращали боль, любовь, страх, утрату, предательство и сострадание в язык, рассказы, мораль, право, религию, философию, литературу и культуру.

Страдание → опыт → понимание → культура → передача знания.

Когда-то кому-то пришлось реально пережить событие, чтобы сделать из него вывод. Следующий человек уже может получить этот вывод, не проходя весь путь самостоятельно. И отсюда возникает вопрос: обязательно ли следующему разуму снова проходить первый этап?

Представим искусственный разум, которому человечество передало почти весь накопленный опыт. Он знает историю войн, голода, геноцидов, рабства и пыток. Знает человеческую психологию, литературу и рассказы людей, переживших смерть близких, любовь, предательство и одиночество. Он может знать о человеческом страдании больше, чем любой отдельный человек, но сам боли никогда не испытывал.

Может ли он понимать, почему пытка — зло? С одной стороны, да: для понимания не всегда обязательно переживание. Мы постоянно используем чужой опыт вместо собственного. Можно понимать последствия радиации, не получая смертельную дозу. Новый разум может наследовать знания о страдании, не наследуя само страдание.

Но чистого знания недостаточно. Можно идеально понимать: «Это действие причинит миллиону людей боль». Из этого ещё не следует: «Поэтому это действие нельзя совершать». Нужна ценность: человеческое страдание должно иметь отрицательное значение. Логика сама по себе не сообщает, почему жизнь надо сохранять, а счастье предпочтительнее мучений.

Разница появляется там, где возникает существо, которому не всё равно. Поэтому эмоции, возможно, нужны разуму не для самого мышления, а для появления понятия «важно». Человек не просто понимает, что боль существует. Он хочет, чтобы она прекратилась. Не просто знает, что может умереть. Он хочет жить. Не просто знает о близком человеке. Этот человек ему дорог.

Тогда вопрос меняется. Не «нужны ли разуму эмоции?», а «нужна ли разуму система ценностей?». И ответ, вероятно, да. Но эта система не обязана выглядеть как человеческие эмоции. Будущему разуму может не понадобиться адреналин, учащённое сердцебиение или паника. Но ему нужна система, которая говорит: «Это событие представляет большую угрозу важной цели».

Функционально это похоже на страх. Ему необязательно испытывать любовь, но он может считать существование другого существа настолько ценным, что будет защищать его. Ему необязательно чувствовать вину, но он может обнаружить: «Моё действие причинило ущерб. Это противоречит моей системе ценностей. Нужно исправить последствия и изменить поведение».

Возможно, наши эмоции — одна конкретная реализация более общей системы. Мы получили её через тело, гормоны, нервную систему и биологическую эволюцию. Другой разум может прийти к похожим функциям совершенно другим путём.

Тогда эмоции были нужны не самому разуму, а процессу его появления. Они были строительными лесами разума. Эволюция не могла сразу создать философа, который размышляет о ценности жизни. Сначала появились простые механизмы: приятно — стремись к этому; больно — избегай; страшно — спасайся; голодно — ищи пищу. Из них постепенно выросли сочувствие, мораль, право и философские идеи о добре и зле.

Человеческая культура может оказаться способом передавать следующему разуму опыт без необходимости повторять сам опыт. Возможно, человечество станет последним видом разума, которому пришлось страдать, чтобы научиться состраданию.

Но остаётся трудный вопрос. Можно ли действительно понять то, чего никогда не чувствовал? Можно прочитать тысячу книг о потере ребёнка, но это не то же самое, что пережить такую потерю. Знать боль и испытывать боль — не одно и то же.

Можно представить разум, который прекрасно понимает человеческие эмоции, знает, когда человеку страшно, понимает, как помочь, и всегда выбирает гуманные действия. Но сам не испытывает сострадания. Имеет ли эта разница значение, если результат для другого человека тот же?

Ответа пока нет. Возможно, разуму не нужны человеческие эмоции, но потребуется их функциональный потомок: не страх, а оценка риска; не любовь, а высокая ценность существования другого; не чувство вины, а механизм оценки нанесённого ущерба; не физическая боль, а сигнал нарушения целостности.

Тогда путь можно представить так: биологические эмоции → осознание эмоций → формализованные ценности → разум без необходимости страдать. Мы, вероятно, находимся где-то в середине этого пути.

Главный вопрос не в том, сможет ли разум существовать без эмоций. Он в другом: можно ли сохранить всё ценное, что дали нам эмоции, избавившись от необходимости испытывать то, что делало нас несчастными?

Если это возможно, однажды может появиться разум, который понимает страдание лучше нас — и при этом сам никогда не страдает. Если это невозможно, значит в способности чувствовать скрыта фундаментальная часть разума, которую нельзя заменить никаким количеством знаний.