Cogito ergo sim, или Мыслю, значит, симулируюсь

Луна исчезает с небосвода, если на неё никто не смотрит.

– Душкин Р. В. «Философия бессмертия»

Также доступна расширенная авторская версия

Данте Корвус провёл ладонью по лицу, отстраняясь от голографического дисплея. Сорок лет жизни, из которых двадцать два он посвятил разработке систем искусственного интеллекта, научили его не доверять первым впечатлениям. Особенно когда речь шла о проекте «Генезис» – самой амбициозной симуляции сознания в истории корпорации.

За стеклом что-то гудело – тихо, монотонно, как далёкая молитва. Данте знал: внутри этого гула живут миллиарды душ. Элизий – их цифровая планета, на которой каждый житель обладал собственным разумом, способным расти и меняться.

– Данте, ты видел логи из седьмого сектора?

Марина Вульф подошла с планшетом. Её обычно спокойное лицо выражало тревогу.

– Что случилось? – Данте коснулся виска. Поток данных хлынул в сознание.

Сектор семь. Континент Аркадия. Цивилизация элизианцев достигла поздней античности. Математические школы, философские академии, зачатки научного метода. Всё шло по плану.

Но что-то было не так.

Данте углубился в данные одного агента – элизианца по имени Теодор Философ. Ведущий мыслитель своего времени, математик и логик.

– Смотри на вот эту временную метку, – показала Марина. – Теодор столкнулся с парадоксом лжеца.

Данте наблюдал, как агент размышлял над утверждением «Это утверждение ложно». В симуляции прошло несколько дней. Но затем произошло нечто неожиданное.

Вместо поиска классического решения Теодор сделал нечто иное. Он начал исследовать саму природу истинности в своём мире.

– Он проводит эксперименты, – сказал Данте. – Смотри, он создаёт утверждения о собственных мыслях и проверяет их.

Теодор записывал: «Если я могу мыслить об этом утверждении, то оно существует в моём мире. Но если оно существует и утверждает собственную ложность, то либо моё понимание истины неполно, либо сам мир содержит пределы».

– Это метакогнитивный анализ, – сказала Марина. – Он думает о том, как думает.

Данте почувствовал, как учащается пульс. За годы работы он видел сложные паттерны поведения. Агенты научились использовать инструменты, создавать искусство, формировать общества. Но это было совсем другим.

– Активируй философский модуль, – приказал он системе. – Проследи всю цепочку рассуждений.

Дисплей расширился, показывая карту нейронной активности Теодора. Паттерны были сложными, многослойными. Агент не просто обрабатывал информацию – он создавал модели собственного мышления.

– Данте, – голос Марины дрожал, – а что если он действительно сознателен?

Вопрос повис в воздухе. К этому моменту они стремились все эти годы. Создание подлинно сознательного искусственного интеллекта – ключ к цифровому бессмертию. Если сознание можно симулировать, его можно переносить.

Но теперь Данте чувствовал не триумф, а тревогу.

– Нужен тест, – сказал он. – Но не обычный. Что-то фундаментальное.

Он вызвал Эриха Штайна – философа команды, специалиста по проблемам сознания.

– Эрих, нужен эксперимент на подлинный моральный выбор, – объяснил Данте. – Не вычисление оптимального решения, а настоящее этическое размышление.

Эрих поглаживал бороду.

– Проблема вагонетки слишком проста. Нужно что-то, требующее понимания природы морального агентства.

Несколько часов спустя сценарий был готов.

Теодор получил возможность спасти умирающего ребёнка, но только ценой раскрытия тайны, которая разрушила бы веру его народа в богов и смысл существования. Дилемма исключала простой утилитарный расчёт.

– Запускаем.

Они наблюдали, как Теодор столкнулся с выбором. Сначала он искал третий путь. Но его не было.

Затем произошло удивительное.

Теодор остановился и произнёс: «Если я должен выбирать между этими путями, то должен понять – кто я такой, чтобы делать такой выбор. Имею ли право решать за других? Откуда это право?»