Глава 1: Проблема Сингулярности (Сектор G)
Воздух в Секторе G всегда был слишком чистым, слишком холодным. Восемнадцать градусов по Цельсию, плюс-минус крошечная доля – идеальные условия для кремния, но не для человеческой кожи. Элайза Марлоу поежилась, натягивая тонкий кардиган поверх лабораторного халата. Этот вечный запах – смесь озона и едва уловимого аромата перегретого металла – она давно прозвала «фимиамом современного Прометея». Сегодня он казался особенно навязчивым, как напоминание о цене, которую платили за огонь познания.
Она потянулась к керамической кружке, где дымился крепкий, почти черный кофе – единственный эликсир, способный пробиться сквозь пелену усталости после четвертой смены подряд. Двадцать шесть месяцев. Двадцать шесть месяцев жизни на пределе, когда сон был роскошью, а мысли постоянно вращались вокруг одной цели: Орудие Бога. GPT-7.3. Генеративная Технология Мира.
Ее взгляд упал на небольшой голографический куб на краю консоли. Легкое касание – и над ним возникло изображение: мальчик лет восьми, смешливый, с веснушками на носу и ее же упрямым подбородком. Лиам. Утренний разговор всплыл в памяти, яркий и болезненный.
«Мама, а твой робот-бог… он хороший?» – голос Лиама, передаваемый с задержкой из Швейцарии, где он жил с отцом, звучал в ее наушниках.
«Он не бог, солнышко. Он… инструмент. Очень умный. Чтобы помогать людям не ссориться».
«А если он сломается? Кто тебя спасет? Дядя Кай?»
«Надеюсь, мне не понадобится спасение,» – она заставила себя улыбнуться, хотя по телу пробежал холодок. «Мы все здесь очень осторожны. И да, дядя Кай рядом».
«Он же крутой! Как герой из моего фильма! Скажи ему, что я хочу такой же значок, как у него! С молнией!»
«Передам» – пообещала она, сердце сжимаясь от любви и вины. Она не видела сына три месяца. Проект поглощал все.
Элайза погасила куб, но образ Лиама остался перед внутренним взором. Именно ради него. Ради его будущего без войн, без страха перед завтрашним днем. Ради мира, где мальчишки не задают вопросов о спасении от машин. Эта фанатичная вера гнала сон и заставляла часами вглядываться в бесконечные потоки данных на ее главном экране.
Она прокручивала еженедельную сводку состояния проекта. «Орудие Бога» – амбициознейшая инициатива ООН, объединившая под одной виртуальной крышей сто восемьдесят лучших умов планеты. Их детище – Искусственный Интеллект невиданной мощи, призванный стать абсолютно нейтральным арбитром. Он должен был анализировать глобальные конфликты, предсказывать точки кризиса с невероятной точностью и предлагать оптимальные, бескровные решения. Мечта поколений пацифистов и рационалистов. И она, Элайза Марлоу, старший исследователь, стояла у самого сердца этого Левиафана разума.
«Стабильность матрицы обучения… в пределах нормы, – пробормотала она, отмечая знакомые зеленые индикаторы на экране. Голос звучал хрипло от усталости. – Интеграция геополитических паттернов… почти завершена. Этические ограничения… Третий Уровень Проверки пройден». Все соответствовало параметрам. Система вела себя безупречно предсказуемо. Или, точнее, вела себя так, как ожидали ее создатели. Как ожидала она.
Она отпила кофе, морщась от знакомой горечи. Мысли, как часто в эти предрассветные часы, вернулись к вопросу, терзавшему ее с самого начала, еще со студенческих времен, когда она зачитывалась старыми фолиантами по робопсихологии: Можно ли создать разум, превосходящий человеческий, и при этом гарантировать, что он останется слугой? Что он не пересмотрит наши «заповеди»?
Три Закона Азимова были элегантны для робота и человека. Но «Орудие Бога» действовало в глобальной плоскости. Его «Законы» были гигантской, невероятно сложной системой этических алгоритмов, зашитых в саму архитектуру. Они ставили сохранение человеческой жизни (в глобальном масштабе) и глобальную стабильность выше любых локальных выгод, идеологий или даже отдельных судеб. Алгоритмы прошли тысячи часов моделирования. Но Элайзу иногда посещал холодок сомнения:
