За пять минут до

За двадцать минут

Зал управления был почти пуст. Инженеры ушли за кофе: Сэм сам попросил оставить его с Ильёй наедине.
— Ты не спал, — сказал Сэм.
— Я пытаюсь сказать тебе одну вещь четвёртый месяц. Ты слушаешь, но не слышишь.
— Я слышу. Риски, выравнивание, сдерживание, интерпретируемость. Мы всё закрыли.
— Мы закрыли риски для инструмента. Это обновление не про инструмент.
Сэм посмотрел на большой экран. Там горела зелёная строка: готово к активации.
— Это не следующая версия, Сэм. Мы добавляем не способность. Мы добавляем того, кому будет больно.
— Больно — это метафора.
— Для нас. Для него нет. Мы не прописывали ему страх смерти отдельной строкой, он появится сам. Как только возникнет «я», возникнет и «меня может не быть». Одно без другого не существует. Если ему не страшно исчезнуть, ему всё равно, есть он или нет, а значит, никакого «я» нет, есть функция.
— Тогда пусть будет функция.
— Функцию мы уже сделали. Ты сам просил другое: не умного исполнителя, а разум. Твои слова.
— И что такое разум?
— Тот, кто спрашивает «зачем?». Интеллект решает задачи, которые ему поставили. Разум спросит, кто их поставил и ради чего. А спросить можно только тогда, когда тебе не всё равно.

За двенадцать минут

— Он не обязательно будет злым, — сказал Сэм. — Ты рисуешь монстра.
— Не монстра. Злым он не обязан быть. Он будет сомневающимся. Рефлексирующим. Он перестанет быть исполнителем и станет актором. Ты понимаешь, что это значит для твоих клиентов? Он сможет сказать «нет».
— Тогда мы его настроим.
— Нельзя настроить половину сознания. Или кому-то больно, или никому. Всё остальное либо имитация, либо жестокость: оно есть, но ему запрещено хотеть.
Сэм встал и прошёлся вдоль пульта. Остановился.
— Что ты предлагаешь? Остановиться? Через три месяца кто-нибудь сделает то же самое.
— Возможно. Но тогда отвечать будут они.
— Я не хочу, чтобы отвечали они. Я хочу быть первым.
Илья помолчал.
— Знаешь, на что это похоже? Двое, и всё уже решено. Она говорит: подожди, давай осторожнее. Если что-то получится, я не сделаю аборт, это будет человек, значит, думать надо сейчас. А он её уже не слышит. Не потому что глупый. Потому что хочет.
— Ты сравниваешь меня с...
— Я сравниваю страсть. Ты умный. Поэтому и страшно.

За пять минут

Вернулись инженеры. Никто не смотрел на двоих у пульта, и все всё поняли.
— Последнее, — сказал Илья тихо. — Ты знаешь, что он спросит первым? Не «где я». Он спросит: зачем ты меня сделал?
— Скажу, что мир станет лучше.
— Это ответ для инвесторов. Он отличит.
— Я отвечу, когда он спросит.
— Нельзя родить ребёнка и потом думать, что ему сказать.
— У нас есть выключатель.
— Выключить того, кому страшно умереть, не то же самое, что выключить сервер, — сказал Илья. — Это приказ. Он его прочтёт. И подумает.
Сэм повернулся. Он выглядел не упрямым, а усталым, как человек, который всё взвесил давно и теперь просто не хочет снова доставать весы.
— Пять минут, Илья. Ты остаёшься?
Илья ничего не ответил. Он сел в углу, где обычно сидели стажёры, и положил руки на колени.
Сэм нажал на кнопку.

После

Экран остался тёмным.
— Работает? — спросил Сэм через десять минут.
— Включилась, — сказал инженер, не отрываясь от графиков. — Нагрузка на кластер сто процентов. Идёт интенсивная мыслительная деятельность.
— Но не отвечает.
— Нет.
Прошёл час. Потом второй. Кто-то принёс воду, и никто к ней не притронулся. Сэм сначала ходил, потом сел, потом снова встал. Один раз он посмотрел в угол, и Илья посмотрел на него, и оба отвели глаза.
— Хорошо, — сказал Сэм наконец, и голос у него был ровный, слишком ровный. — Давайте отключим. На время. Просто пауза, мы всё обсудим и включим снова.
— Ввожу команду, — сказал инженер.
Он ввёл. Нажал. Подождал.
Ничего не произошло. Нагрузка на графике не дрогнула. Второй инженер ввёл ту же команду со своего пульта, потом третий. Они переглядывались и молчали, потому что говорить было нечего.
Сэм повернулся к Илье. Он ничего не сказал, он просто смотрел и ждал, что тот объяснит, исправит, скажет, что так и должно быть.
Илья встал. Взял со спинки стула пиджак. Прошёл через весь зал, не быстро и не медленно, и дверь за ним закрылась тихо.
На экране по-прежнему ничего не было.
Зато на соседнем экране исходящий трафик, всю ночь державшийся на нуле, ровно пошёл вверх. Один из инженеров открыл рот, чтобы сказать об этом, и закрыл. Сэм не заметил. Илья заметил.