Видимо, Уилл оставил программу работать.
Дыхание Макса участилось.
Дело сделано!
Без колебаний он напечатал:
«Эй, привет!»
Потом подождал.
Ответ пришел нескоро.
«Привет. Как тебя зовут?»
Макс почувствовал глухие удары своего сердца.
Что там говорили по поводу первого в мире искусственного существа? Чего оно ожидает, о чем думает?
Что будет этичным?
Вот зараза! Тут следует быть поосторожнее. И почему он не подумал о таком повороте, перед тем как открыл проклятую крышку треклятого ноутбука?
Через несколько долгих мгновений Макс решил, что наилучшим решением будет простой ответ, как при общении с нормальным человеком.
Он напечатал:
«Меня зовут Макс. А тебя?»
Ответ:
«Пока не могу сказать».
Макс почувствовал, что его сердце упало.
ИИ не знает своего имени. Функционирует, но не ощущает себя как личность. Перешел от «НЕДОПУСТИМОЙ ОПЕРАЦИИ» к «Пока не могу сказать». Великое достижение, нечего сказать, ура-ура! Потом Макс заметил показавшуюся на экране следующую строку.
«Как ты себя чувствуешь?»
Заинтересованность ощущениями? Может быть, эксперимент прошел лучше, чем ожидалось? Он напечатал:
«Неплохо. Немного устал. А ты?»
Ответ:
«Значит, ты счастлив? Тебе хорошо?»
Максу не слишком нравился ход беседы. Мало того, что ИИ, видимо, отказался признать свое существование, он еще демонстрировал тупые елейные философствования.
Они создали нечто безумное? Некое несчастное увечное создание, как тот ребенок в подвале, который никогда не станет нормальным, никогда не будет человеком?
Что спросить для проверки страшной догадки? Как узнать, было ли само существо здорово и счастливо? Как ни странно, придумать Макс ничего не мог — ни единой мысли, вероятно, от недосыпа. Он решил придерживаться ожидаемых ответов.
«Да, я вполне счастлив, вполне доволен».
Но перед тем как нажать ввод, он решил добавить кое-что еще.
«Сейчас я лежу на полу в комнате моего друга Уилла и жду рассвета».
На этот раз ответ пришлось ждать очень долго. Так долго, что Макс уже почти собрался захлопнуть ноутбук и объявить ночь, но увидел появившиеся слова:
«Это хорошо. Хорошо, что ты доволен».
И еще:
«Но ты имеешь право знать правду, Макс: солнце не взойдет».
Вот это да! Видимо, эксперимент по внедрению самосознания так и не удался. Программа становится агрессивной, возможно, неуправляемой. Ладно, в любом случае их безумное творение должно знать правду.
Макс напечатал:
«Я не хотел выдавать это столь прямолинейно, но ты не знаешь правды о своем положении: ты — искусно созданное устройство, электрический механизм. Ты — смоделированный человеческий мозг, запущенный в компьютере. Мы с Уиллом всегда будем рядом и сделаем для тебя всё, что в наших силах, но тебе следует дважды подумать, прежде чем кому-нибудь вредить, потому что мы всё видим и контролируем».
Макс нажал ввод и подождал ответа.
«Ты в этом уверен?»
Макс досадливо вздохнул и закатил глаза.
«Да, абсолютно уверен. А ты?»
Это могло продолжаться часами.
Он нажал ввод.
Следующий ответ:
«Как ты можешь быть уверен, что ты не симуляция?»
Теперь Макс словно разговаривал с капризным ребенком. Действительно ли этот ИИ пытался вести психологическую войну против человека? Но если он думает, что может победить, значит, интеллекта ему явно недостает. Это очень печально и к тому же слишком очевидно, чтобы пытаться объяснить. Один из них сидел за реальной клавиатурой в настоящей комнате, а другой был моделью коры головного мозга, плавающей в виртуальной пустоте. Макс знал, кем был лично он, а потому напечатал:
