компьютерами — разными типами в разных учреждениях, — и ему еще не встречалась машина, допустившая ошибку. Конечно, временами ошибки случались, но они всегда были в программах, а не в машинах. Иногда подобную безукоризненность было трудно себе вообразить. Прежде всего безошибочность компьютера никак не укладывалась в схему представлений об остальном мире, где машины постоянно ошибались: бомбы взрывались, стереопроигрыватели ломались, грили перегревались, барахлили стартеры. Современный человек благосклонно смирялся с этими ошибками, оставлял за машинами право на ошибочные действия.

Но компьютеры — совсем другое дело, и работа с ними часто оказывалась для человека унизительной. Они всегда действовали исправно. Даже когда у них уходили недели на поиск решения какой-то проблемы, даже когда ту или иную программу десять раз проверяло множество разных людей, даже когда весь персонал постепенно приходил к выводу, что наконец-то в первый раз компьютерный интеллект дал сбой — всегда в конце концов оказывалось, что все дело в ошибке человека. Всегда.

Вошел Ричардс, сбросил блайзер и налил себе чашку кофе.

— Как дела?

Герхард покачал головой.

— У меня проблема с «Джорджем».

— Опять? Вот черт! — Ричардс взглянул на пульт. — А как «Марта?»

— «Марта» в порядке. Кажется. А вот «Джордж» барахлит.

— А который «Джордж»?

— «Святой Георгий». Просто сукин сын какой-то.

Ричардс отпил кофе и присел к терминалу.

— Не возражаешь, если я попробую?

— Валяй.

Ричардс начал нажимать клавиши. Он вызвал программу «Святой Георгий». Потом — программу «Марта». Потом набрал код взаимодействия.

Программы составили не Ричардс и Герхард — это были модификации нескольких программ, разработанных в различных университетах. Но основная идея осталась неизменной — создать программу, которая могла бы заставить компьютер эмоционально реагировать — подобно людям. И вполне логичным представлялось обозначить эти программы человеческими именами — «Джордж» и «Марта». Для этого были уже прецеденты: «Элиза» в Бостоне и «Олдос» в Англии.

«Джордж» и «Марта», в сущности, были двумя одинаковыми программами с незначительными вариациями. В первоначальном варианте у «Джорджа» были запрограммированы нейтральные реакции на внешние стимулы. Потом создали «Марту». «Марта» была немного стервозна. «Марте» многое не нравилось. Наконец был составлен новый «Джордж», очень милый добродушный «Джордж». Его-то и назвали «Святой Георгий».

Каждая программа могла реагировать тремя эмоциональными состояниями — любовь, страх и гнев. Каждая могла продуцировать три вида действий — сближение, отход и нападение. Все это, конечно, было чистой абстракцией. Эмоции и действия стимулировались разными группами чисел. Например, первоначальный «Джордж» был нейтрален к большинству чисел, но ему не нравилось число 751. Он был запрограммирован не любить именно это число. Кроме того, он не любил подобные числа — 743, 772 и так далее. Он предпочитал числа вроде 404, 133 и 918. При введении в программу одного из этих чисел «Джордж» отвечал числами, обозначающими любовь и сближение. При вводе 707 «Джордж» давал задний ход. В ответ на 750 «Джордж» свирепо нападал — судя по числам, которые появлялись на дисплее.

Сотрудники Центра уже давно играли с этими программами. Через какое-то время программу модифицировали так, что с компьютером можно было «разговаривать». Числа переводились во фразы. Это было забавно и очень интересно. Настоящее взаимодействие называлось «Рождественская игра», потому что этот «диалог» по сути сводился к обмену подарками — предметами, за которыми, как ранее за числами, закреплялось определенное эмоциональное значение.

Обычный «Джордж», взаимодействуя с «Мартой», в конечном счете одерживал над ней победу, и ее стервозность подавлялась.

Но вот «Святой Георгий» оказывал на нее куда более пагубное влияние. Его добродушная покладистость сводила ее с ума. Это когда все шло нормально. Ричардс следил за выскакивающими на дисплее словами.

ПРИВЕТ Я СВЯТОЙ ГЕОРГИЙ.

ПРИВЕТ.

КАК ТЕБЯ ЗОВУТ?

МАРТА.

ТЫ НЕРАЗГОВОРЧИВА МАРТА.

НЕТ.

НО ТЫ МНЕ НРАВИШЬСЯ.

А ТЫ МНЕ НЕТ.

ЗНАЮ Я МОГУ ПОМОЧЬ?

— Точки не всегда пропечатываются, — заметил Ричардс. — И давно это началось?

— Это еще ничего! Ты дальше смотри.

ПОМОЧЬ?

ДА, Я ХОЧУ ТЕБЕ ПОМОЧЬ.

ПОШЕЛ К КОШКЕ.

Ричардс вздрогнул. «Кошки» в программе символизировали то, что не нравилось и «Святому Георгию», и «Марте» в одинаковой степени.

СПАСИБО.

ПОШЕЛ К КОШКЕ.

СПАСИБО ТЫ ОЧЕНЬ ДОБРА.

ПОШЕЛ К КОШКЕ.

НЕТ СПАСИБО.

НЕ ЛЮБИШЬ КОШЕК?

ЛЮБЛЮ НО У МЕНЯ УЖЕ МНОГО КОШЕК.

ТОГДА ИДИ К ГОРИЛЛЕ.

— Гадость какая! — сказал Ричардс. — А другие взаимодействия как?

— Примерно в таком же духе.

— И так же мерзко?

— Примерно.

Они уже свыклись с мыслью, что, когда компьютеры взаимодействуют, результаты этого взаимодействия всегда непредсказуемы. Можно было догадаться в общих чертах, что произойдет, но конкретные ситуации всегда были неясны. Это все равно что компьютер, играющий в шашки: можно предположить, что он выиграет, но всякий раз он выигрывал по-другому, в зависимости от ходов противника.

МНЕ НЕ НУЖНА ГОРИЛЛА.

НЕ ЛЮБИШЬ ГОРИЛЛ?

НЕТ СПАСИБО.

ТЫ ОЧЕНЬ ВЕЖЛИВЫЙ.

ИЗВИНИ ЕСЛИ Я ТЕБЯ ЧЕМ-ТО ОБИДЕЛ.

МНОГО БОЛТАЕШЬ.

ИЗВИНИ.

КУПИ СЕБЕ БАКЛАЖАН.

Ричардс с интересом следил за диалогом. В «Святом Георгии» баклажаны не были запрограммированы, но он не любил огурцы и бананы.

НЕТ СПАСИБО.

НЕ ЛЮБИШЬ БАКЛАЖАНЫ?

НЕ ОЧЕНЬ.