сознание в машину (а под машиной я подразумеваю как созданный органическим путём, так и вполне неорганический искусственный интеллект), мы действительно окажемся на грани своего рода бессмертия. Но какова цена этого? Как замечает Билл Джой, «если мы загрузимся в нашу технологию, каковы шансы того, что после этого мы останемся самими собой или даже людьми вообще? Мне кажется гораздо более вероятным, что роботизированное существование не было бы похоже на человеческое ни в одном из тех смыслов, которые мы вкладываем в это, и что роботы ни в каком смысле не были бы нашими детьми, и потому, избрав подобный путь, наше человечество наверняка погибнет».

Из всех угроз, с которыми сталкивается человечество, возможно, ни одна так не опасна – или же так плохо распознана – как та, что таят в себе нанотехнологии. «Нано» означает «маленький», и многие специалисты по технологиям теперь видят будущее технологии как манипуляции и сборку в понятиях молекулярных и даже атомарных масштабов. Такие машины-ассемблеры на молекулярном уровне могли бы коренным образом изменить человеческое общество, создавая чрезвычайно дешёвые изделия, лекарства и даже энергию путём постройки фактически ничего не стоящих солнечных батарей. Поскольку большая часть новых изделий была бы создана скорее из органического материала, чем из металла и другого неорганического материала, в ходе такого производства будет получаться гораздо меньше загрязнений и меньше других последствий для окружающей среды.

Будущее в таком мире могло бы стать утопическим. С другой стороны, это могло бы означать исчезновение человечества. Именно такое видение наиболее ярко описано в предостерегающем эссе 2000 года, написанном Биллом Джоем. Джой рассматривает нанотехнологию как самую опасную составляющую объёмов инвестиций во все нанотехнологии. К сожалению, как и в случае с ядерной технологией, гораздо проще освоить разрушительные области применения нанотехнологии, чем созидательные. У нанотехнологии существуют явные военные и террористические области применения».

Джой считает военную область применения нанотехнологии потенциально опасной для существования нашего вида. Более того, как мирное использование атомной энергии представляет несомненную угрозу человеческой жизни при несчастных случаях на атомных электростанциях, так существует и потенциал для промышленных катастроф при коммерческом использовании нанотехнологий. Но, пока никто не смог вообразить ни одного сценария, при котором выброс радиоактивности при промышленном использовании ядерной энергии угрожал бы всему роду человеческому, «сбежавшая» нанотехнология смогла бы это сделать. Такой случай описан в книге Эрика Дрекслера «Машины Созидания»:

Среди знатоков нанотехнологий эта угроза стала известна как «проблема серой слизи». Хотя массы вышедших из-под контроля репликаторов могут и не быть серыми или слизеподобными, термин «серая слизь» подчеркивает, что репликаторы, способные уничтожить жизнь, могли бы выглядеть ещё менее вдохновляющими, чем один вид росички[68]. Они могли бы быть выше в эволюционном смысле, но это не обязательно делает их ценными. Угроза «серой слизи» делает совершенно ясным одно обстоятельство: мы не можем позволить себе никакого рода катастроф с самокопирующимися машинами-ассемблерами.

Хотя скучный список опасностей, грозящих нашему виду, выглядит пугающим, ни одна из них не является однозначным смертным приговором. С каждой из них можно справиться, если наш вид проявит предусмотрительность. Эти опасности должны преследовать любую расу, которая поднимается по эволюционной лестнице к разуму. Как сказал Карл Саган в своей книге «Голубое пятнышко» (Pale Blue Dot): «Некоторые планетарные цивилизации смотрят в будущее, разграничивают то, что можно делать, и то, чего делать нельзя, и благополучно минуют те времена, когда оказываются на грани риска. Другие, не столь удачливые, или не столь благоразумные, гибнут».

Моё собственное представление состоит в том, что мы успешно преодолеем опасности, угрожающие нашему виду. Мы не убьём себя. Мы не вымрем от болезни. Наша численность будет расти и уменьшаться по мере того, как в длинном свитке времени, по-прежнему властного над нашей планетой, на долю