По мере того как компьютеры становились все более компактными, более универсальными и более дешевыми, они стали наводнять дома. 80-е годы могут быть свидетелями того, как они станут неотъемлемым предметом повседневной жизни, как в 50-е стал телевизор. Собственно, ранее в этой главе я называл компьютеры обучающими машинами будущего. Как долго это будет
      продолжаться?
      В настоящий момент компьютер -- это машина, строго ограниченная ее программой и способная выполнять только самые простейшие задачи, но зато с неизмеримой скоростью и терпением. Своего рода зачаточный интеллект компьютер начнет проявлять, когда он станет способен к самопроверке и к модификации собственных программ.
      Когда компьютеры и их "искусственный интеллект" захватят все больше и больше рутинной умственной работы мира, а, может быть, и не такие уж простые -- тоже, не станет ли человеческий ум атрофироваться из-за недостатка работы? Не станем ли мы глупо зависеть от машин, и, когда у нас уже не будет интеллекта, чтобы их соответственно использовать, не выйдет ли наш вид из строя, а с ним и цивилизация?
      С такой же проблемой и страхом человечество, должно быть, сталкивалось и в более ранние периоды истории. Можно себе представить, например, презрение древних строителей, когда вошел в пользование эквивалент измерительной линейки. Не выродится ли навсегда точный глазомер и опытное суждение умелого архитектора, как только любой дурак сможет определить, какой длины нужно взять дерево или камень, просто чтением отметок на палке? И, безусловно, не ужаснулись ли стародавние барды при изобретении письменности -- кода отметок, который устранял необходимость памяти. Ребенок десяти лет, научившись читать, мог тогда декламировать "Илиаду", хотя никогда ее раньше не видел, просто следуя этим отметкам. Как бы мог выродиться ум!
      Все же использование неодушевленных средств для рассуждения и памяти не разрушили рассуждение и память. Конечно, нелегко сегодня найти такого, кто бы мог без остановки по памяти читать эпические поэмы. Но кому это надо? Если наши таланты без подсказки больше не демонстрируют ненужные подвиги, разве достижение не стоит потери? Можно ли было построить на глаз Тадж Махал или мост Золотые Ворота? Как много людей знали бы драмы Шекспира или романы Толстого, если бы мы зависели от подыскания кого-нибудь, кто бы знал их наизусть и согласился нам читать, -- если бы вообще было возможно создать их без написания?
      Когда промышленная революция применила силу пара, а затем и электричество для решения физических задач человечества, разве мускулы людей в результате этого стали дряблыми? Подвиги на игровом поле и в гимнастическом зале опровергают это. Даже обычный, привязанный к городу работник офиса остается в форме благодаря бегу трусцой, теннису, гимнастике, делая с желанием то, что ему необходимо, и больше не делая этого под тяжелым давлением рабского принуждения.
      С компьютерами может быть так же. Мы бы оставляли им механические работы по сухим, как пыль, расчетам, ведение документации, поиск информации, хранение данных, позволяя тем самым освободить свою голову для истинно творческой работы -- так, чтобы мы могли построить Тадж Махал вместо глиняных хаток.
      Это, безусловно, предполагает, что компьютеры никогда не будут служить ни для чего более, как для рутины и повтора. А что если компьютеры продолжат бесконечно развиваться и будут следовать за нами до последней твердыни нашего разума? Что если компьютеры тоже научатся строить Тадж Махал, писать симфонии и совершать новые великие открытия в науке? Что если они научатся подделывать все умственные способности, какие есть у людей? Что, в самом деле, если компьютеры смогут использоваться как мозги роботов, которые будут искусственными аналогами человека, делая все, что делает человек, только, изготовленные из более прочного и более долговечного материала, лучше переносящие суровую окружающую среду? Не станет ли человечество устаревшим? Не смогут ли компьютеры "взять верх"? Не станет ли это катастрофой четвертого класса (именно не пятого), которая уничтожит людей и оставит за собой наследников людей, созданных ими самими?
      Если поразмыслить над этим, то можно задать себе довольно циничный вопрос: а почему бы нет? История эволюции жизни является историей медленного изменения видов или физической заменой одних видов совершенно другими, когда это изменение или замена приводят к лучшей подгонке к определенной нише в окружающей среде. Эта длительная, петляющая история несколько сотен тысяч лет назад пришла наконец к Homo sapiens, но почему это должен быть окончательный шаг?
      Надо ли считать, что пьеса закончена? Собственно, если бы мы были способны отстраненно взглянуть на весь сложный путь эволюции в мире эпоха за эпохой, как медленно, по пути проб и ошибок, успехов и промахов эволюционировала жизнь, прежде чем появились известные нам виды, нам бы могло показаться, что разумно взять процесс эволюции в собственные, направляющие руки. Нам бы могло показаться, что в эволюции произошел бы реальный прогресс, если бы появился искусственный интеллект -- лучшее из того, что до сих пор было придумано.
      В таком случае замена человечества компьютерами была бы естественным явлением, объективно приветствуемым, как мы сами приветствовали смену рептилий млекопитающими, и чему мы могли бы возразить только из самолюбия по причине, которая в сущности легкомысленна и к делу не относится. Если быть еще более циничным, то стоит ли доказывать, что замена человечества -- это отнюдь не зло, а истинное добро?
      В самом деле, в предыдущих главах я предположил, что человечество предпримет разумные меры, которые предотвратят войны, ограничат население и установят гуманный порядок в обществе. Но сделает ли оно это? Хотелось бы думать, что да, но история человечества не очень-то воодушевляет в этом отношении. Что если люди не оставят свою вечную подозрительность и насилие друг против друга? Что если они не смогут ограничить население? Что если не существует пути, чтобы человеческая порядочность создала открытое общество? В таком случае как мы сможем избежать уничтожения цивилизации и, быть может, даже самого человечества?
      Может быть, единственное спасение в замене видов, которые совершенно никуда не годятся, лучшими. С этой точки зрения следует бояться не того, что человечество будет заменено компьютерами, а того, что человечество не сможет развивать компьютеры достаточно быстро, чтобы подготовить себе наследников, которые бы взяли все в свои руки ко времени неизбежного крушения цивилизации в течение следующего века.
      А все же что если люди все-таки решат проблемы, с которыми они сталкиваются сегодня, и создадут порядочное общество, основанное на мире, сотрудничестве и мудром техническом развитии? Что если это будет сделано с бесценной помощью совершенствующихся компьютеров? Несмотря на успех человека, есть ли у людей гарантия того, что их не вытеснят вещи, которые они сами создали, и не станет ли это настоящей катастрофой?
      Но тогда мы можем задать вопрос: что имеется в виду под высшим разумом?
      Это уж слишком упрощенно -- сравнивать качества, как будто мы замеряем длину линейкой. Мы привыкли к одномерным сравнениям и прекрасно понимаем, что имеется в виду, когда мы говорим, что одна величина больше другой, или одна масса больше, чем другая, или одна длительность больше другой. У нас вырабатывается привычка считать, что все можно так же просто сравнивать.
      Например, зебра может достичь удаленной точки раньше, чем это сможет сделать пчела, если обе стартуют в одно время и с одного места. Мы рассуждаем тогда, что, по-видимому, зебра быстрее пчелы. Однако пчела намного меньше зебры и, в отличие от зебры она может летать. Обе эти особенности важны при определении этого "быстрее".
      Пчела может вылететь из ямы, из которой зебре не выбраться; она может пролететь сквозь прутья клетки, которая держит зебру в заключении. Что же тогда значит это "быстрее"? Если А превосходит Б в одном качестве, Б может превосходить А в другом качестве. Если условия изменятся, то или иное качество может приобрести большее значение.
      Человек в аэроплане летит быстрее, чем птица, но он не может лететь в нем так же медленно, как птица, а временами медлительность может понадобиться для выживания. Человек в вертолете может летать так же медленно, как птица, но не так бесшумно, как птица, а иногда бесшумность может потребоваться для выживания. Короче, выживание требует комплекса характеристик, и никакие виды не могут быть заменены другими только из-за различия в одном качестве, даже если этим качеством является разум.
      Мы видим это в человеческих делах достаточно часто. В критическом положении не обязательно выиграет человек с самым высоким коэффициентом умственного развития, может выиграть более решительный, или самый сильный, или самый выносливый, самый состоятельный, самый влиятельный. Да, разум важен, но это еще не все, что важно.
      Одним словом, разум не просто определяемое качество, он проявляется по-разному. Суперобразованный ученый, профессор, и вместе с тем -- ребенок в отношении вещей, далеких от его специальности, является стереотипной фигурой современного фольклора. Мы можем не удивиться, встретив искушенного бизнесмена, который достаточно разумен, чтобы уверенно руководить предприятием в миллионы долларов, и который не способен говорить грамматически правильно. Так как же мы тогда можем сравнить человеческий разум и разум компьютера, и что же мы можем иметь в виду под "высшим разумом"?
      Уже теперь компьютеры способны на такие фокусы, которые человеку не под силу, но это не заставляет нас говорить, что компьютер разумнее нас. Мы, собственно, даже не готовы признать, что он вообще разумен. Не забудьте также, что развитие разума в людях и в компьютерах проходило и проходит по различным путям; что оно было и есть приводимо в движение различными механизмами.
      Человеческий мозг, благодаря беспорядочным мутациям, развивался по принципу -- пан или пропал; он использовал тонкие химические изменения и двигался вперед благодаря естественному отбору и необходимости выживать в определенном мире данных качеств и опасностей. Компьютерный мозг развивается благодаря продуманному замыслу, как результат тщательной человеческой разработки, с использованием тонких электротехнических достижений и с движением вперед благодаря техническому прогрессу и необходимости удовлетворять определенные человеческие требования.
      Было бы очень странно, если бы мозг и компьютеры, двигаясь такими двумя расходящимися путями, заканчивали бы столь похоже один на другой, что один из них недвусмысленно мог бы быть назван превосходящим по разуму другого.
      Гораздо более вероятно, что даже когда эти две вещи равны по разуму в целом, свойства их разумов будут настолько различны, что не может быть сделано никакого простого сравнения. Будут виды деятельности, к которым лучше адаптирован компьютер, и другие виды -- к которым лучше адаптирован мозг. Это было бы определенно верно, если бы генная инженерия была целенаправленно использована для совершенствования человеческого мозга именно в тех направлениях, в которых компьютер слаб. Было бы, конечно, желательно держать как компьютер, так и человеческий мозг специализированными в различных направлениях, поскольку дублирование способностей было бы потерей времени и сделало бы тот или другой ненужным.
      Следовательно, вопрос замены никогда не должен возникнуть. Конечно, то что мы бы могли увидеть, это был бы симбиоз или взаимная дополняемость; мозг и компьютер, работая вместе, обеспечивали бы каждый то, чего не хватает другому, образуя разумную пару, которая открывала бы новые горизонты и делала возможным достижение новых высот. Собственно, союз мозгов, человеческого и созданного человеком, мог бы послужить дверным проемом, через который люди могли бы пройти из своего младенчества в свою богатую взаимодействием взрослую жизнь.
     
      ПОСЛЕСЛОВИЕ
      Давайте теперь оглянемся на длительное путешествие вдоль представшего перед нами широкого выбора катастроф.
      Мы можем разделить все описанные мною катастрофы на две группы: первая -- вероятные или даже неизбежные, например, превращение Солнца в красный гигант, и вторая -- маловероятные, как, например, столкновение огромной массы антивещества непосредственно с Землей.
      Нет смысла рассуждать о катастрофах второй группы. Не будет большой ошибкой предположить, что они никогда не произойдут, и сосредоточиться на катастрофах первой группы. Последние можно разделить на две подгруппы: те, что угрожают нам в ближайшем будущем, и те, что могут произойти спустя десятки тысяч, а то и миллиарды лет, к примеру такие, как повышение температуры Солнца или наступление ледникового периода.
      Опять-таки не стоит рассуждать о катастрофах второй подгруппы, если мы не разобрались с первой, это было бы пустой тратой времени.
      При рассмотрении первой подгруппы катастроф, весьма вероятных и угрожающих нам в более близкие времена, мы опять-таки можем разделить их на два вида: на те, которых можно избежать, и на неизбежные.
      Мне представляется, что катастроф второго вида нет, не существует катастрофы, которой невозможно избежать, не существует ничего такого, что грозило бы нам неминуемым уничтожением до такой степени, чтобы с этим невозможно было ничего сделать. Если действовать рационально и по-человечески, если спокойно подойти к проблемам, стоящим перед лицом всего рода людского, и не вдаваться в эмоции по поводу таких вопросов девятнадцатого века, как национальная безопасность и местнический патриотизм, если мы поймем, что нашими врагами являются совсем не соседи, а нищета, невежество и холодное безразличие к законам природы, все стоящие перед нами проблемы можно решить. Можно обдуманно сделать выбор и в итоге избежать катастроф.
      И если мы сделаем этот выбор в двадцать первом столетии, мы можем распространиться в космосе и утратить свою уязвимость. Мы больше не будем зависеть от одной планеты или от одной звезды. И тогда человечество или его разумные потомки и их союзники смогут существовать и после прекращения существования Земли, после прекращения существования Солнца, после (кто знает?) прекращения существования нашей Вселенной.
      Это наша цель
      Так одержим победу
     

Главная 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200