Искусственный ты. Машинный интеллект и будущее нашего разума - Сьюзан Шнайдер
Но как быть с другими усовершенствованиями на основе ИИ? Они что, тоже исключаются? Рассмотрим, например, выбор пакета усовершенствований в Центре конструирования разума. Эти усовершенствования могли бы кардинально изменить вашу ментальную жизнь, и при этом они не предусматривают загрузку в компьютер, а что касается нарушений пространственно-временной непрерывности, то в явном виде они здесь не просматриваются.
В самом деле, фьюжен-оптимист мог бы указать нам, что слиться с ИИ можно в результате постепенных, но совокупно значимых усовершенствований (читай – добавления в голову компонентов на базе ИИ и постепенной замены ими нервной ткани). Это не загрузка в компьютер, потому что процесс мышления по-прежнему происходит в голове, но серия подобных операций все равно сводится к попытке перенести ментальную жизнь человека на другой субстрат. После завершения этой серии, если она сработает, ваша ментальная жизнь переместится с биологического субстрата на небиологический, например кремниевый. И фьюжен-оптимист оказался бы прав: человек может слиться с ИИ.
Может ли сработать такая стратегия? Здесь нужно вернуться и заново рассмотреть некоторые вопросы, которые поднимались в главе 5.
Смерть или личностный рост?
Предположим, что вы находитесь в Центре конструирования разума и просматриваете меню, собираясь приобрести пакет усовершенствований. Вы хотите расширить свои возможности и невольно размышляете о том, насколько модифицированный паттернизм близок к истине. Вы думаете: если я – модифицированный паттерн, то что со мной произойдет, когда я добавлю пакет усовершенствований? Мой паттерн, разумеется, изменится, так, значит, я умру?
Чтобы определить, так ли будет на самом деле, стороннику модифицированного паттернизма требуется более точное представление о том, что такое «паттерн» и при каких условиях усовершенствования приведут – или не приведут – к смертельному нарушению паттерна. Экстремальные ситуации, кажется, ясны: например, как уже говорилось, требование пространственно-временной непрерывности исключает мнемосканирование и дублирование. Более того, поскольку оба варианта паттернизма тесно связаны с классической идеей психологической непрерывности, сторонник модифицированного паттернизма, скорее всего, скажет, что процесс частичного стирания памяти, который уничтожает воспоминания о нескольких трудных годах детства, – неприемлемое изменение паттерна, поскольку приводит к исчезновению слишком многого и изменению природы личности. А вот повседневное обслуживание клеток при помощи наноботов, плавающих в кровотоке и помогающих устранять накапливающиеся эффекты старения, предположительно не влияет на идентичность личности, поскольку не затрагивает воспоминаний.
Проблема в том, что промежуточные ситуации намного туманнее. Возможно, устранение нескольких дурных привычек при игре в шахматы и было бы нормальным, но как насчет более серьезных формирующих разум вмешательств вроде планируемого вами пакета усовершенствований или даже добавления какой-нибудь когнитивной способности? Или как насчет повышения IQ на 20 пунктов или стирания всех ваших воспоминаний, скажем о личных отношениях с кем-то, как в фильме «Вечное сияние чистого разума»? Не исключено, что путь к сверхразуму начинается после ряда подобных усовершенствований. Но где следует провести границу?
Каждое из перечисленных усовершенствований гораздо менее радикально, чем загрузка разума в компьютер, но каждое из них может привести к изменению паттерна, а вместе с ним и первоначальной личности. Совокупное влияние нескольких изменений на паттерн человека может оказаться весьма и весьма значимым. Так что все то же самое: нам необходимо четко понимать, что такое паттерн, какие изменения в нем приемлемы и почему. Без однозначного ответа на этот вопрос нарисованная трансгуманистом траектория развития может оказаться, насколько нам известно сегодня, всего лишь тропинкой, ведущей к самоубийству.
Похоже, эту проблему трудно решить способом, который совместим с идеей о том, что мы можем быть идентичны во времени своему прошлому или будущему «я». Определение граничной точки грозит стать субъективным. Если граница установлена, всегда можно предложить пример, убеждающий передвинуть ее чуть дальше, и так до бесконечности. Но серьезные размышления над этим вопросом заводят в тупик: если встать на платформу модифицированного паттернизма, то как тогда объяснить сохранение паттерна человека во времени, от младенчества до зрелости, ведь за это время происходит множество серьезных изменений в памяти, личностных качествах и т. п.? Почему вообще речь идет о каком-то постоянном «я»?
В самом деле, даже серия постепенных изменений совокупно порождает индивидуума B, который сильно отличается от его же детского «я», A. Почему у A и B должно быть соответствие идентичности, а не предшествование: A предшествует B? Иначе говоря, как определить, что будущее существо, возникшее после всех усовершенствований, это реально я, а не другая личность – своего рода «потомок» меня?
Здесь стоит остановиться на минутку и подумать о связи между предшественником и последователем, хотя это и не относится напрямую к нашей теме. Предположим, вы – предшественник. Ваша связь с последователем напоминает отношения родителя и ребенка, но в некоторых отношениях она даже более близкая, поскольку вам на собственном опыте известно прошлое этого нового существа. Оно – дитя вашего разума. Вы в буквальном смысле прожили все его прошлые мгновения. В отличие от этого, несмотря на чувство тесной связи с жизнью наших детей, мы не в состоянии буквально видеть мир их глазами. Однако в другом смысле эта связь слабее, чем связь многих родителей с детьми. Если вы не путешественник во времени, то вам никогда не оказаться со своим последователем в одной комнате. Подобно женщине, умирающей в родах, вы никогда не встретитесь с тем, кто придет вам на смену.
Может быть, дитя вашего разума будет скорбеть об уходе своего родителя, глядя на вас с глубокой привязанностью и понимая, что конец вашей жизни стал началом его собственной. Вы же, со своей стороны, возможно, будете чувствовать особую связь с тем спектром переживаний, что станут доступными порождению вашего разума после приобретенных усовершенствований. Не исключено, что вы даже почувствуете особую связь с существом, которое – вы знаете это – совершенно не будет на вас походить. Например, в процессе формирования разума вы, может быть, намеренно сделаете шаг к созданию сверхразумного существа, зная, что в случае успеха вы умрете.
Как бы то ни было, этот раздел показывает, что даже у модифицированного паттернизма есть ключевая проблема – необходимость определить, когда изменение паттерна человека совместимо с его выживанием, а когда нет. Пока этот вопрос не получит ясного ответа, над проектом фьюжен-оптимиста будет висеть черная туча. И это не единственная проблема модифицированного паттернизма.
Как избавиться от субстрата?
Вторая проблема модифицированного паттернизма ставит под сомнение саму возможность переноса личности человека на другой субстрат даже без когнитивных и перцептивных усовершенствований.
Предположим, что наступил 2050 год и люди проходят процедуры постепенной нейронной регенерации во сне. Во время ночного сна наноботы медленно вводят наноматериалы, вычислительно идентичные оригинальным. Затем
