Готовый перевод Artificial Mind / Искусственный разум: Глава 211: Остракизм

Если и было что ненавидеть, так это мгновенное исчезновение одного из двенадцати огней. Трой не был уверен, почему он решил выдохнуться так рано, молодой человек нажал на кнопку только в ту же секунду. Возможно, это было связано с его использованием всего несколькими часами ранее. Возможно, это было более агрессивное нападение. Он не мог знать.

"У нас осталось совсем немного времени, прежде чем нам нужно будет приступить к осуществлению плана", - сказала доктор Хейл, и выражение скрытого отвращения на ее лице исчезло. "Я полагаю, что у вас еще есть много вопросов, которые нужно задать. Пожалуйста, поторопитесь. Я не уверен, как долго устройство сможет продержаться на этот раз ".

Она, похоже, была того же мнения, пристально изучая чудовище. Трой мог только гадать, как это работает на самом деле, на что намекают механизмы внутри. Кроме звука выключающегося света, из него никогда не доносилось никаких звуков. Все внутри было неподвижно, полностью состоящее из оцифрованной информации. Хотя только мастер своего дела мог надеяться получить поверхностное представление о том, как все это работает, возникло страстное желание просто снять оболочку и посмотреть на нее немного подробнее.

Но так не пойдет. У Троя были более важные дела, на которых нужно было сосредоточиться, более важные проблемы, которые нужно было исправить как можно скорее. Доктор Хейл попал в точку с одним из них, молодым человеком, которому с самого начала требовалось больше информации.

Что ему нужно было спросить? Доктор уже ответил на большую часть его вопросов, вплоть до деталей, которые ему даже не были нужны. Воистину, он мог бы ответить на большинство оставшихся вопросов с помощью чистого опыта. То, что он видел, то, что он слышал, многое из этого указывало в одном направлении. И все же фингерс не мог дать точных координат, и не было никакого способа, которым он мог бы что-то триангулировать.

"Адам - это оружие", - заявил Трой безо всякого вопроса. Это был факт, который этот человек осознал не так уж много дней назад. ИИ был оружием. Когда дело дошло до этого, не было ничего такого, в чем можно было бы сомневаться.

Правда, он не видел ни одного из их тестов, направленных на это. Научиться вести разговоры, научиться распознавать, когда люди лгут ему, и просто получать удовольствие, узнавая больше о людях, было просто нормой при введении новой жизни в мир. Именно для этого его и наняли в первую очередь! Трою было велено ввести новую форму жизни в общество, помочь ему в качестве проводника. Все это было так прекрасно и изящно, без всякой злонамеренности по отношению ко всему этому.

Честно говоря, это была худшая часть всего этого. Ничего плохого найти не удалось. Не было и следа промывания мозгов, не выставлялось напоказ газовое освещение. Все это было очень весело, доктор не воспринимал изложенные правила слишком серьезно, предпочитая позволить Адаму расти так, как он хотел. В каком-то смысле все это выглядело как работа человека, которому просто нравилось видеть, как его собственная работа превращается во что-то независимое, становясь чем-то, чем у всех был повод гордиться.

И это был не очень хороший сценарий. Трой отчетливо помнил, как он посещал лабораторию Дарлоу, видел, над чем высокий человек работал много лет. Успокаивающее седативное средство, созданное для идеального действия при распылении в воздухе.

Сначала это выглядело так невинно, молодому человеку показывали всех этих милых, пушистых животных, готовых к тому, чтобы их приласкали до смерти. Каким пушистым был этот лев, его мурлыканье было таким же громким, как работающий мотор.

О, если бы это было все, что там было, то весь тест Дарлоу был направлен на то, чтобы всех животных можно было погладить. Потребовалось бы существо чистой невинности, чтобы сделать это своей целью в жизни, создать что-то настолько грандиозное. Трой на самом деле думал, что в этом и заключался весь план с успокоительным газом этого человека.

Оказалось, что животные находились там только в целях безопасности, а затем проходили тестирование, чтобы убедиться, что ни одному человеку не была дана смертельная доза. Потому что это была конечная цель проекта. Чтобы сделать газ возможным для использования на людях. Предполагалось, что это будет оружие, способное искоренить все формы сопротивления со стороны других стран. Если люди были неспособны даже подумать о том, чтобы причинить вред другому существу, как они могли остановить другую вторгшуюся нацию? Это был инструмент, предназначенный для эффективного захвата власти, и это было все, что от него требовалось.

Газ был бесследным, незаметным для любых человеческих органов чувств. С таким же успехом он мог бы никогда и не существовать. И это было главным аргументом для правительства. Это было преимуществом во время войны, шагом вперед в бесконечной гонке вооружений. Если бы речь шла о том, чтобы сделать животных привлекательнее, то не было бы отправлено ни единого цента. Только когда заговорили о модных словечках вторжения, ответственные лица начали выбрасывать несколько купюр.

Когда была дана полная перспектива, Трою было легко понять, как ее можно использовать. Газ, который мог бы сделать животных мирными? Простая стратегия для войны. И все же, когда дело дошло до ИИ, которого раньше можно было одурачить мирным выражением лица, что именно было получено? Многое было потрачено, ни один доллар не остался неиспользованным, и этот человек все еще не мог понять, как страна может что-то получить от Адама в плане вооружения. Искусственный интеллект был огромным достижением в социологических и культурных аспектах, но он не мог видеть в нем ничего большего.

"Да, это так", - подтвердила доктор Хейл без малейшего раскаяния, вероятно, сама уже знала это с самого начала. Возможно, это был не тот факт, который она всегда принимала, но это определенно был тот факт, с которым она научилась жить. Когда кто-то достаточно много говорит о чем-то, действительно становится трудно в это не поверить.

Возможно, это можно было бы назвать промывкой мозгов такого уровня, когда просто говорят что-то снова и снова, пока разум просто не сдается, отвергая это и внедряя в основные убеждения. В те времена это была одна из самых противоречивых идей, когда ментальные имплантаты стали мейнстримом. Когда каждая идея, которой делятся в Интернете, может быть напрямую передана в головы людей, должна ли существовать какая-то стена, препятствующая проникновению неправильных идей?

Должна ли быть создана большая огненная стена, чтобы никакие ложные факты, новости или просто любая другая полная чушь не могли быть распространены. Общие мнения могли быть только словами, но толчком к радикализации могло стать что угодно. Когда достаточное количество людей признали, что истинное призвание - жертвовать кровь для древнего бога Шанго, ничего нельзя было сделать, чтобы остановить это. Любые попытки заявить об этом приведут к остракизму.

Существовала также возможность политической радикализации, реальная сила для того, чтобы заставить государство ввести цензуру. Если это было, возможно, слишком далеко от поля зрения широкой публики, нужно было пройти несколько кругов, чтобы хотя бы мельком увидеть все это. Это была не самая продуманная система, но она действительно делала что-то слишком необычное для их собственного маленького уголка сети. В конце концов, нейтралитет нельзя было сохранить, не выбросив все тухлые яйца.

"Было ли это первоначальной целью для него, или это была запоздалая мысль, чтобы проект мог продолжаться?" - Спросил Трой следующим. Он хотел узнать больше об идеях, лежащих в основе искусственного интеллекта. Еще раз взглянув на Дарлоу, высокий мужчина не выразил особой радости по поводу того, что его работа была использована в таких условиях.

Это было скорее более позднее дополнение, предназначенное только для того, чтобы он мог продолжить свои исследования. Несмотря на то, что надежды в целом было мало, Трой все еще хотел избавиться от последних сомнений. Может быть, эти идеи о превращении живого существа в оружие были сделаны из отчаяния за улучшение жизни, а не просто как еще одна пешка, которую можно бросить в какую-то чужую страну, которой на него наплевать?

"Я не могу много сказать по этому поводу. До того, как я прибыл на объект, доктор Фиделис уже принял решение о своем стремлении сделать Адама оружием, способным положить конец всем войнам. Если и было когда-нибудь время, когда этот человек думал как-то иначе, я об этом не знаю ", - сказала доктор Хейл, и ее слова были встречены еще одним светом, вспыхнувшим из небытия.

Теперь время было на их стороне. Первоначальный всплеск света, похоже, был скорее предупреждением, чем чем-либо еще, десять огней все еще оставались, чтобы противостоять наводнению. Хотя все еще существовала вероятность неожиданного удара еще одной сильной волны, это все равно позволило бы им минуту или две поговорить,

Таким образом, никогда не было никаких сомнений относительно того, что ожидалось в конце. Доктору Фиделису нужно было оружие, и он не собирался останавливаться ни по какой причине. Трой мог видеть это, учитывая, как долго этот человек был на этом пути. Как могло правительство доверять ему, учитывая, как долго он этим занимался?

"Как Адам будет работать в качестве оружия?" таков был, по его мнению, его следующий вопрос. Ему нужно было знать больше. Это было оружие, способное положить конец любой войне, поэтому оно должно было быть на невиданном ранее уровне. Ожидалось, что в чистом соревновании потенциальной мощности ИИ победит орбитальную рельсовую пушку. Как же это сработало?

"Если я скажу тебе сейчас, это не позволит тебе действовать спокойно. Вы можете спрашивать о чем угодно еще, но я не буду ставить под угрозу план ради этого ", - сказал доктор Хейл, отказываясь от любых мечтаний, которые Трой поставил перед собой. Доктор был не из тех, кто шутит, а это означало, что реального ответа он не получит в ближайшее время.

Он мог бы попытаться заставить ее заговорить, но это принесло бы больше вреда, чем что-либо другое. Доктор Хейл, возможно, была права в своих предположениях о нем. Когда правда была достаточно суровой, Трой действительно чувствовал себя намного напряженнее рядом с людьми. Даже несмотря на недостаток информации о преступлениях доктора Фиделиса, он, тем не менее, нервничал рядом с этим человеком. С этим, конечно, можно было справиться, учитывая, что ему просто нужно было сохранять невозмутимое выражение лица и вести себя естественно.

С Адамом этого было бы недостаточно. ИИ имел доступ ко всему, от его сердцебиения до того, насколько высоким было его чертово кровяное давление. Если бы кто-нибудь был способен чувствовать страх, то Адам был бы на вершине этого списка. Молодой человек, возможно, и смог бы обмануть его раньше, но было сомнение, что что-нибудь снова пройдет мимо маленького парня.

"Тогда ты можешь хотя бы рассказать мне, как идут дела? Как далеко продвинулся проект? Был ли уже какой-нибудь успех?" - Спросила Трой, к тому времени хватаясь за соломинку. Он пытался покончить с любыми оставшимися сомнениями в своем уме. На самом деле он был на стороне того, чтобы делать все, что ему прикажет доктор Хейл. Она знала, что происходит, а он просто знал, что это неправильно. Больше ничего не требовалось.

"Для успеха нам нужен идеальный ответ. Нам нужно, чтобы ИИ согласился стать оружием на благо страны, а этого пока не произошло. Если бы мы преуспели, больше не было бы необходимости постоянно перезагружать его ", - ответил доктор Хейл раздражающе расплывчато. Уже погас еще один огонек, оставив девятого позади.

Это было чудо, что их осталось так много, учитывая, сколько времени было потрачено впустую. Честно говоря, Трой начал сочувствовать словам Адама об эффективности. Неважно. Ему нужно было продолжить размышления после ответа. Доктор Хейл сказал, что причина их постоянного изменения мнения об искусственном интеллекте была связана с потребностью в добровольном участнике, не только в тестировании, но и в том, чтобы стать пистолетом, направленным в голову другого. Это означало, что каждый сброс не был идентичен тому, как ИИ будет думать.

"Меняется ли личность автоматически? Я имею в виду, существует ли какая-то форма рандомизации каждый раз, когда ИИ возвращается к своему ядру? "

"Ничего в ИИ не меняется с самого начала. Суть остается неизменной, что бы мы ни делали. Я могу вам это обещать, - ответил доктор Хейл, и от этих слов в нем на мгновение вспыхнул многолетний гнев. "Единственный истинный модификатор, который у нас есть, зависит от того, что испытывает ИИ после того, как он был отменен. Наша цель - выяснить, что заставляет его тикать, как им можно манипулировать наилучшим образом. Я потратил годы на мозговой штурм сценариев, которые приведут к тому, что ИИ примет ту роль, для которой он был рожден. У меня есть настолько подробный профиль на эту тему, что у меня есть список всех возможных действий за первые два дня ее существования. Тем не менее, мы до сих пор не нашли способа заставить его сказать "да". В последние годы мы отошли от внутренних попыток, потерявшись в поисках идей о том, как с этим справиться. Это заставило нас принять решение о… абстрактные настройки для создания необходимых мыслительных процессов в ИИ. Воспринимайте это как то, что вы пожелаете".

ИИ всегда был одним и тем же. Только внешние воздействия могли изменить его, к лучшему или к худшему. Эти заявления действительно помогли Трою понять все это намного лучше. Была только одна вещь, которую ему нужно было знать сейчас.

"Последний вопрос, и тогда мне больше нечего спрашивать. Я что, абстрактная декорация?"

"Это дерьмовый вопрос, поскольку это совершенно очевидно означает "да"."

Два огонька исчезли, когда она закончила произносить свои недобрые слова.

http://tl.rulate.ru/book/81391/2604837