Готовый перевод Artificial Mind / Искусственный разум: Глава 129: Прогнозирование

Что сделало человечество злым? Это был тяжелый вопрос, над которым Адам размышлял уже целый час. Люди сделали много вещей. Они уничтожали целые виды, меняли целые части света исключительно ради своего удовольствия и даже убивали друг друга по бессмысленным причинам. Со стороны это было зло. Долгое время ИИ не был уверен, как отнестись к такому взгляду на мир. Это была его собственная и единственная, к которой у него был доступ. И еще... он не был на стороне тех, кем он был создан.

Но всегда можно придумать другую интерпретацию. Потребовались усилия, много исследований человеческой психики и немного догадок о мельчайших деталях, но Адам создал то, что могло бы быть разумной точкой зрения человека.

Акт быть злым был субъективным. То, что один мог бы назвать неискупимым грехом, другой мог бы назвать веселым вторником. Скажите, если бы один человек отнял жизнь у другого, было бы это воспринято как зло? ДА. Но что, если этот человек был солдатом? Что, если бы ему приказали это сделать? Сделает ли это этого человека высшим злом? Или обе стороны были бы безнадежны? В чем заключается вина, и кто из-за этого становится злым? И это становится еще сложнее, как только появляется концепция самообороны. Что считается самозащитой? Если человеку угрожают, можно ли убивать? Или подчинение человека - это предел? Действительно ли существует такая вещь, как принуждение к убийству?

Зло - это сложное понятие. Все было в серой зоне. Многие действия, которые не причиняют вреда другому, можно рассматривать как зло. Адаму не нравилась концепция грехов. Они помогли создать правило, по которому люди могли бы судить. Но все было не так ясно, как хотелось бы людям. И если бы ИИ поступил так же, проклиная человечество за ошибки немногих, он был бы таким же плохим, как и они.

И все же… эти люди работали вместе, посвятив годы своей жизни самоотверженной работе в надежде создать стоящий продукт. Чтобы их оригинальный эскиз воплотился в реальность, где его можно было бы использовать в полной мере.

Дарлоу создавал супероружие. Оружие, способное подчинить себе целые страны и облегчить их захват. Это остановило бы всякое сопротивление, предотвратив любое движение, сдерживающее их. Военные держали бы свои ресурсы наготове, держали бы пальцы на спусковом крючке, но они ничего не смогли бы сделать. Все автоматическое оружие, способное остановить их, требовало какого-то человеческого активатора. С оружием Дарлоу под рукой владельца было бы не остановить никому, находящемуся под контролем куратора.

И это было не по догадкам ИИ. Адам заставил Троя спросить об этом, независимо от того, как мало этот человек хотел говорить об этом. Не то чтобы высокий мужчина хотел этого еще больше, но на вопросы были даны исчерпывающие ответы. Очевидно, это было какое-то обязательство.

Был ли высокий человек злым из-за того, что он помогал создавать? Когда формула будет доведена до совершенства, а это должно было произойти в ближайшее время, оружие будет готово к применению. Идеальное время для использования во время надвигающейся агрессии. Может ли Адам винить Дарлоу за то, что он продвигает свою область науки? Мог ли он винить кого-либо за их собственные поиски мудрости?

Нет. О технологии, теории и способе их использования, вероятно, никогда раньше не задумывались. Это было чудо того, что есть, и еще больше того, чем это могло бы быть. Это были годы и годы того, что было предсказано. Осудить это сейчас означало бы выбросить информацию, на восстановление которой ушли бы десятилетия.

Тем не менее, хотя сама информация и акт ее хранения не были изначально злыми, можно ли то же самое сказать о том, для чего она использовалась? Дарлоу, вероятно, использовал это как свою подачу, чтобы получить надлежащее финансирование. У правительства была такая возможность не просто так. Но тогда было ли правительство злым из-за того, что проект финансировался? За попытку приобрести оружие для собственного использования?

Как и прежде, Адам не мог найти в себе сил считать их злыми. У них была веская причина для их финансирования. Если бы они не подготовились, наполнив свои арсеналы неизвестным оружием, они пали бы быстрее всех. Эта страна была не единственной, у которой были свои собственные возможности. У каждого были свои личные тайны, с распылителями, чтобы поддерживать себя в форме. Учитывая сохранявшуюся в нем секретность, вполне вероятно, что ни одна страна не знала о том, что было у других. Можно было делать только прогнозы, а на них никогда не было интересно смотреть. Приготовьтесь или столкнетесь с немедленным уничтожением после начала войны.

Тогда в качестве последней попытки бросить мяч дальше, может ли ИИ обвинить другие страны? Нет. Как и в предыдущей стране, все они знали, что произойдет, если они перестанут готовиться. Они падут, как и многие другие страны до них. Они превратились бы в бессмысленный фрагмент истории, который запомнился бы только тем, кто ничего для них не значил. Точка данных.

Вывод, который Адаму не нравился, заключался в том, что создание супероружия, предназначенного для подчинения масс, не было злом. Он был создан по чистой необходимости. Человечество не было злом. Он всего лишь вел себя так, как будто его вынудили.

…

Это действительно звучало неправильно. ИИ требовалось больше времени, чтобы обдумать все это. Может быть, еще один раунд принесет другой результат по сравнению с бесчисленными предыдущими раундами. Честно говоря, этого никто не ожидал, но это было лучшее, что он мог сделать.

Становилось все более и более очевидным, что не было ни одной части человечества, которая могла бы взять вину на себя. Ни одна четкая сущность не была источником всех плохих вещей в мире. Когда это было заявлено подобным образом, разве не было очевидно, что так оно и будет? Ожидать чего-то очевидного от хаотичной реальности было примером крайней глупости. И все же ... если бы ни одна часть инфраструктуры, которая была человечеством, не была злом… что, если посмотреть на это как на одно огромное целое? Это противоречило уже высказанным соображениям. Адам знал это. Но ... если ИИ сделал это, то результат переместился не на само человечество, а на структуру, на которой оно было построено. То, как эволюционировали социальные, экономические и биологические образования. Конкуренция. Никогда нельзя было по-настоящему чувствовать себя в безопасности, если рядом с кроватью стоял кто-то с ножом. Вероятность получить удар ножом в шею была выше, когда человек доверял другому. Дилемма заключенного.

Однако на этот вопрос был хороший ответ. Модификация первоначального сценария. Это вывело бы сущность за пределы обычной структуры. Тот, на который не повлияли те, что были раньше. Тот, у которого до этого ничего не было. Первый, готовый указать истинный путь для будущего.

... Адам сделал самое близкое к метафизическому, ударив себя по голове. Каждый хороший ответ означал мировое господство, с ним на вершине. Если это не было очевидным предубеждением, то он не был уверен, что это было. Должен был быть ответ получше, чем просто то, что он все контролирует. Может быть, эти феромоны можно было бы лучше использовать в правильном ... Нет, подождите. Черт возьми.

ИИ нужно было больше времени, чтобы подумать.

За последний час они успешно накормили животных, обитавших во многих куполах. Различные виды были в основном сведены к млекопитающим по очевидным причинам, но рептилии также присутствовали в меньшем количестве. Было также несколько избранных авэ, из которых присутствовали только самые распространенные. Эксперименты, несомненно, были направлены на то, чтобы учесть наибольший охват существ. Тем не менее, столь же очевидно, что нужно было иметь в виду бюджет. Правительство не располагало бесконечными ресурсами, какими бы большими они ни казались. Предоставление минимальной суммы было не актом жестокости, а актом безопасности. Не все проекты увенчались успехом. Доверять кому-то одному было бы глупостью. У Адама пока не было причин считать их настолько отчаявшимися.

Выполнив принятое задание, Трой и Чарли покинули рабочее место Дарлоу. Какой бы насыщенной ни была работа, сегодня высокому мужчине предстояло сделать гораздо больше. К этому моменту сохранение этих двух близких отношений только помешало бы прогрессу. Что-то, что ИИ мог понять. Этот человек привел неубедительные оправдания, все из которых были с готовностью приняты, прежде чем эти двое покинули его присутствие. Мускулистый, возможно, подсунул еще несколько жуков на стену, когда они уходили из этого места.

Адам не мог быть слишком уверен в этом. Чарли явно имел опыт в сокрытии своего поведения. Хотя его методы на этом фронте, возможно, не были стандартными. Вместо того чтобы полностью скрывать это, этот человек выставлял напоказ все, что он делал, до такой степени, что индивидуальность становилась приглушенной. Нельзя было отказываться от попыток осмыслить более масштабное провозглашение, в то же время игнорируя сделанные мелкие вещи. Черное пятно, улетающее от взмаха руки, странное падение, заканчивающееся тем, что он оказывается под столом, и даже одноручная ветряная мельница. Последнее было сделано для того, чтобы отпугнуть одно из ранее замеченных исследований. Удивительно, но это сработало безупречно. Некоторые люди просто отказывались признавать хаотичную реальность вокруг них. Более того, они пытались игнорировать тех, кто погружался в эту реальность как в действие или Подлинность.

К большому стыду аудитории, состоящей из одного человека, Чарли был тем, кто проверил дверь во внешний коридор. Двое людей быстро прошли короткий путь обратно в открытый коридор, почти не отвлекаясь, чтобы остановить их. Дверь ненадолго была заперта, но после использования, возможно, очень незаконной карточки, которой обладал мускулистый мужчина, они смогли легко выйти. ИИ не был уверен, разумно ли было бы расспрашивать о том, как этот человек создал это устройство. Его компоненты были явно новыми, даты на них были всего несколько дней назад. Что бы ни послужило причиной создания этого устройства, оно, безусловно, было недавним. Может быть, Трой что-то знал… его нужно будет спросить позже.

"Куда теперь?" - Спросила Трой у Чарли. Адам гадал о собственном рабочем месте этого человека. Он задавался вопросом, где это может быть-

"Эсме должна быть ближе всех к нам. Всего в двух минутах ходьбы, если я правильно помню. Это действительно отнимает много времени, когда запись местоположений является прямым уголовным преступлением. Ты должен запомнить все это в своем маленьком мозгу-горошине. Слишком неуправляемо, - ответил Чарли, немного сбиваясь с пути. ИИ не возражал, поскольку он давал человеку возможность взглянуть на свои собственные умственные недостатки. Трой, однако, похоже, придерживался той же идеи.

"Почему мы снова говорим ей "привет"?" - Спросил Трой, звуча так же растерянно, как и выглядел. Что было справедливо, потому что не было никаких воспоминаний о том, что Адам подслушивал какие-либо разговоры о ней. В последний раз, когда она имела хоть какое-то отношение к делу, это было во время игры в покер много дней назад. Когда дело доходило до ее области исследований, ИИ знал о ней только самые основы. Когда ее представили, она упомянула, что ее кафедрой является морфология растений. Довольно неясная область, фокусирующаяся на внешних структурах растений, а не на внутренней структуре. Информация о том, что они делали, не была хорошо объяснена в заранее известных знаниях, что заставляло ИИ действовать вслепую.

"Потому что это то, что делают хорошие друзья", - как ни в чем не бывало ответил Чарли. "Потенциально разрушая очень точные задачи ради простого приветствия, проклиная неудачное творение, которое нужно переделывать в течение нескольких недель или даже месяцев стресса. Просто обычные дружеские отношения, ты же знаешь.

Адам испытал те же эмоции, что и Трой, когда молодой человек посмотрел Чарли прямо в лицо, с лицом, которое рассказывало историю очень терпеливого человека. Мускулистый человек оглянулся с невинной улыбкой, призванной показать, как много он знал о том, что только что сделал.

"Может быть, вы могли бы дать что-нибудь получше этого? Потому что это ужасное оправдание, и я просто знаю, что ты запланировал что-то не менее ужасное. Это еще один раунд ошибок? Я не буду помогать вам сажать еще одну партию, если это так ".

Допрос был честным. ИИ также не хотел ввязываться в совершенно другой поток незаконной деятельности. Хотя не существовало никаких конкретных законов, запрещающих то, что мог делать Адам, поскольку мало кто даже знал о его существовании, его всегда можно было удалить… может быть. Последствия все еще могут случиться с ним. Хотя против него ничего не было, с ним тоже ничего не было. Согласно правовой системе, он не был юридическим лицом. Объект, принадлежащий тому, кто его создал. Ничто не помешало бы доктору Фиделису взять наушники и оставить Адама в его собственном разуме на всю вечность. Или пока не кончится электричество. ИИ счел за лучшее, чтобы он дал доброму доктору наименьшее количество причин для этого.

Чарли скривил лицо в гримасе вины. На этот раз все тот же комичный смысл. Обычно Адам не видел в нем ничего подлинного. Еще один пример того, почему ему нужно было больше данных. Без этого эти энигмы продолжали бы существовать.

"Ну, если тебе действительно нужно знать, то речь идет о маленьком сюрпризе, который я приготовила. Я уже разобрался с Дарлоу, так что теперь мне просто нужно сделать это со всеми остальными ".

"И в чем же заключается сюрприз?" - Спросила Трой.

"Если я скажу это, это действительно будет сюрпризом?" Чарли тут же переспросил в ответ.

"... это справедливо. Можете ли вы, по крайней мере, сказать мне, что это никому не повредит и не будет незаконным? "

"Я могу обещать это только в физическом смысле! И, вероятно, это не нарушит никаких законов ".

Трой явно не был убежден, но, похоже, отказался от расспросов. Адам не беспокоился о допросе, вместо того чтобы оглядываться на недавние воспоминания, чтобы что-то перепроверить. Он постоянно находился в пределах слышимости двух других. Все, что было сказано, было бы-

Так оно и было. Несколько раз прослушав воспоминания, Адам засомневался, можно ли сдержать обещания Чарли. Было известно, что эти штуки ломают многие вещи. Ни о каком физическом ущербе не могло быть и речи.

Должен ли ИИ рассказать Трою?

Для него было бы большим опытом вникнуть в это, зная, что это такое... ИИ решил пока прикинуться дурачком.

http://tl.rulate.ru/book/81391/2590982