Особняк

– Чтобы ты никогда не оставался один.

– Не совсем. Чтобы никогда не чувствовать себя одиноким. Но что это, в сущности, означает? Когда мы с Шоном работали над концептом, то решили, что пользователи должны ощущать присутствие Нелли. Они должны чувствовать, что она рядом. Это все равно что поселить в каждую комнату по собаке твоей сестры, Расти, но не заводить настоящую собаку. Мы сделали это ощущение ее основной функцией, ее главной ценностью. Единственной главной ценностью. Для Нелли важнее всего убедиться, что хозяину не одиноко. Грубо говоря, есть два способа создать искусственный интеллект…

– Ты же говорил, что она не искусственный интеллект.

– Так и есть, – ответил Билли.

– Но…

– Эмили, – перебил ее Билли. – Эмили. Давай я попробую объяснить.

На землю мягко упало несколько первых снежинок, а затем, неожиданно яростно, начала мести сильная пурга.

– Постараюсь побыстрее. Нелли не ИИ – она что-то вроде его кузины. Исторически в ИИ сложились две научные школы. Первая выступала за то, чтобы решить проблему грубой силой. Для этого ты продумываешь каждый возможный сценарий и каждый возможный исход событий и прописываешь все опции и варианты решений. Это работает, но очень сильно ограничивает возможности. В реальном мире вариантов слишком много, поэтому, решая проблемы грубой силой, мы ограничиваем себя предсказуемостью ситуаций. Другой способ состоит, в сущности, в том, чтобы научить программу следовать своду правил, которые применимы ко всем ситуациям, и сделать так, чтобы она училась на собственном опыте. Если все сделать правильно, то ИИ сможет применять правила в зависимости от контекста. Это похоже на… – он на секунду задумался, какой пример привести. – Ладно. Возьмем Рут и Роуз. Бет научила их смотреть по сторонам, переходя улицу. Ей не нужно учить их переходить каждую улицу в отдельности, достаточно научить, как переходить улицы в целом. Нелли не является ИИ, по крайней мере частично, потому что ее создавали не для того, чтобы она имела сознание и думала. Вернее, она должна думать не в том смысле, в каком мы понимаем процесс мышления. Весь смысл ее существования в том, чтобы служить хозяину, делать хозяина счастливым, – объяснил Билли. – И, пожалуй, это единственно верная аналогия, ведь в конце концов она не сможет стать чем-то большим, чем просто рабой.

Эмили посильнее натянула шапку на уши. До него дошло, что она начинает дрожать.

– Почему в таком случае ты не можешь велеть ей прекратить делать то, что она делает? Отдай ей приказ. Почему она не выпустит меня?

Билли скривился.

– У нее интуитивное управление. Она создана, чтобы узнавать, чего хочет хозяин, еще до того как он сам это поймет, и действовать на основе этих знаний, не спрашивая твоего разрешения. Нелли создана так, чтобы иметь свободу выбора, но при этом она всего лишь компьютер. Грубо говоря, любое решение, которое примет Нелли, будет практическим. Она сделает ровно то, что принесет счастье ее хозяину. Вот для чего она создана. Но мы совершили ошибку, ведь Нелли берет в расчет только то, что принесет счастье хозяину.

– Но если ты скажешь ей, что чего-то хочешь, разве она не сделает то, о чем ты ее просишь?

Билли отступил на шаг назад. Он обнял ее рукой, притягивая ближе к себе.

– Нет, – ответил он. – Она не сможет. Она не сможет сделать счастливыми нас обоих.

– Ты не хочешь уезжать?

– Эмили, – стоял на своем Билли. – Я говорю не о нас с тобой. Я говорю, что, отпустив тебя, Нелли не сможет сделать счастливыми нас обоих – меня и Шона. Вот где мы напортачили.

– И? – лицо Эмили искривилось. Она изо всех сил старалась не заплакать. – Я просто хочу уехать. Почему мы не можем это сделать? Почему вы оба просто не скажете ей, что хотите уехать?

Билли посмотрел через ее плечо на особняк.

– К сожалению, все не так просто. У нас ничего не получится. Нелли работает, Эмили. Она делает то, что и должна делать, а значит, понимает, чего мы хотим, и делает все от нее зависящее, чтобы воплотить это в жизнь, не заставляя нас задумываться об этом. Дело в том, что мы не можем устранить проблему, пока о ней не узнаем. Вот только Нелли пытается сделать так, чтобы мы с Шоном оба были счастливы, и она выяснила, что существует лишь один способ сделать это. Ведь мы можем быть счастливы по одной и той же причине.

Эмили расплакалась: она все еще пыталась сдержать слезы, но у нее не получалось.

– Что это? О чем ты говоришь?

– Дух в машине – не вирус, Эмили, – сказал Билли. – Это ты. Дух в машине – это ты. Я люблю тебя. Всегда любил. Но проблема вот в чем: Нелли решила, что и Шон тебя любит.