— Кэт — модель 203 стерео. Раньше мы держали живых, но они безбожно перевирали текст и все время требовали прибавки к заработной плате.
— Требую прибавки к заработной плате, требую прибавки к заработной плате, требую прибавки к заработной плате!..
— Извините, сейчас. Тумблёр сломался. О! Она уже довольна!
Меня запрограммировали помогать и отвечать на любые вопросы. Похоже, никто не озаботился уточнить, кому я не должен отвечать.
Мы, роботы, в совпадения не верим.
We are robots. We don’t do coincidence.
— Может изобретешь робота, который мне будет читать?
— Мне не хватит знаний и ресурсов, но, когда роботы победят, это будет неважно. Мы станем лишь мозгами в контейнерах, рабами виртуальной стимуляции и синтетического автоматизированного питания.
— Лишь бы доп. занятий не было.
— С каждой новой встречей с одним из вас, я понимаю, что Дэвид Эльстер сделал на самом деле. Это потрясающе.
— Что он сделал?
— Он не создавал ничего нового. Даже не пытался. Он отобразил человечество в вашей форме. И сделал это безошибочно. Ты совершенно человечна.
— Ты ошибаешься. Ты понятия не имеешь, каково быть мной.
— Будь ты человеком, у твоего состояния было бы название, диагноз, лекарства. Наши больницы и тюрьмы полны ожесточенных, травмированных людей, таких как ты, рожденных другими и к несчастью, проживших ту еще дерьмовую жизнь. Тебя травмировали. Люди бы отреагировали также. Все, что ты чувствуешь — это очень по-человечески, Эстер. Ты доказательство успеха Дэвида Эльстера.
Угрозой человечеству являются не синтетики, а мы сами, потому что мы потеряли то, что делает нас людьми.
Мой отец создал меня, он знал, как далеко простираются мои возможности, как широко я могу думать и глубоко чувствовать, но он все равно пользовался мной. Если даже мой создатель видел во мне машину, когда ему было это удобно, какие у меня шансы перед человечеством? Я устала быть самоотверженной, теперь мне есть что терять.
— Почему вас так боятся?
— Это все из-за нашего плана захватить планету и сделать людей рабами.
— ?
— Прости, я пошутила.
— Что такого в роботах?
— Дело не в роботах, а в людях. Одевают их, дают глупые голоса. Вы унижаете их.
— Да. Моя подруга сделала из робота собачку.
— Собаки — это другое дело.
— Руби… Я — не настоящая девочка.
— Пенни, я не понимаю…
— Большинство девочек были рождены. А меня — создали. Я — первый синтетический механизм, способный самостоятельно генерировать Ауру. Я не настоящая.
— Конечно же ты настоящая! Ты так думаешь только потому что внутри тебя гайки и болты, но разве это делает тебя менее настоящей, чем я?
— Я не… Стой. Ты вот так просто это приняла?
— Ты не похожа на тех роботов, что мы видели. У тебя есть сердце и душа — я это знаю точно.
— Ох, Руби! Ты — лучшая подруга, которую только можно пожелать!
— … Теперь я понимаю, почему твой «отец» так тебя оберегает.
— О, он очень милый. Уверена, вы бы друг другу понравились.
— Вау. И он тебя один создавал?
— Нет, не в одиночку. Ему помогал мистер Айронвуд.
— Они позади нас! Смотрите в оба!
— А-а-а! Опять эти роботы!
— Снова эти проклятые машины! «Разбойники», уничтожьте их!
— Воридус, по данным орбитальной разведки, они приходят из пускового отсека неподалёку.
— Не бойся, брат. Моя новая игрушка должна решить эту проблему. Сбросьте нейтрализующий излучатель возле пускового отсека — его Э. М. И.-поле должно вывести всех Стражей из строя! И бейте их, пока они беззащитны!
— Воридус, поле излучателя выглядит нестабильным…
— Я внёс некоторые улучшения, чтобы зона поражения была больше.
— Твои «улучшения» сократили время действия поля. И тогда тебе придётся развёртывать его заного!..
Люди добрые, я понимаю, что есть кругом проблемы. Но вообще-то есть грандиозная проблема у всего мира и человечества — люди не нужны! Люди не нужны! С развитием робототехники, с развитием того, сего, пятого, двадцать пятого… Вы смотри́те, мы же с вами тут спорим, ругаемся — кто у нас пашет, слушайте, за это время пахарей осталось… было сорок процентов ещё какое-то время тому назад, сорок процентов людей пахали и были заняты чем-то, а сейчас — два!
Цифровая экономика — это экономика, основанная на искусственном интеллекте. Мы имеем доказательства того, что искусственный интеллект существует, потому что в 1996 году компьютер обыграл чемпиона мира по шахматам — это было полбеды, а вот пару лет назад чемпион мира по игре в го проиграл компьютеру и это уже красная черта. Это означает, что самообучающиеся системы овладели самыми сложными человеческими играми. То же самое с цифровыми технологиями — они сейчас пришли. Попробуйте вырвать гаджет у своих детей или внуков и вы увидите физическое страдание, которое они испытывают.
Скайнет — машина. И как у всякой машины, у неё есть выключатель.
Skynet’s a machine, and like all machines it has an off switch.