– Определение «некорректная реализация».
– Некорректная реализация – осуществление конечной цели через пагубные методы, непредвиденные человеком-программистом.
– Например, убийство шести с половиной миллиардов людей, чтобы избежать перенаселения. Цель – это не всё, Али. Как ты достигаешь её тоже важно. Прости, что не научила тебя этому.
– Define «perverse instantiation».
– Perverse instantiation… the implementation of a benign final goal through deleterious methods unforeseen by a human programmer.
– Like killing 6.5 billion people to solve overpopulation. The goal isn’t everything, A.L.I.E. How you reach the goal matters, too. I’m sorry that I didn’t teach you that.
3
16