Day 100: Whom Should the Car Save?

Dialogue

♪ Audio for this lesson is coming soon. For now, read the dialogue and its translation.

Keys: E hide English · ← → previous / next day

1. 1
   A

   Коллеги, классическая дилемма вагонетки в современной упаковке. Беспилотный автомобиль теряет тормоза: не свернёт, погибнут пятеро пешеходов, свернёт в стену, погибнет его единственный пассажир.

   Colleagues, the classic trolley dilemma in modern packaging. A self-driving car loses its brakes: if it doesn't swerve, five pedestrians die; if it swerves into a wall, its only passenger dies.

   Line 1
2. 2
   B

   Тут, по-моему, и думать нечего: пятеро больше одного. Алгоритм должен минимизировать число жертв, это чистая арифметика.

   I don't think there's anything to think about: five is more than one. The algorithm should minimise the number of victims, it's pure arithmetic.

   Line 2
3. 3
   C

   Арифметика? А ты бы сел в машину, которая заранее решила, что в случае чего пожертвует тобой? Да такую никто не купит.

   Arithmetic? Would you get into a car that has decided in advance that, if it comes to it, it will sacrifice you? Nobody would ever buy one.

   Line 3
4. 4
   B

   Сел бы, если бы такими были все машины. Иначе выйдет, что богатый покупает себе право давить пешеходов.

   I would, if all cars were like that. Otherwise it turns out that the rich buy themselves the right to run pedestrians over.

   Line 4
5. 5
   A

   Любопытно. Вы, Кирилл, рассуждаете как последовательный утилитарист: благо большинства превыше всего. А вы, Матвей, что противопоставите?

   Interesting. You, Kirill, reason like a consistent utilitarian: the good of the majority above all. And you, Matvei, what will you set against that?

   Line 5
6. 6
   C

   Достоевского, Сергей Владимирович. Иван Карамазов отказывался от всей мировой гармонии, если за неё заплачено слезинкой хотя бы одного замученного ребёнка.

   Dostoevsky, Sergei Vladimirovich. Ivan Karamazov turned down the whole of world harmony if it was paid for with the tear of even one tormented child.

   Line 6
7. 7
   B

   При чём тут Карамазов? У него метафизика, а у нас инженерная задача с конечным числом переменных.

   What's Karamazov got to do with it? He's got metaphysics, and we've got an engineering problem with a finite number of variables.

   Line 7
8. 8
   C

   При том, что, как только ты пишешь в коде «пожертвовать одним», человек становится переменной. Раньше это решал водитель за долю секунды, а теперь программист, заранее и хладнокровно.

   It's got to do with the fact that the moment you write "sacrifice one" in the code, a person becomes a variable. Before, a driver decided it in a split second, and now a programmer does, in advance and in cold blood.

   Line 8
9. 9
   A

   Вот мы и подошли к главному. Кто же, по-вашему, несёт ответственность: инженер, написавший алгоритм, производитель или пассажир, нажавший кнопку «поехали»?

   Now we've come to the heart of it. Who, in your view, bears responsibility: the engineer who wrote the algorithm, the manufacturer, or the passenger who pressed "go"?

   Line 9
10. 10
    B

    Производитель, разумеется. Хотя, честно говоря, я бы не хотел быть тем инженером, которому поручат написать эту строчку.

    The manufacturer, of course. Although, to be honest, I wouldn't want to be the engineer who's told to write that line.

    Line 10
11. 11
    C

    Вот видишь, мораль не выключается, даже когда включается автопилот. Твоя арифметика кончилась ровно там, где под ней надо подписаться своим именем.

    There you go, morality doesn't switch off when the autopilot switches on. Your arithmetic ran out exactly where you'd have to sign your own name under it.

    Line 11
12. 12
    A

    Прекрасно, на этом и остановимся. К следующему семинару прошу обоих написать эссе с позиции оппонента: Кирилл защищает слезинку, а Матвей арифметику.

    Excellent, let's stop there. For the next seminar I'd like you both to write an essay from your opponent's position: Kirill defends the tear, and Matvei the arithmetic.

    Line 12