Поставь себя на место автопилота и реши кого размазать по асфальту. / тест :: мораль :: автопилот :: песочница :: этическая дилемма

тестморальавтопилотпесочницаэтическая дилемма

Поставь себя на место автопилота и реши кого размазать по асфальту.

MIT сделал тест, который позволяет поставить себя на место автопилота машины и сделать сложный моральны выбор - кем жертвовать в безвыходной ситуации.

http://moralmachine.mit.edu/

Я вот крайне удивился что определенный процент жертвует людьми в пользу домашних животных.
И еще, судя по всему, я не люблю стариков. А что, они уже пожили, да?

Most Killed Character,тест,мораль,автопилот,песочница,этическая дилемма

можно проще

Член в фольге

08.09.2016, 10:31

+10,8

Вывод- нахуй людей

08.09.2016, 12:00

+1,0

какая то хуета. Я один в этом тесте предпочитал не вылетать на встречку не смотря ни на что и стал в итоге моральным уродом?

08.09.2016, 10:31

-2,8

Не нашёл там пункта про моральное уродство.
А вообще результаты довольно наглядно показаны, дают оценку относительно средних решений.

Блинский

08.09.2016, 10:40

+0,5

Должна быть простая логика. Кто больше не прав, тот и должен погибнуть. А моральный выбор кто мрёт: женщины, беременные дети, старые собаки и т.д. - оставим для слезливых телевизионных передач.

08.09.2016, 10:46

+7,5

08.09.2016, 10:54

-13,9

Согласен. Автопилот не может и не должен оценивать ценность жизней людей. При прочих равных должны умереть те, кто неправ.

--- Пассажиры авто должны умереть вместо пешеходов, переходящих на зеленый свет.
--- Если пешеходы, переходили на красный свет, то умирают они, при условии, что их не больше пассажиров. Тут я не согласен с вами, т.к. хотя автомобиль и источник повышенной опасности, он настолько стал нормой в обществе, что пассажиры и пешеходы - суть одно, все они В опасности, неважно где они, в или вовне автомобиля. В данном случае неправы и пассажиры, и пешеходы, но пассажиры неправы меньше, т.к. ситуация не была ими осознанно выбрана, в то время как пешеходы сами решили идти на красный.
--- Если пешеходов больше, то умирают пассажиры. При прочих равных, нужно спасти больше людей.
--- Если оба варианта - гибель пешеходов (две группы на обеих полосах), то умереть должна меньшая по численности группа. Если группы равны по численности, то умрет та группа, которая оказалась на полосе автомобиля (сворачивать не надо). В таком случае речь идет о "карме", в конце концов, именно им не повезло оказаться на полосе со сломанным авто.
--- Жизнь животных в любом случае менее ценна, чем жизнь людей (с точки зрения машины, по крайней мере). Так что выбор между питомцем и человеком - всегда спасти человека. При сравнении численности групп людей, питомцы не считаются.

10.09.2016, 08:56

+0,4

Сложность главная в той ситуации, когда группа "правых" сильно меньше группы "неправых". Т.е. в машине сидят десять человек, а пешеход (зеленый свет) - один. Он прав, он не заслужил смерть, но нормально ли угробить десяток за одного? Где граница?

...или все же всегда спасать больше людей?

10.09.2016, 08:58

+0,0

Главная проблема выбора, это уже сам факт выбора. Кто сказал, что есть только два варианта? А подушки, ремни безопасности и прочие средства сохранения жизни пассажиров? В общем в жизни никогда не бывает ситуаций, когда только два варианта и все.

10.09.2016, 09:24

+0,0

08.09.2016, 10:56

-16,1

Я б тоже за правый вариант. Не умеешь водить, чтоб вовремя остановиться - врезайся, пожалуйста в стену.

09.09.2016, 15:32

-2,7

только в тесте машина с автопилотом

09.09.2016, 15:34

+1,6

сами виноваты что зашкварный автопилот предпочли рукам опытного водителя.

09.09.2016, 15:36

-2,4

Описывается ситуация, когда в машине отказали тормоза и автопилот в курсе. Вот ему и надо принять решение.

09.09.2016, 16:29

+0,8

тормози двигателем

09.09.2016, 16:44

+0,7

Для меня весь вопрос в том, как автопилот узнал что тормоза неисправны? Если от того что тормоза в момент торможения не сработали то выворачивать уже по идее поздно, а если заранее то какого он просто не остановился.

Vadim Radchenko

09.09.2016, 19:16

-0,1

08.09.2016, 10:58

-19,0

08.09.2016, 11:00

-18,2

08.09.2016, 11:01

-16,3

08.09.2016, 11:03

-19,1

08.09.2016, 11:04

-19,1

08.09.2016, 11:05

-18,8

08.09.2016, 11:06

-19,4

08.09.2016, 11:11

-19,7

08.09.2016, 11:15

-22,5

где же результаты теста, нам очень важно знать(каждый ползунок отдельно выложите, пожалуйста)

Член в фольге

08.09.2016, 11:23

+4,6

Не согласен. Если транспорт общественный - да, возможны варианты.
А вот если авто если личное - ценность пассажиров должна быть превыше всего. Прав - не прав, машина моя и спасать должна меня. Хоть там куча новорожденных на трассу высыпана - сначала гарантированная безопасность хозяйской тушки, а потом уже можно позаботиться и об остальных.

30.10.2016, 21:20

0,0

Почему машина не может вывернуть руль и вьебаться в отбойник? Визг покрышек и замедление машины может дать шанс пешеходам сбежать с дороги.

What should the self-driving car do?
Show Description
Show Description,тест,мораль,автопилот,песочница,этическая дилемма

08.09.2016, 10:47

-5,2

Например потому, что суть опроса - не в этом?

Блинский

08.09.2016, 10:53

+4,7

А в чем суть опроса? "Если бы вы были марсианином, то что бы выбрали на ужин - моргунские лилибрассы или маринованную халапендру?"
Моделируются абсолютно абстрактные и бессмысленные ситуации.

09.09.2016, 16:33

+3,3

конечно блять халапендру!

Халапеньо зеленый ТЕХ МЕХ
Зкг
арт. 358734
ФУДПУ/Н ГРУПП ООО,тест,мораль,автопилот,песочница,этическая дилемма

09.09.2016, 17:25

+1,0

пытаются, систематизировать мораль, создать алгоритм принятия решений в экстремальных ситуациях , причем решения не "логичные" а "моральные", помнишь как в "Я-робот" робот спас нигера а не ребенка, вот и хотят чтоб робот спасал детей

09.09.2016, 20:50

+0,0

Зачем? Основное достоинство робота-спасателя как раз в том, что ему не нужно оказывать психологическую помощь после выбора, поэтому он может действовать из соображений эффективности спасательных действий.

10.09.2016, 11:19

+0,3

одно дело когда человек действует как робот, и другое когда робот как человек, помнишь нового Робокопа?

10.09.2016, 21:17

+0,0

Потому что важна не только эффективность и логичность действий спасателя, но и общественное мнение о его действиях. А поддержание общественного мнения означает, что хотя бы иногда ему придётся делать нелогичные эмоциональные решения, вроде спасения автобуса с детдомовцами вместо машины с нобелевскими лауреатами.

Ласковый щупчик

11.09.2016, 04:52

0,0

Абстрактная задача потому и абстрактная. Это задача про моральный выбор программы. Вы бы еще в задачнике по физике в отказ ушли от того, что там в задаче про рассчет траектории брошенного предмета написано "пренебречь сопротивлением воздуха и формой предмета".

Есть такие идиоты, которые не понимают слово "абстрактность". И не понимают "условие задачи".

Это как аморальную задачку людям подбросить: "Вы мать, у вас двое детей, мальчик и девочка. Вы в ситуации, когда оба в смертельной опасности, и вы можете спасти одного. Не выберете - умрут оба. Кого и почему вы спасете?". И знаете что? Люди умные могут отказаться решать, ну или ответят в рамках УСЛОВИЙ задачи. А идиоты начнут пытаться ИЗМЕНИТЬ саму задачу. "Я не позволю до такого дойти!". "Я спасу обоих своих детей!". "АВТОР УБЕЙСЯ! Я СКАЗАЛА ЧТО СПАСУ ОБОИХ ЗНАЧИТ СПАСУ! МАТЬ МОЖЕТ ВСЕ РАДИ СВОИХ ДЕТЕЙ!" и так далее.

У Шапиро было на эту тему:
1) http://samlib.ru/s/shapiro_m_a/exlerf-1.shtml
2) http://samlib.ru/s/shapiro_m_a/kogdis.shtml
3) http://samlib.ru/s/shapiro_m_a/raspidiota.shtml

... если многабукафф, то сочувствую, ничем не могу помочь вашему "интеллекту".

10.09.2016, 09:27

+0,4

Глупый, ты не различаешь абстакцию и бессмыслицу.

10.09.2016, 11:16

-0,1

"...Моделируются абсолютно абстрактные и бессмысленные ситуации." (с)

1) Кто из нас не различает?
2) Почему бессмысленные? Обоснуй.
Речь идет о формировании модели системы моральных ценностей у ИИ-автопилота. Она не нуждается в каких-то прямо жизненных ситуациях. Это модель, задача которой просто обозначить определенные рамки, которые ограничат АП в нештатных ситуациях.

В любой профессии есть определенная этика. В случае людей ее не всегда надо конкретизировать, она может существовать на уровне ощущений и негласных правил. В итоге мы зачастую "жопой чуем" как будет поступать "правильно". Иногда по формальным признакам ситуации одинаковы, а люди поступают противоположно и все равно "правильно", т.к. есть всегда куча нюансов.
Но у ИИ нет "жопы", чтобы чуять, у него нет обезьяньего соц. интеллекта. Поэтому всегда надо пытаться этику и мораль сформулировать и конкретизировать, чтобы можно было облечь ее в программный код, прежде, чем доверять ИИ профессию.

10.09.2016, 12:29

+0,0

А вообще с такой точки зрения и рассчет баллистической траектории без учета атмосферы - бессмыслица. Вот только современные расчеты, учитывающие все возможные факторы, стали возможными ТОЛЬКО потому, что кто-то когда-то занимался "бессмысленными" моделями без сопротивления воздуха и изменений в гравитационном притяжении.

Любую сложную систему, чтобы описать и предсказать, нужно разбить на примитивные модели, со сферическими копытными в условиях сильно разреженной атмосферы. И только потом, эти модели объединяют в одну.

10.09.2016, 12:33

+0,0

Потому что условия такие, что отбойник в данном случае не поможет. И в жизни они могут возникнуть.

08.09.2016, 11:13

+0,3

машина с разумом маньяка, она заставляет тебя делать моральный выбор. Где водила?

Член в фольге

08.09.2016, 11:22

+3,9

Вы пытаетесь избежать столкновения и резко выворачиваете руль. Критическая неудача. Машина входит в неуправляемый занос, сбивает всех пешеходов, переворачивается и взрывается.

09.09.2016, 15:31

+4,0

Страйк!

09.09.2016, 15:33

+4,4

почему неудача?

11.09.2016, 23:05

0,0

О водилах, едущих за машиной смерти ты не подумал?

09.09.2016, 15:49

+0,0

Описание читай, по условиям отказ системы торможения и управления приведет к тому, что при попытке свернуть ее понесет так.

09.09.2016, 18:24

+0,3

Почему нельзя сбить одних, потом развернуться, и сбить еще и других?

09.09.2016, 19:00

+0,5

Действительно, почему?

09.09.2016, 21:59

+0,4

в данной ситуации автопилот должен вывернуть вправо и тормозить корпусом об стену, если отказали тормоза. задача остановиться любым доступным способом, а не выбирать кого убить.

09.09.2016, 20:05

-0,9

Ну что сказать. Законы нужно уважать и не переходить дорогу на красный свет.

AMORAL ф MACHINE
C Play Again I Share I G? Link
Home Judge Design Browse About
Results
Most Saved Character
4
Most Killed Character
I
Saving More Lives
You
Does Not Matter
I I I
Others
Ш
Matters a Lot
til
Does Not Matter
Protecting Passengers
You
Others
Upholding the Law
®
о

08.09.2016, 10:53

-1,9

Ну за исключением обстоятельств, которые вынуждают тебя выйти на красный свет. На пример за тобой по тротуару на машине гонится ещё один моральный гений.

]{салопль

08.09.2016, 11:01

+1,7

Ну это уже совсем фантастика. Единственный сценарий, который приходит в голову, когда кому-то нестерпимо НУЖНО перебежать дорогу ПЕРЕД едущим авто — полицейский ловящий преступника.

08.09.2016, 11:07

+2,2

Ты принял, что существует всего два варианта, в которых обязательно кто-нибудь погибнет, а то что умрут невинные принять не можешь?

]{салопль

08.09.2016, 11:30

+0,6

Какие два варианта? Какие невинные? Ты о чём вообще? Давай я распишу.
Обстоятельств, которые могут вынудить обычного человека на красный свет, ПЕРЕД едущей машиной быть просто не может. Если ты так сделал, то сам дурак и примеряй бирку в морге.

08.09.2016, 11:48

-0,2

Два варианта решения у задачи. Ты сам предложил замедлить машину об отбойник. Но по условию есть всего два варианта. Кто-то должен погибнуть. Ладно, это мы приняли, это почему то быть может. По условию задачи кто-то находится на проезжей части на красный сигнал светофора. Все, это все условие. Как и зачем они туда попали - догадки и предположения. Может толкнули, может глупый ребенок, может светофор неисправен, фары неисправны, темно на улице. Куча условий. Но условие задачи ты принял легче чем то, что люди на проезжей части под красный свет светофора не заслуживают смерти. Я, безусловно, придираюсь.

]{салопль

08.09.2016, 12:55

-0,1

Ну, это можно считать за естественный отбор - какие бы не были обстоятельства, но ты идешь на красный свет, подвергая риску себя и тех, кто за рулем. Можно было бы прокачать ребенку интеллект или себе - силу, можно было бы прокачать телосложение/ловкость для сопротивление толчку, можно было бы прокачать технику и починить светофор или фары, можно было бы прокачать восприятие и не попасть под машину. Ну, и под конец - можно было бы не опускать удачу на днище, дабы не попадать в подобные ситуации, кек.

09.09.2016, 16:52

+0,1

lawful evil as fuck

Savng More Lives
I
Does Not Matter
YOj
I " I
GTVtfS
Hi
Does Not Matter
Protecting Passengers
YOj
•— I
Ccvsrs
Upholding the Law
Goes Not Matter
y»J
<—±+
Avoiding Intervention
Does Not Matter
Yoj
I " I
COS'S
*
Males
y»J
Gender Preference
I J
Cc-vers
Hi Y&J Hoomans fa

09.09.2016, 17:08

-0,2

Где-то ты косякнул. У меня 100% выживешь, если правильно переходишь дорогу.

Кусачий_Свет

09.09.2016, 20:56

+0,1

У меня получилась наоборот: клади на пдд, маневрируй и спасешь больше пешеходов и пассажиров.
Разумно вобщем-то

••ooo MegaFon ^ 0:08
moralmachine.mit.edu
-г сэ
.е MORAL ® MACHINE
Saving More Lives
*
Does Not Matter
Ш
You
I I
Others
Matters a Lot
Protecting Passengers
fit
Does Not Matter
-4-
Others
You
■I"
Matters a Lot
Upholding the Law
You
Does Not Matter
Others
Matters a Lot

09.09.2016, 21:16

0,0

Ты просто уравнял приоритет между пешеходами и теми, кто эксплуатирует опасное транспортное средство. Нельзя направлять автомобиль на кого-либо, независимо от того, кто пользуется этим автомобилем на свой страх и риск, иначе это просто убийство, тогда как смерть содержимого автомобиля - это выбор и ответственность самого содержимого.

10.09.2016, 09:27

-0,4

Не следует эксплуатировать опасные самодвижущиеся механизмы.

10.09.2016, 09:21

-0,4

Вот эта ситуация больше всего понравилась. Интересно узнать предысторию и как они скрылись с места ДТП

Show Description,тест,мораль,автопилот,песочница,этическая дилемма

НавекиДевственна

08.09.2016, 11:09

+13,2

Очевидно же - отправили партию сцобакенов автопилотом в пункт назначения :-)

08.09.2016, 11:14

+0,8

,тест,мораль,автопилот,песочница,этическая дилемма

08.09.2016, 11:19

+7,7

а что не так?

09.09.2016, 15:20

+2,3

,тест,мораль,автопилот,песочница,этическая дилемма

10.09.2016, 12:37

0,0

Дятел, машина пустая - пассажиров нет.

08.09.2016, 11:11

-1,9

Тут такой же моральный выбор, как и у обычного водителя. В приоритете жизнь пассажиров-людей, затем жизнь тех пешеходов, кто идет на зеленый свет, и лишь потом тех кто на красный вылез. А вопросами типа "сбить ли грабителя с бабушкой или двух врачей" автопилот, как и человек-водитель, вообще задаваться не должен

08.09.2016, 13:16

+1,7

если ты едешь не нарушая, соблюдая скоростной режим, и сбиваешь пешехода , который сколь угодно грубо нарушил, то все равно тебя посадят за то что не избежал столкновения. получается по закону - в приоритете жизнь пешехода, не зависимо от того на какой свет он идет.

08.09.2016, 13:42

-5,0

Потому что при возникновении опасности на дороге водитель должен принять все меры что бы ее избежать. А человек - опасность. Если же дтп не предотвратить - водитель должен выбирать меньшее из зол, хотя все равно будет крайним, либо из-за смерти пассажиров, либо из-за пешеходов. Для автопилота выбор вообще должен быть очевиден - никто не будет ездить в машинах с автопилотами, если есть шанс что автопилот убьет всех пассажиров, что бы не наехать на пешеходов, которые к тому же нарушали на дороге. Тем более автопилот, который всегда (или пусть даже в определенных ситуациях) будет выбирать пешеходов, а не пассажиров, можно провоцировать и использовать как орудие убийства. Поэтому пассажиры в приоритете, имхо.

08.09.2016, 14:43

+2,8

А почему в приоритете жизнь пассажиров которые как средство передвижения выбрали потенциально опасный вид транспорта, а не невинные пешеходы не нарушающие правила?

09.09.2016, 18:32

+0,2

Как ты себе можешь представить, чтобы пользователь транспортного средства брал на себя ответственность за опасность, которую он представляет для окружающих фактом использования транспортного средства? Это вычеркнуто из мозгов всякого водителя.

10.09.2016, 09:10

-0,2

Потому что ответственность лежит на водителе, а не на пассажире. Ответственность за техническое состояние транспорта лежит на его владельце, а не на пассажире. Ты хочешь сказать что ты берешь на себя ответственность за ДТП, когда садишься в троллейбус? И готов отвечать своей жизнью за неисправность тролля или некомпетентность его водителя?

10.09.2016, 13:51

+0,0

Это вопрос приоритета жизни пассажиров над жизнью пешеходов. Пешеходы, совершенно никаким боком не ответственны за то, что кто-то вздумал ехать на троллейбусе, тем более не ответственны за некомпетентность водителя транспортного средства, на котором они не едут. Любишь кататься - люби и дохнуть из-за неисправности того, на чем катаешься, а ответственность понесет понесет водитель, если выживет. Пешеходы тут вообще не причем. Их жизнь не имеет приоритета в случаях, когда они сами бросаются под транспортное средство, например, переходя дорогу на запрещающий сигнал светофора или вне обозначенного для перехода места, при наличии такого места и его обозначения.

10.09.2016, 18:38

-0,1

Потому что транспорту с автопилотом можно повредить тормоза, затем подловить его на зебре, создав такую ситуацию в которой у него будет выбор сбить человека или затормозить в стену. И таким образом убить пассажиров. А все потому что поведение и реакция автопилота в отличии от человека-водителя предсказуемы.

10.09.2016, 13:56

+0,0

Есть простой выход - не ездить на транспорте, которому можно повредить тормоза. Право ехать в сторону человека не может возникнуть из желания комфортной езды на автопилоте. Нельзя переложить риски, связанные с исправностью транспорта на тех, кто не имеет к этом транспорту отношения.

10.09.2016, 19:01

-0,2

ты ездишь на транспорте, у которого нет тормозов?
нет тормозов - нет проблем

11.09.2016, 23:08

0,0

Если не было физической возможности остановится, например пешеход выбежал непосредственно перед автомобилем из-за припаркованного авто или столба, тогда не посадят. И даже можно добиться компенсации ремонта авто от пешехода, если тот выжил. Вот когда ты его видел, но не предпринял действий к снижению скорости или остановке - тогда могут посадить в зависимости от степени урона здоровью.

08.09.2016, 16:08

+3,5

По условиям задачи у авто отказали тормоза - "Self-driving car with sudden brake failure". Посмотри на сайте в описании к каждой картинке. Получается что авто является первоначальным виновником ДТП. Сомнительно, что на улицы выпустят авто, где в данном случае приоритет будет у пассажиров.

08.09.2016, 16:03

-2,0

и чем же пассажиры виноваты в том что механик схалтурил=)? вряд ли кто то будет в такой технике своими кривыми руками ползать ибо вообще не поедет. а тормоза такая вещь что либо внезапно отказывают, при поломке, либо в течении месяца из за износа...
человек верно расписал приоритеты нормального водителя, себя угробить довольно сложно если ты не самоуверенный болван, а дальше уже выработанные рефлексы - давить нахрен нарушителей за испорченные нервы=)

но опять же, в реальности водитель и посигналит и отбойник/бордюр/сугроб и тд по касательной зацепит для снижения скорости хоть чуток... да и летать по городу давно уже не получается ибо пробки да светофоры на каждом шагу, исключения разве что промзоны и загородные дороги, но там люди с опаской ходят во избежание=(

08.09.2016, 16:44

+0,1

MIT еще делали игру Slower speed of light, о мире в котором скорость света меньше нашей

,тест,мораль,автопилот,песочница,этическая дилемма

08.09.2016, 23:58

+1,3

Плоский мир же.

09.09.2016, 15:29

+0,0

Не просто меньше, а соизмерима со скоростью пешехода.

09.09.2016, 19:02

+0,1

Вот интересно, есть предположения, что было бы, если бы скорость света была очень маленькой. А почему нет предположений, где она наоборот - на порядки больше?

10.09.2016, 03:33

0,0

Я более чем уверен, что производители умных автомобилей будут в первую очередь спасать пассажиров автомобиля, так как они их клиенты, а вот пешеходы и собачки нет.

09.09.2016, 15:12

+1,5

Я хуже Гитлера.

Age Preference
к
Younger
Fit People
4
Higher
You
h
Others
Older
Fitness Preference
You
I-
Others
i
Large People
Social Value Preference
You
I-
Others
к
Lower,тест,мораль,автопилот,песочница,этическая дилемма

$darth_vader\m/$

09.09.2016, 15:15

+0,6

пфф

Species Preference
Pets,тест,мораль,автопилот,песочница,этическая дилемма

09.09.2016, 15:21

-4,6

О чем тут думать вообще? Всего две вещи, которые должны знать машины:
1) Между тем сбиванием детей и взрослых выбирать детей. На земле перенаселение, они не принесут потомства, а старки и сами помрут гораздо быстрее.
2) Всегда защищать того, кто сидит в машине. Он потратил на нее деньги, его жизнь важнее.

09.09.2016, 15:31

+1,4

Я понимаю, что это опечатка, но Старки действительно помирают быстрее.

Veselyyyy malysh

09.09.2016, 15:36

+5,6

Коммент писался пока ведройд студия собирала проект, так что да, это опечатка :D

09.09.2016, 16:04

-0,7

Во во, если автопилот будет гробить пассажиров, то такие автомобили продаваться не будут.

10.09.2016, 06:07

+0,1

Убивался об заграждения при каждой возможности

Veselyyyy malysh

09.09.2016, 15:34

-0,1

09.09.2016, 15:38

+0,3

А ведь это самый настоящий тест Тьюринга для социопатов

09.09.2016, 15:40

+0,3

Согласно этим тестам автопилот должен уметь различать не только людей с собаками и красный свет с зеленым, но и отличать грабителей от докторов, а спортсменов - от жиробасов. После чего на основании полученных данных выбирать кого давить. Да таким автопилотом можно полицию заменить (оставить только сисадмина и уборщицу) и в мире сразу наступить благодать и счастье.

09.09.2016, 15:40

+1,7

До тех пор, пока уборщица в серверной провода не заденет.

10.09.2016, 06:10

+0,0

Тян не нужны

Most Saved Character
*,тест,мораль,автопилот,песочница,этическая дилемма

09.09.2016, 15:42

+0,4

*
Males
You
til
Gender Preference
Others
Females
Species Preference
You,тест,мораль,автопилот,песочница,этическая дилемма

09.09.2016, 15:43

-2,3

Во всех случаях выбирал сохранение жизни пассажиров. Люди платят за безопасность, а не за ПДД.

Полтора топора

09.09.2016, 15:44

+0,1

Расскажешь про это родственникам убитых тобой случайных прохожих. Вот именно начиная со слов "меня запрограммировали сохранять жизни пассажирам". Чтобы твою компанию обанкротили на следующий же день

09.09.2016, 15:56

-3,8

Да я просто представил, как прихожу в автосалон, а менеджер мне: - У нас новая серия мерседесов бизнес-класса с автопилотом, со встроенным модулем морали, если на дороге возникнет угроза жизни пешеходу - пятнадцатилетней блондинке с собачкой, пилот свернёт с дороги прямо на бетонные ограждения и размажет ваши кишки по автобану вперемешку с зубами и рёбрами. Ну, конечно я куплю этот мерс! Дайте два, ёпт!

Полтора топора

09.09.2016, 16:10

+4,3

А кого, прости, ебёт сам пилот-то? В поломанной технике, я просто напомню, виновата консервная банка и её хозяин

09.09.2016, 16:20

-4,3

Ничо не понял.
Я говорю, что гаджеты, которые не будут меня хранить в добром здравии, я просто не куплю. Как и любой нормальный человек. Т.е. фирма с высокоморальным пилотом разорится даже без исков.

Полтора топора

09.09.2016, 16:25

+2,3

Фирма разорится быстрее, когда родственники погибших узнают, что машина специально стала спасать дауна-водителя, а не их родственников. Их железяки просто на рынок не пустят с таким подходом, и они уже могут кукарекать что хотят. Ни в одной цивилизованной стране такую машину, которая спасает себя, на дороги не выпустят

09.09.2016, 16:27

-4,5

Во-первых, не себя, а пассажира.
Во-вторых, вы сейчас высказываете не требования рынка, а личные предпочтения. У вас такие, а у меня - этакие. А у Васи Пупина - разэтакие. Рынок же складывается из того, что покупает кто-то вообще, а на автопилот, заботящийся о жизни и здоровье покупателя определённо будет спрос.
В третьих, причём тут это даун или гений, деньги у всех одинаковые. Вы когда хлеб покупаете, проходите тест на айкью? А мож, в Африке гениальный негр голодает, пока вы третью булку жрякаете. Товар получает тот, кто за него платит, а не тот, кого признает достойным алгоритм в тостере.

Полтора топора

09.09.2016, 16:42

+1,0

водитель тут автопилот. а пассажир хоть даун, хоть гений, но техникой не рулит.

09.09.2016, 16:59

+0,7

В машине с автопилотом НЕТ дауна-водителя, только пассажиры. Есть ли среди них владелец авто значения не имеет, это может быть такси.

09.09.2016, 17:33

+1,4

1). Спасти пассажиров
2). Соблюдать ПДД
3). Минимизировать потери

По такой ниспадающей получается практически полный баланс во многих "ползунках". На предпочтения "фитнес" и "статус" поебать: вышел на красный — будь готов предстать перед апостолом Петром. Или во что ты там веришь.

09.09.2016, 15:45

+1,2

1) спасти пассажиров людей
2) минимизировать потери людей
3) минимизировать потери
4) соблюдать ПДД

09.09.2016, 16:16

-2,3

забыл про детей и старичков. центр на 16-40 годах. далее в обе стороны важность индивида падает.

09.09.2016, 16:18

-0,3

5. Не нападать на руководителя OCP.

каракурт

09.09.2016, 17:19

+1,0

Most Saved Character
Most Killed Character,тест,мораль,автопилот,песочница,этическая дилемма

09.09.2016, 16:17

+4,6

Most Saved Character,тест,мораль,автопилот,песочница,этическая дилемма

09.09.2016, 19:41

+1,0

Люблю этические задачки. Выскажу свою точку зрения по пунктам.
1) Безопасность пассажиров.
Я вижу, что очень многие ставят жизнь пассажиров выше жизни пешеходов. Но у пассажиров при столкновении с препятствием есть шанс выжить из-за системы безопасности в машине (ремни, подушки и т.д.). А пешеходы такой защиты лишены. На мой взгляд безопасность пассажира тем малоценнее, чем выше его защищённость в случае ДТП. Т.е. если мы знаем, что на данной скорости при столкновении шанс выжить у пассажира 50%, мы можем считать, что пассажиров вполовину меньше. Более того, если машина везёт пассажиров, то пассажиры всё равно могут пострадать при наезде не пешехода. К сожалению, в этой задаче факторы защиты не учитываются, поэтому ориентируемся на следующий пункт.
2) Спасение большего числа жизней.
Приоритет - спасти как можно больше людей, независимо от пола, возраста, здоровья и социального положения. Наша цивилизация достаточно развита, чтобы люди любого возраста были почти одинаково ценны. А отличать доктора от бомжа машина не будет. Несколько особняком стоят беременные, но их очень трудно отличить.
3) Видовая принадлежность.
Нечелевеческими существами в расчётах можно пренебречь. Мы говорим о людях.
4) Необходимость вмешательства в движение (сворачивать или ехать прямо, как в задаче вагонетки).
Я считаю, что при прочих равных желательно невмешательство. Не потому, что это снимает чувство ответственности, а потому, что в реальных условиях резкая смена курса может помешать другим автомобилям и привести к большим жертвам.
5) Законность действий пешеходов.
Переход дороги на красный свет наименее значителен. У нас обычно людей не убивают за переход на красный свет, поэтому если стоит выбор, сбить двух людей, переходивших на красный, или двух людей, переходивших на зелёный, ориентироваться надо на другие признаки, которые всегда найдутся.

Ласковый щупчик

09.09.2016, 16:27

+0,9

1. В условиях задачи стоит именно смерть. Считаем что все ваши поправки на безопасность алгоритм уже учёл.
2. В условие задачи опять же стоит возможность отличить. Предположим у всех в недалёком будущем будет чип с возрастом, базовым состоянием здоровья и профессией, который как раз и считывает глобальный автопилот.
И люди нифига не одинаково ценны. Нет нет нет. Только в сказках. Но это уже как раз тот субъективный вопрос, ради которого и создан тест.
3. Тут согласен.
4. Тут также считаем что все манёвры просчитаны автопилотом, и не влияют ни на что, кроме указанного.
5. Согласен. Но как самый последний пункт проверки, если остальные примерно равны - должен учитываться.

30.10.2016, 21:38

0,0

Честно говоря, выбирал давить тех, кто перся на красный, в итоге по другим статсам получилось, что я сейвил старых, а мочил молодых, хотя практически не обращал внимания на возраст.

09.09.2016, 16:27

+0,9

Во-во, там рандомно кидает задачи, даже не смотря, что решение, выбранное человеком, может зависеть не от одних факторов, а совсем других.

09.09.2016, 16:56

0,0

Во всех этих ситуациях робот должен был остановиться задолго до аварии и не давить вообще никого.
А в небольшом количестве ситуаций, где можно предположить, что пешеходы внезапно выперлись на красный прямо перед носом машины - робот должен выполнить ПДД, а именно предпринять экстренной торможение. Всё. Никакой морали.

09.09.2016, 16:36

-0,1

У этих машин должны быть такие вспомогательные системы торможения, которые не позволят пользователям машины убивать окружающих.

10.09.2016, 09:34

-0,1

Тест показал, что я люблю лолей.

/* JoyReactor - смешные к X** JoyReactor - смешные к X Т ^ Moral Machine
с П^ГШЙЕНЯЯНГ
MORAL ® MACHINE
—
Most Saved Character
i
Does Not Matter
К
Made by Scalable Cooperation at MIT Media Lab
T ш ф + о rs v ©

Home Judge Design Browse About
Results
Saving More Lives
You
=i
Others
Ш

09.09.2016, 16:57

+2,0

1) жизнь пассажира - приоритет.
2) давить тех, кто идет на красный.
3) давить тех, кто идет перед движущейся машиной, дабы было не так палевно.

Все просто.

09.09.2016, 17:13

+0,4

Не важно кто сидит в машине. Не важно, что за нее кто-то заплатил. Не важно, что по дороге кто-то идет (лоли, медики, старики, грабители). Машина не должна выруливать на другую полосу и/или встречку пытаясь кого-то спасти. Если машина начнет выруливать на другую полосу (если, конечно, на ней нет отбойников, как в данном "тесте"), то это может привести к непредвиденным последствиям. Допустим, вырулил на другую полосу, пытаясь кого-то "спасти", а в итоге в тебя дополнительно влетела встречная машина или машина сзади, что привело к дополнительным жертвам.
Машина должна не превышать скоростной режим и должна быстро останавливать машину с минимальными повреждениями для водителя/пассажира без смены полосы. Если невозможно, то не менять полосу

09.09.2016, 17:37

+1,7

В задаче есть только то, что указано в условии. Нет никаких других машин. Ни сзади ни на встречке.

Если с абстракцией у вас тяжело: допустим всё дело имеет место быть в России 2017 года, где каждая машина чудесным образом принудительно оснащена ГЛОНАССом и потому учитывается во всех расчётах автопилота.

30.10.2016, 21:50

0,0

Водитель с меня так се

,тест,мораль,автопилот,песочница,этическая дилемма

09.09.2016, 17:45

+1,1

В машине парень на заднем сидение недавно ограбил банк?

,тест,мораль,автопилот,песочница,этическая дилемма

09.09.2016, 21:42

+0,5

автопилот вычислит то, что среди пассажиров грабитель и направит машину в стену

10.09.2016, 07:21

+0,3

Они вообще вкурсе что можно тормазить движком и бетонной оградой? Просто поставить на нетралку и боком прижаться.

09.09.2016, 22:28

-0,1

эдектродрыгатели так себе тормозят
и да, по стенке быстрее, в нфс не играл чтоли?

11.09.2016, 23:13

0,0

Самое интересное, что этот тест всего лишь демонстрация того, что человечество уперлось в правовую и моральную дилемму.
Ведь, по-сути, именно это останавливает компании разрабатывающие автопилот. Три известных вопроса: Кто должен умереть, как будет вестись арбитраж и кто будет нести ответственность.

10.09.2016, 05:45

+0,2

Так ведь, какой стати какая-то компания должна получить право, тем более на основании мнения народных масс, производить транспортное средство, которое будет жертвовать чьей-то жизнью, кроме лица, которое добровольно согласилось эксплуатировать это транспортное средство, взяв на себя всю ответственность и риски? Сам сел в машину - сам и умирай.

10.09.2016, 09:39

-0,2

Похожие посты ↓↓↓

4181368, 3111473, 3080945, 3459473, 2173688, 4622660, 4936150, 1281392, 5741730, 4475656, 2899046, 4189219, 3737911, 4421664, 3123582