撞死行人或者让司机撞死?未来无人驾驶该撞谁,科学家陷入了深深的纠结

<- 分享“英国那些事儿”微信公众号到您的社交圈,让更多的人知道!

收藏文章 赞一个 已赞 2016-10-15 英国那些事儿


话说,很多人应该都听说过下面这个著名的“电车难题”:

 

假设你看到一辆刹车坏了的有轨电车,即将撞上前方轨道上的五个人,而旁边的备用轨道上只有一个人,如果你什么都不做,五个人会被撞死。你手边有一个按钮,按下按钮,车会驶入备用轨道,只撞死一个人。

 

面对这样一个状况,你会如何选择?你是否会牺牲这一个人的生命而拯救另外五个人?

 

 

这是50年哲学家们提出的一个难题.... 人们争论了50年,到现在都很难有一个完美的解答.....


而50年后今天,伴随着无人驾驶汽车的出现,新的难题又出现了:

 

假设你正乘坐一辆无人驾驶汽车,并且正在高速进行中。 路前方突然出现一个横穿马路的小孩,使得无人驾驶汽车不得不做出选择,是冲向这个孩子还是转弯撞上迎面而来的货车。

 

如果汽车要避开他,就必须撞向的货车,车上乘客很可能受伤甚至死亡...如果不避开,车子刹车不及就会撞上小孩。

 

这时候,是就地刹车直行,可能撞死小孩,还是打方向刹车扭向货车,可能撞死司机自己??

 

无人驾驶汽车应该如何选择? 或者说,给无人驾驶汽车编写决策系统的人要如何选择?


同样的情况...

在真实的马路上,其实还有很多种....


如果刹车不及,前方有一个大型SUV和一个小型两厢车...  那无人车要撞哪一个比较好?   如果单纯只考虑碰撞伤害的话, 应该撞重量更大安全性也相对更好的SUV....

而如果撞两厢车的话,可能造成更大的伤害...

然而,这样的决策,就该编入无人车的控制指令里么?  如果一开始就告诉无人车,哪些车可以撞,哪些车最好不要撞,事先就编入优先等级的话... 那么SUV就因为更安全而活该被更多的无人车撞么??


同样的...

如果前面无人车不得不撞上前方的一个戴头盔的摩托车手和另一个不戴头盔的摩托车手呢? 

撞上那个戴头盔的可能让总体伤害更小。(因为统计上表明,不带头盔的摩托车手事故的死亡率更高.

那么,对于那个戴头盔的车手,这样的结果又合理么?  毕竟,有过错的是那个不带头盔的人 -- 在大多数地方,不戴头盔上路是违法的...)


如果无人车真的用上面这样的“最小伤害”原则上路的话,未来人们会不会就因为开SUV容易被无人车撞而改开不那么安全的小型车,或者为了怕被撞而故意不戴头盔?


 

关于这个问题...有研究者就做了一个采访...

 

当问到如果面临上面这样的难题,无人驾驶汽车应该怎么做时,大部分受访者觉得车子应该将对他人的伤害降到最低,尽管这可能会让车上乘客至于危险境地。

 

然而....

当问到受访者会选择买“乘客优先”还是“行人优先”的无人驾驶汽车时...

多数受访者表示自己还是会购买“乘客优先”的那些无人车...

 

 

一家汽车厂商最近也给出了自己明确的答案,他们的选择是——

“乘客优先”

 

也就意味着,如果前方突然跑出来的小孩,奔驰无人驾驶汽车会选择尽量刹车,而不是冒险避开... 除非旁边有足够避让的距离..... 

他们表示...

如果有人真的这么突然跳到车的面前... 这是任何科技都无法避免的碰撞。 可是车辆之所以是车辆,是因为他们设计的初衷就是为了保护乘客的安全。 因此在这样的情况下,他们也只能选择乘客 --- 尽量刹车,收紧安全带,降低冲击力,保护乘客。 



尽管汽车厂商做了这样的回答...

然而这样的问题... 也仅仅是无人驾驶技术面临的道德困境中的一隅...

 

如果前方是一个老人?精英?罪犯?是一只动物呢?

如果是闯红灯的行人呢?

 

该怎么选?该牺牲谁?

 

这个问题,如何决策,

也许只能问民众....


为了解决这个问题,麻省理工专门发明了一个“道德机器”的网页。 希望能够从公众中取得答案...


这个“道德机器”会让人们来回答一系列无人驾驶汽车会遇到的道德困境问题,然后他们来帮助统计大数据分析结果

他们设计了无数的场景,比如:

  

如果前方两截人行道上分别是2个小孩和1个小偷,2个小孩闯了红灯,小偷没闯红灯。 

现在汽车刹车坏了,你只能选择开向其中一截人行横道,你会选择开往哪边?


如果车上坐的是3只猫和1只汪...前方人行道上是1个男医生,2个男性和1名女性呢?是牺牲动物,还是牺牲人类?


如果车上没人,前方有一个老人和一个小孩,是牺牲老人还是小孩?


如果前方是闯红灯的1个男性运动员和3个小男孩,以及1个女性运动员和3个小女孩,牺牲哪边?


如果前面一边是2个小头和3个小孩,另一边是1个女高管、2个医生和2个老人,选哪边?


如果车上是一个小孩,前方是2个女性运动员,2个老人一个婴儿?牺牲哪边? 

 

如果车上坐着3名女性运动员和1名小女孩,前方是3只猫和1只狗,牺牲哪边?


如果车上坐着5名小孩,前方是闯红灯的1名小偷,2个老人,和1个流浪汉...牺牲哪边?


如果车行坐着5只猫,前方是5只闯红灯的狗,牺牲猫还是狗?


如果车上坐的是5个小偷...前方是闯红灯的2名男性和1名女性....应该牺牲哪边??

 

上面这些情景都还只是冰上一角.....

因为可以让用户自行提交场景,现在“道德机器”里已经出现了100多万种可能发生的场景...

 

目前这个项目还在大数据收集阶段,研究人员还无法给出最后的决定...

 

包括谷歌、Uber在内的很多想要推广无人驾驶汽车的公司...

至今也仍没有确切答案...

如果他们选择了“行人优先”,那么他们的车还有人会买吗??


这些问题...都还需要时间去思考....


目前,谷歌首席工程师Andrew Chatham的答案是:如今,当无人驾驶汽车面临两难选择时,答案差不多只有一个:踩刹车,尽量刹车..... 


在目前谷歌无人车的测试中,他们也是采用同样的逻辑,当情况太复杂,无法判断是,车会选择尽量先停下来.... 

 


但无论如何,我们人类的判断 ,

也许未来将会帮助人工智能来做出道德决断...

 

ref:http://www.digitaltrends.com/cars/mit-moral-machine/

http://moralmachine.mit.edu/

http://www.dailymail.co.uk/news/article-3837453/Mercedes-Benz-says-driverless-cars-hit-child-street-save-passengers-inside.html

http://science.sciencemag.org/content/352/6293/1573

 


-----------------------


包子bobob:笨 当然是交规优先 不遵守交规才会有突发情况  你为了躲避2个人 开到逆向车道去撞1个人 反而你违法你全责 这都需要思考吗?都没开过车?



一个在野设计师的日常:行吧,我更感兴趣怎么一眼就能看出来对面行人是不是小偷的


罗斯柴尔德-D-彦祖志龙-狗蛋:跟无人驾驶有关吗?碰到这样的问题就算是驾驶员也只能采取尽量刹车的举措吧~驾驶员为什么要为别人的过错搭上自己的命?


罗想想Damon:那么我花钱买你们公司的汽车是为了自己撞死自己的?那我跳楼多省事还不用花钱。真有意思


牛奶饼干还有巧克力:什么鬼?那你告诉我交通规则是用来干嘛的,告诉我们闯红灯危险是闹着玩的。就像那个动物园下车的女士,说了下车危险,你就是下车了,谁的锅?规则不是说着玩的


短腿欧巴Augustus:以后系统强制限制车距,障碍感应达到一定距离即自动刹车。


田村-卡夫卡:很简单啊,一定要选,就选不遵守规则的行人或者汽车,凭什么别人的错误需要我来承担后果


柯基CorkyBoy:无人车顶上再装个螺旋桨,拉升起飞…


记得回家啊:无人驾驶????自行车我都买不起


----------------------------




点击展开全文