如果一輛無人駕駛車被設(shè)定為傾向于殺死本車乘客，你還愿意坐這輛車嗎？

近日，意大利博洛尼亞大學(xué)的團(tuán)隊開發(fā)了一個名為“道德表盤”的裝置，可以讓無人車的車主選擇自己的汽車道德設(shè)置：你可以設(shè)定為犧牲自己保全他人，也可以設(shè)定為自己的生命優(yōu)先。

無人車如何應(yīng)對道德困境，這是無人駕駛面臨的主要問題之一。當(dāng)人類駕駛汽車時，本能就是對我們對危險的反應(yīng)。當(dāng)致命的事故發(fā)生時，通常不會有什么責(zé)任糾紛。

但如果汽車要自動駕駛，汽車就不能依賴司機(jī)的本能，而必須依靠代碼。這時候就很糟糕了。是誰應(yīng)該為事故負(fù)責(zé)呢？軟件工程師、制造商還是車主？

人們對這個問題的態(tài)度也很復(fù)雜。2015年的一項(xiàng)研究發(fā)現(xiàn)，大多數(shù)人認(rèn)為無人駕駛的汽車應(yīng)該是功利主義的，應(yīng)該盡量減少總體危害的數(shù)量，這可能意味著在某些情況下犧牲自己的乘客。但是，雖然人們原則上同意這一點(diǎn)，但他們也表示，他們決不會乘坐準(zhǔn)備殺死他們的汽車。

“充分利他”

意大利博洛尼亞大學(xué)的Guiseppe Contissa博士說：“我們想探討，如果將控制權(quán)和汽車行為的責(zé)任歸咎于車主，會發(fā)生什么事情。他同時也提出了一個解決方案。

該團(tuán)隊設(shè)計了一個表盤，可以將汽車設(shè)置為從“完全利他主義”到“完全自我主義”中的任意道德維度，表盤的最中間則是“完全中立”。他們認(rèn)為，這種的道德手段不僅適用于無人車，也適用于自動化程度越來越高的所有領(lǐng)域。

Contissa說：“這個旋鈕可以讓無人車擁有車主本人的道德判斷。汽車將利用這些信息來計算它將執(zhí)行的行動，充分考慮事故發(fā)生時乘客或他人受到傷害的可能性。”

公地悲劇

但這個想法有問題。麻省理工學(xué)院媒體實(shí)驗(yàn)室的首席研究員埃德蒙·阿瓦德（Edmond Awad）說：“如果人們對汽車所造成的相對風(fēng)險進(jìn)行過多的控制，我們可能會遇到公地悲劇(Tragedy of the commons)，即每個人都選擇極端的自我保護(hù)模式。

另一個擔(dān)心是人們可能不愿承擔(dān)道德責(zé)任，因此根本不會有人愿意動那個表盤。如果每個人都選擇“完全中立”，道德表盤就不會對現(xiàn)有的困境有所幫助。

Awad說：“現(xiàn)在判定這個方案是好是壞還為時太早?！钡硎?，新的想法總是好的。

期刊參考：Artificial Intelligence and Law