在允許自動(dòng)駕駛車輛大規(guī)模上路之前，技術(shù)實(shí)現(xiàn)并不是唯一需要克服的障礙。道德問題在相應(yīng)算法的開發(fā)中起著重要作用：軟件必須能夠處理不可預(yù)見的情況，并在即將發(fā)生的事故時(shí)做出必要的決定。TUM 的研究人員現(xiàn)在已經(jīng)開發(fā)了第一個(gè)道德算法來公平分配風(fēng)險(xiǎn)水平，而不是根據(jù)非此即彼的原則進(jìn)行作。

測(cè)試了大約 2,000 個(gè)涉及危急情況的場(chǎng)景，分布在歐洲、美國(guó)和中國(guó)等各種類型的街道和地區(qū)。發(fā)表在《自然機(jī)器智能》雜志上的研究工作是 TUM 汽車技術(shù)教席和 TUM 人工智能倫理研究所 （IEAI） 商業(yè)道德教席合作的共同成果。

TUM 汽車技術(shù)教席的科學(xué)家 Maximilian Geisslinger 解釋了這種方法：“到目前為止，自動(dòng)駕駛汽車在遇到道德決定時(shí)總是面臨非此即彼的選擇。但街道交通不一定能分為明確的、非黑即白的情況;更重要的是，還必須考慮介于兩者之間的無數(shù)灰色陰影。我們的算法權(quán)衡各種風(fēng)險(xiǎn)，并從數(shù)千種可能的行為中做出合乎道德的選擇——而且在幾分之一秒內(nèi)就完成了。

危急情況下的更多選擇

2020 年，專家小組代表歐盟委員會(huì)確定了軟件風(fēng)險(xiǎn)評(píng)估所依據(jù)的基本道德參數(shù)作為書面建議。該建議包括基本原則，例如優(yōu)先考慮最差的人以及在所有道路使用者之間公平分配風(fēng)險(xiǎn)。為了將這些規(guī)則轉(zhuǎn)化為數(shù)學(xué)計(jì)算，研究小組根據(jù)它們?cè)诮值澜煌ㄖ幸苿?dòng)的車輛和人員對(duì)它們對(duì)他人構(gòu)成的風(fēng)險(xiǎn)以及各自承擔(dān)風(fēng)險(xiǎn)的意愿進(jìn)行分類。

例如，卡車可能會(huì)對(duì)其他交通參與者造成嚴(yán)重?fù)p害，而在許多情況下，卡車本身只會(huì)受到輕微損壞。自行車的情況正好相反。在下一步中，算法被告知在各種相應(yīng)的街道情況下不要超過最大可接受風(fēng)險(xiǎn)。此外，研究小組在計(jì)算中添加了變量，這些變量說明了交通參與者的責(zé)任，例如遵守交通規(guī)則的責(zé)任。

以前的方法只用少量可能的機(jī)動(dòng)來處理街道上的危急情況;在不清楚的情況下，車輛只是停了下來。現(xiàn)在集成到研究人員代碼中的風(fēng)險(xiǎn)評(píng)估帶來了更多可能的自由度，同時(shí)降低了所有人的風(fēng)險(xiǎn)。一個(gè)例子將說明該方法：一輛自動(dòng)駕駛汽車想要超車一輛自行車，而一輛卡車正在迎面駛來。現(xiàn)在，有關(guān)周圍環(huán)境和各個(gè)參與者的所有現(xiàn)有數(shù)據(jù)都已得到利用。

是否可以在不在迎面而來的車道上行駛，同時(shí)與自行車保持安全距離的情況下超車？每輛車都面臨什么風(fēng)險(xiǎn)，這些車輛對(duì)自動(dòng)駕駛汽車本身構(gòu)成什么風(fēng)險(xiǎn)？在不清楚的情況下，配備新軟件的自動(dòng)駕駛汽車總是會(huì)等待，直到所有參與者的風(fēng)險(xiǎn)都可以接受。避免了激進(jìn)的機(jī)動(dòng)，同時(shí)自動(dòng)駕駛汽車不會(huì)簡(jiǎn)單地凍結(jié)并突然卡住剎車。Yes 和 No 無關(guān)緊要，取而代之的是包含大量選項(xiàng)的評(píng)估。

“僅僅考慮傳統(tǒng)倫理理論導(dǎo)致了一條死胡同”

“到目前為止，人們經(jīng)常考慮使用傳統(tǒng)的倫理理論來推導(dǎo)出自動(dòng)駕駛汽車做出的道德上允許的決定。這最終導(dǎo)致了一條死胡同，因?yàn)樵谠S多交通情況下，除了違反一項(xiàng)道德原則之外別無選擇，“TUM 商業(yè)道德主席科學(xué)家 Franziska Poszler 說。“相比之下，我們的框架將風(fēng)險(xiǎn)道德置于中心。這使我們能夠考慮概率，做出更具差異化的評(píng)估。

研究人員強(qiáng)調(diào)，即使是基于風(fēng)險(xiǎn)道德的算法——盡管它們可以在每一種可能的交通情況下根據(jù)基本道德原則做出決策——但它們?nèi)匀粺o法保證街道交通無事故。將來，還需要考慮進(jìn)一步的差異化，例如道德決策中的文化差異。

軟件現(xiàn)在將在街道交通中進(jìn)行測(cè)試

到目前為止，TUM 開發(fā)的算法已在仿真中得到驗(yàn)證。未來，該軟件將使用研究車輛 EDGAR 在街道上進(jìn)行測(cè)試。包含研究活動(dòng)結(jié)果的代碼以開源軟件的形式提供。因此，TUM 正在為開發(fā)可行且安全的自動(dòng)駕駛汽車做出貢獻(xiàn)。