自動駕駛汽車監管政策有待出台

過去五年裡，瑞士的幾個城市和運輸公司已經在固定路線上試驗了無人駕駛汽車。 © Keystone / Urs Flueeler

隨著汽車的自動駕駛功能日趨完善，自動駕駛汽車解釋駕駛行為的能力需要達到何種程度？一個聯合國機構正在向社會大眾提出一系列問題，希望能夠找到這些問題的答案。

阅读本文简体字版本请 点击这里

如果有一天，一輛無人駕駛汽車在沒有目擊者的偏遠地區撞上了一位過馬路的孩子，接下來會發生什麼呢？汽車能否檢測到發生了碰撞？是否會停下來並呼叫急救人員？能否解釋剛才發生了什麼？更確切地說，人工智慧駕駛系統能否紀錄起自身做出了哪些決定，導致汽車撞上行人？

這些都是在“莫莉問題”(Molly Problem)這項線上調查中向社會大眾提出的問題。

總部位於日內瓦的國際電信聯盟(ITU)成立了人工智慧自動駕駛和輔助駕駛調查小組，組長佈林·巴爾科姆(Bryn Balcombe)表示：“‘莫莉問題’是我們設計的一個思想實驗，旨在讓人們集中注意力分辨重要資訊。在人工智慧技術系統中，這項實驗能用於了解人工智慧系統的自我解釋能力需要達到何種水平，才能證明自己的清白，同時記錄發生的事情。”

不出所料，調查的初步結果顯示，人們認為無人駕駛汽車不會發生肇事逃逸。受訪者明確地認為，人工智慧駕駛系統應該能記錄足夠的數據來解釋所發生的事情。事實上，大多數人認為還應該收集未遂事故中的行車資料。

巴爾科姆領導的調查小組包括近350名國際參與者，分別來自汽車行業、電信機構、大學和監管機構。他們正在起草一項國際技術標準提案，由國際電信聯盟編制成建議書，用於監測自動駕駛車輛的道路行為。 “莫利問題”正是這項工作的一部分。

這個國際電信聯盟調查小組探討了當前自動駕駛車輛標準和法規的缺失。巴爾科姆說：“現實情況是，該行業缺乏行人碰撞檢測方面的標準。沒有具體的法規來解決未遂事故的識別和資料記錄問題。”巴爾科姆也是自動駕駛汽車錦標賽Roborace的首席戰略官。

瑞士的最高行政機構聯邦委員會去年進行了磋商，相關討論應該能為道路交通法的修訂提供指導。修訂後的道路交通法將允許聯邦委員會通過無需議會批准的條例，將此法的適用範圍擴大至自動駕駛汽車。隨著自動駕駛汽車變得越來越普及，此次修訂將使道路交通法具有更加靈活的適用範圍。

聯合國歐洲經濟委員會(UNECE)的下設機構負責更新自動駕駛汽車領域的國際法規和技術要求，該調查小組草擬的標準旨在支持這方面的工作。

巴爾科姆問道：“你如何才能把世界各國政府一致同意的原則轉化人工智慧和數位領域的標準呢？”

該小組將於明年初向國際電信聯盟提交提案，屆時國際電信聯盟將決定是否將其編制為建議書，供監管機構參考。

人工智慧造福人類

2019年，國際電信聯盟召開“人工智慧造福人類”(AI for Good)全球高峰會。在聽過會議內容後，該小組決定採取行動確保自動駕駛汽車的道路安全性。每年有一百多萬人死於道路交通事故。十起道路死亡事故中有九起發生在中低收入國家。

國際電信聯盟戰略合作負責人、“人工智慧造福人類”(AI for Good)峰會項目的推動者弗雷德·維爾納(Fred Werner)表示：“峰會主題建立在如下前提上：2030年是實現可持續發展目標(SDG)的收關之年，留給我們的時間不多了，而人工智慧在實現其中一些目標方面有著巨大的潛力。”

國際電信聯盟希望利用其在聯合國系統內獨特的成員模式(包括193個成員國、900多家私營企業、大學和其他組織)，讓各個利益攸關方齊聚一堂，討論人工智慧帶來的機遇與挑戰。

維爾納說：“人工智慧專家認為，人工智慧實在太重要了，不能只有專家參與討論。因此，高峰會的目標是讓不同背景的參與者盡可能發表多元化的觀點。”

這些年來，“人工智慧造福人類”高峰會的後續成果包括成立了若干前期標準化工作調查小組，如巴爾科姆領導的自動駕駛汽車調查小組。此外，這些調查小組還在研究人工智慧在醫療健康、能源效率和自然災害管理等領域的應用。

治理

瑞士“算法觀察”組織(Algorithm Watch)的高級政策和宣導經理安吉拉·穆勒(Angela Müller)對“人工智慧造福人類”峰會傳達的資訊持懷疑態度，“算法觀察”是一家監測人工智慧系統及其對社會影響的非盈利組織。

她認為，高峰會上的一些論調有轉移人們視線的傾向，讓人們不再關注人工智慧治理框架的構建工作。 “如果你選擇相信這種論調，即人工智慧最終會拯救世界，那麼解決方案將是一味地投資於人工智慧研究。”

就治理問題進行公開循證辯論的關鍵在於，提高人工智慧自動駕駛系統運行方式的透明度。這就是為什麼穆勒樂於見到對社會大眾開放的研究，他希望這些研究能夠解釋人工智慧系統的決策方式以及這些決策對人類的影響。

“現在正在開展的這些討論和研究非常重要，可作為我們關於治理問題辯論的基礎。”

歐盟委員會(EC)目前正在制定世界上第一部人工智慧監管法律。目前正在討論的提案旨在化解這項技術的風險，並就其具體用途定義了明確的義務。目前，瑞士還沒有任何可與歐盟人工智慧立法提案相比擬的東西。

穆勒表示，確保標準制定過程的包容性很重要，因為這些標準可以作為未來法規的藍本。她說，有必要在國家和國際層面採取獨立的監管行動，就比如歐盟的立法草案，用於確保供應商對其生產的人工智慧駕駛系統的行為負責。

人工智慧促進道路安全

本月早些時候，國際電信聯盟、聯合國秘書長道路安全特使和技術特使共同發起了“道路安全人工智慧動議”。該動議旨在鼓勵公共和私營部門使用人工智慧技術，以改善所有道路使用者的安全。這些技術應在中低收入國家推廣應用。

隨著車輛、其他道路使用者和基礎設施收集數據的能力不斷增強，人工智慧可以幫助分析處理這些數據。例如，更好的事故分析數據可以幫助改善道路基礎設施並提高急救反應速度。

巴爾科姆解釋說：“汽車彼此共享數據，汽車與行人共享數據，基礎設施與汽車和行人同時共享數據，我們應該將這些數據與人工智慧一起使用來提高道路的安全性。‘道路安全人工智慧動議’覆蓋面甚廣，該調查小組的工作屬於動議內容的一部分。”

到2030年，當聯合國實現將道路交通死亡人數減半的目標時，全自動駕駛汽車的使用成本仍然過高，無法在低收入國家大規模應用。但巴爾科姆表示，很多能從自動駕駛汽車中收集到的數據，也可以從配備輔助駕駛系統的低價車輛中收集到。

“這就是為什麼我們真心希望擴大調查小組的作用，研究這些技術的應用和推廣方法，並在最有可能發展出成果的國家部署最重要和最有價值的技術，以便到2030年能夠有所作為。”

(譯自英語：瑞士資訊中文部)