為何對瑞士來說「人工智慧監管是無法規避的」？

瑞士醫院經常使用來自中國等醫療器材標準與瑞士有差異的國家製造的人工智慧醫療設備，例如採用人工智慧醫療影像技術識別和分析X光片的設備。 Keystone / Christian Beutler

在包括瑞士在內的人工智慧(AI)監管缺位的國家，公民會面臨哪些風險？對於一個國家的經濟和人口而言，更多地對人工智慧實施監管是利還是弊？法律與醫學專家科爾斯汀·諾埃勒·沃金格(Kerstin Noëlle Vokinger)對此發表了看法。

阅读本文简体字版本请 点击这里

人工智慧(AI)正在重塑從醫療到職場等許多關鍵領域的發展，但同時，它也帶來了不容小覷的風險和監管挑戰。機器何時能取代人類操作？又或者， 該如何在遵循不同醫療器材品質管理標準國家的醫院裡，採用由人工智慧驅動的同款醫療設備？

儘管歐盟和美國已相繼採取了不同的策略來解決這些問題，但瑞士卻顯得慢條斯理、進展緩慢：政府最初預計會在今年出台的人工智慧監管提案，發佈時間現已被推遲到了2025年。

各國人工智慧立法監理進度、力度不一

2020和2021年，美國先後發布了《生成人工智慧網路安全法案》和《人工智慧能力與透明度法案》，在推動人工智慧發展的同時，對資料隱私等多個方面提出了規範要求。然而，隨著川普近期再次勝選美國總統，該國人工智慧或迎來一輪強而有力的監管“鬆綁”。根據彭博社報道，川普團隊計劃將建造完全自動駕駛汽車的聯邦框架，作為美國運輸部的優先事項之一。 12月5日，川普宣布將在白宮設立首個專門負責人工智慧事務的職位，即“人工智慧和加密貨幣事務主管”，這也體現了川普政府意圖推動行業快速發展的目標。同時，12月10日，總統出口委員會在向拜登提交的人工智慧戰略報告中明確提出，“人工智慧的快速發展需要政策支持，以實現負責任的增長和創新”，建議政府應出手做好人工智慧與就業的平衡，簡化企業的監理合規流程。

歐盟作為第一個對資料經濟發佈單獨政策的地區，對人工智慧的發展及資料使用也提出了較多要求。 2023年6月，在經過多次起草修訂後，歐盟發布了《人工智慧法案》最新草案，以確保人工智慧在歐盟市場中能夠安全使用。該法案是全球首部全面監管人工智慧的法規，它的出台，也標誌著全球首個全面的人工智慧監管框架的誕生。

此外，其他國家也陸續對人工智慧監管做出回應。譬如，英國、新加坡、印度等國家均相繼推出了人工智慧倫理和監管準則。

中國相關監管機構也有行動。 2023年7月，中國國家網信辦聯合六部門共同發布《生成式人工智慧服務管理暫行辦法》，並已於2023年8月15日起正式執行。

法律和醫學專家科爾斯汀·諾埃勒·沃金格向我們詳盡解釋了為何需要制定針對性的法規，從而在促進創新和權利保護的內在衝突之間實現有效平衡。

科爾斯汀·諾埃勒·沃金格(Kerstin Noëlle Vokinger)

科爾斯汀·諾埃勒·沃金格擁有蘇黎世大學法律和醫學博士學位以及哈佛大學法學院碩士學位。她目前是蘇黎世大學(University of Zurich)和蘇黎世聯邦理工學院(ETH Zurich)的雙聘教授。她聚焦於旨在改善醫療可及性和技術取得的跨學科研究。

瑞士資訊SWI swissinfo.ch：您認為瑞士需要製定人工智慧法規嗎？如果需要，原因何在？

科爾斯汀·諾埃勒·沃金格在蘇黎世大學(University of Zurich)和蘇黎世聯邦理工學院(ETH Zurich)教授法律、醫學和技術法規。

爾斯汀·諾埃勒·沃金格：我認為，瑞士目前並不需要像歐盟那樣的法規，要知道，歐盟的相關法規面面俱到、非常全面，而且力求對所有人工智慧技術實行橫向監管。但(在我看來)更為合理的做法是採取按照多部門分配職責、各司其職的方法，針對(人工智能涉及的)各個領域存在的具體風險和機遇分別進行評估。這種做法能有效規避過度監管的問題。

長期以來，瑞士一直堅稱該國不需要專門的人工智慧法規，因為現有法律政策已足矣。然而隨著歐盟人工智慧法規的出台施行，瑞士政府改變了想法。為什麼呢？ (瑞士)現行法規還不夠嗎？

誠然，有一些普遍適用、涉及一般性事項的法律-也就是並非專門針對人工智慧的法律規定-也同樣適用於人工智慧監管，例如隱私權、非歧視原則等等。然而，人工智慧系統可能存在著亟待我們去解決的特定缺漏，因為這項技術與生俱來的複雜性可能會帶來更多、更具體以及更極端的挑戰。

譬如在醫療領域，我們需要明確界定哪些任務可以委託給機器，並相應地對我們的法律進行調整。

>> 瑞士做出對人工智慧加以監管的決定是否為時已晚？我們對此進行了深入分析：

談到醫療領域，瑞士醫院經常會使用到由醫療器材標準與瑞士存在差異的國家所製造的整合了人工智慧技術醫療設備，例如來自中國的採用人工智慧醫療影像技術識別和分析X光片的設備。這些設備會為患者個體帶來哪些風險？該如何對此領域進行監管？

這無疑是一大挑戰。讓我列舉一個更司空見慣的、有關臨床試驗的例子。在開發治療藥物時，我們已經明確知道性別和種族差異可能會影響治療效果。對於基於人工智慧的醫療設備來說，情況很可能也是如此。

到目前為止，許多人工智慧設備只在某個國家進行測試，測試地點通常是在中國或美國這樣的大國。可惜的是，迄今針對已通過核准的人工智慧醫療設備的相關國際研究依然寥寥無幾。 (人工智慧醫療設備)在那些大國獲得的測試結果，對瑞士患者來說可能在有效性和安全性上都存在差異。因此，此類設備在瑞士獲得授權使用之前必須滿足特定要求。

既然人工智慧醫療器材在醫院中已經越來越普遍，那麼這是否意味著，我們也需要針對人工智慧醫療設備的審批程序制定更嚴格的規則？

我們首先必須找出監管漏洞，並且了解這些技術會帶來哪些額外或新的風險。一旦確定了這些漏洞所在，我們就需要決定在哪個層面對其進行監管-譬如是透過自我監管、還是由政府來規制和監管。在這方面，我們有多種方案可供選擇。在美國，食品藥物管理局(FDA)目前正在積極制定有效貫穿醫療設備整個生命週期，並且能夠與時俱進、不斷適應未來軟體開發進程的法規。

在該事宜上，食品藥物管理局確保資訊公開透明，並且讓科學家和其他利益攸關者都參與進來，攜手共同為患者制定對其最有利的政策和建議。在美國，這一領域的發展勢頭強勁，而反觀歐洲，情況則顯得不那麼清晰和透明。歐盟的《人工智慧法案》是一套嚴格的一般性通用法規，而不是針對醫療設備的特定特定規則。兩個不同管轄區域的具體做法可以大不相同。

在人工智慧監管方面，瑞士能否比歐盟做得更好？還是說，瑞士會考慮到自己作為一個歐盟成員國包圍之下的小國地位，試著以自己的方式複製歐盟的監管方法？

置身於歐盟成員國包圍中的瑞士，自然不可能無視歐盟的《人工智慧法案》。瑞士監管的具體事項，可能會與歐盟和美國等其他地區法規發生衝突-但這主要取決於瑞士最終決定對哪些事項實施監管。例如，醫療是一個涉及多個國家或跨越國界的領域，我們無法將自己孤立起來。這是瑞士必須面對的另一個嚴峻的監管挑戰。

反對監管的人則認為，監管可能扼殺創新。那麼我們該如何在保護人權、保護消費者權益與促進創新之間取得平衡呢？

在創新與安全(包括個人權利)之間取得平衡，可謂至關重要。每個國家都必須自行決定願意承擔什麼樣的風險。瑞士也需要做出權衡，因為這些人工智慧技術的蓬勃發展都伴隨著不同程度的風險，而其產生的效果可能在不同國家或地區之間也存在偏差。

譬如，歐盟的法規不能容忍太多風險，不少法律學者就會擔心這類監管法規會抑制創新。而美國(的相關法規)則以更為寬鬆而著稱，包括在資料保護等領域也是如此。

>>人工智慧正越來越多地被應用於工作場所。然而與其他歐洲國家相比，瑞士員工在面對人工智慧相關潛在風險方面受到的保護卻相形見絀：

鑑於人工智慧技術超越國界，我們該如何調和各地區遵循的不同監管方法，以確保尊重人權？

重要的是在國內和國際層面上都要積極行動起來，與其他國家合作制定一致的基本原則。當然，我們知道，涉及的國家越多，就越難找到行之有效的解決方案。因此，我們不可能奢求在每個方面都達成共識。

然而，人工智慧不僅帶來了風險，也帶來了機會。在您看來，監管能否幫助我們更好地利用這些人工智慧技術？ 

是的，我對此深信不疑，良好的法律不僅能限制風險，還能創造有益的機會。這可以透過各種方式來實現，例如投資新軟體和應用程序，或將技術更好地融入教育系統或社會。法規具有不同的功能，它們不僅發揮預防作用，還能起到促進效果。

譬如在醫療領域，人工智慧工具將變得越來越精確，從而有可能取得某項重大進展。就以放射學為例，人工智慧可以大幅節省時間和人力資源，讓醫護人員把有限的精力聚焦在複雜的病例上。

由於人工智慧正在快速發展且在某種程度上難以預測，因此我們必須保持警惕，找出監管漏洞，並制定有助於降低風險和善用機會的法規。

(編輯：Veronica De Vore，編譯自英文：張櫻/ xy，繁體校對：盧品妤)