民主监管缺位，人工智能失控

我们迫切需要更多关注、人力和资金来在人工智能(AI)领域建立类似于航空、制药和食品行业的监管体系。

3月29日，一封呼吁“暂停巨型AI实验”的公开信发布，目前已有约3’000名学者和科技领袖签署公开信。这一呼吁早就该发出了。

过去十年间，令人瞩目的算法层出不穷，且迅速大规模部署，如ChatGPT与MidJourney。类似的AI技术已广泛商用，用于欺诈检测、简历筛选、视频监控与客户服务(尽管存在已知缺陷与偏见)。然而，市场营销无疑是它们的主要应用领域。当今众多科技巨头，如谷歌、抖音与Meta，主要依靠精准投放广告获利，而ChatGPT的首个公开客户竟然是可口可乐。此种情形，可谓是警世之鸣钟。

Lê Nguyên Hoang  

Lê Nguyên Hoang是网络安全初创企业Calicarpa的联合创始人兼首席执行官，同时还担任非营利组织Tournesol协会的联合创始人兼主席。Hoang的YouTube频道“Science4All”自2016年成立至今，已累计获得1800多万次观看点击量。

此外，算法被证实会传播虚假信息、推荐伪科学药物、危害心理健康，甚至被用于组织非法市场或用于奴役目的。联合国与国际特赦组织指出，算法会助长仇恨、动摇民主根基，甚至间接导致种族灭绝。算法正在威胁国家安全。

然而，算法开发过程却极其不透明。几乎无外部实体能知晓谷歌、Meta或OpenAI的算法。甚至内部反对力量亦遭铲除：谷歌解雇道德团队，Meta解散负责任创新团队，微软在其道德团队就匆忙、不道德和不安全的部署提出警告后解雇了他们。受利益驱使的科技巨头在全球范围内营造了一种局面，使其算法设计几乎不受任何问责。

AI监管势在必行

软件行业并非首个失控的行业。几十年来，航空、汽车、制药、食品、烟草、建筑及能源等诸多行业都推出过未经审查的产品，造成数百万人罹难。全社会终于开始反对这种令人震惊的问责缺失。如今民主国家纷纷实行严格法规，强大且资金充足的监管机构对市场进行民主监督。软件行业也需要类似的监管。

我们亟需重视安全与道德技术，而非盲目追求在当前大热的AI领域保持领先。具体而言，对于运行在智能电网、汽车、飞机、发电厂、银行、数据中心、社交网络及智能手机上的算法，其网络安全的重要性要大于算法本身的精彩程度。正如我与同事在2019年所著一书中提出的警示，若这些算法脆弱、易受攻击、潜藏后门、被外包给不可靠的供应商，或侵犯了人权(这些事情时有发生)，那么我们都将面临巨大的危险。

然而，软件行业与学术界，以及现行法律与经济激励措施，大都在阻碍安全意识提升。往往那些最常被引用、最受赞誉、最容易获得资助的研究人员，薪酬最高的软件岗位及成功企业，皆忽视网络安全与道德。越来越多的专家认为，必须要改变此种状况，且刻不容缓。

或许在AI领域，民主国家无法像在其他行业那样，耗费数十年时间制定法规和设立监管机构。鉴于更先进的算法正以惊人速度被开发与部署，我们只有极短暂的时间窗口来采取行动。我与其他AI研究人员签署的公开信，意在稍稍延长这一时间窗口。

我们大家能做什么

对目前最关键的算法实行民主监管，是一项迫切、艰巨但意义重大的工作。没有大量具备多样才能、专长和责任的人参与其中，我们便无法及时完成这一目标。

首要挑战在于提高关注度。我们必须尽快投入更多的时间、精力和资金，确保我们的同事、组织和机构更加重视网络安全。在高校和媒体领域，许多大型科技公司员工受邀出席活动和受到赞誉，对于那些向高校和媒体提供赞助的底层产品，我们必须提出安全和道德方面的质疑。更为广义地说，在所有关于科技的讨论中，我们都应该问：“可能出现哪些问题？”

第二个挑战存在于制度层面。尽管我们需要制定新的法律，但如今的大规模算法很可能已经违反了现有法律，例如通过广告诈骗谋取利润。然而，目前企业完全缺乏外部监督，致使司法难以落实。我们必须要求政策制定者建立资金充足的监管机构，推动线上执法。

瑞士在树立民主准则方面常常发挥着示范作用。这是延续这一崇高传统的良机。此外，近年来莱芒地区(日内瓦湖周边地区)致力于打造数字信任与网络安全领域的“信任港湾”。为监管机构与网络安全组织赋能，无疑是在全球范围内获得如此声誉的关键。

第三个挑战在于设计安全可靠的民主治理方案，取代当今最具影响力的算法。这正是我过去五年中投入最多精力的工作领域，我与同事们共同创建了非营利性的Tournesol项目。从本质上讲，Tournesol的算法是由Tournesol贡献者社群通过安全公正的投票对其首选行为进行决策的结果，任何人都可以加入。

我们越早将信息生态系统的安全置于优先地位，就越有机会保护我们的社会免受当前大规模网络安全漏洞的侵害。

(译自英文：中文部，编辑：Sabina Weiss)

本文观点仅代表作者本人，不代表瑞士资讯网的立场。