人工智能：解密：世界上第一个人工智能条约 — Timnit Gebru 的新工作 — 欧洲议会开始制定《人工智能法案》

[tasnimsanika7]

您首先听到的是：经过上周的紧张全体会议，欧洲委员会人工智能特设委员会 (CAHAI) 完成了一项具有法律约束力的人工智能条约的建议，该条约将保护民主、人权和法治。该条约可能会得到欧洲委员会 47 个成员国的批准，其中还包括俄罗斯和土耳其。美国、加拿大、日本和墨西哥也参与了人工智能倡议。

条约内容：文本不会立即发布——但我已经为你准备好了。根据 POLITICO 看到的建议，CAHAI 建议条约包括影响评估、风险分类和人工智能开发原则。条约应适用于所有人工智能应用，但重点关注“为执法、司法管理和公共管理目的而开发、设计和应用人工智能系统所产生的潜在风险”。然而，人工智能在医疗保健、教育和发放社会福利等方面的使用应通过行业规则来解决。

保障措施：该建议还呼吁成员国将“针对此 土耳其 WhatsApp 数据 类决定向国家当局寻求有效补救的权利；了解人工智能系统在决策过程中的应用的权利；选择与人类互动的权利，以及知道自己正在与人工智能系统而不是人类互动的权利。”它还希望为举报人提供保护。

红线： CAHAI 呼吁全面或部分暂停或禁止对人权、民主和法治构成“不可接受”风险的人工智能应用，例如面部或情绪识别和社交评分，“同时考虑可能的合法例外情况”。文本将军事人工智能排除在立法范围之外。CAHAI 让部长们考虑双重用途技术和国家安全是否应属于法律条约的范围。（我感觉答案将是“不”。）

警惕科技巨头：这项具有法律约束力的条约还应考虑“人工智能对公众舆论的塑造，以及使用人工智能可能产生的寒蝉效应”。网络平台应受到特别审查，“因为经济权力和数据的日益集中可能会破坏民主进程。”

接下来： CAHAI 的建议将于 2 月在成员国部长之间进行讨论，谈判将于 5 月开始。还将成立一个新的人工智能委员会 (CAI)，负责谈判文本。谈判应于 2023 年 11 月结束，并可能于 2024 年批准。

不以为然：通过国际非政府组织会议代表民间社会团体的 Francesca Fanucci表示，该条约被成员国“屠杀”，最后一刻添加的例外让人想起欧盟的《人工智能法案》。军用人工智能被排除在外，并允许成员国决定是否将双重用途人工智能纳入条约尤其令人担忧。