通过具有前瞻性的监管实现巴西的人工智能雄心

文章

巴西正处于一个关键时刻。新出台的《2024-2028年巴西人工智能计划》(PBIA)提出了一项清晰而雄心勃勃的愿景,旨在利用人工智能促进巴西经济发展、改善公民日常生活、提升国家竞争力,并在世界舞台上巩固巴西的技术领导地位。

全球科技行业大力支持巴西的雄心壮志,并一致认为政策制定者能够也应当利用人工智能来应对巨大挑战,并为全体巴西人开辟新的机遇。 为了将这一愿景变为现实,《人工智能法案》(PL 2338/2023)将成为关键的推动力。该法案旨在建立信任,这一目标与科技界的理念不谋而合,也是巴西乃至全球成功应用人工智能的基础。我们行业致力于与巴西政策制定者通力合作,在保障这一核心价值的同时,推动创新持续发展。

为此,在政策制定者致力于完善这项具有里程碑意义的立法之际,我们提出四项关键建议,以确保该法案在保护个人权利与实现巴西成为人工智能领域领导者的雄心之间取得平衡:

1. 校准风险以实现真正的比例性

试想一场关键的足球比赛。一位优秀的裁判不会对每一次犯规都给予相同的处罚。 中场轻微的拉拽球衣与禁区内危险的双脚飞铲不会受到同等对待。如果对每项犯规都一刀切地出示红牌,不仅会破坏比赛,还会惩罚那些技术精湛的球员。

人工智能监管应遵循相同的相称性原则,并避免在现有机制已能充分应对风险的领域建立重复的监管体系。确保相称性至关重要,因此我们鼓励巴西及全球的政策制定者采取基于风险的方法,以推动人工智能的负责任开发和部署。 虽然我们赞赏巴西在现行《人工智能法案》中列举了具体的高风险用例,以此推进这一方法,但仍需进一步细化,以确保仅将真正的高风险应用——即“危险动作”——纳入监管范围。 该法案不应一刀切地涵盖整类部署或整个行业;相反,它应明确界定那些对个人权利和安全构成重大风险的具体应用场景,并避免将那些已受行业特定法律监管的应用纳入其中。

2. 将监管重点放在前沿

该法案目前对“通用人工智能系统”的定义非常宽泛。根据草案内容,该定义将涵盖翻译或转录软件等常见的低风险工具。此外,该法案还引入了“系统性风险”这一概念,其定义同样十分宽泛。 综合来看,这些定义构成了一个监管框架,将大量可能风险并不大的AI技术一并纳入其中。这好比试图对自行车、家庭轿车和40吨卡车适用相同的安全规则。

更有效的方法是将监管重点放在“前沿人工智能模型”上——这些模型堪称人工智能领域的“40吨卡车”,具备真正具有重大影响力的下一代能力。 我们建议制定一个清晰且可更新的“前沿人工智能模型”定义,并将相关义务限定在模型可能带来灾难性风险的情形下。这样既能避免将简单工具纳入监管范围,又能将审查重点放在最关键的领域。

3. 推进建立一个平衡的版权制度

在政策制定者探讨如何应对数据治理和人工智能训练方面的新兴问题时——特别是在版权领域——巴西应致力于建立一套平衡的制度,既保护权利人,又促进创新及其数字经济的发展。 我们认为,任何方案都必须允许合法使用公开数据(包括网络上的内容),同时确保采取适当的保障措施,以符合相关的隐私或版权法律。


该法案的现行草案通过禁止出于商业目的进行文本和数据挖掘(TDM),并规定了包含追溯性报酬在内的难以执行的规则,可能会无意中使人工智能模型无法获取巴西丰富的公共数据。这将导致相关服务无法充分契合巴西的具体文化背景。 通过为文本和数据挖掘设定明确的例外条款并推广自愿许可模式,巴西既能保护知识产权,又能确保人工智能服务切实惠及全体巴西民众。

4. 构建智能、可行且协调的治理体系

一项法律的远见,其价值取决于其实际应用效果。对该法案的治理结构进行几处关键调整,将确保其可行、有效,并避免出现意想不到的僵局。具体而言,该法案应确保这一新的主管机构——国家人工智能监管与治理体系(SIA)——在建立时具备财务和技术自主权,为企业提供单一联络窗口,并实现规则协调以避免相互冲突。此外,诸如算法影响评估(AIAs)等要求必须明确。 该法案必须明确人工智能价值链中的哪一方需要进行评估,以减少重复工作,并确保报告仅在监管机构要求时才提交,以保护隐私。最后,该法案必须确立明确的定义,以消除混淆或不确定性。

前进之路

巴西拥有实现其人工智能雄心的才华和活力。现在正是对第2338/2023号法案进行微调、确保其成为创新催化剂的恰当时机。科技行业支持这一目标,并期待继续与巴西的政策制定者合作,确保该法案能够取得恰当的平衡。

作者

Courtney Lang

Senior Vice President of Policy, Trust, Data, and Technology

相关新闻与分析

基于人工智能的搜索

建议

选择语言和地区

ITI 会根据您选择的地区显示相应内容。
选择“全球”即可退出。