人工智能正在加剧网络威胁。防御者需要新的工具和合作伙伴关系。
ITI 加入行动呼吁,致力于培养具备人工智能能力的网络防御人才
由科技生态系统各领域领导者组成的广泛联盟——其中包括数十家ITI成员公司——近日发出严厉警告:人工智能将大幅提升网络攻击的速度、规模和复杂程度。 该公开信还指出,各组织应采取切实可行的措施,以建立一种基于企业、网络安全防御者、政府领导人和前沿人工智能开发者之间伙伴关系的协调一致的网络防御体系。
多年来,ITI 一直倡导一种植根于创新、风险管理和协作的网络安全方法。这意味着利用人工智能来增强防御能力,深化公私合作伙伴关系以提升防备和响应能力,并与国际合作伙伴携手应对全球威胁。2024年,我们在《人工智能安全政策原则》中详细阐述了其中几项建议。
业界呼吁抓住这一短暂的窗口期,加强网络防御,并为防御人员配备人工智能工具——尤其是关键基础设施领域的防御人员——这一呼吁应当付诸行动。
我们再次向各国政府提出以下建议:
- 深化公私合作伙伴关系,以实现人工智能安全目标。
- 在人工智能驱动的网络威胁时代,这一点显得尤为关键。
- 在美国,这包括为落实第14409号行政命令和《人工智能行动计划》而开展的协作活动,重点在于加强关于人工智能安全威胁的信息共享以及业务合作。
- 鼓励各组织采用网络安全标准和最佳实践。
- 这应包括评估现有网络安全标准和最佳实践在哪些方面已足够,以及随着人工智能的引入,哪些方面可能需要采取新方法。
- 例如,许多现有工具,如《网络安全风险管理框架》、《人工智能风险管理框架》、《SSDF》以及“零信任”原则,在应对网络安全风险方面仍然很有用。ISO/IEC 27090 和 42001 等国际标准也提供了有用的基准安全控制措施。
- 随着人工智能代理的引入,各组织可能需要采用新的或不同的技术控制措施和流程,以减轻风险并防范网络攻击。
- 与国际合作伙伴开展合作,协调应对策略,共享网络威胁信息,并推动集体防御。
- 网络安全没有国界。在人工智能驱动的网络威胁比以往任何时候都更加泛滥的时代,与值得信赖的合作伙伴和盟友通力合作至关重要。
- 政府应采取措施,促进跨境信息共享,包括与漏洞、威胁和事件相关的信息。在可行的情况下,各国政府应利用现有机制来实现这一目标。
- 通过扩大技能培训计划和技术援助项目,支持为维权人士配备人工智能工具的努力。
- 在可行的情况下,各国政府应探索制定新计划,或为现有计划提供适当资金,以确保网络安全劳动力经过培训,能够熟练运用人工智能工具。
人工智能驱动的网络威胁的兴起并非未来的挑战,而是当下的现实。防御方必须拥有必要的工具、合作伙伴关系和资源,以保持领先地位,这一点至关重要。ITI支持这一日益高涨的行动呼吁。 业界已做好准备,将与全球各国政府及其他利益相关方通力合作,以增强网络韧性,并确保人工智能成为防御者的力量倍增器,而非攻击者的利器。
作者
John Miller
相关新闻与分析
五角大楼的新指导方针是实现“商业优先”目标的重要一步