在2023年生成式人工智能(AI)迅猛发展的背景下，AI正深刻改变各行各业，并预示着一个由AI驱动的未来即将到来。伴随这一变革而来的是AI治理框架构建的紧迫性，以及确保技术发展遵循伦理规范的需求。审计行业正处于这一变革的核心位置，既面临着挑战也迎来了前所未有的机遇。审计师们被寄予厚望，需引导企业安全、负责任地采用AI技术，在提升审计效率的同时，坚守诚信与责任的基本原则。

AI审计面临的挑战凸显

审计师在跟踪企业AI应用时，主要面临以下几项挑战：

• 实战型AI审计框架缺失：尽管NIST的AI风险管理框架及ISACA的COBIT等提供了理论指导，但具体操作层面的实战指南尚不明确。
• 算法复杂性：AI与机器学习的复杂算法要求审计师具备深入的数学与技术理解。
• 数据依赖问题：AI项目对数据的高度依赖超出了传统软件范畴，覆盖训练、验证到推理全过程。
• 生命周期复杂：AI/ML有其独特生命周期，涉及多元角色和责任分配。
• AI技术快速迭代：尤其是生成式AI的兴起，以及对第三方基础模型的依赖，加剧了透明度与可访问性的挑战。

忽视AI审计的潜在后果

根据经合组织AI事故监控，全球已记录超过8,000起AI相关事故，涉及金融服务、法律和医疗等多个领域，年增长率高达1,200%。缺乏适当AI审计的组织将面临以下风险：

• 品牌损害
• 经济损失
• 业务中断
• 法规违规

这也是全球监管机构介入，为负责任的AI应用设定规则的原因所在。

为什么要掌握AI审计知识？

随着AI的企业级应用成为大势所趋，近年来增长显著，大型组织或将设立类似CISO（首席信息安全官）的董事会级别职位——“首席AI安全官”，专注于AI安全。AI审计知识可极大提升IT审计师的职业生涯：

• 特定领域专长：展示在快速发展、高需求AI应用的专业能力。
• 加强风险管理：具备识别与缓解AI相关风险的技能，维护运营完整性。
• 战略洞见：促进基于AI对业务影响的明智决策，推动负责任与高效技术应用。
• 法规遵从：全球几乎都在实施AI法规，此知识对于遵循日益严格的法律和伦理标准至关重要。
• 创新推动：鼓励最优且道德的AI使用，激发组织内部创新与效率。
• 领导力机遇：引领最佳AI实践，塑造组织文化向伦理AI使用倾斜。
• 竞争优势：在就业市场中，作为前瞻性专业人士，擅长指导企业驾驭AI融合的复杂性。

ISACA近期推出一系列新课程，聚焦人工智能领域，其中特别设计了一门面向审计师的AI入门课程。在原有基础上，增加了生成式AI及最新的AI监管内容，对学习者而言，尤其宝贵之处在于：

• 深入理解多种AI算法，包含生成式AI。
• 理解AI开发周期及关键角色定位。
• 掌握FANG审计原则，简化审计流程。
• 全球AI法规框架概览，如NIST、COBIT、欧盟AI法案等。
• 审计第三方AI依赖及最新技术的策略。

来源：安全牛