本文字数: 1200, 阅读完需: 6 分钟
导读在一场亚马逊云科技活动上,演讲者们阐述了”确保人工智能模型安全性和利用人工智能维护合规性”的主题。在这场演讲中,他们探讨了如何保护人工智能模型的安全性,以及如何利用人工智能实现安全和合规性;具体而言,解释了确保人工智能安全性涉及保护训练数据、模型和使用,以及实施治理。他们还讨论了IBM如何将人工智能用于身份治理、合规性审查和从分析中产生见解等安全任务。该演讲着重介绍了IBM和亚马逊云科技如何共同开发”自主安全和合规”服务,该服务利用生成式人工智能根据客户需求为亚马逊云科技环境生成和部署安全控制和合规脚本。
演讲精华以下是小编为您整理的本次演讲的精华，共900字，阅读时间大约是4分钟。
在人工智能(AI)迅猛发展的时代,生成式AI的变革潜力引起了全球组织的高度关注。然而,与任何颠覆性技术一样,采用生成式AI也存在固有的风险和挑战,必须积极应对。IBM商业价值研究所最近的一项研究揭示了一个严峻的现实:64%的首席执行官面临着巨大压力,将生成式AI解决方案整合到他们的运营中,原因在于生成式AI承诺提高客户体验、简化后台办公效率和获得竞争优势。然而,令人震惊的是,96%的受访者表示,采用生成式AI可能会增加数据泄露的风险,这凸显了健全安全措施的重要性。认识到这一问题的紧迫性,64%的受访首席执行官将确保AI模型的安全性列为在其组织内部署这些功能之前的首要任务。
IBM确保AI模型安全和利用AI进行合规管理的框架体现了该公司直面这些挑战的决心。该框架涵盖了整个AI生命周期,从数据收集和处理到模型开发、训练和使用保护。此外,它还强调了确保底层基础设施安全和实施企业范围内的治理措施的重要性,以确保适当的访问控制和遵守政策与程序。IBM强调需要利用混合云环境(包括亚马逊云科技、Azure和本地数据中心)中的数据,确保一致的访问治理,并保护所有平台上的训练数据和模型的完整性。
IBM的方法的核心是一个三管齐下的策略:制定与安全控制、合规要求、隐私考虑和风险偏好相一致的文件化策略;实施专门的安全技术,如数据保护、防火墙和其他保护措施,以确保模型及其使用的安全;通过对抗性测试、提示注入检测和持续监控潜在威胁,积极参与威胁检测和响应。
IBM及其合作伙伴正处于开发尖端技术以确保人工智能安全的前沿,包括AI防火墙、模型扫描、运行时监控和深度伪造识别。这些创新解决方案旨在检测和缓解各种威胁,从数据泄露和提示注入循环到供应链风险和生物认证漏洞。
此外,IBM正利用AI来加强网络安全运营,使组织能够提高效率、在噪音中识别信号、自动化重复性任务,并持续微调模型以提高性能。这包括开发用于自助服务任务(如访问请求和身份治理)的生成式AI聊天机器人、基于法律法规和行业标准构建框架的合规性演练,以及从跨各种系统捕获的分析和指标中生成可操作的见解。IBM设想使用生成式AI聊天机器人来协助身份治理,其中AI分析历史数据,为访问请求建议适当的角色,从而简化流程。
在一项开创性的与亚马逊云科技(AMAZON WEB SERVICES)的合作中,IBM正在共同开发一项名为Autonomous Security and Compliance (ASC)的革命性服务。目前处于alpha阶段,预计将于今年年底推出,ASC旨在通过生成式AI的力量彻底改革云安全和合规性管理。ASC服务将利用生成式AI,根据组织的合规性要求、行业背景和区域法规部署详细的控制措施。它将生成本地亚马逊云科技CloudFormation模板,在客户的亚马逊云科技环境中部署它们,并持续监控是否偏离已建立的基准,并在需要时采取纠正措施。这一创新解决方案有望简化和自动化维护云环境合规性的复杂过程,减轻组织的负担,并确保遵守行业标准。
IBM正在为ASC构建训练模型,其中包含合规性标准、亚马逊云科技CloudFormation脚本和其他相关数据。该模型将由检索增强生成(RAG)应用程序支持,这些应用程序将集成客户特定的政策、标准和安全要求。ASC服务将在客户的亚马逊云科技Bedrock平台上运行,利用本地亚马逊云科技生成式AI功能。它将利用亚马逊云科技服务(如亚马逊云科技Config、Security Hub和GuardDuty)来监控客户的云环境,并在需要时采取补救措施。
为确保顺利过渡并降低潜在风险,ASC服务将分阶段推出,从监控开始,最终发展到主动部署和补救。IBM将根据客户反馈和经验教训不断优化模型,确保该服务能够满足不断发展的需求,并适应不断变化的网络安全威胁环境。
IBM致力于确保AI模型的安全性,并利用AI进行合规性管理,这体现了该公司的远见卓识和决心,让组织能够充分利用AI的变革潜力,同时降低相关风险。通过其全面的框架、尖端技术和创新服务(如ASC),IBM正在为未来铺平道路,届时AI可以被信任地采用,使组织能够推动创新、提高运营效率并保持竞争优势,同时确保最高级别的安全性和合规性。
下面是一些演讲现场的精彩瞬间：
演讲者阐述了生成式人工智能(Generative AI)的革命性进展,但同时也指出这些解决方案对于组织机构来说,既蕴含巨大价值,也存在潜在的脆弱性。
据统计,64%的首席执行官正面临推出生成式人工智能的压力,但有96%的人士担忧这会增加数据泄露风险,因此数据安全成为推出人工智能模型的头等大事。
演讲者提出了如何利用人工智能提高安全运营效率,加快发现隐藏信号,减少重复工作,并持续优化模型以创建新的主动响应的问题。
他们将利用这些数据跨越整个混合云,确保数据访问权限在所有云平台上都得到适当管控,并保护训练数据和模型的完整性,只允许经过授权的人员访问人工智能。
因此,IBM构建了一个框架来确保人工智能生命周期的三个部分:数据收集和处理、模型开发和训练,以及模型使用和推理的安全性,并在整个企业范围内实施适当的治理水平。
IBM正在构建一个人工智能模型,该模型将遵循合规标准,并由Amazon CloudFormation脚本和其他工具支持,旨在生成CloudFormation脚本、分析云原生工具的输出并采取补救措施。
总结在不断演进的生成式人工智能领域,确保人工智能模型的安全性以及利用人工智能来支持安全运营已经成为当务之急。本次演讲深入探讨了IBM全面的框架,旨在解决这些挑战,涵盖数据保护、模型安全性以及混合云环境下的治理。
首先,演讲强调了确保人工智能模型安全性的紧迫性,因为有64%的CEO面临着采用生成式人工智能的压力,而有96%的人承认数据泄露风险加剧。IBM的框架着眼于人工智能的整个生命周期,从数据收集、模型开发到实时使用,都采取了安全措施,并以健全的基础设施安全性和全企业范围的治理为基础。
其次,演讲重点介绍了IBM利用人工智能来加强网络安全的努力,包括用于自助身份治理的聊天机器人、合规框架生成以及基于分析的洞见。值得一提的是,IBM与亚马逊云科技正在共同开发一项突破性的服务,名为Autonomous Security and Compliance (ASC),该服务可以自主生成和部署安全控制措施,监控偏差并在亚马逊云科技云环境中采取纠正行动。
最后,演讲强调了制定明确的人工智能安全战略、威胁检测和响应以及对抗性测试的重要性,以加固人工智能模型,抵御诸如提示注入、投毒和数据泄露等风险。IBM提供了一套服务和技术,如人工智能防火墙、模型扫描和运行时监控,以确保人工智能实施的安全性。
发布于：新加坡