最后更新于2023年12月22日(星期五)16:00:00 GMT
从ChatGPT发布到现在已经一年多了，变化真是太大了. 人工智能和机器学习的进步标志着一个变革的时代, 影响着我们生活的方方面面. 这些创新技术重塑了自然语言处理的格局, 使机器不仅能够理解，而且能够以前所未有的流畅性和连贯性生成类似人类的文本. 随着社会接受这些进步, 生成式人工智能和法学硕士的影响遍及各个领域, 从交流和内容创作到教育等等.
人工智能服务收入在五年内增长了六倍以上, 云提供商在这一领域大力投资以扩展其能力，这并不奇怪. 用户现在可以使用AWS新发布的Bedrock使用自己的培训数据定制现有的基础模型，以提高性能和客户体验, Azure OpenAI服务和GCP Vertex AI.
人工智能/机器学习的无序采用会带来安全风险
预计市场价值将超过1美元.到2030年达到8万亿美元, AI/ML在威胁检测和分析中继续发挥着至关重要的作用, 异常与入侵检测, 行为分析, 事件响应. 据估计，有一半的组织已经在利用这项技术. 相比之下，只有10%的国家制定了规范其使用的正式政策.
因此，不受治理的采用会带来重大的安全风险. 通过影子人工智能缺乏监督可能导致隐私泄露, 不遵守规定, 有偏见的模型结果, 造成不公平或歧视性结果的. 不充分的测试可能会使人工智能模型遭受对抗性攻击, 缺乏适当的监测会导致模型漂移, 随着时间的推移影响性能. 越来越普遍的, 不受控制的人工智能应用引发的安全事件可能会损害组织的声誉, 侵蚀客户信任.
在云中安全开发AI/ML需要可见性和有效的护栏
为了解决这些问题, 组织应该建立健壮的治理框架, 包括数据保护, 偏见减轻, 安全评估, 以及持续的合规性监控，以确保负责任和安全的AI/ML实施. 了解你周围的环境是第一步，我们都知道这有多难.
InsightCloudSec推出了专门的库存页面，专为有效管理您的AI/ML资产而设计. 包含各种各样的服务, 从内容审核和翻译到模型定制, 我们的平台现在支持跨AWS的生成式人工智能, GCP, 和Azure.
一旦你了解了在云环境中运行的AI/ML项目, 下一步是建立和设置机制，以持续执行一些护栏和政策，以确保以安全的方式进行开发.
介绍Rapid7的AI/ML安全最佳实践合规性包
我们很高兴在InsightCloudSec中推出最新的合规性包:Rapid7 AI/ML安全最佳实践. 新包源自OWASP机器学习十大漏洞, OWASP排名前十的法学硕士, 以及其他针对csp的建议. 有了这个包, 您可以在一个地方检查与这些控件的对齐情况, 使您能够全面了解法规遵从情况，并促进更好的战略规划和决策. 自动警报和补救也可以设置为漂移检测和预防机制.
这个包引入了11个控件，以数据和模型安全为中心:
Rapid7 AI/ML安全最佳实践合规性包目前包括6种不同的AI/ML服务和3个平台的15项检查, 我们将在1月份的第一个版本中对亚马逊Bedrock进行额外的报道.
有关我们其他遵从性包的更多信息, 并利用自动化来执行这些控制, 查看我们的 文档 页面.
