在当今数字化时代，数据泄露的战争愈演愈烈，对全球医疗保健组织构成了日益严峻的挑战。据当前统计，全球数据泄露的平均成本已达到445万美元，而对于在美国境内为患者提供服务的医疗保健提供商而言，这一数字更是飙升至9480万美元。更令人担忧的是，如今还出现了跨组织和组织内部数据扩散的现象，其中40%已公开的数据泄露事件涉及信息在多个环境中的传播，这极大地扩大了攻击面，为攻击者提供了更多入侵途径。
随着生成式AI自主性的不断增强，我们正迎来一个翻天覆地的变化时代。然而，随着这些先进的智能体从理论走向医疗等多个领域的实际应用，也带来了紧迫的安全风险潮。了解和缓解这些新威胁至关重要，以便我们能够负责任地扩展AI的应用规模，并增强组织对各种性质网络攻击的抵御能力，无论是恶意软件威胁、数据泄露，还是精心策划的供应链攻击。
设计与实施阶段的弹性
组织必须采用全面且不断进化的主动防御策略，以应对AI带来的日益严峻的安全风险，尤其是在医疗保健领域，其中既涉及患者福祉，也涉及遵守监管措施的问题。
这需要一种系统而详尽的方法，从AI系统的开发与设计开始，一直延续到这些系统的大规模部署。组织首先需要制定并威胁建模其整个AI管道，从数据摄取到模型训练、验证、部署和推理。这一步骤有助于精确识别所有潜在的暴露点和脆弱点，并根据影响和可能性确定风险的详细程度。
其次，为利用大型语言模型（LLM）的系统和应用（包括具有Agentic AI能力的系统）创建安全架构至关重要。这涉及仔细考虑各种措施，如容器安全、安全的API设计以及敏感训练数据集的安全处理。
再次，组织需要了解和实施各种标准/框架的建议。例如，遵循NIST的AI风险管理框架以进行全面风险识别和缓解。它们还可以考虑OWASP关于LLM应用引入的独特漏洞（如提示注入和不安全输出处理）的建议。
此外，经典威胁建模技术也需要不断发展，以有效管理由Gen AI生成的独特且复杂的攻击，包括威胁模型完整性的隐蔽数据投毒攻击，以及AI输出中可能产生的敏感、有偏见或不恰当内容的风险。
最后，即使在部署后，组织也需要保持警惕，通过定期进行严格的红队演练和专门针对偏见、鲁棒性和清晰度等来源的专门AI安全审计，不断发现和缓解AI系统中的漏洞。
值得注意的是，在医疗保健中创建强大的AI系统的基础是从创建到部署，从根本上保护整个AI生命周期，同时清楚了解新威胁并遵守既定的安全原则。
运营生命周期中的措施
除了初步的安全设计和部署外，稳健的AI安全立场还需要在整个AI生命周期中密切关注细节和积极防御。这要求利用AI驱动的监视来立即检测敏感或恶意输出，同时遵守信息发布政策和用户权限，从而持续监控内容。在模型开发和生产环境中，组织需要同时积极扫描恶意软件、漏洞和敌对活动。当然，这些都是对传统网络安全措施的补充。
为了提高用户信任和改善AI决策的可解释性，使用可解释AI（XAI）工具来理解AI输出和预测的基础原理至关重要。
通过动态变化的分类器进行自动化数据发现和智能数据分类，也可以促进改进控制和安全性，这些分类器提供了对不断变化的数据环境的关键且最新的视图。这些举措源于执行强大安全控制的迫切需要，如细粒度的基于角色的访问控制（RBAC）方法、端到端加密框架以保护传输中和存储中的信息，以及有效的数据屏蔽技术来隐藏敏感数据。
所有处理AI系统的业务用户都必须接受彻底的安全意识培训，因为这建立了一个关键的人类防火墙，可以检测和中和可能的社会工程学攻击和其他与AI相关的威胁。
确保Agentic AI的未来安全
在面对不断演变的AI安全威胁时保持持续弹性的基础在于拟议的多维度和连续方法，即密切监视、积极扫描、清晰解释、智能分类和严格保护AI系统。当然，除了建立广泛的人类导向的安全文化以及成熟的传统网络安全控制之外，这一点还至关重要。随着自主AI智能体被纳入组织流程，对强大安全控制的需求也在增加。当今的现实是，公共云中的数据泄露确实会发生，平均成本为517万美元，这清楚地强调了组织财务和声誉所面临的威胁。
除了革命性创新之外，AI的未来还取决于在嵌入式安全、开放操作框架和严格治理程序的基础上发展弹性。对这些智能体建立信任将最终决定它们将被广泛和持久地接受的程度，从而塑造AI变革潜力的进程。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/que-bao-yi-liao-bao-jian-zhong-zi-zhu-ai-de-tan-xing-an-quan
