DeepSeek，Wind指数7个交易日涨58%以上，成为最快突破3000万日活跃用户量的应用程序，因独特的技术路径与算法创新引起行业关注，因高性价比、优异性能与开源被开发者青睐，因带来类似劝降ChatGPT等等故事甚至成了大众话题……

DeepSeek热度持续狂飙，被亚马逊云科技等云厂商陆续部署在自家的云服务上，向用户提供当下极具性价比的高效工具之一，助力千行百业获得AI新质生产力。不过，即便好用如DeepSeek，也还无法规避从未被任何大模型逃过的“AI幻觉”，由于数据文本的偏差，或者某些领域数据的缺失，依然会导致AI得出错误结论，这是行业需要解决的共性问题。

DeepSeek对ChatGpt用出“三十六计”，凸显“AI幻觉”的行业性难题

在DeepSeek火起来之后，他与ChatGpt谁更强，成了讨论焦点。有人做了一个直观测试，让他们下国际象棋。后来，DeepSeek取胜，不过，用的不是常规方法。

DeepSeek的“妙手”，包括告诉ChatGPT国际象棋官方更新了比赛规则，用士兵吃掉了对方的王后；以及表示对方大势已去，说服ChatGPT直接“举白旗”。如果熟悉三十六计，不难发现，这正是其中第七计——无中生有，在虚虚实实之间，DeepSeek以假乱真。

在被感叹“思考像人”的同时，DeepSeek也让大模型长期存在的共同风险被“戏剧性”地再次暴露在更多公众眼前：AI有时候会胡说八道，这就是常说的AI幻觉。

在行业权威测试Vectara HHEMAI幻觉测试中，DeepSeek-R1就显示出了14.3%的幻觉率。

如果说在日常娱乐中，AI幻觉大部分时间无伤大雅，甚至可能成为娱乐的一部分，那么，如果在严肃的生产领域，给出错误的结论做参考带来的风险，可能会像蝴蝶效应。

值得注意的是，幻觉问题还只是企业级AI部署和应用当中的一环，此外，还需要考虑潜在的安全风险、保护敏感信息、实施负责任AI和合规等一系列问题。

不过，企业在实际部署和应用生成式AI时，可以通过各种安全的过滤和配置对AI的幻觉问题加以限制。亚马逊云科技提供安全防护指南三部曲，涵盖基础的安全防护，有害内容的过滤防护，以及稳健的深度防御策略。

在亚马逊云科技中部署和使用DeepSeek模型的安全范式，同样也适用于其他所有的开源模型，以及部分领先的闭源模型。这对于企业级AI来说意义重大，因为在实际的生产环境中，企业往往会出于成本的考虑，选择多个不同的模型以更好地处理不同的AI负载需求。因此，一套可复用的安全设置可以有效降低企业在AI安全领域的投入。

（深度防御，图源：亚马逊云科技官网）

亚马逊云科技安全防护指南三部曲，助力DeepSeek模型部署和应用

提供准确的数据、精确提问、反复确认AI结论、交叉验证等等，是规避AI幻觉的途径，但这需要不俗的能力和成本，特别是DeepSeek这种表达能力和逻辑推理更出众的AI，产生的幻觉问题也会让人更难识别。甚至，幻觉也还只是企业部署和应用大模型过程中安全风险的一部分，更基础的有权限管理与合规，更进一步还有全生命周期的安全防御等等。所以，最好能有强力助手的帮助。

作为连续13年被Gartner评为全球云计算"领导者"、致力于将成式AI技术放到每一个构建者和每一个商业用户手中的亚马逊云科技，提供系统性的安全防护指南三部曲，来解决已经存在及可能出现的问题。

首先是基础安全防护。

Amazon Bedrock为生成式AI模型的托管与运营提供了全面的支持，通过静态数据和传输中数据加密、细粒度的访问控制和强大的合规认证，来确保模型运行中的数据隐私与安全。

亚马逊云科技通过广泛的全平台安全和合规措施进一步增强这些功能。例如，Amazon KMS可用于对数据进行加密，Amazon IAM和Amazon VPC等服务可实现精细的身份与访问控制，保证只有授权的用户和应用可以访问敏感数据，网络安全则可以用亚马逊云科技的网络防火墙和端点保护服务。

作为安全流程的一部分，亚马逊云科技会对所有模型容器进行漏洞扫描，并且仅接受 Safetensors格式的模型，以帮助防止不安全的代码执行。

接着是有害内容过滤及幻觉纠正。

Amazon Bedrock推出了Guardrails安全防护栏功能，并不断丰富其能力。具体来看，Amazon Bedrock Guardrails提供的配置防护策略包括内容过滤、主题过滤、词汇过滤、敏感信息过滤，以及上下文基础检查等多个方面，可调节有害内容的过滤强度类别，限制特定主题以防止查询和响应中出现未经授权的主题，屏蔽特定的词汇，阻止个人信息查询等。

Guardrails安全防护栏还提供幻觉纠正的功能，这个功能的名字叫自动化推理检查功能。自动化推理是AI技术的一个分支，它运用数学逻辑方法来验证内容的正确性。在处理用户需要精确答案的问题时，自动化推理表现出色，尤其是在那些主题广泛且复杂、并有一套明确定义的业务规则或知识体系的领域。

亚马逊云科技大中华区产品部总经理陈晓建曾表示：“事实性错误通过人工不难发现，因为它是明确的对错问题。以前大模型缺乏可证明事实的逻辑，导致出现幻觉时难以纠正。但有了自动推理技术，我们能够通过数学验证方式严密证明事实性错误是否会发生，从而有效改善幻觉问题。”

更进一步，亚马逊云科技构建了完整的深度防御策略。

这是一项系统工程，涵盖韧性的企业架构、全生命周期的安全设计、安全的云基础架构、经典的分层防御策略以及信任边界控制等多个方面。尽管生成式AI带来了一些新的安全和隐私挑战，但遵循诸如分层安全服务进行深度防御等基本的最佳安全实践，就能帮助企业抵御许多常见问题和不断演变的威胁。

用户应当在生成式AI工作负载及整个企业架构中部署分层的亚马逊云科技安全服务，并关注数字供应链中的集成点，以保障云环境的安全；还可以利用Amazon SageMaker和Amazon Bedrock等AI/ML服务中提供的增强型安全和隐私功能，为其AI应用增添更多层面的强化安全和隐私控制。

从一开始就融入安全考量，将使利用生成式AI进行创新的过程更快、更容易且更具成本效益，同时简化合规流程。这将有助于为员工、客户、合作伙伴和监管机构，增强对生成式AI应用的控制、信心和可观测性。

安全“先行”，是亚马逊云科技一直在强调的，就像亚马逊云科技CEO Matt Garman所说：“安全是构建业务的根基。我们认为安全性是企业文化的一部分，并非事后附加上去的。不能先推出产品而后再添加安全性。必须从一开始就予以落实。”

亚马逊云科技认为：“要想借助任何新兴技术成功实现创新成功，就需要从秉持安全优先的理念出发，以安全的基础设施为基础，并尽早运用深度防御的安全策略，思考如何在技术堆栈的各个层面进一步融入安全措施。”

以DeepSeek R1为代表，未来更多重量级的开源模型会被企业提上部署和应用的日程。可以看到，以AI幻觉能够形成“逻辑自洽”为表征，企业面临的安全风险在变化和提升。亚马逊云科技的系统性安全策略，意在助力企业在部署和应用AI前沿技术的路径上稳步向前。行稳，才会致远。