Amazon Bedrock 让你数据安全要求高的行业轻松使用云端部署的 DeepSeek模型

生成AI的快速发展带来了强大的公开大型语言模型（LLMS），例如DeepSeek-R1，在创新的最前沿。现在可以通过Amazon Bedrock市场和Amazon Sagemaker Jumpstart，可以通过Amazon Bedrock定制模型导入。

访问入口：亚马逊云科技官网

根据deepseek ai，这些模型在推理，编码和自然语言理解方面具有很强的功能。但是，它们在生产环境中的部署（例如所有模型）会仔细考虑数据隐私要求，适当管理产出的偏见以及对强大的监视和控制机制的需求。比如，在一些高度受监管的行业（例如医疗保健，金融和政府服务）中尤为重要，在医疗保健，财务和政府服务中，数据隐私和内容准确性至关重要。他们在选用开放权重模型时，会比较看重：

加强安全措施以防止潜在的滥用
确保保护敏感信息
促进负责任的内容生成实践
努力遵守相关行业法规

这篇博客文章提供了使用Amazon Bedrock Guardrails实施DeepSeek-R1和其他开放式重量模型的强大安全保护的综合指南。我们将探索：

如何使用Amazon Bedrock提供的安全功能来保护您的数据和应用
实际实施Guardrails以防止及时攻击并过滤有害内容
实施强大的深入防御策略

您将学习如何使用DeepSeek模型的先进功能，同时保持强大的安全控制并促进道德AI实践。无论是开发面向客户的生成AI应用程序还是内部工具，这些实施模式都将帮助您满足安全和负责任的AI的要求。通过遵循这种逐步的方法，组织可以与AI安全和保障的最佳实践一起部署开放权重LLM，例如DeepSeek-R1。

第一步，在Amazon Bedrock上部署DeepSeek模型

为什么推荐在亚Amazon Bedrock上部署DeepSeek模型，Amazon Bedrock通过广泛的平台安全和合规性措施增强了这些功能：

使用静止和运输中的数据加密Amazon密钥管理服务（Amazon KMS）
通过Amazon身份和访问管理（IAM）
通过网络安全亚马逊虚拟私有云（Amazon VPC）部署，VPC端点，和Amazon网络防火墙用于TLS检查和严格的政策规则
服务控制政策（SCP）对于Amazon帐户级治理
安全组和网络访问控制列表（NACLS）用于访问限制
合规认证包括HIPAA，SOC，ISO和GDPR
FedRamp高授权Amazon GovCloud（US-West）Amazon Bedrock
监视和登录Amazon CloudWatch和Amazon CloudTrail

组织在部署到生产环境时应根据其特定的合规性和安全需求来自定义这些安全设置。 Amazon作为其安全过程的一部分进行所有模型容器的脆弱性扫描，并仅接受模型Sapetsors格式以帮助防止不安全的代码执行。

使用入口：访问亚马逊云科技官网，

在为使用Amazon Bedrock自定义模型导入功能导入的模型设置Guardrails之前，请确保您遇到以下条件：

一个Amazon帐户，可访问Amazon Bedrock，并带有必要的IAM角色以及所需的权限。对于集中式访问管理，我们建议您使用Amazon IAM身份中心.
确保已经使用Amazon BedRock自定义模型导入服务导入自定义模型。为了进行插图，我们将使用DeepSeek-r1-Distill-lalama-8B，可以使用Amazon Bedrock定制模型导入。您有两个部署此模型的选项：

遵循说明部署DeepSeek-R1蒸馏骆驼模型部署DeepSeek的蒸馏骆驼模型。
使用可用的笔记本Amazon样本用于部署。

本笔记本执行以下操作：

安装所需的依赖项
使用BOTO3 API和过滤器创建Guardrails，以满足前面提到的用例。
为导入的模型配置令牌。
使用提示测试Amazon Bedrock Guardrails，以显示各种亚马逊基石Guardrails过滤器。

这种方法将Guardrails集成到用户输入和模型输出中。这可以确保在相互作用的两个阶段中截获任何潜在的有害或不适当的内容。对于使用Amazon Bedrock自定义模型进口进口的开放式蒸馏型号，Amazon Bedrock市场和亚马逊萨吉式启动器，要实施的关键过滤器包括用于及时攻击，内容审核，主题限制和敏感信息保护的关键过滤器。

第二步，启用Amazon Bedrock Guardrails核心功能配置关键策略

Amazon Bedrock Guardrails提供可配置的保障措施，以帮助安全地构建生成AI应用程序。可以通过两种方式使用。首先，可以将其直接与InvokeModel和Converse API调用进行集成，在推理过程中，将Guardrails应用于输入提示和模型输出。这种方法适合通过Amazon Bedrock市场和Amazon Bedrock定制型号导入在Amazon Bedrock上托管的型号。另外，Applagardrail API提供了一种更灵活的方法，可以独立评估内容不调用模型。第二种方法可用于评估应用程序的各个阶段的输入或输出，并在Amazon Bedrock之外使用自定义或第三方模型。两种方法都使开发人员能够实施根据其用例定制的保障措施，并与负责的AI策略保持一致，从而确保在生成AI应用程序中进行安全和合规的交互。