亚马逊云科技现已支持DeepSeek-R1一键部署

编辑

2025年1月30日DeepSeek-R1模型正式入驻Amazon Bedrock Marketplace平台,并同步开放自定义模型导入功能,该AI解决方案已在Amazon Bedrock生态中实现规模化应用。数据显示,已有上万家企业客户通过该平台完成模型部署,其中企业用户尤为关注其内置的AI安全部署保障体系及全流程工具链。为进一步降低使用门槛,现推出包括无服务器架构支持在内的多项服务升级,开发者现可通过更灵活的方式在Amazon Bedrock环境中调用DeepSeek系列模型。

亚马逊云科技是第一家将DeepSeek-R1作为完全托管的通用模型交付的云服务提供商。您可以使用亚马逊云科技上的DeepSeek让项目快速上线落地实现商业价值。如果您或者您的公司还没有使用过亚马逊云科技,欢迎访问注册亚马逊云科技注册账号。注册好账号后可以使用 Amazon Bedrock 完全托管式服务中的单个API,通过DeepSeek-R1模型的功能为您的生成式AI应用程序提供支持。

依托Transformer架构的DeepSeek模型,在推理、编码和自然语言理解方面提供了强大的能力。这些都可以为智能决策、软件开发、数学问题、科学分析、数据洞察和全面的知识管理系统提供支持。

与所有AI解决方案一样,在生产环境中实施时,需要仔细考虑数据隐私要求,检查输出中的偏差,并进行风险监听。在部署DeepSeek-R1等公开可用的模型时,请考虑以下事项:

  • 数据安全Amazon Bedrock提供企业级安全防护体系, 数据在存储(静态)和传输过程中均采用军事级加密,支持客户自主管理密钥或使用亚马逊托管的密钥管理系统(KMS)。通过身份与访问管理(IAM)系统,可精确设定不同人员对DeepSeek-R1模型的访问权限(例如允许开发团队调用模型但禁止财务部门访问),已通过ISOSOCPCI-DSS18项国际安全认证,确保符合全球主要市场的监管要求,所有用户与DeepSeek-R1模型的交互数据均独立存储于客户专属空间,不会与任何第三方模型供应商共享。
  • AI内容脱敏:您可以使用 Amazon Bedrock Guardrails 根据您的应用程序要求制定内容保护措施。包括过滤、敏感和可自定义安全控制功能,以使上下文衔接顺畅,自动推理准确,防止AI一本正经胡说八道。
  • 智能模型选型Amazon Bedrock模型评估工具,自动或人工评估,通过几个步骤对模型进行评估和比较,以确定适合您的最佳模型(包括DeepSeek-R1)。您可以选择使用预定义指标(如准确度、稳健性和响应速度)进行自动评估。或者您可以自定义指标(如相关性、风格以及与品牌一致性)选择人工评估工作流程。模型评估提供内置的精选数据进行训练,当然您也可以引入自己的数据。

我们强烈建议将Amazon Bedrock集成,并将Amazon Bedrock模型评估功能与您的DeepSeek-R1模型结合使用,为您的生成式AI提供强大的保护。

亚马逊云科技是全球云计算的开创者和引领者品牌,提供众多免费云产品使用,有兴趣的可以访问:亚马逊云科技

开始使用Amazon Bedrock中的DeepSeek-R1模型

如果您不熟悉使用DeepSeek-R1模型,请转到Amazon Bedrock控制台 ,在左侧导航条中的Bedrock configurations 下选择Model access。然后在DeepSeek中请求访问DeepSeek-R1。此时您将被授予对Amazon Bedrock中模型的访问权限,具体如下图所示:

1.webp

接下来,要在Amazon Bedrock中测试DeepSeek-R1模型,请在左侧菜单中的Playgrounds下选择Chat/Text。然后点击左上角的Select model,并选择DeepSeek作为类别,选择DeepSeek-R1作为模型。然后点击Apply,如下图所示:

2.webp

使用选择的DeepSeek-R1模型,运行以下提示词:

A family has $5,000 to save for their vacation next year. They can place the money in a savings account earning 2% interest annually or in a certificate of deposit earning 4% interest annually but with no access to the funds until the vacation. If they need $1,000 for emergency expenses during the year, how should they divide their money between the two options to maximize their vacation fund?

这个提示需要一个复杂的思维链,并产生非常精确的推理结果。

3.webp

要了解有关提示使用建议的更多信息,请参阅 DeepSeek-R1 模型提示指南 。

为DeepSeek-R1模型启用Amazon Bedrock Guardrails防护栏
在Amazon Bedrock控制台左侧导航栏中,选择"Safeguards" → "Guardrails"模块,点击"创建防护栏"按钮。在防护栏创建界面,可通过"词汇过滤"功能设置关键词拦截。例如:当输入"政治(politics)"作为过滤词时,系统会自动识别包含该词汇的提示词,并在交互界面显示"该请求因触发防护规则被拦截"的警示信息。

4.webp

您可以使用不同的输入词进行测试。通过设置拒绝主题、单词筛选条件、敏感信息等等来优化拦截策略,直到符合您的需求。

评论区

暂无评论,快来抢沙发