利好全球开发者!DeepSeek-R1与全球领先的亚马逊云科技强强联合!

在先前的亚马逊云科技回应中,亚马逊首席执行官安迪·贾西(Andy Jassy)依据亚马逊自身的经验,已经处理了近1,000个生成式人工智能公司的申请。贾西(Jassy)从这一广泛的人工智能部署过程中,提炼出三项关键的洞察,这些洞察对亚马逊企业人工智能实施策略的形成起到了决定性作用。

图片[1]-利好全球开发者!DeepSeek-R1与全球领先的亚马逊云科技强强联合! - 游读社-游读社

如果已经足够了解Deepseek的优势与部署方式,可以访问亚马逊云科技官网,亚马逊云科技提供了不止AI大模型的部署能力,有着全球最完善、最安全、最先进的云服务生态,祝您快人一步。

一、三个核心洞察

第一,成本计算

随着生成式AI应用程序的不断扩展,计算成本的重要性愈发凸显。市场参与者对于提升价格性能的渴望日益强烈;他们不仅寻求更高效的计算解决方案,还期望在不牺牲性能的前提下,降低整体的运营成本。这种需求推动了对更先进硬件和软件技术的探索,同时也促进了云计算服务的普及,因为云服务能够提供按需计算资源,从而优化成本结构。

第二,复杂性

亚马逊云科技持续致力于降低构建生成式AI应用的难度。通过提供先进的工具和平台,亚马逊云科技使得开发者能够更加便捷地开发出功能强大的生成式AI应用程序。然而,打造一个卓越的生成式AI应用程序的门槛已然不低;这不仅仅是因为技术的复杂性,还包括了对数据处理、模型训练以及算法优化的高要求。

第三,多样性

当我们赋予开发者自由选择的权利时,市场将回馈以令人惊喜的模型多样性。这一点并不令人意外,因为历史经验一再告诉我们,不存在能够统治世界的单一工具。正如在技术发展的长河中,我们见证了无数创新的诞生,每一种创新都是对现有解决方案的补充或挑战。赋予开发者选择的自由,意味着鼓励他们根据具体需求和场景,去探索和创造最适合的工具和模型。这种多样性不仅丰富了技术生态,也促进了整个行业的进步和创新。开发者们能够从不同的角度审视问题,从而提出更多元化的解决方案,这正是推动技术向前发展的关键动力。

二、为什么亚马逊云科技会选择Deepseek

Deepseek的卓越表现及其所带来的冲击,是不容置疑的。亚马逊云科技选择与Deepseek合作,并非仅仅基于参数和市场热度的考量,而是正如安迪(Andy)所强调的,亚马逊所提供的广泛而深入的模型库,使得客户能够选择最符合其特定需求的精确功能。通过密切关注客户需求和技术进步,亚马逊云科技定期扩充我们精心挑选的模型库,包括有潜力的新模型与已建立的行业标准模型并存。这种高性能和差异化模型产品的持续扩充,有助于客户保持在AI创新领域的最前沿。

来自中国的AI创业公司DeepSeek,于2024年12月发布了DeepSeek-R1,DeepSeek-R1-Zero,具备6710亿个参数,以及从2025年1月20日起的DeepSeek-R1-Distill模型,参数范围在15-700亿之间。他们于2025年1月27日新增了基于视觉的Janus-Pro-7b模型。这些型号已经公开可用,并且据报告,相较于可比模型,性能高出90-95%。在DeepSeek的案例中,其模型因其推理能力而显得尤为突出,这一能力是通过诸如增强学习等创新训练技术实现的。

正是由于Deepseek所具备的卓越推理能力以及多模态的生成能力,它能够更加精准地分析和处理复杂的数据信息,从而为亚马逊云科技公司的客户带来更加高效和精确的服务体验。这种能力不仅体现在对大数据的快速处理上,还体现在对各种类型数据的深度理解和生成上,无论是文本、图像还是声音,Deepseek都能够进行有效的分析和生成。这种多模态的处理能力,使得Deepseek在满足客户多样化需求方面具有独特的优势。同时,Deepseek的推理能力让它能够从海量的数据中提取出有价值的信息,为亚马逊云科技公司的客户决策提供有力支持。因此,Deepseek不仅提升了亚马逊云科技公司的服务质量,也为其客户带来了前所未有的价值。

三、亚马逊云科技为开发者和企业客户提供了哪些便捷部署Deepseek的赋能

今日,您可于Amazon Bedrock及Amazon Sagemaker AI平台实现访问。Amazon Bedrock特别适合那些希望建立在API之上,快速整合预训练的基金会模型的团队。Amazon Sagemaker AI则为那些寻求高级定制、培训及部署,并期望访问基础架构资源的组织提供了理想选择。此外,您亦可利用亚马逊云科技推理,通过成本效益的方式,通过亚马逊弹性计算云(Amazon EC2)或Amazon Sagemaker AI实现。

借助亚马逊云科技,您得以利用DeepSeek-R1模型来构建、实验并负责任地扩展您的生成AI构想,并利用此强大且具成本效益的模型,以最小的基础架构投资。您亦可借助专为安全性设计的亚马逊云科技服务,自信地推进生成AI创新。我们强烈推荐您将DeepSeek-R1模型的部署与Amazon Bedrock Guardrails结合,为您的生成AI应用程序增添一层保护,Amazon Bedrock和Amazon Sagemaker AI的客户均可享用。

您可通过多种途径选择在亚马逊云科技上部署DeepSeek-R1模型:

  1. Amazon Bedrock市场针对DeepSeek-R1模型

  2. Amazon Sagemaker Jumpstart针对DeepSeek-R1模型

  3. Amazon Bedrock定制模型导入针对DeepSeek-r1-Distill模型

  4. AmazonEC2 TRN1实例针对DeepSeek-r1-Distill模型

让我引导您了解在亚马逊云科技上部署DeepSeek-R1模型的多种途径。无论您是构建首个AI应用程序还是扩展现有解决方案,这些途径均根据团队的专业知识和需求,提供了灵活的起点。

方法一:Amazon Bedrock市场的DeepSeek-R1型号

Amazon Bedrock市场在Amazon Bedrock中提供了100多种流行,新兴和专业的FMS,以及当前的行业领先模型。您可以轻松地在单个目录中发现模型,订阅模型,然后在托管端点上部署模型。要访问Amazon Bedrock市场的DeepSeek-R1车型,请转到Amazon Bedrock控制台并选择模型目录在基础模型部分。您可以通过模型提供商搜索或过滤快速找到DeepSeek。

访问入口:亚马逊云科技官网

图片[2]-利好全球开发者!DeepSeek-R1与全球领先的亚马逊云科技强强联合! - 游读社-游读社

在检查了模型详细信息页面之后,包括模型的功能和实现指南,您可以通过提供端点名称,选择实例数并选择实例类型来直接部署模型。

图片[3]-利好全球开发者!DeepSeek-R1与全球领先的亚马逊云科技强强联合! - 游读社-游读社

您还可以配置高级选项,使您可以自定义DeepSeek-R1模型的安全性和基础结构设置,包括VPC网络,服务角色权限和加密设置。对于生产部署,您应该查看这些设置,以符合组织的安全性和合规性要求。

使用Amazon Bedrock Guardrails,您可以独立评估用户输入和模型输出。您可以通过在生成AI应用程序中过滤不良和有害的内容来控制用户与DeepSeek-R1之间的相互作用。Amazon Bedrock市场中的DeepSeek-R1模型只能与基岩的使用应用Guardrail API评估用户输入和模型响应的自定义和第三方FMS以外的自定义和第三方FMS。要了解更多信息,请阅读通过Amazon Bedrock Guardrails实施独立于模型的安全措施.

Amazon Bedrock Guardrails也可以与其他基岩工具集成Amazon Bedrock代理商和Amazon Bedrock知识基地建立与负责任的AI政策一致的更安全,更安全的生成AI应用程序。要了解更多信息,请访问亚马逊云科技负责AI页。

2月1日更新- 您可以使用基岩游乐场来了解模型如何响应各种输入,并让您对提示进行微调以获得最佳结果。

图片[4]-利好全球开发者!DeepSeek-R1与全球领先的亚马逊云科技强强联合! - 游读社-游读社

当使用基岩的操场或InvokeModelAPI,请使用DeepSeek的聊天模板以获得最佳结果。例如,<|begin_of_sentence|><|User|>content for inference<|Assistant|>.

要了解更多信息,请访问Amazon Bedrock市场中部署模型.

方法二:Amazon Sagemaker Jumpstart的DeepSeek-R1模型

Amazon Sagemaker Jumpstart是带有FMS,内置算法和预构建的ML解决方案的机器学习(ML)中心,您只需单击几下即可部署。要在SageMaker Jumpstart中部署DeepSeek-R1,您可以在Sagemaker Unified Studio,Sagemaker Studio,Sagemaker AI控制台,或通过编程Sagemaker Python SDK.

在Amazon Sagemaker AI控制台,然后选择快点并搜索”DeepSeek-R1所有公共模型页。

图片[5]-利好全球开发者!DeepSeek-R1与全球领先的亚马逊云科技强强联合! - 游读社-游读社

您可以选择模型并选择部署以创建默认设置的端点。当终点到来时服务,您可以通过将请求发送到其端点来推断。

图片[6]-利好全球开发者!DeepSeek-R1与全球领先的亚马逊云科技强强联合! - 游读社-游读社

您可以通过Amazonsagemaker AI诸如Amazon Sagemaker调试器,或容器日志。该模型被部署在亚马逊云科技安全环境中,并在您的虚拟私有云(VPC)控件下部署,有助于支持数据安全。

就像基岩市场公园一样,您可以使用ApplyGuardrailSageMaker中的API从DeepSeek-R1模型中为您的生成AI应用程序取消保障措施。现在,您可以在不调用FMS的情况下使用Guardrails,这为您的应用程序流提供了更多标准化和经过彻底测试的企业保障措施的门,无论使用哪种模型。

方法三:使用Amazon Bedrock自定义模型导入的DeepSeek-R1-Distill型号

Amazon Bedrock定制模型导入提供了通过单个无服务器,统一的API与现有FM一起导入和使用定制模型的能力,而无需管理基础架构。使用Amazon Bedrock自定义模型导入,您可以导入DeepSeek-r1-Distill模型,其参数范围为1.5-700亿个参数。蒸馏过程涉及训练较小、更有效的模型,以模仿较大的DeepSeek-R1模型的行为和推理模式,并通过将其用作教师模型,并使用6710亿个参数。

将这些公开模型存储在亚马逊简单存储服务(Amazon S3)或一个Amazon Sagemaker模型注册表,去导入的模型在下面基础模型在Amazon Bedrock控制台并通过Amazon Bedrock将其导入并部署在完全管理和无服务器的环境中。这种无服务器方法消除了对基础架构管理的需求,同时提供了企业级的安全性和可扩展性。

图片[7]-利好全球开发者!DeepSeek-R1与全球领先的亚马逊云科技强强联合! - 游读社-游读社

2月1日更新- 导入蒸馏模型后,您可以使用基岩操场来了解输入的蒸馏型响应。

图片[8]-利好全球开发者!DeepSeek-R1与全球领先的亚马逊云科技强强联合! - 游读社-游读社

方法四:使用亚马逊云科技 Trainium和亚马逊云科技推理的DeepSeek-R1-Distill模型

亚马逊云科技深度学习Amis(Dlami)提供定制的机器图像,您可以在各种Amazon EC2实例中使用这些图像,从仅CPU的小型实例到最新的高功率多GPU实例。您可以在亚马逊云科技 Trainuim1或亚马逊云科技推理实例上部署DeepSeek-R1-Distill模型,以获得最佳的价格表现。

要开始,去AmazonEC2控制台并推出trn1.32xlargeEC2实例与神经元多框架Dlami被称为深学习AMI神经元(Ubuntu 22.04)。

图片[9]-利好全球开发者!DeepSeek-R1与全球领先的亚马逊云科技强强联合! - 游读社-游读社

连接到启动的EC2实例后,请安装VLLM,这是一个开源工具大语言模型(LLM)并从拥抱脸下载DeepSeek-R1-Distill模型。您可以使用VLLM部署模型并调用模型服务器。

要了解更多信息,请参考分步指南关于如何将DeepSeek-R1-Distill Llama模型在亚马逊云科技推理和Trainium上部署。

你也可以参观DeepSeek-R1-Distill型号卡在Hugging Face上,例如DeepSeek-r1-Distill-lalama-8b或者DeepSeek-ai/deepSeek-r1-distill-llama-70b。选择部署来自亚马逊云科技推理选项卡,复制用于部署DeepSeek-R1-Distill模型的示例代码。

图片[10]-利好全球开发者!DeepSeek-R1与全球领先的亚马逊云科技强强联合! - 游读社-游读社

如果您对通过亚马逊云科技部署Deepseek感兴趣,大家可以访问亚马逊云科技官网,亚马逊云科技提供了不止AI大模型的部署能力,有着全球最完善、最安全、最先进的云服务生态,一定会成为你数字化飞跃上的V8引擎!

© 版权声明
THE END
喜欢就支持一下吧
点赞5 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片快捷回复

    暂无评论内容