生成式AI走向应用“深水区”,亚马逊云科技如何为企业护航?
在2024 re:Invent全球大会上,亚马逊云科技推出一系列技术发布,以覆盖基础设施、模型和应用的全栈联动创新助力企业应用生成式AI,全面重塑客户云上创新体验。
原创
2024-12-31 13:23:24
来源:丁科技网  
作者:建辉

2023年,来自千行百业的企业关注生成式AI、寻找应用场景;2024年,他们中的领先者实践生成式AI、进行场景实验;2025年,那些继续保持领先的企业,将转向生产阶段,走向生成式AI应用的“深水区”,寻求商业价值回报。谁来为这些企业护航,又怎么护航?

能力越大,责任越大,为全球百万客户提供安全可靠云服务、连续13年被Gartner评为“全球云计算领导者”的亚马逊云科技,先承担了这份“护航”的重任。在2024 re:Invent全球大会上,亚马逊云科技推出一系列技术发布,以覆盖基础设施、模型和应用的全栈联动创新助力企业应用生成式AI,全面重塑客户云上创新体验。

在亚马逊云科技2024 re:Invent中国行北京站,亚马逊云科技大中华区产品部总经理陈晓建表示:“今年re:Invent全球大会的一系列重磅发布,我们不仅在云的核心服务层面持续创新,更在从芯片到模型,再到应用的每一个技术堆栈取得突破,让不同层级的创新相互赋能、协同进化。只有这样全栈联动的大规模创新才能真正满足当今客户的发展需求,加速前沿技术的价值释放,助力各行各业重塑未来。”

 
(亚马逊云科技大中华区产品部总经理陈晓建,图源:亚马逊云科技)

三大领域技术矩阵,直面未来复杂需求

“2024年我们看到许多客户从思考阶段进入实践阶段,进行了大量场景试验。但是我觉得2025年肯定会发生一个变化,很多客户将从原型验证阶段转化为生产阶段,这是必经之路。届时客户需求将更加复杂,不仅是选择模型,还需要各种技术支持。”陈晓建表示。

实践层面,亚马逊云科技在2024 re:Invent全球大会上的一系列技术发布,聚集生成式AI、数据战略和云服务三大领域。

整体来看,这些新发布更加侧重于产品的实际应用和工具优化,这是对全球用户积极使用亚马逊云科技进行生成式AI应用探索和创新的全新反馈。

沙利文大中华区总监李庆表示:“本次更新有两个方面让我印象深刻:一是随着全球企业对生成式AI的深入应用,数据不仅实现跨区域的传输与协同,更实现跨地域、跨区域的深度连接;二是亚马逊云科技进一步优化生成式AI的应用,从数据存储、治理到管理的全流程提升,旨在简化AI对数据的使用,同时强化模型功能、增加AI agent管理和应对模型幻觉的功能。”

技术“高能”的同时,在当天的沟通环节,陈晓建和亚马逊云科技大中华区数据分析与生成式AI的产品总监崔玮,还多次提到了获得的“成本”与使用的“便捷”,这些在具体的创新中都有体现。

生成式AI:基础设施、模型、应用的全进化

具体而言,在生成式AI领域,亚马逊云科技全面强化基础设施、模型和应用三层技术栈能力,帮助企业更轻松、更经济地将生成式AI应用于实际业务场景。

基础设施方面,突出能力。推出Amazon SageMaker AI的四项创新,包括新训练配方、灵活训练计划和任务治理功能,以及在Amazon SageMaker中使用亚马逊云科技合作伙伴的热门AI应用。帮助客户更快构建、训练、部署流行模型,节省数周时间并将成本降低最高40%。

模型方面,丰富选择。一方面推出Amazon Nova基础模型矩阵,突出的是对基础模型成本的大幅降低。包括Nova Micro、Nova Lite、Nova Pro和Nova Premier基础模型,以及用于生成高质量图像的Nova Canvas和生成高质量视频的Nova Reel。在各自智能类别中,Amazon Nova Micro、Lite和Pro应用成本比Amazon Bedrock中表现最佳的模型至少降低75%,同时也是其中对应类别速度最快的模型。

另一方面,Amazon Bedrock平台能力全面升级。新接入100多款热门、新兴及专业模型,并推出AI防护、多智能体协作和模型蒸馏等重磅更新,全面优化推理场景的准确性、成本和响应速度。

应用方面,延伸场景。Amazon Q更加深入软件开发和商业应用场景,Amazon Q Developer增加三款新的智能体,能自动执行单元测试、文档编制和代码审查流程,并通过与GitLab深度集成,扩展应用场景;推出转型功能以加速Windows.NET、VMware和大型机工作负载的迁移和现代化,缩短转型时间并降低成本。强化了Amazon Q Business和Amazon Q in QuickSight洞察能力,并简化了复杂工作流程的自动化实现方式。

数据战略:体验升级,统一平台释放数据价值

数据战略领域,亚马逊云科技推出新一代Amazon SageMaker,能够为客户提供单一的数据和AI开发环境,用户可以在其中查找和访问其组织中的所有数据,为各种常见的数据用例选择最佳工具,并将数据和AI项目扩展至团队内不同分工角色以实现协作。

Amazon SageMaker Lakehouse,能够实现数据湖、数据仓库、运营数据库和企业应用程序中数据的统一管理,支持客户使用熟悉的AI和机器学习工具或Apache Iceberg兼容的查询引擎进行访问和处理。

云服务:全栈联动创新,提供更强大底层支持

云服务领域,亚马逊云科技在计算、网络、存储和数据库等核心领域持续创新,为各类工作负载提供更强大的底层支持。

计算部分,继续凭借自研芯片引领算力创新。基于Amazon Trainium2的EC2 Trn2实例正式可用,较当前GPU实例性价比提升30-40%;推出配备64个Trainium2芯片的EC2 Trn2 UltraServers服务器,提供高达83.2 Petaflops浮点算力,计算能力是单一实例的四倍。在大规模训练方面,Project Rainier集群搭载数十万个Trainium2芯片,算力超越以往集群5倍以上。采用3纳米工艺的下一代Trainium3芯片预计将在2025年末上线,预计将使集群性能提升4倍,并在性能、能效和密度上树立新标杆。

网络部分,升级基础设施。推出第二代UltraCluster网络架构,支持超过20000个GPU协同工作,带宽达10Pb/s,延迟低于10ms,将模型训练时间缩短至少15%。

存储部分,增强数据处理能力。Amazon S3新增Metadata元数据功能实现自动获取和实时更新;推出专为Iceberg表优化的S3 Tables存储类型,将查询性能提升3倍,事务处理能力提升10倍。

数据库部分,全新的无服务器分布式SQL数据库Amazon Aurora DSQL,采用active-active架构并具备自动故障恢复功能,支持应用程序在任意端点进行读写。它不仅提供99.999%的多区域可用性,还能实现近乎无限的可扩展性,且无需进行数据库分片或实例升级。Amazon DynamoDB global tables增加了多区域强一致性支持,进一步增强了其分布式数据库服务能力。

解决“幻觉”,让企业无忧推进生成式AI生产应用

除了以上内容,更好地应对模型“幻觉”,更多企业才能没有顾虑地推进生成式AI的生产应用,因为在众多的真实场景中,容不得纰漏,生成的内容一旦与现实世界事实或用户输入不一致,可能造成难以挽回的损失,像是金融、医疗、法律领域尤其如此。

解决“幻觉”,才能让企业有信心将生成式AI从原型验证推向生产应用,也是充分释放性能的前提。亚马逊云科技探索了多种不同的技术方案发现自动推理技术(Automatic Reasoning)能够很有效的解决“幻觉”问题,提升内容生成的安全性与准确定。

例如,可以通过自动推理来证明说在整个Amazon IAM之中设计的权限和策略是不是按照所预想的方式进行的,从而获得可证明的安全性;推出的Amazon Bedrock 自动化推理检查的功能,则能够有效的去预防由于模型幻觉带来的事实性错误。

整体来看,亚马逊云科技将持续助力各行各业加速创新,突破既有范式,重塑未来。(丁科技网原创,转载务必注明“来源:丁科技网”)

最新文章
关于我们

微信扫一扫,加关注

商务合作
  • QQ:61149512