创新技术全栈联动,亚马逊云科技让客户的理想发生

作者:

刘沙

责任编辑:

刘沙

来源:

电脑商情在线

时间:

2024-12-24 18:26

关键字:

亚马逊云科技

  在生成式AI时代,应用生成式AI重塑业务,提升客户体验已经成为了很多企业的理想。那么,企业到底该如何着手?

  近日,亚马逊云科技re:Invent 2024中国行在北京启动,发布了一系列重磅技术,覆盖基础设施、模型和应用,展现了全栈联动的创新能力,为企业客户提供了更多选择。

亚马逊云科技大中华区产品部总经理陈晓建

  亚马逊云科技大中华区产品部总经理陈晓建表示,现在几乎所有的应用程序都可以分解成为几个核心的构建单元。亚马逊云科技所做的就是构建出非常优秀的服务,让用户通过轻松自由地搭建这些核心单元,满足他们在特定场景下不同的业务需求。这些构建单元包括计算服务、存储服务、数据库服务、数据分析服务、AI推理和Amazon Q。

  计算服务

  亚马逊云科技一直持续进行创新,为用户工作负载提供更强大的底层支撑。"目前亚马逊云科技提供的计算实例类型比其他任何云服务提供商都要多。"陈晓建指出,Amazon EC2为用户提供了更多选择、更多实例类型和更多功能,让客户能为应用和工作负载找到更具性价比的解决方案。

  此次创新的首先是自研芯片,基于Amazon Trainium2的EC2 Trn2实例正式可用,比当前的GPU实例性价比提升了30-40%;而且每个Trn2实例都配备了16个Amazon Trainium2芯片,这些芯片通过Neuron Link的高带宽、低延迟互连技术相连,使单个实例能够提供高达20.8 Petaflops的计算性能。

  目前Trainium2已经在多家企业中成功应用。如Adobe使用Trainium2测试其图像模型时获得了初步成果。Poolside计划在Trainium2上训练其未来模型,预计训练成本可以降低40%。数据和AI公司Databricks计划使用Trainium2为双方的共同客户带来更好的效果,将总体拥有成本降低30%。高通也看好Trainium2 能帮助开发者通过高通AI Hub构建具有成本效益的高性能模型,并在边缘设备上便捷部署。

  亚马逊云科技还推出了配备64个Trainium2芯片的EC2 Trn2 UltraServers服务器,提供高达83.2 Petaflops浮点算力,计算能力是单一实例的四倍。在大规模训练方面,Project Rainier集群搭载数十万个Trainium2芯片,算力超越以往集群5倍以上。

  存储服务

  在存储领域,作为亚马逊云科技于2006年推出的首个服务,Amazon S3已经改变了很多企业管理数据的方式。现在使用Amazon S3服务且容量超过1PB的客户已经超过了数千家。Amazon S3的整个存储容量已经超过了400万亿个对象。

  此次Amazon S3新增了Metadata元数据功能,能帮助客户即时发现和理解Amazon S3中的数据,能够自动为客户创建可查询的元数据,并且几乎实时进行更新。

  Amazon S3 Tables已经正式可用,这种专为Iceberg表设计的全新存储桶类型将查询性能提升3倍,事务处理能力提升10倍。

  数据库服务

  亚马逊云科技提供了多种适用于不同场景下专门构建的数据库,从关系型数据库到图数据库到文档数据库,在每种使用场景下,客户都能找到合适的数据库工具。

  陈晓建表示,客户需要Amazon Aurora的这种关系型数据库,它既能提供商业数据库级别的可靠性,又能像开源数据库一样具有可移植性。而且和自托管开源数据库相比,它的性能提升了3-5倍,但成本仅为商业数据库的十分之一。

  全新的无服务器分布式SQL数据库Amazon Aurora DSQL则具备自动故障恢复功能,支持在任意端点读写应用程序。它不仅提供99.999%的多区域可用性,还能实现近乎无限的可扩展性,且无需进行数据库分片或实例升级。

  新发布的Amazon DynamoDB global tables支持多区域强一致性,无论客户选择SQL还是NoSQL数据库,都能享受到这些优势:支持主动-主动的多区域部署,同时具备强一致性、低延迟和高可用性。

  数据分析服务

  在数据战略方面,亚马逊云科技发布了新一代Amazon SageMaker和Amazon SageMaker Lakehouse,为数据、分析和AI提供统一平台,让客户不再孤立使用不同的数据分析工具,而是能将分析、机器学习和生成式AI结合起来获取洞察。

  新一代Amazon SageMaker将快速SQL分析、PB级大数据处理、数据探索和集成、模型开发和训练以及生成式AI等功能统一到一个集成平台,全部功能都可以通过统一的企业数据视图实现。客户可以轻松查找和访问组织内的所有数据资源,并借助Amazon Q Developer选择最适合的工具进行处理。

  新推出的Amazon SageMaker Lakehouse实现了数据湖、数据仓库、运营数据库和企业应用程序中数据的统一管理,支持客户使用熟悉的AI和机器学习工具或Apache Iceberg兼容的查询引擎进行访问和处理。

  制药和诊断领域的先锋企业罗氏(Roche)已经通过该技术获益,罗氏使用Amazon SageMaker Lakehouse统一了来自Amazon Redshift和Amazon S3数据湖的数据,以消除数据孤岛,增强团队之间的协作,并允许用户无缝利用数据,无需昂贵的数据移动或重复的安全访问控制。借助Amazon SageMaker Lakehouse,罗氏预计数据处理时间将减少40%,这让他们减少数据管理工作,而将精力更多用于推动业务发展。

  此外,Amazon SageMaker AI推出了四项创新,包括Amazon SageMaker HyperPod的新训练配方功能、Amazon SageMaker HyperPod灵活训练计划、Amazon SageMaker HyperPod任务治理功能和整合亚马逊云科技合作伙伴的热门AI应用,将帮助客户更快更轻松地构建、训练和部署模型。

  AI推理

  当企业完成一个模型训练后,企业还需要一个强大的平台和工具,把训练的实现结果放到推理环境,为真实的业务带来价值。

  陈晓建表示,所有业务可能都需要用到大模型提供的推理能力,这意味着亚马逊云科技需要提供一个能够支持规模化推理的平台,帮助客户用好自己的数据。这一切都需要在模型的性能、功能和成本方面取得平衡。

  本次亚马逊云科技推出了AI推理基础模型Amazon Nova,包括Nova Micro、Nova Lite、Nova Pro和Nova Premier四个不同类型得基础模型,以及用于生成高质量图像的Nova Canvas和生成高质量视频的Nova Reel,它们大幅降低了基础模型的成本。

  "同时使用多个模型的做法在行业中普遍存在。企业在选择模型时,通常会基于性能、功能和成本进行权衡,根据不同场景需求,选择高性能或低成本等不同定位的模型。" 陈晓建指出。

  其次是AI推理构建工具Amazon Bedrock,亚马逊云科技还将构建和扩展生成式AI应用的关键平台Amazon Bedrock的平台能力全面升级,可新接入100多款热门、专业的模型,并推出AI防护、延迟优化选项、多智能体协作和模型蒸馏等重磅更新,全面优化推理场景的准确性、成本和响应速度;

  陈晓建强调:"开发Amazon Bedrock的目的不仅是提供模型市场,更重要的是提供能让模型推理运行时所需的各种生产力工具和生产环境工具,这才是Amazon Bedrock的真正价值所在。"

  Amazon Q

  即使是没有任何生成式AI专业能力的业务人员,也能够快速便捷的使用Amazon Q的生成式AI功能。

  据介绍,Amazon Q系列产品包括Amazon Q Developer和 Amazon Q Business,为不同场景提供生成式AI支持。

  此次Amazon Q Developer增加了三款新的智能体,能自动执行单元测试、文档编制和代码审查流程,并通过与GitLab深度集成,扩展应用场景;强化了Amazon Q Business和Amazon Q in QuickSight洞察能力,并简化了复杂工作流程的自动化实现方式。

  在亚马逊,Amazon Kindle的技术支持工程师采用Amazon Q Developer的运营调查功能后,将问题解决速度提升了65-80%,使他们能够更快响应客户需求,提供卓越的用户体验。Amazon Music的开发人员也将Amazon Q视为全天候的得力助手,它能够自动调查并识别各种潜在问题,极大提升他们的响应速度。初期的使用数据显示,Amazon Music的问题解决速度提高了一倍,确保了听众能够不间断地享受他们喜爱的音乐。

  Amazon Q Business则更加深入软件开发和商业应用场景。它既能充分利用公司内部数据,又能加快任务处理速度。Amazon Q可以连接企业数据源、亚马逊云科技、第三方应用和维基百科等各类业务系统,让用户能够在不同的数据孤岛中进行搜索、总结信息,并就相关内容展开对话。纳斯达克、Principal Financial Group和埃森哲都在使用Amazon Q Business,通过生成式AI显著提升了员工的工作效率。

  如陈晓建所言,"我们每个人都在经历一个历史性的技术融合时刻,并且在继承着和发展着很多先驱者的梦想。我们所做的工作也是为下一代的先驱者去铺平道路,去塑造当下能够为各行各业客户带来更多的价值。"

  从此次re:Invent发布的成果可以看出,亚马逊云科技不仅在云的核心服务层面持续创新,更在从芯片到模型,再到应用的每一个技术堆栈取得了突破,让不同层级的创新相互赋能、协同进化。

  陈晓建强调示:"只有这样全栈联动的大规模创新才能真正满足当今客户的发展需求,加速前沿技术的价值释放,助力各行各业重塑未来。"

ToB最前沿

ToB最前沿抖音号

CBI科技在线

地址:北京市朝阳区北三环东路三元桥曙光西里甲1号第三置业A座1508室 商务内容合作QQ:2291221 电话:13391790444或(010)62178877
版权所有:电脑商情信息服务集团 北京赢邦策略咨询有限责任公司
声明:本媒体部分图片、文章来源于网络,版权归原作者所有,我司致力于保护作者版权,如有侵权,请与我司联系删除
京ICP备:2022009079号-3
京公网安备:11010502051901号
ICP证:京B2-20230255