欧洲杯足彩官网-星空体育网站入口官网手机版 > > 正文

没有什么能拦住生成式ai落地了|调用|ai|服务器|应用层|应用程序|插件功能-欧洲杯足彩官网

分享至


题图|视觉中国

经历过年初大模型风口的狂热之后,越来越多从业者意识到,生成式ai的商业化落地并不如预期中顺利。

在工业、金融、医疗、教育等行业,生成式ai都拥有足够的想象空间,但很多企业在面对新技术时的第一反应却是保持观望。尤其在传统行业,一些企业主在面对生成式ai和专业人员的选择题时,他们更愿意选择人工。

技术门槛是企业用户对生成式ai保持谨慎的主要因素之一。这些垂直行业的企业对本行业的理解非常深刻,但从0到1开发ai应用并不是他们擅长的,这个过程中还存在数据安全和隐私等问题,背后的挑战和风险都让他们难以放开手脚。

成本是企业用户保持谨慎的另外一个因素。大多数企业每年的it支出都是根据企业已有业务规划好的,而企业固有的it基础设施,在大模型时代,很难支持需要大算力、大存储的生成式ai应用,自然也就无法应对突然增加的生成式ai业务需求。再加上全球缺“芯”潮的影响,训练、推理的算力成本不断上涨,企业使用生成式ai的成本难以控制,他们只能观望。

在多重不利因素影响下,生成式ai在垂直行业的商业化落地比较缓慢,一些从业者甚至开始质疑当下生成式ai技术是否具备赚钱的能力。

其实大可不必。困难和挑战都是暂时的,生成式ai只要突破技术和成本的瓶颈就会获得快速落地的机遇期。当下,扫清生成式ai落地障碍的关键就在于降低开发ai应用的技术门槛和成本,而以亚马逊云科技为代表的云计算企业率先给出了星空体育网站入口官网手机版的解决方案。

让企业获得ai“超能力”

在生成式ai落地应用过程中,一个值得关注的现象是,it基础设施比较固定的“云下”企业更为普遍地陷入技术和成本困境,这些企业以传统企业为主。相比之下,用云程度比较高的企业试错成本更低。

差异背后的主要原因就在于技术积累。在企业数字化的进程中,用云程度比较高也意味着对新技术的接受程度比较高,对各项技术能力的积累也比较多,而以传统企业为主的“云下”企业则与之相反。开发生成式ai应用,需要的技术能力比“上云”更为复杂,技术积累薄弱的传统企业面对的挑战也更为棘手。



如果把生成式ai应用开发看作一个复杂拼图的组装,其需要的数据科学、机器学习、编程等每一项技术能力就相当于拼图的每一块。没有技术积累的企业理解这些拼图块本身就已经是很困难的事,将它们组合在一起就变成了一项更为艰巨的任务。但如果有服务方能给这些技术能力薄弱的传统企业提供一些预拼好的拼图部分,这些传统企业就能够更容易、更快速地完成整幅拼图。

亚马逊云科技正是采用这种思路来降低技术能力薄弱的部分企业开发生成式ai应用的门槛,让他们获得ai应用快速落地的“超能力”。在2023亚马逊云科技re:invent中国行北京站巡展日上,亚马逊云科技公布了多项新服务、新功能和新应用来降低企业的开发门槛。


亚马逊云科技大中华区产品部总经理陈晓建

具体来说,亚马逊云科技在推出一套新的生成式ai基础设施,由基础设施层、基础模型服务层和ai应用层三层技术堆栈组成。堆栈第一层是存储和计算的革新,属于底层基础设施,包括机器学习训练设计的云端ai芯片amazon trainium2,以及第四代自研服务器cpu芯片amazon graviton4。而堆栈第二层amazon bedrock平台以及第三层的amazon q分别从基础模型服务层和ai应用层降低企业用户的开发和使用生成式ai的成本。

amazon bedrock服务为企业用户搭建生成式ai开发的“快速通道”。在大语言模型开发过程中,模型本身不擅长跨公司系统和数据源执行具体的任务,企业的开发人员必须编写代码来协调模型、系统和用户之间的交互,以便应用程序可以按逻辑顺序执行一系列 api 调用,同时还要制定数据安全和隐私策略,这些步骤非常耗时且需要专业知识,都会增加生成式 ai 应用程序开发的时间成本。amazon bedrock把这些复杂的过程标准化,企业用户甚至不写一行代码就可以完成部署。同时,企业用户可直接利用amazon bedrock调用amazon titan family、 anthropic claude 2.1、meta llama 2 70b和stability ai stable diffusion xl 1.0等几乎所有业界领先模型的最新版本,以及构建生成式ai所需要的广泛功能。

在应用层,亚马逊云科技推出了企业级生成式 ai 助手 amazon q。在amazon q的帮助下,企业用户无需去浩如烟海的工作文档中检索和业务相关的各种数据,而可以直接通过问询实现。比如,开发者可通过问询amazon q查询其他工程师的代码来维护应用程序。

同时,amazon q具有非常大的灵活性。当前,开发者为跟上生成式ai技术迭代的速度,快速设计和交付新功能,管理应用程序和工作负载端到端的生命周期,并在维护既有产品和构建新功能之间平衡优先级,往往需要投入大量的精力,做大量的工作。amazon q完全支持根据客户业务定制,以帮助企业级开发者专注于开发本身。

简而言之,亚马逊云科技通过多个产品和服务为想要开发生成式ai应用但面临种种挑战的企业提供了开箱即用的工具和服务,包括机器学习、大数据分析以及应用开发环境等,把原本复杂的生成式ai应用开发标准化与模块化。只要企业有意愿开发生成式ai应用,各种复杂的技术问题,不再是阻碍他们行动拦路石。

生成式ai也可以实现成本优化

从生成式ai应用在垂直行业已有的落地应用看,性价比问题是企业继续扩大应用范围的最大障碍。



比如在营销行业,成本的大头主要来自营销素材制作。生成式ai可将一条营销视频制作的时间从10小时缩短至5分钟,相当于效率提升了上百倍,但视频素材中使用的数字人成本从客单价百万元到千万元不等,超写实数字人视频成本则在万元/秒左右。综合核算下来,使用生成式ai制作的视频营销素材成本未必比人工制作低。

这背后,一方面是生成式ai平台的训练、推理本身非常烧钱,这些成本最后都由应用方买单。当下最热门的生成式ai平台chatgpt单次训练成本就高达140万美元,用知名计算机专家吴军的话来形容,就是“chatgpt每训练一次,相当于报废了3000辆特斯拉汽车。”

在巨额成本中,算力占最大头。因为大模型的火爆,算力在今年成为了稀缺品,主要原因就是提供算力的gpu产能无法跟上需求,价格持续暴涨,这相当于又额外增加了生成式ai的训练成本。



在生成式ai成本和收益的鸿沟之下,亚马逊云科技试图通过在自研芯片、存储、无服务器等方面的创新重塑云计算的成本结构,让算力更有性价比。在芯片上,其中,亚马逊云科技采取自研以及和英伟达合作“两条腿”走路的模式,降低芯片短缺带来的不确定性,以优化成本。

其中,trainium2芯片专为具有数万亿个参数或变量的基础模型和大语言模型而构建,第一代trainium芯片相比,性能提升4倍,内存提升3倍,能源效率(每瓦性能)提升2倍。而在和英伟达的合作上,亚马逊云科技成为第一家在云端配备英伟达gh200 grace hopper超级芯片的云厂商,双方合作的平台可让共同客户能扩展至数千个gh200超级芯片。

亚马逊云科技在re:invent 2023上推出的处理器amazon graviton4、云存储服务amazon s3 express one zone以及三款无服务器服务创新,均可帮助企业用户实现高性价比的目标。和上一代产品相比,amazon graviton4性能提升高达30%,独立核心增加50%以上,内存带宽提升75%,amazon s3 express one zone数据访问速度提高至多10倍,数据请求成本降低50%。

企业用户追求应用的稳健性、经济性、安全性和可用性,这和大语言模型等生成式ai在训练过程中不惜花费高昂算力成本达成更高的能力是完全不同的路径。面对企业用户更为务实的需求,亚马逊云科技试图通过重塑云计算的成本结构,从平衡成本和收益的角度提升生成式ai的实用性,满足企业用户的需求。

云计算企业加速生成式ai落地

从国内市场真实的情况来看,生成式ai的发展既不像年初追风口的从业者预估的那样乐观,也没有唱衰者形容的那么悲观。

这背后一个核心的问题是,在想象空间更大的企业级生成式ai领域,最重要的不是大模型能力有多强,而是如何能够从基础模型演变成各个领域中的具体应用,从而赋能整个经济社会的发展。

在生成式ai从技术能力转化为具体应用的过程中,作为云计算企业的亚马逊云科技提供了一个破解现有难题的思路。简单来说,亚马逊云科技通过自研芯片提供更好的性价比通过各种丰富的计算、网络、存储等各种产品的组合应对突发的算力需求,通过serverless有效降低运维的复杂性,从而简化算力的使用,全面满足用户的多样化的算力需求。

作为支撑算力的底层平台,亚马逊云科技提供的解题思路也给国内生成式ai的发展模式提供了一个更为清晰可行的路径:作为底层算力支撑的云计算企业,可以为生成式ai应用的落地扫清技术和成本障碍,在加速行业发展的同时,也让自己获得更多商业收益;模型层公司专注于生成式ai能力的训练,通过开源的方式构建开发者生态;真正通过生成式ai赋能经济社会发展的应用层公司,可以把更多精力放在自己的业务领域,去思考如何让生成式ai为工作和生活带来更多便利,而不用花费太多精力思考如何用更低的成本以及更先进的技术实现其想法。

更通俗地说,作为一个新物种的生成式ai能够快速落地,关键在于产业链上各个环节的企业各司其职、协同配合,即专业的人干专业的事。

比如,整合营销和技术服务提供商电通致力于把生成式ai等新技术和营销、咨询整合起来为客户提供服务。在应用新技术的过程中,电通通过amazon bedrock的企业级控制能力和部署第三方模型能力让新技术快速被营销人员所用,为客户打造创新机遇;ai 客户关系管理(crm)平台salesforce的开放模型生态战略通过amazon bedrock落地,能够将模型与客户的数据无缝整合,并集成到salesforce工作流程当中,让模型落地变得前所未有的简单、快捷。

在各行各业企业客户应用生成式ai等新技术的过程中,亚马逊云平台通过三层技术堆栈的创新设计让新技术在业务落地变得更高效便捷,而相关企业只需要把精力更加集中在自己的业务端。可以预见,未来将有更多的企业通过这种模式把新技术落地,让原有业务获得新的发展机遇。

当企业级生成式ai面临的技术和成本障碍被扫清,相关的应用势必将迎来爆发式增长。根据中信建投的测算,生成式ai在国内的市场空间超过1000亿元。其中,生成式ai在工业、自动驾驶、医疗等领域的想象空间巨大。如果生成式ai商业化落地的障碍被扫清,这个领域的发展有望呈现早期移动互联网的繁荣景象——众多应用层创业公司涌现,人们日常工作生活的各种痛点将被解决,生产力和生活的便捷程度将进一步提升。

在巨大的想象空间之下,亚马逊云科技已经在积极行动帮助各类企业解决生成式ai落地过程中的实际问题。除了北京站的活动之外,2023 re:invent中国行城市巡展活动还将覆盖上海、广州、深圳、成都、青岛、南京、西安、杭州、长沙 9座城市。亚马逊云科技大中华区产品部总经理陈晓建在北京站巡展日上明确表态,希望通过这些技术创新,帮助更多企业加快创新速度,利用生成式ai重塑未来。

责任编辑:姜文晶_nn3211

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

notice: the content above (including the pictures and videos if any) is uploaded and posted by a user of netease hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
小姨妈爱旅游
2023-12-15 17:49:05
刘姚尧的文字城堡
2023-12-16 08:49:18
八圈儿大佬
2023-12-16 11:49:39
头狼追球
2023-12-15 20:53:43
奔跑的赛场
2023-12-15 15:09:36
东球弟
2023-12-15 14:51:32
linkfashion
2023-12-14 21:34:38
fashion地标
2023-12-15 21:59:18
boss外传
2023-12-14 18:19:09
极目新闻
2023-12-14 15:43:32
上海预警发布
2023-12-16 09:27:27
求球不落谛
2023-12-16 06:11:11
皓月说故事
2023-12-11 21:46:07
创作者_b6g7
2023-12-16 07:30:03
原广工业
2023-12-15 17:53:07
城市财经
2023-12-14 11:48:52
肖博健康
2023-11-30 01:10:04

江苏一小伙约女友开房,3闺蜜说啥不肯走,无奈只好一起斗地主

芳华说历史
2023-12-14 13:52:35

女婿死后,杨得志一怒之下报告邓公,邓公下令:铲平南阳社会毒瘤

神秘历史故事
2023-12-08 14:39:37
二哥聊球
2023-12-15 14:08:30
2023-12-16 12:20:49
虎嗅app
个性化商业资讯与观点交流平台
20828文章数 683070关注度
往期回顾 全部

主播摔手机怒骂"黑粉",东方甄选停播!俞敏洪带头检讨

菲律宾首富罕见对政府表达不满:别卷入中美竞争

菲律宾首富罕见对政府表达不满:别卷入中美竞争

张本智和的妹妹,突然站到了国乒面前

萧敬腾林有慧婚后首露面,高调撒糖超甜

董宇辉,给俞敏洪上了一课

定位中大型豪华suv 凯迪拉克全新vistiq官图

态度原创

城里孩子的「自然缺失症」难题, 这套书找到了“解药”

《碧蓝幻想versus崛起》ign9分:最佳格斗游戏之一

运城:雪后五老峰景区美如画

以军称在加沙地带军事行动中"误杀"3名人质

网站地图