在权威基准OpenCompass上性能追平GPT-4-Turbomt4外汇自动交易5月21日,阿里云掷出重磅炸弹:通义千问GPT-4级主力模子Qwen-Long,API输入价钱从0.02元/千tokens降至0.0005元/千tokens,直降97%。这意味着,1块钱能够买200万tokens,相当于5本《新华字典》的文字量。这款模子最高帮帮1万万tokens长文本输入,削价后约为GPT-4价钱的1/400,击穿环球底价。
通义千问本次削价共掩盖9款贸易化及开源系列模子。不久前揭橥的通义千问旗舰款大模子Qwen-Max,API输入价钱降至0.04元/千tokens,降幅达67%。Qwen-Max是目前业界阐扬最好的中文大模子,正在威望基准OpenCompass上功能追平GPT-4-Turbo,并正在大模子竞技场Chatbot Arena中跻身环球前15。
不久前,OpenAI的Sam Altman转发了Chatbot Arena榜单来印证GPT-4o的技能,此中环球排名前20的模子中,仅有的三款中邦模子都是通义千问出品。
业界遍及以为,跟着大模子功能逐步晋升,AI使用革新正进入麇集寻找期,但推理本钱过高如故是限造大模子周围化使用的环节要素。
正在武汉AI智领者峰会现场,阿里云智能集团资深副总裁、大众云事迹部总裁刘伟光暗示:“动作中邦第一大云打算公司,阿里云这回大幅低落大模子推理价钱,即是欲望加快AI使用的发生。咱们估计改日大模子API的挪用量会有成千上万倍的伸长。”
刘伟光以为,不管是开源模子仍旧贸易化模子,大众云+API将成为企业行使大模子的主流体例,厉重有三点原故:
一是大众云的技能盈利和周围效应,带来庞杂的本钱和功能上风。阿里云能够从模子自己和AI根源方法两个层面一向优化,找寻极致的推理本钱和功能。阿里云基于自研的异构芯片互联、高功能汇集HPN7.0、高功能存储CPFS、人工智能平台PAI等主题技能和产物,构筑了极致弹性的AI算力调换体例,联络百炼漫衍式推理加快引擎,大幅压缩了模子推理本钱,并加快模子推理速率。
即使是同样的开源模子,正在大众云上的挪用价钱也远远低于私有化摆设。以行使Qwen-72B开源模子、每月1亿tokens用量为例,正在阿里云百炼上直接挪用API每月仅需600元,私有化摆设的本钱均匀每月超1万元。
二是云上更简单实行众模子挪用,并供应企业级的数据安静保险。阿里云能够为每个企业供应专属VPC处境,做到打算阻隔、存储阻隔、汇集阻隔、数据加密,充溢保险数据安静。目前,阿里云已主导或深度插手10众项大模子安静联系邦际邦内技能准则的协议。
三是云厂商自然的盛开性,能为开荒者供应最充足的模子和东西链。阿里云百炼平台上集聚通义、百川、ChatGLM、Llama系列等上百款邦表里优质模子,内置大模子定造与使用开荒东西链,开荒者能够便捷地测试对照区别模子,开荒专属大模子,并轻松搭筑RAG等使用。从选模子、调模子、搭使用到对外供职,一站式搞定。返回搜狐,查看更众
FXCG 相关资讯