2024年初推出的Sora让AIGC与大模型业界持续火爆。一方面,基础大模型Top厂商在持续研发长文本、视频、多模态等模型核心技术实力,在另一面,更多开发者在加入大模型落地与AI 2.0应用开发赛道。在2023年底CSDN发起的AI 2.0开发者生态调研中,问卷结果显示开发者群体认为“深耕模型技术”与“挖掘应用场景”的机遇和前景同等重要。
AI 2.0黑马——零一万物Yi大模型
长文本突破200K、多模态增强场景支持
由国际AI专家李开复博士所带队孵化的AI 2.0公司零一万物,目标是全球大模型第一梯队,攻坚基础大模型与AI 2.0核心技术,发布了Yi系列开源大模型。在当时斯坦福、伯克利等全球多项权威评测榜单中,Yi大模型均表现优异,性能直追GPT-4。目前Yi大模型已实现200K上下文(可处理约30万中英文字符)的长文本推理实力,以及增强支持多种应用场景的多模态模型。
大模型的长文本推理被看作通用人工智能AGI非常重要的核心实力之一。零一万物Yi大模型的200K上下文推理能力,适合用于多篇文档内容理解、海量数据分析挖掘和跨领域知识融合,为各行业AI 2.0应用提供极大的便利。例如,金融分析师可以使用Yi大模型快速阅读报告并预测市场趋势、律师可用它精准解读法律条文、科研人员可用它高效提取论文要点、文学爱好者可以用它快速掌握作品精髓等,应用场景非常广泛。
另外零一万物的Yi-34B-Chat-200K大模型经过优化,大海捞针评测的性能可提升至99.8%。“大海捞针”测试的设计是:将一个目标句子(针)放进一个随机文档语料库(大海),然后提出一个只能使用“针”(目标句子)中的信息才能回答的问题来测试模型的回忆能力。在“大海捞针”测试中,Yi-34B-Chat-200K的性能提高了10.5%,从89.3%提升到99.8%。
星云爱店是知识探索服务先行者,包含2C的“学术科研助手”,2B的儿童心理健康诊疗、青少年科学素养培养三大领域。
星云爱店CTO大董和团队参加了零一万物API邀测,他在文献综述的实际应用中,采用其他大模型推理生成的被拒率为40%(下图),而切换到Yi大模型,任务未发生拒绝执行。
星云爱店测试demo显示,使用某大模型时,被拒率40%
采用Yi大模型执行复杂任务,拒绝任务率低、完成度好
在另一个18万字报告集合的阅读分析中,Yi大模型未遗漏任务:
星云爱店采用其他模型遗漏未指出,Yi大模型完成prompt任务
零一万物开发的多模态模型Yi-VL-Plus,可支持文本、视觉多模态输入,面向实际应用场景大幅增强:
增强Charts, Table, Inforgraphics, Screenshot识别能力,支持复杂图表理解、信息提取、问答以及推理。中文图表体验超过GPT4V。
在Yi-VL基础上进一步提高了图片分辨率,模型支持1024*1024分辨率输入,显著提高生产力场景中的文字、数字OCR的准确性。
保持了LLM通用语言、知识、推理、指令跟随等能力。
优化推理速度、兼容OpenAI API
Yi大模型API开放平台正式上线!
取得了上述的大模型核心技术实力,零一万物也在投入贡献AI 2.0生态。在内测,零一万物正式推出了Yi大模型API开放平台,希望帮助开发者,共同挖掘更多应用场景,持续创新。
针对API侧的实际开发需求,零一万物投入了大量优化和兼容能力的研发工作,去提升开发者研发效率和最终用户的产品体验。具体来说:
优化推理速度
为了提升API性能,零一万物团队在API侧进行了推理优化,因此Yi-34B-Chat系列API具备较快的推理速度,这不仅缩短了处理时间,同时也保持了出色的模型效果。
降低接口延迟
优化的API接口显著降低模型回复的延迟,进一步提高用户体验的流畅性和响应速度。
兼容OpenAI API,实现平滑迁移
Yi大模型API与OpenAI API完全兼容,开发者只需修改少量代码,可以平滑迁移,即刻享受Yi大模型的超凡魅力。
目前API开放平台已经提供3个零一万物核心重磅的大模型产品,分别是可支持通用聊天、问答、对话、写作、翻译等功能的Yi-34B-Chat-0205,可支持200K上下文,多文档阅读理解、超长知识库构建小能手的Yi-34B-Chat-200K,还有多模态模型Yi-VL-Plus,支持文本、视觉多模态输入,中文图表体验超过GPT-4V。更多零一万物的大模型也将持续发布和提供到API开放平台中。
从专业开发者到大模型发烧友
Yi大模型API开放平台的创新AI 2.0应用正在涌现
正式发布前,零一万物已经在开发者群体进行了API邀请内测和开发,实测性能和效果超出预期。具体测试的企业与个人C端应用场景包括使用Yi Chat模型构建智能对话助手(类似ChatGPT);使用Yi多模态模型,识别图片中存在的表格,文字,并进行深层次的问答;将Yi系列模型整合到现有产品,实现类Copilot工具;使用Yi超长上下文模型构建知识库问答,用于客服、培训等特定知识的问答场景等等。
已经体验API的开发者中就有对长文本要求非常高的专业团队星云爱店,其产品涉及文献解读与科研写作、青少年教育与健康类助手等。星云爱店的开发负责人希望大模型产品的长文本精确摘要,对话文案专业化、精细化,拒答率低,因为对于教育和心理健康的大模型,更需要兼具“智商”和“情商”,而不是冷冰冰和严肃的工作问答工具。
例如心理咨询场景,在线拒答率、回答文案的温暖程度极大影响用户体验。“某些大模型API接入后,动不动就拒答或者回答文本‘降智偷懒’,Yi大模型IQ在线且EQ出色,测试期间几乎没有拒答,能持续输出高质量有温度的文案,我们相当满意。”星云爱店的技术负责人表示。
内测开发者中除了专业的企业级应用开发团队,还有不会代码编程的大模型发烧友。一位叫“闻”的网友本身是HiFi音乐发烧友,并运营了一个分享古典音乐的公众号。虽然他自称不懂写代码,但已经可以使用Lobe-chat这样的工具去实现开发。借助Yi大模型API,他实现了翻译英文长视频和翻译古典音乐介绍两个AI 2.0场景应用的功能。正是有了易用的API,让他从对技术的热情和对新事物的好奇,可以更进一步去探索开发、并真正落地了具有创意的AI 2.0应用。
网友“闻”优化翻译古典音乐科普流程后的最终输出结果
“Yi-34B-Chat-200K面对几万字的超长提示词,10秒钟就反馈回来了结果,极大提高大家工作效率。”,“接入Yi大模型API代码修改量极少,几乎是分分钟就可以搞定。”。这些都是内测中收到的众多开发者反馈中的真实声音,也让我们看到基于API的AI 2.0应用开发需求的火热。
对于AI 2.0开发生态的工作,零一万物表示,近期零一万物将为开发者提供更多更强模型和AI开发框架。包括:
推出一系列的模型API,覆盖更大的参数量、更强的多模态,更专业的代码/数学推理模型等;
突破更长的上下文,目标100万tokens;支持更快的推理速度,显著降低推理成本;
基于超长上下文能力,构建向量数据库、RAG、Agent架构在内的全新开发者AI框架。旨在提供更加丰富和灵活的开发工具,以适应多样化的应用场景。
AI 2.0正在进一步发展,并深入千行百业。作为新质生产力核心的AI 2.0技术,是开发者需要重点关注的领域。借助优质AI 2.0厂商的API和开发工具,开发者可以提高研发效率,加速AI 2.0的应用落地,正在成为2024年全新的AI 2.0研发趋势。目前Yi大模型API开放平台推出了上新优惠活动,名额限量开放中,新用户即赠送60元。机会难得,点击阅读原文了解详情~
零一万物邀请具有创造力的开发者并肩作战,助力加速开发AI 2.0应用生态,一同探索LLM的广阔应用场景!
扫一扫关注微信