据Huggingface报道,总部位于阿布扎比的TLL公司近日发布了一款新的大语言模型Falcon 180B。
据悉,Falcon 180B的训练参数达到1800亿,是当前最大的开源语言模型。该模型是TLL在6月的发布的Falcon 40B的优化版本。该模型基于亚马逊云机器学习平台Amazon SageMaker,通过TII RefinedWeb数据集中的3.5万亿个词块进行训练。
基准测试结果显示,Falcon 180B在推理、编码、熟练度和知识测试各种任务中,一举击败Llama 2,与谷歌PaLM 2不相上下。


扫一扫关注微信