中文通用大模型基准测试SuperCLUE发布,讯飞星火认知大模型国内第一

5月9日,中文通用大模型综合性评测基准SuperCLUE正式发布。该基准测试主要关注以下问题:中文大模型在不同任务上的表现如何?与国际代表性模型相比,中文大模型的表现达到了何种程度?中文大模型与人类表现相比如何?

该模型可通过多个层面,考研市面上主流的中文GPT大模型的能力:

基础能力:包括了常见的有代表性的模型能力,如语义理解、对话、逻辑推理、角色模拟、代码、生成与创作等10项能力。

专业能力:包括了中学、大学与专业考试,涵盖了从数学、物理、地理到社会科学等50多项能力。

中文特性能力:针对有中文特点的任务,包括了中文成语、诗歌、文学、字形等10项多种能力。

该机构利用SuperCLUE测试基准,对市面上主流的支持中文的通用大模型进行了评测与排名。从排名中我们可以看出,GPT-4一骑绝尘,已经非常接近人类的能力。国产大模型中科大讯飞研发的星火认知大模型总排名第三,国内排名第一。

以下为该机构公布的各个子项目的具体得分。排行榜会定期更新,并于以下网站进行公示。www.CLUEbenchmarks.com/superclue.html

总榜单

基础能力榜单

中文特性榜单

Copyright © DoNews 2000-2024 All Rights Reserved
蜀ICP备2024059877号-1     京ICP证151088号
京网文【2018】2361-237号