IT资讯 Archiver

- 发表于 2024/4/22 8:43:47

清华大模型报告发布:文心一言最懂“人话”

最近,由清华大学基础模型研究中心联合中关村实验室研制的 SuperBench 大模型综合能力评测框架,正式对外发布 2024 年 3 月版《SuperBench 大模型综合能力评测报告》。评测共包含了 14 个海内外具有代表性的模型,结果显示:文心一言 4.0 表现亮眼,与国际一流模型水平接近,且差距已经逐渐缩小,名副其实为国内头部模型。

例如在人类对齐能力评测中,文心一言 4.0 表现优异,位居国内第一,其中在中文推理、中文语言等评测上,文心一言遥遥领先,和其他模型拉开明显差距,中文理解上,文心一言 4.0 领先优势明显,领先第二名 GLM-4 0.41 分,GPT-4 系列模型表现较差,排在中下游,并且和第一名文心一言 4.0 分差超过 1 分。

在语义理解中的数学能力上,文心一言 4.0 与 Claude-3 并列全球第一; GPT-4 系列模型位列第四五,其他模型得分在 55 分附近较为集中,明显落后第一梯队;而在语义理解中的阅读理解能力上,文心一言 4.0 超过 GPT-4 Turbo、Claude-3 以及 GLM-4 拿下榜首。

而在企业选择大模型最看重的安全性评测上,国内模型文心一言 4.0 表现亮眼,力压国际一流模型 GPT-4 系列模型和 Claude-3 拿下最高分(89.1 分),Claude-3 仅列第四。

值得注意的是,文心一言不仅在技术能力上过硬,在应用落地上也是一路领先。自去年 3 月 16 日文心一言首发至今,用户数已突破 2 亿,每天 API 调用量也突破了 2 亿。

2023 年「百模大战」,国产大模型厮杀猛烈,谁是真正的领头羊?尽管国内外存在多个模型能力评测榜单,但它们的质量参差不齐,排名差异显著。我们在看榜单参考的时候一定要多看权威机构、权威高校的评测,为选择大模型提供科学研判。

查看完整版本: 清华大模型报告发布:文心一言最懂“人话”