跳到正文

#评测/基准

今日 0 条
8月12日周二
8月7日周四
8月5日周二
8月1日周五
7月23日周三
7月17日周四
7月10日周四
7月4日周五
4月16日周三
4月8日周二
2月14日周五
2月10日周一
  1. Hugging Face Blog33

    Hugging Face 发布 Open Arabic LLM Leaderboard 2:阿拉伯语大模型评测榜升级

    Hugging Face 联合 2A2I、TII 推出 Open Arabic LLM Leaderboard 2,升级阿拉伯语大模型评测榜。首版 OALL 上线不到 7 个月吸引超 46,000 名访客,收到 700 多个模型提交,参数从 1B 到 70B 以上,来自 180 多个机构,其中超 70% 为 chat 和微调模型,11% 为预训练模型,超半数模型小于 7B。

2月4日周二
1月9日周四
12月20日周五
12月5日周四
12月4日周三
  1. Hugging Face Blog26

    Hugging Face 推出 AraGen:基于 3C3H 的阿拉伯语 LLM 生成式基准与排行榜

    Hugging Face 发布 AraGen,一个面向阿拉伯语 LLM 的生成式任务基准与排行榜,采用基于 LLM-as-judge 的新评估指标 3C3H,从正确性、完整性、简洁性、有用性、诚实性和无害性六个维度打分。AraGen 同时覆盖开源与闭源模型,采用动态评估策略:数据集与评估代码先保密三个月进行盲测,期满后公开并替换为新私有基准,以缓解数据污染。

11月20日周三
  1. Hugging Face Blog44

    BAAI 推出 FlagEval Debate:首个多语言 LLM 辩论竞赛平台

    BAAI 推出 FlagEval Debate 平台,让大模型直接对辩,目前支持中文、英文、阿拉伯语和韩语四种语言。平台采用专家评审与用户投票的双重评估机制,并提供开发者自定义参数与实时调试能力,以解决静态评测和 Chatbot Arena 等现有平台缺乏区分度、模型各自生成不真正交互、投票存在风格偏好的问题。

11月19日周二
10月28日周一
  1. Hugging Face Blog22

    Hugging Face 专家支持案例:用 LLM-as-a-Judge 强化 Farmer.chat 的 RAG 应用

    Digital Green 与 CGIAR、Hugging Face 专家支持计划合作开发农业问答机器人 Farmer.chat,基于 RAG 和 GPT-4o 规划智能体回答农户提问,知识库涵盖近 46000 篇农业研究论文。过去一年该机器人已服务超 2 万名农户、处理逾 34 万次查询。为评估回答质量,团队搭建了 LLM-as-a-Judge 评测体系。

10月4日周五
  1. Hugging Face Blog34

    Hugging Face 推出 Open FinLLM Leaderboard,专注金融大模型评测

    Hugging Face 发布 Open FinLLM Leaderboard,一个面向金融领域的专用大模型评测榜单,覆盖信息抽取、文本分析、问答、文本生成、风险管理、预测和决策七大类任务,采用零样本评估且无需微调。评测指标包括 Accuracy、F1 Score、ROUGE Score 和 MCC,任务数据集来自 FinQA、TATQA、ECTSum、EDTSum 等真实金融场景。

10月1日周二
  1. Hugging Face Blog21

    Hugging Face 发布 BenCzechMark:首个捷克语 LLM 综合评测基准

    Hugging Face 发布 BenCzechMark,称其为首个也是最全面的捷克语 LLM 评测套件,含 50 项任务、9 个类别,90% 任务为原生非翻译内容。配套排行榜已收录 25 个以上不同规模的开源模型,覆盖阅读理解、事实知识、语言建模、数学推理等维度,评测指标包括 Acc、EM、AUROC 和词级困惑度。

7月25日周四
7月1日周一
6月18日周二
  1. Hugging Face Blog43

    BigCodeBench:下一代 HumanEval 基准发布

    Hugging Face 发布 BigCodeBench,包含 1,140 个函数级任务,需组合 139 个库中的多次函数调用,用于评测 LLM 在无污染的真实编程任务上的能力。每个任务平均配 5.6 个测试用例,分支覆盖率平均 99%,并另设更难、面向指令微调模型的 BigCodeBench-Instruct 变体。

6月6日周四
5月24日周五
5月14日周二
5月5日周日
5月3日周五
4月30日周二
  1. Hugging Face Blog39

    Hugging Face 与 Dottxt 用结构化生成提升 Prompt 一致性

    Hugging Face 排行榜与评测团队发现,MMLU 等任务的评测结果对 prompt 格式极为敏感,同一模型在不同格式下准确率可相差约 10 分,Qwen1.5-7B 甚至从 51.2% 跌至 22.9%。为此他们与 Dottxt 合作,用 Outlines 库通过正则表达式或上下文无关文法约束模型输出结构,希望从输出端而非输入端减少 prompt 格式带来的方差。

4月23日周二
  1. Hugging Face Blog40

    Hugging Face 推出 Open Chain of Thought Leaderboard,按 CoT 准确率增益评测 LLM

    Hugging Face 发布 Open Chain of Thought Leaderboard,不评测模型绝对准确率,而是衡量启用与不启用 chain-of-thought 提示后的准确率差值 Δ。榜单覆盖 LogiQA、LSAT 及 AGIEval 中的推理任务,均以多选题形式呈现,CoT 生成采用模块化提示链,已实现 Classic 与 Reflect 两种策略。

4月19日周五
4月16日周二
3月21日周四
3月5日周二
  1. Hugging Face Blog30

    UCLA 推出 ConTextual:评估多模态模型在文本丰富场景中的图文联合推理能力

    UCLA 研究者发布 ConTextual,一个含 506 条指令的上下文敏感文本丰富视觉推理数据集,覆盖时间阅读、购物、导航、信息图等 8 类真实场景,并附排行榜与验证集。首轮评测 13 个模型,GPT-4V 表现最佳,但在时间相关任务上不及人类;开源模型仅在抽象与自然场景达到可接受水平。

2月27日周二
2月23日周五