Qwen推出专门的数学语言模型：Qwen2-Math 超越GPT-4o、Claude-3.5

Qwen2 团队推出了一系列专注于数学能力的语言模型：Qwen2-Math，旨在提升推理能力，特别是在解决算术和数学问题方面。 Qwen2-Math 系列包括 1.5B、7B 和 72B 参数。 是基于 Qwen2 LLM 构建的专门用于数学解题的语言模型，这些模型基于大量高质量的数学语料库进行预训练，并通过基于指令的训练微调，以解决复杂的数学问题。 这些模型在多个数学基准测试（如 GSM8K、Math、MMLU-STEM 等）中表现出色，在英语和中文基准测试中均超过了当前的最先进模型。其数学能力显著超越了开源模型，甚至超过了闭源模型（包括GPT-4o、Claude-3.5-Sonnet、Gemini-1.5-Pro 和 Llama-3.1-405B）。 Qwen2-Math 的主要功能特点包括： 增强数学推理能力： Qwen2-Math 对复杂的数学问题进行了优化，特别是在需要多步骤推导的数学问题上表现出色。它能够理解并解决复杂的数学表达式和推理过程。 多领域数学任务支持： 模型支持广泛的数学领域任务，包括但不限于代数、几何、微积分、概率与统计等。它能够处理各种类型的数学问题，从基础到高级。 多语言支持 虽然目前的 Qwen2-Math 主要支持英语，但团队计划很快发布支持英语和中文的双语模型，这将扩大模型的适用范围，并为不同语言用户提供强大的数学推理工具。 开放的 API 接口： Qwen2-Math 提供了易于使用的 API，使得开发者可以将模型集成到不同的应用程序中。这意味着用户可以轻松地将 Qwen2-Math 的数学能力引入到他们的产品或研究中。 Qwen2-Math基础模型架构 Qwen2-Math 的基础模型使用 Qwen2-1.5B/7B/72B 进行初始化，然后在精心设计的数学专用语料库上进行预训练，该语料库包含大规模的高质量数学网页文本、书籍、代码、考试题目，以及 Qwen2 合成的数学预训练数据。这些数据覆盖了广泛的数学主题，以确保模型在处理复杂数学问题时具备扎实的基础。 专用语料库的预训练 为了使模型在数学推理和计算上表现更好，Qwen2-Math 在一个专门设计的数学语料库上进行了进一步的预训练。该数学语料库包括： 高质量的数学网页文本 数学书籍 编程代码 数学考试题目 由 Qwen2 模型合成的数学预训练数据 通过在这些多样化和高质量的数学数据上进行预训练，Qwen2-Math 建立了扎实的数学基础，能够理解和处理复杂的数学概念和问题。 指令微调 (Instruction Tuning) 在预训练完成后，Qwen2-Math 还进行了指令微调（Instruction Tuning），尤其是在 72B 参数的 Qwen2-Math-Instruct 模型上。指令微调的过程包括： 奖励模型训练： 基于 Qwen2-Math-72B 构建一个数学特定的奖励模型，结合密集的奖励信号和二元信号（模型回答正确与否）进行训练。 监督微调（SFT）： 使用拒绝采样（Rejection Sampling）的方法，利用奖励模型生成的数据对模型进行微调。 强化学习： 通过群体相对策略优化（Group Relative Policy Optimization, GRPO）进一步提升模型的表现，特别是在复杂数学问题上的准确性和效率。 去重与去污染处理 为了确保模型训练的有效性和评估的公平性，团队对预训练和微调的数据集进行了严格的去重和去污染处理。具体措施包括： 13-gram 去重： 使用 n-gram 技术（13-gram）来去除数据中可能存在的重复部分，确保训练数据和测试数据之间没有显著重叠。 长序列匹配： 通过检查数据集中最长公共子序列的比率，进一步去除潜在的污染数据，特别是在 GSM8K、MATH、Aqua、SAT Math 等重要基准测试上。 评估结果 基础模型在以下数学基准测试中表现卓越： 英语基准测试 ： GSM8K : 一个针对数学推理问题的基准测试。 Math : 涵盖了各种数学领域的复杂问题。 MMLU-STEM : 针对科学、技术、工程和数学（STEM）的多选题基准测试。 中文基准测试 ： CMATH : 中文数学问题集合。 高考数学填空题 : 中国高考中的数学填空题部分。 高考数学问答题 : 中国高考中的数学问答题部分。 这些基准测试采用了少样本链式思维提示（few-shot chain-of-thought prompting）方法来进行评估。 指令微调模型（Qwen2-Math-Instruct） Qwen2-Math-Instruct 模型是在 Qwen2-Math 基础模型之上进一步训练的，通过使用精细设计的奖励模型进行监督学习微调（SFT），以及使用群体相对策略优化（GRPO）进行强化学习。 数学基准测试结果 ： Qwen2-Math-Instruct 模型在多个数学基准测试中（包括 GSM8K 和 Math）表现出色，尤其在更具挑战性的数学考试（如 OlympiadBench、CollegeMath、AIME2024、AMC2023 等）中，展现了其强大的数学推理能力。 该模型还在中文数学基准测试（如 CMATH 和中国中学24题）中取得了优秀的成绩。 评估指标 ： Greedy、Maj@8 和 RM@8 ：这是在零样本设置下评估的主要指标，其中 RM@8 在相同大小的模型中表现尤为突出，尤其是在 1.5B 和 7B 模型中，显示出该数学奖励模型的有效性。 多项选择题的5-shot 设置 ：在 MMLU STEM 和高考等多项选择题基准中，使用了5-shot 设置进行评估。 复杂数学竞赛评估 Qwen2-Math-Instruct 模型在一些复杂的数学竞赛如 AIME 2024 和 AMC 2023 中的表现也十分优异。通过 Greedy、Maj@64、RM@64 和 RM@256 等不同的设置，模型展现了其在不同难度级别下的一致表现。 官方介绍： https://qwenlm.github.io/zh/blog/qwen2-math/ 模型下载： https://huggingface.co/Qwen GitHub： https://github.com/QwenLM/Qwen2-Math

Menu

分类目录

Qwen推出专门的数学语言模型：Qwen2-Math 超越GPT-4o、Claude-3.5

Related Posts

Meta AI提出了一种新的语言模型架构“Large Concept Model (LCM) 让模型更像人类思考

阿里巴巴推出QVQ-72B 一个基于Qwen2-VL-72B的新型多模态推理模型

Fireworks AI新功能能够将图像或PDF等非文本内容转化为LLM可理解的结构化文本

Hume AI推出全能文本与语音引擎 OCTAVE 根据文本实时生成特定人格特质的声音

Anthropic 公布了一种全新的 AI 越狱技术可以轻松破解所有前沿模型

INFP：基于音频驱动的双人对话中的互动头像生成能自动区分谁在说话，谁在听

Recommendeds

FLUX.1-dev-LoRA：一个混合现实与插画风格模型可以生成融合了现实与插画元素的图像

装备AI瞄准步枪的机器狗接受了美国海军陆战队特种作战评估

ElevenLabs 发布Turbo 2.5模型速度提高了3倍支持中文等32种语言

解锁Midjourney工作流程如何使用图像提示进行创造性工作

Rive 发布 Layouts 新功能只需设计一次图像动画自动适应屏幕大小和各种布局

Apriora：人工智能驱动的面试平台实时进行视频面试能检测作弊行为

Google发布全球185个各大企业的生成式AI实际应用落地案例

南洋理工大学提出Q*框架：可大幅提升大语言模型的多步推理能力

Matting by Generation：利用图像生成模型来实现更高质量的图像抠图

微软对Azure AI语音服务升级发布9种更真实的AI语音

Welcome Back!

Retrieve your password

Add New Playlist

Are you sure want to unlock this post?

Are you sure want to cancel subscription?

Menu

分类目录

Qwen推出专门的数学语言模型：Qwen2-Math 超越GPT-4o、Claude-3.5

Support authors and subscribe to content

加入会员

Related Posts

Recommendeds

Welcome Back!

Retrieve your password

Add New Playlist

Are you sure want to unlock this post?

Are you sure want to cancel subscription?