网易有道今日宣布推出国内首个输出分步式讲解的推理模型“子曰-o1”,并正式开源。该模型为14B参数规模的轻量级单模型,支持在消费级显卡上部署。通过采用思维链技术,“子曰-o1”能够提供详细的解题过程,具备强逻辑和推理能力,显著提高解题准确性,并专注于中文逻辑推理。
当前,可供应用的开源模型较少,且大多因参数规模较大无法在低显存的消费级显卡上运行。即使使用了低比特量化技术,也难以保证长思维链的稳定性。为此,网易有道选择了较小参数规模的基础模型,实现了单卡部署及轻量化,确保在消费级显卡上也能运行,提供与云端部署相媲美的高质量推理能力。
此外,“子曰-o1”是国内首个能输出分步式讲题的思维链模型,以14B的小参数规模复现了OpenAI o1的单模型推理能力,进一步提升了数学推理的精确度和实用性。
免责声明:本文内容由开放的智能模型自动生成,仅供参考。