您现在的位置是:热点 >>正文
字节跳动发布豆包大模型1.6:首个支持可调思考深度的国产模型
热点1236人已围观
简介...
字节跳动旗下火山引擎近日发布豆包大模型1.6版本,这是国内首个原生支持分档调节思考长度的大语言模型。新版本提供Mini字节mal、Low、Medium、High四档思考深度选项,让用户根据任务复杂度灵活调整模型的推理过程,在输出质量和响应速度之跳动间实现平衡。
从技术实现来看,可调思考长度是这次更新的核心功能。在低思考档位下,豆包1.6生成内容时的token消耗量比单一模式发布减少了77.5%,推理耗时缩短84.6%,但输出质量保持不变。这一机制使模型能够根据场景需求进行动态调整——对于简单问答或快速豆包草拟等任务可选择低档位提升响应速度,而处理复杂推理或深度分析时则可切换至高档位确保输出质量。
除了标准版本,火山引擎还同步推出大模了豆包大模型1.6lite轻量版。该版本主要面向企业级应用场景,在推理速度和成本控制上进行了优化。根据官方评测数据,豆包型11.6lite在企业场景测试中的综合表现相比前代豆包1.5pro提升了14%。在成本方面,针对使用量最大的0-32k输入.6区间,综合使用成本较豆包1.5pro降低了53.3%,这一降幅对于有大规模调用需求的企业客户具有实际意义。
从产品定位来看,豆包1:首.6的分档思考机制针对的是实际应用中的效率痛点。传统大模型通常采用固定的推理深度,导致简单任务过度计算造成资源浪费,而个支复杂任务又可能因推理不足影响质量。分档机制让用户能够根据具体需求选择合适的计算资源投入,在保证输出质量的前提下优化成本和时间持可。
不过需要指出的是,"思考长度"这一概念的具体技术实现方式官方尚未详细披露。从效果描述来看,可能涉及推理步骤数量、内部链式思调思考深度或计算资源分配策略的调整。用户在实际使用中需要通过测试找到不同任务类型与思考档位的最佳匹配关系,这也意味着存在一定的学习成考深本。
从市场竞争角度看,豆包1.6的发布体现了国产大模型在产品化和场景适配上的探索方向。相比单纯追求benchmark得分,可调度的思考深度这类面向实用性的功能创新,更贴近企业用户对成本控制和效率优化的实际需求。lite版本的推出也显示出厂商对中小规模企国产业市场的重视,试图通过降低使用门槛扩大用户覆盖面。
Tags:
下一篇:数据分析值不值得学?
相关文章
谷歌搜索 AI 模式扩展至 35 种新语言与 40 个新国家
热点谷歌宣布AI 模式(AI Mode)将向全球更多用户开放,支持超过35种新语言和40个新国家及地区的使用。这意味着,AI 模式将覆盖超过200个国家和地区,包括许多欧洲国家,越来越多的人将能够使用他们...
【热点】
阅读更多微软Xbox云游戏服务将从周二开始在iPhone、iPad和PC上开测
热点4月20日消息,据国外媒体报道,当地时间周一,微软宣布,从当地时间4月20日(当地时周二)开始,它将在Windows PC、iPhone和iPad上测试Xbox云游戏服务。 据悉,微软于去年9月份推出...
【热点】
阅读更多美国最高法院力挺Facebook:驳回一项手机短信相关诉讼
热点新浪科技讯 北京时间4月2日早间消息,据报道,美国最高法院周四驳回了一项指控Facebook违反联邦反机器人通话法的拟议集体诉讼,使这家社交媒体公司避开了一场可能代价高昂的司法“战争”。 1991年出...
【热点】
阅读更多