零时古怪 - 中国第一时事资讯综合门户

零时古怪资讯网
提供最新的热点新闻资讯
首页 > 科技

360智脑7B模型即将开源,可支持50万字文本输入

日前360创始人周鸿祎在社交平台宣布,将于近期开源70亿参数的360智脑7B大模型,可支持360k(50万字)长文本输入。并且他在这篇题为《我是开源的信徒,坚信开源是伟大的力量》的文章中,从三个方面阐述了360这一策略的必要性。

文中周鸿祎表示自己“信奉开源的力量”,前段时间大模型行业在文本输入长度方面开卷,100万字长文本或将很快成为“标配”,因此360方面发挥开源的力量,将这一能力开源,让国内所有大模型都能支持超过20万字,让整个行业不再“重复发明轮子”,并希望随着开源的发展,未来至少能跟闭源相提并论,不过“为了讨个口彩,定了360k,也就是50万字左右”。

据悉,360智脑的长文本能力已接入360AI浏览器,其中360AI搜索使用了多个百亿参数大模型。周鸿祎对此表示,小模型具备响应速度方面的优势,“单机单卡就能跑起来,性价比高”,虽然参数规模较小,但经过垂直训练,小规模参数的大模型在单项能力上有望超过GPT-4,并且每个模型可以单做自己最擅长的工作。此外他还表示,未来企业级模型或也不需要用千亿大模型,“用百亿甚至几十亿的大模型就够了,这样也最容易普及”。

据公开资料显示,360方面的自研认知型通用大模型“360智脑”在2023年9月就已面接入360全家桶、并面向公众开放,其拥有千亿参数规模、预训练超万亿tokens,具备生成与创作、多轮对话、代码能力、逻辑与推理、知识问答、阅读理解、文本分类、翻译、文本改写等十大核心能力、数百项细分功能,可覆盖大模型应用的所有场景,同时也是国内首个通过工信部信通院认可“可信AIGC大模型评测”的大模型。

针对大模型的长文本功能力,周鸿祎曾表示,360AI搜索基于大模型的对长文本的理解将让搜索带给用户不一样的体验。相比传统搜索引擎在用户键入问题或是关键词后,只能将所有与之相关的内容,为用户一一呈现,是否有用需要用户自己去海量信息中遴选,但大模型长文本理解能力的加入,AI就可帮助用户在数以万计的匹配信息里提炼出最有效的信息。

此前,360AI浏览器已向用户免费开放100万字长文本阅读功能,支持网页、中英文论文等常用文档、音频及视频的处理,可帮助用户自动总结要点、生成思维导图等,还可就长文本之外的“超纲”问题进行问答和延展学习。此外,据称360智脑正在内测500万字长文本处理功能,360AI浏览器App也即将上线。

以往由于模型训练结构的局限,大模型的文本长度也同样受限,因此只能拆分输入提问,但可能会导致输出结果的逻辑出现问题。而长文本能力则可以全篇连贯理解上下文满足理解和问答的需求,因此国内相关厂商也正在这一方面进行布局。

近期已有越来越多的大模型开始在长文本处理能力方面进行激烈竞争,此前,月之暗面就宣布Kimi智能助手启动200万字长文本输入能力的内测,文心一言计划在下月将字数上限提高至200万至500万字,阿里旗下的大模型工具通义千问曾宣布迎来重磅升级、向所有人开放最高1000万字的长文本处理能力。

【以上内容转自“三易生活网”,不代表本网站观点。如需转载请取得三易生活网许可,如有侵权请联系删除。】

 

延伸阅读:

  • 360发布2023年Q3财报,营收同比上涨5.87%
  • 360鸿蒙原生应用核心版本开发完成!多个优质应用加入鸿蒙版图

 

未经允许不得转载:零时古怪 - 中国第一时事资讯综合门户 » 360智脑7B模型即将开源,可支持50万字文本输入

分享到:更多 ()
来源: 编辑:cxr4186

评论

留言/评论 共有条点评
昵称:
验证码:
匿名发表