MiniMax发布万亿MoE模型abab 6.5

作者:经济观察网 2024-04-17 14:32  

4月17日,MiniMax正式推出abab 6.5系列模型,包含两个模型:abab 6.5 和abab 6.5s。其中abab 6.5包含万亿参数,支持200k tokens的上下文长度;abab 6.5s跟 abab 6.5使用了同样的训练技术和数据,但是更高效,支持200k tokens的上下文长度,可以1秒内处理近3万字的文本。(科创板日报

相关热门新闻

请点击添加到主屏幕