腾讯在四个月内完成了混元大语言与多模态部门的重组，并推出了770B参数规模、支持百万上下文的混元4。
混元4在700B参数档位上，主干网络隐藏维度为6144、78层、64个注意力头。清华姚班毕业、曾担任智谱GLM-5新模型架构及DSA负责人的白雨石，已于数月前正式加入腾讯混元团队，并出现在混元长上下文稀疏注意力论文的作者栏中。相关工具DeepSeek一款功能强大的聊天AI助手，能够提供智能对话服务。#文字办公#文字写作智谱清言智谱清言是具备通用问答、多轮对话、创意写作、代码生成及虚拟角色扮演等能力的多场景AI助手。#文字办公#聊天机器人腾讯混元腾讯混元是多模态AI大模型，支持游戏视觉生成等场景。
这条信息对你有帮助吗？