中国科大大模型服务平台已0Day接入DeepSeek-v4大模型
4月24日,深度求索(DeepSeek)正式发布新一代大模型DeepSeek-V4 系列预览版,我校超级计算中心团队老师,第一时间组织完成模型多个版本在“东风”云扩容项目平台上的私有化部署,并已全面接入我校大模型公共服务平台(https://llm.ustc.edu.cn),面向全校师生开放使用,标志着学校智能算力服务能力再上新台阶。DeepSeek-V4-Pro具备超大规模参数与卓越推理能力,总参数量达 1.6T,激活参数49B,在复杂推理、长上下文理解、多轮对话等任务中表现突出,可对标国际先进闭源模型水平。DeepSeek-V4-Flash则聚焦高并发与低延迟场景,具备更快的响应速度和更高的吞吐能力,适用于智能问答、在线交互、教学辅助等对实时性要求较高的应用场景。两类模型形成“高性能 + 高响应”的协同能力体系,可满足科研、教学与管理多样化需求。在技术架构上,平台采用“模型网关+推理集群”的分层设计,通过统一网关实现请求分发、负载均衡与故障切换,并结合 GPU / NPU 异构算力资源,对不同模型实行多实例部署、对任务进行动态调度与优化配置,保障高并发场景下的服务性能与可靠性。同时