案例-XX大学XX学院大模型教学实验平台
1教学实验平台基于K8S技术,集成了大模型相关科研和教学实验所需要的相关能力,为科研教学提供一套高度灵活开放、简单易用的基础环境。平台功能结构如下图所示,在K8S容器集群基础上,平台集成了:
1)统一权限认证体系,实现了多用户的资源分离;2)AI大模型常用算法、镜像、工具链;3)高可用应用路由和证书管理机制,便于大模型应用的部署发布;1教学实验平台基于K8S技术,集成了大模型相关科研和教学实验所需要的相关能力,为科研教学提供一套高度灵活开放、简单易用的基础环境。平台功能结构如下图所示,在K8S容器集群基础上,平台集成了:
1)统一权限认证体系,实现了多用户的资源分离;2)AI大模型常用算法、镜像、工具链;3)高可用应用路由和证书管理机制,便于大模型应用的部署发布;