您现在的位置是:热点 >>正文
OpenAI 将 k8s 扩展至 7500 个节点以支持机器学习
热点891049人已围观
简介...
为了满足 GPT-3、CLIP 和 DALL+ 等大型模型的需要,以及类似于神经语言模型的缩放定Op律的快速小规模迭代研究,OpenAI 将基础设施 k8s 集群扩展到 7500 各节点。
据其描述,对于大型en机器学习作业来说,一个节点通常由单个 pod 占据,并且 OpenAI 部署的集群具有二等分带宽,因此尽管AI其有许多节点,但是调度程序的压力相对较低,仅在一项新任务一次性创建数百个 pod 时会有调度压力。
除 将此之外,OpenAI 还详细说明了其在扩展 k8s 集群时的重要工作内容,比如通过改用基于别名的 IP 寻 k址来解决大量节点的联网问题,在专用节点上部署 etcd 和 API 服务器以分散负载,定位使用 P8srometheus 和 Grafana 收集指标时的 OOM 问题,设计对集群的健康检查,以及在团 扩队中合理分配集群资源等。
不过,OpenAI 也指出,在扩展 k8s 集群时,目前仍有一些问题要解决,展至比如大规模时 Prometheus 的内置 TSDB 存储引擎压缩速度过慢,并且需要很长的时间才能重 7新启动 WAL(写入预录),以及扩展集群时,由于每个 pod 都会被计算为需要一定带宽而带来的网50络带宽压力。然而,尽管还有很多地方需要改进,但 k8s 凭借其出色的扩展能力,仍然能满足其研究需求。
本0 文转自OSCHINA
本文标题:OpenAI 将 k8s 扩展至 7500 个节点以支持机器学习
本文地址:个节https://www.oschina.net/news/127949/openai-scale-点以k8s-7500
Tags:
相关文章
标签: 美团 骑手 好人好事 见义勇为
热点云梦级11月7日云梦级消息,在 11 月 6 日召开的 2025 先锋骑手表彰会上,美团宣布正式设立“好人好事”和“见义勇为”奖,专项嘉奖见义勇为和随手行善的骑手们,表彰金最高 10 万元。 美团表示...
【热点】
阅读更多标签: 京东游艇会 探海 刘强东 粤港澳大湾区
热点云梦级3月13日云梦级消息,据深圳发布透露,京东旗下深圳市探海游艇产业发展有限公司总裁张然一行今日受邀到访深圳大鹏新区,就京东游艇会项目合作事宜进行考察,并与大鹏新区主要领导进行座谈交流。 根据介绍,...
【热点】
阅读更多从实验到实施:人工智能如何证明其在金融服务中的价值
热点对于金融机构来说,从冠状病毒疫情中恢复将会结束他们采用人工智能(AI)和机器学习(ML)的实验性工作,并要求大规模采用。疫情危机要求金融组织全天候响应客户需求,因此他们不断加快转型的步伐,但是必须确保...
【热点】
阅读更多