解决十万卡集群！艰苦限度了我的想象力…
2024-11-26传闻，当今也曾有东说念主在搞十万卡集群了！ 什么倡导呢？100000张GPU或者AI加速卡攒在沿途，组团干活，提供“核弹级”算力。 这样顶，真有必要吗？必须有，业界大佬都在这样干！ 只因AGI太火爆，激勉了算力“武备竞赛”，十万卡集群也曾成为业界顶尖大模子公司的标配，xAI、Meta、OpenAI都在搞！ 即便大众如斯激进，算力瓶颈仍然拖了大模子迭代的后腿。 坊间传闻，GPT5迟迟不可发布的原因之一，就是算力不及。 而国内的头部大模子厂商，也都在彼此较劲，紧锣密饱读地筹建十万卡集群… 总之，趋