AI难逃“能源危机”？GPT-6或被电力卡脖子
发布日期：2024-03-27 17:31:37
导读 哈喽,阿澜今天发现不少朋友对于AI难逃“能源危机”？GPT-6或被电力卡脖子,这个还不是很了解，那么现在让我们一起来看看吧。
据财联社，...
哈喽,阿澜今天发现不少朋友对于AI难逃“能源危机”？GPT-6或被电力卡脖子,这个还不是很了解，那么现在让我们一起来看看吧。
据财联社，GPT-5尚未面世，OpenAI似乎已开始着手训练GPT-6，不过电力或许已成为了一个“卡脖子”难题。
AI初创公司OpenPipe联合创始人、CEO Kyle Corbitt透露，自己最近与一位负责GPT-6训练集群项目的微软工程师谈过，后者抱怨称，在跨区域GPU之间部署infiniband级别链接，实在是一件痛苦的事。
Corbitt问到为何不将训练集群集中在同一区域，这位微软工程师回答，“哦我们已经尝试过那么做了，但是如果在一个州放置超过10万片H100GPU，电网就会崩溃。”
10万片H100是什么概念？作为参考，市场调查机构Factorial Funds的一份报告显示，OpenAI的文生视频模型Sora在峰值期间需要72万片H100——按上述工程师的说法，这个数量足以让七个州的电网崩溃。
以上就是关于【AI难逃“能源危机”？GPT-6或被电力卡脖子】的相关内容，希望对大家有帮助！
标签：
免责声明：本文由用户上传，如有侵权请联系删除！