OpenAI称Habitat存储系统读取速度提升 12 倍,以支撑ChatGPT十亿级用户
OpenAI在一篇技术博客中介绍,其Habitat存储系统通过多租户、全局缓存和Azure Cosmos DB实现扩展,使ChatGPT的读取速度提升至原来的 12 倍。上述说法来自OpenAI官方。
AI解读:OpenAI在官方技术博客中称,为支撑ChatGPT超过 10 亿用户,其存储系统Habitat完成了扩展,读取速度提升 12 倍。
OpenAI将提速手段归结为三项:可靠的多租户机制、全局缓存,以及使用Azure Cosmos DB。
该数据由OpenAI自行披露,博客未给出测试条件、延迟基数或吞吐量等细节,属于公司主张。
OpenAI在官方博客中表示,其存储系统Habitat经过扩展后,ChatGPT的读取速度提升至原来的 12 倍。
Habitat的扩展手段
OpenAI称,为服务超过 10 亿ChatGPT用户,Habitat采用了可靠的多租户架构、全局缓存,并接入Azure Cosmos DB。博客将读取性能的 12 倍提升与这套组合关联起来。
- 服务规模:OpenAI称ChatGPT用户超过 10 亿
- 提速幅度:读取速度 12 倍,由OpenAI提供
- 技术组成:多租户、全局缓存、Azure Cosmos DB