OpenAI在线存储支撑超10亿用户
IT时代网9月12日消息,OpenAI 工程团队介绍,其在线存储平台 Habitat 已支撑每周超过 10 亿用户的访问,每秒处理超过 7000 万次请求,覆盖近 40 个地理区域。
Habitat 是 OpenAI 为各产品快速可靠访问数据而构建的在线存储平台,承载数据量已超过 500 PB。两年前它起步时只是一个连接单一数据库的简易 Python 客户端库,如今已演化为复杂的分布式系统。
团队表示,每一次登录、查看设置或开启新对话都可能涉及多次独立的数据查询,若请求变慢产品就会变慢,若请求失败产品将完全停摆。Habitat 的演进包括以 Python 大规模上线服务、追踪异步延迟、均衡负载与管理连接池,以及后续向 Rust 迁移、优化 Azure Cosmos DB 数据库层等方向。

编辑:林一舟
THE END