#24: ユーザー8億人の ChatGPT を支える PostgreSQL アーキテクチャを読み解く - OpenAI テックブログ解説(後編) cover art

#24: ユーザー8億人の ChatGPT を支える PostgreSQL アーキテクチャを読み解く - OpenAI テックブログ解説(後編)

#24: ユーザー8億人の ChatGPT を支える PostgreSQL アーキテクチャを読み解く - OpenAI テックブログ解説(後編)

Listen for free

View show details

About this listen

OpenAI が公開したテックブログ「Scaling PostgreSQL to Power 800 Million ChatGPT Users」を、大規模サービス開発経験のある Lon と PostgreSQL エンジニアの Shinya の2人で読み解きます。後編となる今回は、Azure PostgreSQL のコネクション上限に対処するための PgBouncer の活用、キャッシュミス時の DB 負荷急増(Thundering Herd)を防ぐロック機構、50台のリードレプリカ運用におけるネットワーク負荷とカスケーディングレプリケーション、ORM レベルでのレートリミット、そしてサービス停止を防ぐための慎重なスキーマ管理とデータバックフィル戦略 など、ブログ後半の具体的な技術トピックについて議論します。

PgBouncer とコネクションプーリング / キャッシュミス対策とロック機構 / カスケーディングレプリケーション / ネットワーク帯域とプライマリー負荷 / アプリケーション・ORM層でのレートリミット / スキーマ管理とフルテーブルリライト回避 / データのバックフィル戦略 / 基本的な設計の重要性

参考リンク

  • Scaling PostgreSQL to power 800 million ChatGPT users: ⁠https://openai.com/index/scaling-postgresql/
No reviews yet
In the spirit of reconciliation, Audible acknowledges the Traditional Custodians of country throughout Australia and their connections to land, sea and community. We pay our respect to their elders past and present and extend that respect to all Aboriginal and Torres Strait Islander peoples today.