Cache-it 第 1 回: Yao Yue と考える、キャッシュの知見を ML 特徴量ストアに生かす方法

概要

注: Cache It は、パフォーマンスエンジニアリングと Valkey をテーマにしたポッドキャスト Unlocked に名称を変更しました。新しいエピソードを見逃さないよう、ぜひチャンネルをご登録ください。

記憶にキャッシュしておきたくなる知見をお届けするポッドキャスト Cache-it へようこそ。ホストの Khawaja Shams が、IOP Systems の CEO 兼共同創業者 Yao Yue に、キャッシュから得た知見を機械学習の特徴量ストア構築に生かす方法を聞きます。Yao は Twitter で分散キャッシュとパフォーマンスエンジニアリングに取り組んできました。Twitter で起きた大きな障害への対応を振り返り、性能の最適化にキャッシュが果たした重要な役割について語ります。

Yao は、機械学習の学習と推論に使う特徴量を発見し、保存し、提供する場所である ML 特徴量ストアの概念を説明します。対談ではさらに、大規模環境におけるパフォーマンスエンジニアリングの難しさと、テールレイテンシを抑える重要性を掘り下げます。

Yao Yue について

Yao Yue は、分散キャッシュで使われるサーバー、プロキシ、クライアントを構築するための統合キャッシュフレームワーク Pelikan の開発者であり、メンテナーの一人です。このプロジェクトには、2010 年代の大半を Twitter の Cache Team のメンバーとして、そして後にそのリーダーとして過ごす中で得た、キャッシュに関する知識が集約されています。Pelikan に加え、OSDI、NSDI、FAST で発表されたキャッシュに関する複数の学術論文を共同執筆し、多くの講演も行っています。近年は、分散システムの性能と最適化の分野に取り組んでいます。Twitter 時代の同僚たちとともに、ソフトウェアの効率向上とコスト削減を目指す IOP Systems を共同創業しました。