導入事例
CYDAS PEOPLE、ChatGPT を活用した AI チャットボットに Momento Cache をわずか 2 時間で本番導入
CYDAS PEOPLE は Momento Cache を活用し、チャット履歴の保存と AI チャットボットの高速化を、サーバー管理なしで実現しています。
業種：SaaS、チャットボット、AI
ユースケース：チャットボットのキャッシュ
2020 年に誕生した CYDAS PEOPLE は、日本を代表する HR テックサービスの一つです。人事部門が組織管理や従業員向けサービスを拡充できるよう、さまざまなツールを提供しています。従業員数が数百人の企業から数万人規模の企業まで、幅広いお客様が従業員エンゲージメントの向上に当社の製品を活用しています。
人事部門の問い合わせ対応を効率化
従業員から人事への問い合わせには、迅速な回答が欠かせません。答えは社内の FAQ や既存の文書に記載されていることが多いものの、検索時の言葉の違いで見つからない場合があります。たとえば「休暇日数」なら一致する結果が得られても、「休みの日数」と検索すると、単純な全文検索では休暇規程のページが上位に表示されないことがあります。回答自体は簡単な問い合わせでも、件数が積み重なると、限られた人数の人事部門にとって持続できないほどの負担になります。
そこで、大規模言語モデル（LLM）の力を活用した、直感的に使えるチャットボット「CYDAS PEOPLE Copilot Chat」の開発に取り組みました。
AI チャットボットの構築
特に注目したのは、LangChain と、それを使って開発者コミュニティが構築している多様なチャットボットです。ただし、一つ課題がありました。サーバーを構築したり、使っていないインフラに料金を支払ったりすることなく、チャット履歴を一時的に保存したかったのです。さらに、導入直後から高可用性も必要でした。そこで採用したのが、完全サーバーレスのキャッシュサービス Momento Cache です。導入は驚くほどスムーズで、Momento と連携してチャット履歴を本番環境で保存できるようになるまで、2 時間もかかりませんでした。
チャットボットを構築してデプロイを始めた直後、LangChain が Momento との連携機能を発表しました。これにより、チャット履歴の保存に加えて、プロンプトキャッシュにも Momento を利用できるようになりました。すでに回答済みの質問をユーザーが尋ねた場合、Pinecone や OpenAI を呼び出さずに、より速く回答を返せます。
次の展開に向けて
Momento にはとても満足しています。使いやすく、高速で安定しており、メンテナンスによる停止時間もありません。今後は、CYDAS PEOPLE の主力製品のアプリケーションキャッシュを置き換えるという、さらに大きな用途で Momento Cache を活用する予定です。