Cache-it 第 6 回: Prasad Chalasani が語る、Langroid によるエージェント中心の LLM 開発

概要

注: Cache It は、パフォーマンスエンジニアリングと Valkey をテーマにしたポッドキャスト Unlocked に名称を変更しました。新しいエピソードを見逃さないよう、ぜひチャンネルをご登録ください。

Cache-it ポッドキャストの第 6 回では、Khawaja が Langroid の共同創業者 Prasad Chalasani を迎え、大規模言語モデル (LLM) に対する同社独自のアプローチを掘り下げます。Prasad はコンピューターサイエンスと機械学習に豊富な知識を持ち、既存のフレームワークへの不満をきっかけに Langroid の共同開発に至りました。

Prasad はまず、テキスト生成、推論、計画、コンテキスト内学習など、LLM が提供する優れた能力を紹介します。一方で、ハルシネーション、コンテキスト長、トークンのコストといった制約が、問題解決をより複雑にすることも認めています。

Langroid は、こうした課題に対応するため、一貫した設計原則に基づいて作られたプログラミングフレームワークです。「エージェント」を第一級の構成要素として扱います。エージェントは LLM やベクトルデータベースなどのさまざまな能力を内包し、システム内で柔軟に利用できる部品になります。

Prasad は、コードリポジトリ用の Dockerfile を自動作成する例で、Langroid のアプローチを説明します。複数のエージェントが協力し、一つのエージェントが別のエージェントからコードベースの情報を取得して、Dockerfile の作成を進めます。

Khawaja は、共同開発や複雑なワークフローなど、Langroid の用途について質問します。Prasad は、チームがエージェントのライブラリを使って協力し、それぞれがエージェントを提供・共有することで、強力なワークフローを組み立てる姿を描いています。

最後に、Langroid の始め方を紹介します。GitHub の Langroid リポジトリ、ニュースレター、詳しいドキュメントへのアクセス方法も案内します。

Prasad Chalasani について

Prasad Chalasani は、マルチエージェントプログラミングを使って LLM アプリケーション開発を簡単にする、オープンソースの Python フレームワーク Langroid の共同創業者です。IIT Kharagpur でコンピューターサイエンスの工学学士号を、Carnegie Mellon 大学で機械学習の博士号を取得しました。25 年以上の経験を持ち、Los Alamos、ヘッジファンド、Goldman Sachs で働いたほか、Yahoo と MediaMath で機械学習チームを率いてきました。