RAG Architecture & Chat UI
Project Overview
社内最大規模のイベント「Rakuten Optimism」において、社員からの問い合わせ対応を自動化するためのAIチャットボットを開発。Dify(オープンソースのLLMアプリ開発プラットフォーム)を活用し、Azure OpenAI Serviceと社内ナレッジベースを連携させました。
Technical Challenges
イベント特有の「日々更新される情報」に即座に対応する必要がありました(ハルシネーションの防止)。
解決策:
RAG (Retrieval-Augmented Generation) アーキテクチャを採用し、SharePoint上の最新マニュアルを自動でVector DBに取り込むパイプラインを構築。回答精度はリリース前のテストで81%を記録し、不確実な回答については有人対応へエスカレーションするフローをPower Automateで実装しました。
Business Impact
会期中の問い合わせ総数のうち、約67%をBotのみで解決。運営事務局の負担を劇的に軽減し、より付加価値の高い業務(VIP対応など)にリソースを集中させることに成功しました。