BizHack Notes
業務効率化

LangChainで構築する社内ナレッジ活用RAGチャットボット徹底ガイド

企業内の膨大なナレッジを活用し、高精度な回答を自動で提供できるRAG（Retrieval-Augmented Generation）チャットボットは、社内FAQやカスタマーサポートの効率化に大きく貢献します。本記事では、PythonとLangChainを用いて社内ナレッジ活用RAGチャットボットを一から構築する手順を、具体的なサンプルコード付きで徹底解説します。導入事例やコストメリット、運用ポイントまで網羅することで、関心の高いビジネスパーソンが必要とする知見を深く掘り下げています。

RAGチャットボットとは?

RAG（Retrieval-Augmented Generation）は、ユーザーの質問に対してまず関連情報をベクトル検索エンジンで取得し、その情報を基に生成AIが回答を作成する仕組みです。これにより、大規模言語モデルが持つ汎用知識だけでなく、企業が保有する社内マニュアルやFAQデータに基づく正確な応答が可能となります。メリットとしては、回答の一貫性・正確性向上、24時間365日対応、トレーニングコストの削減などがあげられます。

LangChainの概要と選定理由

LangChainは、LLM活用アプリケーションの開発を迅速化するオープンソースフレームワークです。チャットボットに必要な「入力→検索→生成」のパイプラインをシンプルに実装でき、ドキュメントローダーやメモリ機能、コネクタプラグインも豊富です。特に、会話履歴のメモリ管理や独自リトリーバー連携が容易な点が、社内システムへの適用に最適です。

システム構成とアーキテクチャ

本構成では以下の要素を使用します。
・LLM：OpenAI API（GPT-4 Turboなど）
・ベクトル検索エンジン：FAISSまたはChroma
・データストア：社内ドキュメント（PDF/Word）→テキスト化→ベクトル化
・バックエンド：Python＋FastAPI（CORS設定・認証機能含む）
・フロントエンド：任意のWeb UIやSlack連携

システム構成図はCacooで作成し、チーム内で迅速に共有・更新できます。

準備するライブラリと環境構築

Python環境を用意し、以下コマンドでパッケージをインストールします。
pip install openai langchain faiss-cpu chromadb fastapi uvicorn python-dotenv

.envファイルにOpenAIのAPIキーやChromaの設定を記載し、セキュアに管理してください。

1. 社内ナレッジをベクトル化

社内マニュアルやFAQをテキスト抽出し、LangChainのテキストスプリッターで適切なチャンクに分割します。メタデータとして文書IDや掲載日を付与し、検索精度を向上させます。

from langchain.document_loaders import UnstructuredPDFLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.vectorstores import Chroma
from langchain.embeddings.openai import OpenAIEmbeddings

# ドキュメント読み込み
loader = UnstructuredPDFLoader(""docs/knowledge.pdf"")
docs = loader.load()

# テキスト分割
splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=200)
chunks = splitter.split_documents(docs)

# ベクトルストア作成
embeddings = OpenAIEmbeddings()
vectorstore = Chroma.from_documents(
    chunks,
    embeddings,
    collection_name=""company_knowledge""
)

2. チャットプロンプト設計

システムプロンプトでボットのトーンや動作を定義し、ユーザークエリを受け取ったらベクトル検索→回答生成のワークフローを実装します。会話履歴はLangChainの「メモリ機能」で管理し、文脈を維持します。

from langchain.chains import ConversationalRetrievalChain
from langchain.chat_models import ChatOpenAI

chat = ChatOpenAI(
    temperature=0,
    model_name=""gpt-4o"",
    streaming=False
)
qa_chain = ConversationalRetrievalChain.from_llm(
    llm=chat,
    retriever=vectorstore.as_retriever(top_k=3),
    memory=None
)

3. FastAPIでエンドポイント作成

社内システムやチャットツールと連携しやすいAPIをFastAPIで構築します。以下は簡易サンプルです。

from fastapi import FastAPI
from pydantic import BaseModel
from fastapi.middleware.cors import CORSMiddleware

app = FastAPI()
app.add_middleware(
    CORSMiddleware,
    allow_origins=[""*""],
    allow_methods=[""POST""],
    allow_headers=[""*""]
)

class Query(BaseModel):
    question: str

@app.post(""/chat"")
async def chat_api(query: Query):
    result = qa_chain({""question"": query.question})
    return {""answer"": result[""answer""]}

Uvicornで起動し、Docker化してKubernetes等にデプロイ可能です。

おすすめツール：Cacooでシステム構成図を作成

アーキテクチャ図の作成には、オンライン作図ツール「Cacoo」がおすすめです。ドラッグ＆ドロップで簡単にフローチャートやネットワーク図を作成でき、チームとのリアルタイム共同編集も可能です。

今後の可能性

今後は、PDFや動画など多様なメディア対応、リアルタイムデータ連携、AI要約機能の強化、社内ERP/SFAとの統合など、さらなる機能拡張が見込まれます。RAGチャットボットは、目指すDX推進の中核として、業務効率化と従業員体験向上に貢献するでしょう。

“

関連記事