RAGの例

この例では、 pytidb (TiDB の公式 Python SDK) を使用して最小限の RAG アプリケーションを構築する方法を示します。

アプリケーションは、ローカル埋め込み生成にオラマ使用し、Web UI にストリームリット使用し、RAG パイプラインの構築にpytidb使用します。

PyTiDB で構築された RAG アプリケーション

PyTiDB で構築された RAG アプリケーション

前提条件

始める前に、次のものがあることを確認してください。

Python (>=3.10) : パイソン 3.10 以降のバージョンをインストールします。
TiDB Cloud Starter クラスター: TiDB Cloudに無料の TiDB クラスターを作成できます。
Ollama : オラマからインストールします。

実行方法

ステップ1.推論APIを準備する

Ollama CLI を使用して埋め込みモデルと LLM モデルを取得します。

ollama pull mxbai-embed-large
ollama pull gemma3:4b
ollama run gemma3:4b

エンドポイント/embedと/generateが実行されていることを確認します。

curl http://localhost:11434/api/embed -d '{
  "model": "mxbai-embed-large",
  "input": "Llamas are members of the camelid family"
}'

curl http://localhost:11434/api/generate -d '{
  "model": "gemma3:4b",
  "prompt": "Hello, Who are you?"
}'

ステップ2. リポジトリのクローンを作成する

git clone https://github.com/pingcap/pytidb.git
cd pytidb/examples/rag/

ステップ3. 必要なパッケージをインストールして環境を設定する

python -m venv .venv
source .venv/bin/activate
pip install -r reqs.txt

ステップ4. 環境変数を設定する

TiDB Cloudコンソールでクラスターページに移動し、ターゲットクラスターの名前をクリックして概要ページに移動します。
右上隅の「接続」をクリックします。接続パラメータがリストされた接続ダイアログが表示されます。
次のように接続パラメータに応じて環境変数を設定します。

cat > .env <<EOF
TIDB_HOST={gateway-region}.prod.aws.tidbcloud.com
TIDB_PORT=4000
TIDB_USERNAME={prefix}.root
TIDB_PASSWORD={password}
TIDB_DATABASE=test
EOF

ステップ5. Streamlitアプリを実行する

streamlit run main.py

ブラウザを開いてhttp://localhost:8501アクセスします。

トラブルシューティング

`502 Bad Gateway`エラー

グローバルプロキシ設定を無効にしてみてください。

ソースコード: GitHubでビュー