【実践】Dify + Amazon Bedrockで、ゼロからチャットボットと RAG を作る②

こんにちは、OSS よろず相談室の鹿島です。

本記事は、【実践】Dify + Amazon Bedrockで、ゼロからチャットボットと RAG を作る①の続編です。前回構築したDify環境に、Amazon Bedrockを連携させるための各種設定を行っていきます。

ステップ1:AWS での設定

Amazon Bedrockの利用準備

Amazon Bedrockを使用するには、AWSアカウントが必要です。

また、Amazon Bedrockは従量課金制のサービスであり、利用には料金が発生します。モデルプロバイダーやモデルの種類、入出力のトークン数によって料金が異なるため、事前に以下の公式料金ページで確認しておきましょう。

料金プランは以下の通りです。

  • Amazon Bedrock の料金
    https://aws.amazon.com/jp/bedrock/pricing/

前回の記事でも紹介したように、Amazon Bedrockは自社開発のモデル(Titan)だけでなく、様々な企業のAIモデルを選んで単一のAPIで利用できる点が大きな特徴です。

以下の画像は、Amazon Bedrock の料金表からの抜粋ですが、赤く囲んだ部分は提供会社で、タブを選択してそれぞれの会社のモデルを選択します。

Amazon Bedrockでの設定

1. モデルの選択・有効化

それでは、Amazon Bedrockが利用できるように設定しましょう。

  1. AWS マネジメントコンソールにログインし、上部の検索バーで「Bedrock」と入力してサービスページへ移動します。
  2. 左側のナビゲーションメニューから モデルカタログ をクリックします。
    利用したいモデル(例: Nova Micro)を探し、モデルカードをクリックします。
  3. モデルの詳細ページで「アクセスをリクエスト」といったボタンをクリックすると、全モデルのアクセス権を管理する「モデルアクセス」ページへ移動します。
  4. 「モデルアクセス」の管理ページで、利用したいモデル(Nova Micro, Titan Text Embeddings V2など)のチェックボックスをオンにします。
  5. ページ下部の 変更を保存 をクリックします。アクセスが許可されるまで数分待つ場合があります。

 本記事で利用するモデル

当記事の検証では、Amazonの以下のモデルを有効にしています。

  • Nova Micro
    ユーザーとの対話、文章の生成、要約、翻訳など、幅広いタスクをこなすLLM(大規模言語モデル)です。
    チャットボットを作成するだけであれば、LLMだけあれば十分です。
  • Titan Text Embeddings V2
    Amazonが開発した埋め込み(Embeddings)モデルで、RAGなどナレッジを使用する場合には、このようなテキストの「意味」を数値に変換するモデルが必要です。
  • Rerank 1.0
    リランキングモデルです。
    リランキングモデルとは、上記の埋め込みモデルが取得してきた検索結果を精査してより関連性の高い順に並べ替えることに特化したモデルです。
    Difyの設定によっては必要になります。

2. IAM 権限の設定

Amazon Bedrock へのIAMポリシーを追加

DifyからAmazon Bedrockを利用するために、Amazon BedrockにアクセスするIAMユーザに、AWS のマネージドポリシーである AmazonBedrockFullAccess ポリシー を追加します。

本記事の検証では、以下のように実施しました。

  1. AWSコンソール上部の検索ボックスで”IAM”を入力し、
    IAM ダッシュボードを開きます。
  2. Amazon Bedrockにアクセスさせたいユーザまたはグループを選択して、「許可を追加」を選択します。
  3. 以下を設定します。
    許可のオプション:ポリシーを直接アタッチする
    許可ポリシー:AmazonBedrockFullAccess

アクセスキーを作成 (アクセスキーがない場合)

DifyからAmazon Bedrockにアクセスする際にアクセスキー(アクセスIDとシークレットキー)使用します。
Amazon BedrockにアクセスするIAMユーザにアクセスキーがない場合は生成します。

IAM > ユーザ から自分のアカウントを選択し、「アクセスキーを作成」を選択します。
画面の指示に従ってアクセスキーを作成し、メモをするなりcsv出力して保存しておきます。

ステップ2:Difyでの設定

  1. Difyの画面右上のユーザ名をクリックして「設定」 > 「モデルプロバイダー」を選択します。
  2. 前回の記事の「6 ステップ5:モデルプロバイダの設定」でDifyにインストールしたAmazon BedrockのAPI-KEYを設定します。「セットアップ」を選択します。
  3. 上記のアクセスキーを作成で設定したアクセスキー (上記画像の①)とシークレットアクセスキー(上記画像の②)を設定します。

    モデルを有効化したリージョンの選択(上記画像の③)も必須項目です。
  4. 「保存」をクリックして設定完了です。

おわりに

以上で、DifyからAmazon Bedrockを利用するためのすべての設定が完了しました。
次回は、この環境を使ってチャットボットを作成していきます。

ご覧いただきありがとうございます! この投稿はお役に立ちましたか?

役に立った 役に立たなかった

0人がこの投稿は役に立ったと言っています。

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です