豊富な機能

• システムプロンプトによるキャラ付け
• 変数の利用
• 画像の解析

• 短文: 1行のテキスト
• 段落: 複数行のテキスト
• 選択: セレクトボックス形式の選択フォーム
• 数値: 数値型の変数

• 変数名: 変数の名前を入力します。ここでは「input」と入力します(①)。
• ラベル: 変数のラベル名を入力します。ここでは「キャラ」と入力します(②)。
• 最大長: 入力可能な最大文字数を入力します。ここでは「48」と入力します(③)。
• 必須: 必須項目かどうかを選択します。必須にすると、ユーザーが入力しないと会話が開始できません。ここではチェックをします(④)。

そもそもRAGってなに？

ベクトルデータベース

従来の検索は、検索対象の言葉がどのくらいドキュメントに含まれるかを数えることで行われていました。これを全文検索と呼ぶこととします。全文検査k検索は、厳密には、TF-IDF（Term Frequency-Inverse Document Frequency）という手法を使って、単語の重要度を計算して、検索結果の並び替えを行うなど、複雑な処理が内部では行われています。

0.999となり1にかなり近く、リンゴとイチゴは非常に似ているということがわかります。

このように、コサイン類似度を計算することで、グラフ上の位置の違いを超えて、2つの食べ物がどれだけ「特徴」が似ているかを数値で表すことができるのです。

• Weaviate (デフォルトではこれ)
• Qdrant
• Milvus
• MyScale
• Relyt
• PGVector
• PGVecto-RS
• Chroma
• OpenSearch
• TiDB Vector
• Oracle
• Tencent Vector
• ElasticSearch
• AnalyticDB
• Couchbase
• VikingDB
• OceanBase
• Upstash Vector
• Lindorm

チャンク化

RAGではドキュメントをベクトル化して、ベクトルデータベースに格納します。このベクトル化する際に、ドキュメントを小さな単位に分割することがあります。この小さな単位を「チャンク」と呼びます。チャンク化する理由は、Azure OpenAI ServiceやOpenAIで提供される文章をベクトル化するEmbeddings APIのトークン数の制限に引っかからないようにするためです。このAPIはリクエストあたりのトークン数に上限があり（たとえばtext-embedding-ada-002では8191トークン）、そのためテキストを細かく分割する（チャンク化する）必要があります。

ナレッジ

先ほどRAGは外部データベースにドキュメントを格納することがキモだと説明しました。Difyは、そのドキュメントを「ナレッジ」という単位で論理的にグループ化します。

開発チームメンバーがドキュメントをファイル単位でDifyに登録します。そのドキュメントは、ナレッジという単位でグループ化され、チャットボットやワークフローなど様々なアプリから参照されます。

• 人事規程 (hr.pdf)
• 経理規程 (accounting.pdf)
• 情報システム関連規程 (it.pdf)
• 個人情報保護規程 (privacy.pdf)
• 品質保証関連規程 (quality.pdf)

それでは、実際にRAGを作成してみましょう。

第10章: ワークフローを作ってみよう

ワークフローの基本

Difyに限ったことではないですが、ワークフローは一般的に、入力・処理・出力の3つの要素から構成されます。Difyのワークフローも同様で、入力値を受け取り、処理を行い、出力値を返すという流れになります。図解すると以下のようになります。

• 開始: ワークフローの開始地点です。契約書のPDFファイルが入力されます。
• ツール(CURRENT TIME): 現在時刻を取得します。契約書内の契約満了期間と現在時刻を比較するために必要です。
• ブロック(テキスト抽出ツール): 契約書のPDFファイルからテキストを抽出します。
• ブロック(LLM): 現在時刻と契約書のテキストを入力として、契約満了期間のリスクを洗い出します。
• 終了: ワークフローの終了地点です。契約満了期間のリスクが出力されます。

ワークフローの構成

今回作成するワークフローの構成を説明します。

現在の日付は{CURRENT TIMEで取得した現在時刻}です。以下の契約書について、契約期間の満了が迫っている場合や、期間に関するリスクが存在する場合は、それらを特定し、具体的に列挙してください。
{テキスト抽出ツールで抽出した契約書のテキスト}

{CURRENT TIMEで取得した現在時刻}の部分は、CURRENT TIME(ツール)の処理結果を埋め込んでいます。{テキスト抽出ツールで抽出した契約書のテキスト}の部分は、テキスト抽出ツール(ブロック)の処理結果を埋め込んでいます。

現在の日付は2022-01-01です。以下の契約書について、契約期間の満了が迫っている場合や、期間に関するリスクが存在する場合は、それらを特定し、具体的に列挙してください。
契約書
第1条（契約の目的）
本契約は、○○株式会社（以下「甲」という）と△△株式会社（以下「乙」という）との間で、XXXXXに関する契約の条件を定めるものである。
...以下省略...

ワークフローの作成

第11章: チャットフローを作ってみよう

本章では、チャットフローを作ります。チャットボットとの違いは、複雑なチャットボットを作れることです。

これから作るチャットフローの概要

チャットフローの作成

それでは、チャットフローを作成していきましょう。

第12章: AIエージェントを作ってみよう

AIエージェントとは？

まずAIエージェントの概要をお伝えします。AIエージェントとは、ユーザーの指示に基づいて適切なツールを選び、処理の流れを自動で組み立てて実行するAI です。従来のアプリケーションでは、開発者があらかじめ「何をどう処理するか」をプログラムする必要がありましたが、AIエージェントはプロンプト（指示文）とツール を与えるだけで、最適な方法を自ら考えて実行します。

• まずインターネットで検索
• 次に関連する情報を整理
• さらに結果を要約
• 最後にレポートとして出力

AIエージェントがない世界

AIエージェントがある世界

AIエージェントの作成

では、早速AIエージェントを作成してみましょう。AIエージェントに依頼された情報をインターネットで検索し、情報検索元のサイトのURLのQRコードを表示します。

第13章: AIエージェントに独自機能を追加してみよう

先ほど作成したAIエージェントに機能を追加してみましょう。先ほどはDifyに標準で提供されているツールを使って、インターネットを検索して情報を取得し、QRコードを生成するという処理を行いました。本来であれば、AIエージェントに与えるツールの追加はプログミングによってゼロから開発しなければいけませんが、Difyが標準で提供しているツールを使えば、ノーコードでツールを利用でき、AIエージェントがサクッと作れます。

カスタムツールとは？

カスタムツールとは、Difyの標準ツールにはない機能を追加するためのツールです。カスタムツールを使うことで、AIエージェントに独自の機能を追加することができます。カスタムツールを使うことで、AIエージェントに与えるプロンプトに対して、標準ツールでは対応できない処理を追加することができます。

第14章: ブロック

ここでは、Difyが提供する様々なブロックの説明をします。

知識取得　

results: [
  {
    "metadata": {
      "_source": "knowledge",
      "dataset_id": "cdf159c1-5a94-45bb-941d-400614336357",
      ...以下省略...
    },
    "title": "001018385.pdf",
    "content": "① 年次有給休暇を取得した期間\r\n② 産前産後の休業期間\r\n③ 育児・介護休業法に基づく育児休業及び介護休業した期間\r\n④ 業務上の負傷又は疾病により療養のために休業した期間\r\n７ 付与日から１年以内に取得しなかった年次有給休暇は、付与日から２年以内に限り\r\n繰り越して取得することができる。\r\n８ 前項について、繰り越された年次有給休暇とその後付与された年次有給休暇のいず\r\nれも取得できる場合には、繰り越された年次有給休暇から取得させる"
  },
    ...以下省略...
]

質問分類器

質問分類器は、任意のブロックから入力されたデータを受け取り、その質問をLLMが解析をし、特定のブロックにルーティングする機能を持ちます。下図を例に説明します。

{
  "class_name": "商品に関するもの",
  "class_id": "1"
}

IF/ELSE

条件分岐を行うためのブロックです。プログラミングのif文やelse文に相当します。

イテレーションは、繰り返し処理を行うためのブロックです。プログラミングのfor文に相当します。

コード

任意のPythonコードもしくはJavaScriptが動かせるブロックです。

テンプレート

Jinjaテンプレートによるテキストの生成を行うためのブロックです。これは先に説明したコードブロックと非常に似通った機能です。Python/JavaScriptコードブロックがプログラム言語による処理を行うのに対し、テンプレートブロックはJinjaテンプレートエンジンによるテキストの生成を行います。

変数集約器

複数の変数を集約して一つの変数にまとめるためのブロックです。例えば、第11章: チャットフローを作ってみようで作成したチャットフローの例を使って説明します。以下のようになっていました。

テキスト抽出ツール

テキスト抽出ツールは、WordやPDFからテキストを抽出するためのブロックです。例えば、PDF形式のファイルからテキストを抽出して、それをLLMブロックに渡して要約させたり、コンテキスト(LLMが回答を生成するための参照情報)にすることもできます。

変数代入

変数代入とは会話変数に値を代入できる機能を持つブロックのことです。ここで会話変数という新しい言葉が出てきたので説明します。

HTTPリクエスト

HTTPリクエストブロックは、外部のAPIを呼び出すためのブロックです。例えば、外部のAPIを呼び出して、その結果をLLMブロックに渡して回答を生成するといったことができます。

• status_code: HTTPステータスコード
• headers: レスポンスヘッダ
• body: レスポンスボディ
• files: ファイル(multipart/form-dataの形式でバイナリデータを送信する場合に使用)

パラメーター抽出

パラメーター抽出ブロックは、非構造化データを構造化データに変換してくれます。例えば、任意のテキストを与えるとLLMがそれを解析して、あらかじめ指定した変数の中にデータを入れてくれます。

第15章: チャンキング

本章では、チャンキングについて解説します。チャンキングについては、「第9章:RAGを作ってみよう」の節で触れましたが、ここでは更にその設定の詳細について解説します。

汎用

これは非常に馴染み深い方法かと思います。先ほど説明したように、あらかじめ決められた固定長でドキュメントを分割する手法です。例えば、1000文字ごとに分割するといった設定ができます。「第9章:RAGを作ってみよう」の節でも紹介しましたが、そこでは説明しきれなかった項目について、ここで詳しく解説します。

生成AIを活用することで、業務の効率化が図れる。
特にRAG（Retriever-Augmented Generation）を用いることで、文書検索がより精度よく行える。
Azure OpenAI Serviceを活用すると、簡単に導入できる。
企業のナレッジ管理に役立つ。 

【チャンク1】
生成AIを活用することで、業務の効率化が図れる。
特にRAG（Retriever-Augmented Generation）を用いることで、文書検索がより精度よく行える。
Azure OpenAI Serviceを活用すると、簡単に導入できる。
企業のナレッジ管理に役立つ。

【チャンク1】 生成AIを活用することで
【チャンク2】 業務の効率化が図れる。
【チャンク3】 特にRAG（Retriever-Augmented
【チャンク4】 Generation）を用いることで
【チャンク5】 文書検索がより精度よく行える。
【チャンク6】 Azure OpenAI Serviceを
【チャンク7】 活用すると、簡単に導入できる。
【チャンク8】 企業のナレッジ管理に役立つ。

「Azure OpenAI Service の活用方法」というクエリで検索した場合を考えてみます。

ナレッジには様々な機能があります。今まで紹介しきれなかった機能も含めて、ナレッジの機能を紹介します。

インデックス方法

インデックス方法には「高品質」「経済的」の2つのどちらかを選択できます。

経済的

高品質

こちらは平たく言ってしまうと、お金はかかるけれど、より高精度な検索結果を出すことができる方法です。OpenAIなどが提供する「埋め込みモデル」によるベクトル検索や、Cohereなどが提供する「Rerankモデル」による検索結果の並べ替えを行うことにより、検索結果の精度を向上させます。

• クエリ: 革新的なAI技術とは何でしょうか？
• ドキュメント1: 最新のAI技術により、データベースが大幅に改善されました。
• ドキュメント2: 当社はAI技術を活用し、データベースを統合、さらにPythonによる自動化を実現しています。
• ドキュメント3: RAGを用いたシステムは、バナナの柔軟性とAIの知見を融合しています。
• ドキュメント4: いちごとメロンとおまんじゅうの組み合わせが絶妙です。

• クエリ:”AI”, “技術”
• ドキュメント1: “AI”, “技術”, “データベース”
• ドキュメント2: “AI”, “技術”, “データベース”, “Python”
• ドキュメント3: “RAG”, “バナナ”, “AI”
• ドキュメント4: “いちご”, “メロン”, “おまんじゅう”

• 技術: 1.5108
• データベース: 1.5108
• Python: 1.9163
• RAG: 1.9163
• バナナ: 1.9163
• いちご: 1.9163
• メロン: 1.9163
• おまんじゅう: 1.9163

• ドキュメント1: {“AI”:1.2231,”技術”:1.5108,”データベース”:1.5108}
• ドキュメント2: {“AI”:1.2231,”技術”:1.5108,”データベース”:1.5108,”Python”:1.9163}
• ドキュメント3: {“RAG”:1.9163,”バナナ”:1.9163,”AI”:1.2231}
• ドキュメント4: {“いちご”:1.9163,”メロン”:1.9163,”おまんじゅう”:1.9163}

• クエリ: {“AI”, “技術”}
• ドキュメント1: {“AI”, “技術”, “データベース”}

まとめ

いかがでしたでしょうか？Dify便利ですよね。まさに「AIの民主化」を実現するすごいソフトウェアだと思います。もはやAIは一部のスゴスゴエンジニアだけのものではありません。DifyをつかってもっとAIの利用を加速させましょうどすこい。