いつもお世話になっております。DialogPlay開発チームの勝俣です!
突然ですが、皆さんは「LLM」「RAG」といった言葉をご存知でしょうか?
最近、AIチャットボット界隈でよく見かけるけれど、意味はよく分かっていないかも・・・
そんな方のために!今回のテーマは・・・
巷で話題の「LLM」と「RAG」についてゆる~く理解する
です!
LLMとRAGの概要
「LLM(Large Language Models)」とは、和訳すると「大規模言語モデル」であり、ChatGPTなどの生成AI系サービスの基盤となっているものです。
一方で「RAG(Retrieval Augmented Generation)」とは、和訳すると「検索拡張生成」であり、外部情報を取り込み検索をすることで回答の精度を向上させる技術です。
…と言われてみても、よくわからないですよね。
ということで!ここからは「占い」をテーマとした”たとえ話”を通して、
LLMとRAGの存在意義・両者の関係性についてお伝えしていきます!
LLM=占い師(の脳みそ)
LLMはまず、人間の「脳みそ」のような存在であり、占いをテーマにするとすれば、LLMは「占い師(の頭脳)」にあたるものだと考えることができます。
そもそも人間の脳は、過去に学んだ知識や経験に基づいて、問題を解決したり質問に答えたりしますよね。
たとえば誰かが「今月の恋愛運は?」と占い師に質問したら、過去に学んできたタロットカード占いや星占いなどの占術に関する一般的な知識を思い出しつつ、未来を占うことでしょう。
しかし、人間の脳は完璧ではありません。すべての情報を網羅しているわけではないし、過去に学んでいないことや特定の状況に依存する情報については、ハッキリと答えられない場合もあります。
占い師も同様で、相談者の具体的な状況や悩みを知らなければ、的確なアドバイスをするのは難しいケースがあります。
そこで登場するのが、「RAG」という概念です。
RAG=事前ヒアリングシート
先日、ちょうど筆者はタロットカード占いに行ってきたのですが、最初に「事前ヒアリングシート」と書かれた紙を渡されました。
そこには自分の「生年月日」「職業」などの基本情報を書き込んだのですが、占い師はそれを参照しながら占いつつ、私からの質問に答えていきました。
RAGは、いわばこの「事前ヒアリングシート」のような、LLM(占い師)にクライアントの「背景情報」や「状況の詳細情報」を与えてくれる存在です。
RAG (事前ヒアリングシート)があるかないかで、このように生成結果にも大きく差が出ます。
情報が少ないと差し障りのない回答しかしませんが…
具体的な情報を連携してあげると細かいところまでアドバイスをくれます!
ちなみに、DialogPlayおけるLLMは複数の選択肢から用途に合わせて選ぶことができますし、
RAGの技術は「FAQ集/参考資料を元にした回答文の自動生成(Powered by OpenAI) 」アクションに利用されています。
当アクションはお客様の社内文書の情報を取り込み、生成AIが回答を返してくれる便利な機能です。
まだお使いになられていない方は、これを機に是非お試しください!
いかがでしたでしょうか?
今回は、RAGとLLMについてフランクにお話してみましたが、いかがでしたでしょうか?
新しい用語が出てくるたびに筆者もついていくので必死ですが、この記事のように学んだことを定期的にアウトプットしていこうと思います。
今後ともよろしくお願いいたします!