Fields and passing Grand Central Train
© Copyright DS Pugh and licensed for reuse under this Creative Commons Licence.

 

前回は、4月11付けでアナウンスされたCohere社（以下ではコーヒア）の最新生成AI Rerank 3をご紹介しました。

BUSINESS INSIDERのニュース記事「オラクルが支援するOpenAIのライバル｢Cohere｣とは」や、Cohere社のNEWSROOM記事によると、

  • コーヒアは、カナダのトロントを拠点とする4年目のスタートアップ企業で、
  • 2023年6月8日、NVIDIA、Oracle、Salesforce Ventures、DTCP、Mirae Asset、Schroders Capital、SentinelOne、Thomvest Ventures、Index Venturesを含む多様なグローバル機関投資家および戦略的投資家グループから2億7,000万ドルの新規資金調達したことを発表しています。
  • 「オラクルはコーヒアの生成AI技術を自社製品の多くに組み込み、コーヒアはオラクルのクラウドを利用して生成AIモデルの学習、構築、展開をしていく」（オラクル会長兼CTOのラリー・エリソン談）ということで、このパートナーシップは、マイクロソフト（Microsoft）がOpenAIに投資し、利用するパターンと非常によく似ていますが、
  • コーヒアが（OpenAIのChatGPTと違って）法人顧客向けに設計されており、その企業はそのデータを共有することなく、独自のデータを使用してAIモデルを学習させることができようです。
  • なお、コーヒアはオラクルと独占契約を結んでいるわけではなく、例えば、セールスフォースはコーヒアのチャット機能を埋め込んだサービスをすでに提供しているそうです。
  • コーヒアの設立者のエイダン・ゴメス（Aidan Gomez）は、2017年、グーグル・ブレイン（Google Brain）の研究インターンとして、言語理解能力を向上させるAIモデルの学習方法に関する論文を共同執筆していますが、｢トランスフォーマーズ｣と呼ばれるその方法は、ご存じの通り、OpenAIが使用するいくつかのモデルを含め、今業界を熱狂させている多くの大規模言語生成AI技術の基礎になっています。

ということで、コーヒアは、強力な後ろ盾もあり、今後目を離せない生成AIベンダーの1つだと思います。

そこで、本日は、Rerank ３では、ありませんがコーヒアの生成AIであるCommand R+を試してみましたので、ご紹介したいと思います。

まず、Command R+とはどのようなものか、Perplexityに解説してもらいます。

私：

Cohere社のCommand R+について教えてください。

Perplexityの回答：

CohereのLLM「Command R+」については、以下のような特徴があります。

  • Command R+は、エンタープライズグレードのワークロードに対応した最先端の大規模言語モデル（LLM）です。このモデルは、特に検索拡張生成（RAG）に最適化されており、企業の高度なビジネスプロセスを自動化するために設計されています。
  • Command R+は、Cohereが開発したRシリーズのLLMの一部であり、高い効率性と強い精度のバランスを重視しています。これにより、企業はAIを利用したプロトタイプの段階から実際の生産環境へと移行することができます。
  • Command R+は、128,000トークンのコンテキストウィンドウを特徴とし、ハルシネーション（誤った情報を生成すること）を減らすための引用を含む高度なRAGをサポートしています。また、10の主要言語に対応しており、グローバルなビジネス運営をサポートします。
  • Command R+は、複数のツールを複数のステップで組み合わせて難しいタスクを達成する「マルチステップツール使用」をサポートしています。これにより、モデルはCRMレコードの自動更新などのタスクを実行することができます。
  • Command R+は、Microsoft AzureのAIプラットフォームで最初に利用可能になり、今後数週間でOracle Cloud Infrastructureを含む他のクラウドプラットフォームでも利用可能になる予定です。
  • Command R+は、日本語を含む10カ国語に対応しており、大容量メモリを搭載したApple SiliconなMacでも動作することが報告されています。

以上の情報は、Cohereの公式発表や関連するニュース記事から得られたものです。Command R+は、企業がAIを実用的なレベルで活用するための強力なツールとして位置づけられています。

 

私：

Rerank 3とどう違うのですか？

Perplexityの回答：

Command R+とRerank 3は、Cohereが提供する2つの言語モデルで、それぞれ特定の用途に適したものです。

Command R+は、CohereのCommand Rファミリーの最新のLLMで、企業での高度なビジネスプロセスを自動化するために設計されています。このモデルは、特に検索拡張生成（RAG）に最適化されており、大規模なワークロードに対応しています。Command R+は、128,000トークンのコンテキストウィンドウを特徴とし、ハルシネーションを減らすための引用を含む高度なRAGをサポートしています。また、Command R+は、複数のツールを複数のステップで組み合わせて難しいタスクを達成する「マルチステップツール使用」をサポートしています。Command R+は、Microsoft AzureのAIプラットフォームで最初に利用可能になり、今後数週間でOracle Cloud Infrastructureを含む他のクラウドプラットフォームでも利用可能になる予定です。

Rerank 3は、Cohereが提供する新しい基礎モデルで、効率的な企業検索と取り扱いをサポートします。このモデルは、CohereのRerankエンドポイントによって提供される検索結果を、特定のドメインでの精度を向上させるためにファイントゥーニングされています。Rerank 3は、複雑なドメインでの検索結果の相関度を高めるために設計されています。このモデルは、特に法律ドメインでの検索結果の相関度を向上させるために使用されることが報告されています。

Command R+とRerank 3は、それぞれの特定の用途に適した言語モデルです。Command R+は、大規模なワークロードに対応した企業での高度なビジネスプロセスを自動化するために設計されています。一方、Rerank 3は、特定のドメインでの検索結果の相関度を向上させるためにファイントゥーニングされた基礎モデルです。

以上の情報は、Cohereの公式発表や関連するニュース記事から得られたものです。Command R+とRerank 3は、それぞれの特定の用途に適した言語モデルであり、Cohereが提供する全体的なモデルの一部です。

Command R+とRerank 3の使い分けについてもPerplexityに尋ねてみたのですが、同じ回答が繰り返されるだけで、それ以上の詳しいことはわからないようなので、Command R+に尋ねた方がよさそうです。

以下が、コーヒア社のCommand Rのページになります。

※最上段に「Learn More」のリンクがあったので、Google翻訳で、このウェブサイト内容を翻訳したました。日本語に翻訳した結果はここから確認してください。

この画面の「CHAT WITH OUR MODEL」をクリックし、GoogleアカウントでCommand R+用のアカウントを作成し、ログインすると、以下の「cohere dashboard」画面が表示されました。

■ cohere dashboard

画面上の「Try Command R＋」をクリックすると、以下の「cohere coral」の画面となりました。

「Try Coral」をクリックしても、同じ画面が表示され、「Go To Playground」では、OpenAIのPlaygroundとよく似た「cohere playground」の画面が表示されました。

「See all tutorials」をクリックすると、どういう訳か、チュートリアルではなく、「cohere docs－Customer Support」の画面が表示され、「Go to Docs」では、「cohere docs」の画面が表示されました。

■ cohere dashboardの左サイドバーメニュー

「cohere dashboard」の画面からは、サイドバーメニューとして「Playground」、「Fine-tuning」、「API Keys」、「Connectors」があり、「Playground」をクリックした場合は、「Go to Playground」と同じ画面に遷移しますが、「Fine-tuning」をクリックすると、以下の「Fine-tuning」の画面となります。

そして、この画面からは、独自にファインチューニングしたモデルを作成する「Generate」

独自のカテゴリ分けのファインチューニングを行わせるための画面に遷移する「Classify」

Rerankのファインチューニングを行わせるための画面に遷移する「Rerank」

および、カスタムチャットモデルを作成するために、テキストベースのデータを使用してモデルをトレーニングするための画面「Chat」に遷移できます。

Cohere dashboardの左サイドバーの「API-Keys」からは、Command　R+をAPI呼び出しするための有料APIキーを入手する「Get your Production key」か、あるいは「お試し」で無料のAPIキーを作成する「＋Create Trial key」を行える画面に遷移し、

Cohere dashboardの左サイドバーの「Connectors BETA」をクリックすると、以下の画面が表示されました。

このような画面は、これまでの生成AI達で見たことがなく、Command R+の一番の特徴の1つだと思います。

「Coral Connectors」の見出しの下の簡単な説明「Use Connectors on Coral to ground responses against your own sources of data. As an Owner of your team, you can create Connectors, set permissions, and monitor its usage.」からすると、独自のデータソースに基づいた回答を行わせる（すなわちRAGのこと？）ための画面のようです。

画面上段右に「Try it in Coral」とあるので、これをクリックして、試してみました。

表示されたのは、以下の画面です。(cohere coralの初期画面）

画面上段右にある「GROUNDING」をクリックすると、独自のデータを―スに接続するためのCONNECTORSを指定できるようなので、「Web Search」にチェックを入れ、当ブログのURLをSITE（OPTIONAL）」に指定しました。

そして、もとの画面に戻って、プロンプトの入力欄（「Message …」部分）に「PJMのMOPRについて教えてください。」と入力したところ、下図の通り、当ブログの記事の中から、PJMのMOPRについての情報を検索してまとめ、表示してくれました！

ご覧いただいているように、当ブログのPJMーMOPRの情報のみを基にして、MOPRが解説されています。

当ブログでも、一応、サイト内検索はできるようにしてあるので、検索ワードに「PJM、MOPR」と指定して検索すれば、

以下のように、関連するブログ記事へのリンクは表示されます。

ただ、では「PJMのMOPRとはどういうものか」については、それらのリンク先のブログを読んで、それをまとめなければなりませんが、cohere coralのConnectors機能を用いれば、ノーコードで当ブログの情報のみから、「PJMのMOPRとは」を簡潔にまとめた情報提供が可能となりました。これは便利です！！

今回は、Command R+について、cohere dashboardで提供されている機能をザッとながめた後、ベータ版としてリリースされているConnectors機能を試した結果をご覧いただきました。

 

本日は以上です。

 

おわり

投稿タグ
, ,