Azure 第23回『はじめまして、Azure Open AI Service』

Azure OpenAI Service のご紹介

Microsoft は以前から Azure での AI(人工知能)サービスに力を入れ、Cognitive Service や Custom Vision、Machine Learning などの機能を提供してきました。そして今年(2023年)に入ってより強力で利用しやすい Azure OpenAI Service が登場しました。
この記事では Azure OpenAI Service(AOAI)の概要や特性、活用分野、メリット、ユースケースについて、Microsoft から提供されている情報を元に紹介していきます。

Azure OpenAI Service の利用には

1. Azure サブスクリプション契約
2. Azure OpenAI Service の利用申請と承認

の2つが必要となります。
Azure サブスクリプション契約の取得については当社営業担当までご相談ください。

OpenAI とは

OpenAI とは、人工知能の研究と開発を行っている OpenAI LP / OpenAI Inc. の社名です。GPTと呼ばれる大規模言語モデル(LLM)を開発し、それを元にした以下のようなサービスを提供しています。

  • ChatGPT:チャットボット(対話型の生成 AI)による応答サービス
  • DALL・E:自然言語から画像を作成する生成 AI
  • Whisper:AI による音声認識と機械翻訳

生成 AI

「プロンプト」と呼ばれる(主に人からの)入力に応答して、テキストや画像、音声、プログラムコードなどを生成することができる人工知能の一種。

いずれのサービスも基本的に有償ですが、ChatGPT では古いバージョンの言語モデル(GPT3)のみ利用できる無料版が用意されています。

またこれらの機能をプログラムから呼び出して利用するための API(OpenAI API)も提供しています。この API を利用することで、ChatGPT や DALL・E、Whisper と同等の機能を自分のプログラムやサービスに組み込むことができ、独自のチャットボットなどの生成 AI システムを構築できます。
なお OpenAI API の利用も有償です。

Azure OpenAI Service とは

2023年1月に Microsoft は OpenAI 社に 100億ドルの出資を行い、筆頭株主になりました。これに伴い Microsoft は自社の製品やサービスに OpenAI の技術を組み込んで提供することを進めています。
例えば検索サービスの Bing に ChatGPT と同様の対話型 AI である Bing Chat / Bing Chat Enterprise を搭載しました。Windows 11 には Copilot in Windows が搭載されます(現在プレビュー中)。Microsoft 365 のアプリ(Office アプリ)やサービス(SharePoint や Teams)にも Microsoft 365 Copilot が搭載されます(プレビュー中)。

Bing Chat Enterprise の画面

このような Copilot(Microsoft Copilot と総称されます)はエンドユーザーがすぐに利用できる AI サービスのアプリケーションとして提供されていますが、OpenAI API と同様の API を Azure の PaaS サービス(マネージド サービス)として提供するのが Azure OpenAI Service(AOAI)です。
OpenAI API と Azure OpenAI Service の比較は以下のようなものです。赤字の部分が大きく異なる部分で、AOAI の方がセキュリティとコンプライアンス、可用性が高くなっています。

  OpenAI API Azure OpenAI Service
セキュリティ ・OpenAIのセキュリティポリシー
・APIキーによる認証
・Azureのセキュリティ基準
・APIキーによる認証
Entra ID(旧称 Azure AD)認証
接続 ・インターネット接続のみ ・インターネット接続
閉域網接続(Azure VNet 経由)
データ ・API 経由のデータをOpenAIのモデルのトレーニング/改善に使用しない
・データは悪用/誤用の監視目的で30日間保持され、OpenAI社員/サードパーティー業者がレビューする可能性がある。保持されないよう要求可能
・お客様から提供されたトレーニングデータは、お客様のモデルのfine-tuning (微調整)にのみ使用される。
・マイクロソフトのモデルをトレーニング/改善するために使用することはない
・データは悪用/誤用の監視目的で30日間保持され、承認されたマイクロソフト社員がレビューする可能性がある。保持されないよう要求可能
プライバシー ・OpenAIのプライバシーポリシー
・カリフォルニア州法に準拠
・マイクロソフトの声明およびAzure OpenAI Serviceの製品ポリシー
日本の法律を準拠法とし、東京地裁裁判所を管轄裁判所として契約可能
価格 ・現時点ではAOAIと同価格 ・現時点ではOpenAI APIと同価格
API ・RESTful API
・AOAIと互換性あり
・RESTful API
・OpenAI APIと互換性あり
SLA ・なし 99.9%以上の稼働率保証
サポート ・有償サポートなし
(コミュニティ ベースのみ)
Azureサポートプラン利用可能
ユニファイドサポート対象
利用分析 ・なし
(利用実態がわからない)
検索履歴を管理/分析可能

このように OpenAI API の人工知能の機能を企業が実務で利用しやすいよう強化したものが Azure OpenAI Service です。OpenAI のモデルが利用できるパブリッククラウドは Azure のみで、かつ OpenAI API に比べて SLA の提供、Azure のセキュリティ機能との統合、リスクに配慮した提供など、企業が人工知能を利用する上で欠かせないポイントが抑えられています。

Azure OpenAI Service の展開形態

前述のように Microsoft では OpenAI の人工知能モデルをさまざまな製品やサービスに組み込んでいます。また Azure では以前から多くの AI サービスを展開しています。これらの中で、オフィスワーカー向けアプリケーションやアプリケーションプラットフォームに組み込まれるのが Microsoft Copilot となり、AOAI は Azure AI サービスの中の「カスタマイズ可能な AI モデル」に位置付けられます。

Azure AI で提供されているサービスにはさまざまな形態があります。

  • 最も自由度が高いのは Machine Learning で、人工知能のモデルを開発し、学習を行って利用する形態となります。適用分野や内容などの自由度が高い反面、開発には人工知能やデータ処理の専門知識が必要となり、AI エンジニアやデータサイエンティストの活躍が必須です。
  • その反対に、構築済みのモデルにさまざまなデータを学習させた学習済み AI を提供するのが Cognitive Service です。AI の機能を安価にすぐ利用ができますが、利用できるのが学習済みデータのみとなるため適用分野や内容などの自由度は高くありません。
  • その中間に位置するのがモデルや学習データをカスタマイズ可能なサービスで、従来は Custom Vision などが提供されていました。AOAI はここに位置付けられ、Azure に蓄積されたユーザーのデータを利用して、より精度の高い応答を行うことができるサービスとなります。

OpenAI API ではユーザーのデータを直接学習させることができません。これに対して AOAI では同じ Azure 内のデータを AI が直接利用できるので、ユーザーの環境や業務・利用目的により合致した応答を生成することが可能になっています。

Azure OpenAI Service のメリット

AOAI では大規模言語モデルとユーザー固有のデータを組み合わせて利用できるので、AI 活用の裾野が大きく広がりました。

学習済み AI では自社データの利用が行えず利用目的・範囲も限られるので AI の活用が限定的になる場合があります。機械学習は自由度が高く AI を大きく活用できますが、個別の活用分野ごとに専門性の高いエンジニアによる継続的な開発・保守が必要で、事前のデータの準備の負担も大きく、規模の小さな企業やプロジェクトでの導入にはハードルが高くなります。

AOAI は大規模言語モデルによる汎用性を持っており、専門性の高い開発やデータ準備なしですぐに利用可能です。それに加えてユーザーのデータを組み合わせて AI を強化することができるので、応用・活用できる分野が大きく広がります。自社の持っている Word 文書・Excel ブック・PDF・テキスト・SQL データベースなどのデータを参照させることができるので、これらのデータの蓄積があれば社内の業務全般に AOAI を活用することが可能です。

このように AOAI では AI を利用できる組織・人の、AI を活用できる分野の両方で、大きな拡張が実現されています。このことを Microsoft は「AI の民主化」と呼んでいます。

AOAI では、これまで AI の導入・活用が難しかった中堅中小の企業や業務分野での、利用のハードルが大きく下がっています。こうした企業・業務分野で AOAI は業務の効率化やサービスの向上、企業の競争力強化に大きな推進力を与えるものです。

Azure OpenAI Service のユースケース

AOAI は企業の中の幅広い分野・目的で利用が可能です。以下の図のように B2B/B2C などの社外とのコミュニケーションから社内の DX 推進までの分野や、検索・分類・分析といった分析的目的からコンテンツの生成や要約といった創造的目的まで、AOAI を活用することができます。

これらのユースケースの中でも、日本の企業での生成 AI 導入事例が多いのは上図の茶色のものです。より具体的には、以下のようなユースケースが多くなっています。

  • 従業員のアイデア出しや情報の収集・要約、翻訳などの作業を対話的なチャットで共に進めてくれる「壁打ちチャットボット」としての利用
  • 社内のさまざまな場所にある情報を統合して、必要なドキュメントの検索を対話ベースで行ってくれる「社内情報の検索」での利用
  • 検索や要約、自動応答、分析などを通じたコールセンター業務の効率化

例えば「壁打ちチャットボット」として「社内専用 ChatGPT」を作ることができます。

※Microsoft が提供しているサンプル アプリの実行画面

「社内情報の検索」では、以下のように Azure に保存されたデータを Azure AI の(AOAI 以外の)機能で加工・抽出し、それを AOAI が利用するシステムを構築できます。システムのアプリ自体も Azure でホストします。

コールセンターの効率化でも、以下のように Azure の他のサービスと組み合わせることでお客様との会話の要約やキーフレーズの抽出を行うシステムが構築できます。

AOAI を活用するには、AOAI に加えて Azure のさまざまな機能を組み合わせ、アプリケーションを構築する必要があります。
AOAI は簡単・迅速に利用可能ですが、実態は AI を呼び出す API です。そのためこうしたユースケース以外でも、ユーザーはアプリケーション経由で AOAI の機能を利用する必要があります。

Azure OpenAI Service の料金

AOAI は API への入力と出力のデータ量(トークン数)による従量課金で利用できます。
「トークン」とは AI が認識する情報の最小単位です。大きさとしては英語の1単語・日本語の1文字より小さくなります。料金は入力(プロンプト)と出力(応答)それぞれに 1000 トークン単位で設定されています。また利用する言語モデル(GPT のバージョン)によって料金が変わります。

入出力の文字列をトークン数に換算するには、以下が利用できます。

対話的に確認する場合
プログラムで計算させる場合

(ライブラリが提供されています)

料金の詳細は以下を参照してください

さらに Azure 内の自社データを参照させる場合は、その参照のための Azure サービスの API 料金やデータ転送料金が発生する場合があります。
これらをまとめると、下図のような計算で料金を考えることができます。

以下の例は、AOAI の学習済みモデルのみを利用したチャット検索のアプリを構築した場合の概算です。

  • このような AOAI の学習済みモデルのみを利用したチャット検索であれば、実際にはカスタム アプリを構築する必要はありません。この機能は Bing Chat Enterprise として Microsoft 365 サービスで提供されています。

これに加えて自社データを参照させる場合は、そのデータを保存するための Azure ストレージや Azure データベースの料金も発生します。以下は Azure Blob ストレージと Azure Cosmos DB にデータを保存して、参照する場合の例です。

このように、AOAI の利用では、AOAI 自体の料金だけでなく、それを利用するアプリケーション全体の構成を考えて料金を見積る必要があります。

まとめ

AOAI は「AI の民主化」を実現することで、今まで AI の恩恵を受けることが難しかった中堅中小規模の組織や多くの業務分野で、業務の効率化やサービスの向上、企業の競争力強化を進めるための大きな力となります。短いリードタイムですぐに始められ、スモールスタートできるので短期間で成果を得ることも可能です。
また一般に公開されている ChatGPT や OpenAI API とは異なり、Azure 配下のマネージドサービスとしてセキュリティ・コンプライアンスの機能や SLA が提供されているので、企業として AI を活用する際の条件が満たされています。

一般事務作業分野では、Microsoft 365 Copilot や Bing Chat Enterprise によって AI の利活用が大きく進むと考えられます。それと同様に、業務アプリケーションや業務システムでも AI を利用して業務効率を高めて生産性を向上させるため、AOAI の導入は有効なソリューションとなります。これからのビジネスの発展のために、ぜひご検討ください。

AOAI を利用するための Azure サブスクリプションの取得、AOAI を利用したシステムの構築ついては当社営業担当までお気軽にご相談ください。

★AIのもっと詳しい内容も動画でご覧いただけます★

動画の視聴はコチラ!

  • ご視聴にはDIS IDによるログインが必要になります。 DIS IDに関しての詳しい内容につきましては当社営業担当までお問い合わせ下さい。

マルチクラウドの記事