Vertex AIでGeminiをコンタクトセンター業務に使ってみる

GeminiとはGoogleが作っている自然言語生成AIモデルです。Googleアカウントを持っていれば、GeminiのGUIから利用することができます。ただし、この使い方ですと、プライバシーポリシーを見る限り、様々な情報が取得されており業務に使うにはちょっと不安です。本記事ではGoogle Cloud Platform(以下GCP)を使い、ダッシュボードからメール対応業務のシミュレーションをしてみようと思います。

環境の準備

本記事ではGCPの契約についての説明は割愛します。新規契約をご希望の方は、GCP上の案内をご参照ください。

1. GCP上で検証に使えるProjectを用意し、課金アカウント設定をします。
   プロジェクト名など任意で大丈夫です。現在Gemini-proは非常に安い料金で提供されており、本日の検証スコープですと100円かかりませんが、従量課金にはなりますので、検証後に想定外の料金発生を防ぐため、終わったらProjectは削除してください。
2. Vertex AI からGeminiの環境にアクセスします。
   https://console.cloud.google.com/vertex-ai/generative/multimodal/create/text
3. リージョンを東京、モデルをgemini-1.5-pro-preview-0409に設定します。
   
   せっかくですので本記事執筆現在で最新のモデルを選択しています。もっと新しいものがあればそちらを選んでいただいて大丈夫です。
4. プロンプトを書いて「送信」を押下すれば、Geminiが使えます。
   ベルシステム24について聞いてみましたが、このようにしっかりレポートをしてくれています。

なかなか良い出力ですね。若干ハルシネーションはあるものの、文字のフォーマットを整えて、見やすく出力してくれるところもポイントが高いです。ぜひ皆様もお手元でお好きなプロンプトをお試しください。

コンタクトセンター想定の検証

今回の検証では、弊社の業務に近いところから、メール業務の検証をしてみます。問い合わせのデータをダミーとして作ってみました。

こちらを要約！と言いたいところですが、要約するだけではつまらないので、試しに返信文を作成してみましょう。プロンプトは以下の通りです。

結果は以下の通りでした。

• 手紙とメールの文体が混同されていて、ビジネス文章としては違和感がある
• 等級については明らかに間違っている
• 電話の案内を勝手にしている

といった粗い部分があるものの、60点程度の出力はされている印象です。「人間が手を入れれば普通に使える文章」といったところでしょうか。

検索拡張生成 (RAG) のシミュレーション

検索拡張生成 (RAG: Retrieval Augmented Generation)という言葉が生成AI絡みで話題になっています。とても簡単に説明すると、「生成AIに渡す情報を外部から引っ張ってくることで出力精度を上げる」というものとなります。真面目に作ろうとすると、ナレッジを整理し検索の精度を上げて、という諸々の処理が必要になり、因子が増える分生成AIの出力のチェックも難しくなります。プロンプトが長くなる分の運用コストも高くなりますので、精度向上やコストとのバランスを取って考える必要はあります。

試してみるのはとても簡単です。先ほどあげたプロンプトに、関連しそうなFAQ 情報を足してみましょう。
「メール内容」の下にこのようなプロンプトを足していきます。

結果はこちらです。

ほぼほぼ完璧です。上で述べたハルシネーションもかなり軽減しています。今回の作業では手でFAQ を足したのでかなりの精度となりましたが、実際のRAGは「都度都度手で入れるわけにはいかないので自動でナレッジを入れる」という考え方となります。上述の通りシステム的にもなかなか難易度が高い部分となります。現状ですと「全てを生成AIに任せる」というのは厳しそうです。検索の精度を上げることももちろん、ナレッジをしっかり整備する必要もあります。しかしながら、現時点でこれだけの出力精度があると、技術向上でどんな未来が待っているのかと夢が広がります。

当社でも「コンタクトセンターでの生成AI活用」というチャレンジを続けており、コンタクトセンターの運用効率アップと現場の負荷低減を目指し、今回検証したGemini以外のモデルも使って、技術的に何ができるかの検証を日々行っております。業務の効率化やコンタクトセンター業務での後処理の削減などにご興味がある方は当社にぜひご相談ください。