〔2024/12/17〕アドバンスト・メディア、コンタクトセンターのためのセキュアな大規模言語モデルをソフトバンクのコールセンターへ導入

　アドバンスト・メディアは、ローカル環境でセキュアに利用可能なコンタクトセンター向け大規模言語モデル（LLM）「AOI LLM for AmiVoice Communication Suite」を、顧客との通話内容の要約業務のため、ソフトバンクのコールセンターへ導入した。
　AOI LLM for AmiVoice Communication Suiteは、機密情報を含む通話データを一切外部に出さず、顧客のローカル環境で、通話内容の生成要約やQ&Aの抜粋、VoC（お客様の声）抽出などができる生成AIサービス。
　この度、アドバンスト・メディアが、長年の音声認識エンジンのチューニングにより培った、パラメータ調整や学習データの整備といった、顧客データをAIに学習させるための優れた知見を、LLMの学習に活かし、それをコールセンター業務を熟知したソフトバンクが持つノウハウに基づき、高いレベルで評価・分析を行いながらチューニングの方針を両社で検討し決定したことで、非常に高いファインチューニングの効果を得ることに成功した。
　その結果、AOI LLM for AmiVoice Communication Suiteによる要約の品質が、ソフトバンクが定めた「具体性」「可読性」「正確性」といった独自の要約精度評価基準において、最先端のLLMよりも優れた要約精度を達成したため、顧客との通話内容の要約業務に生成AIの導入を2024年10月から開始した。結果、業務経験が浅い新人オペレーターの要約業務の作業時間を約30％削減できる目途が立った。
　また、可用性・保守性の高いAPIとハードウェアリソースに応じてLLMの処理性能を最大化させる機能を併せて提供することにより、導入中のコールセンターシステムとAOI LLM for AmiVoice Communication Suiteのスムーズなシステム連携を実現している。
　ソフトバンクは、同社が提供する国内シェアNO.1のAI音声認識AmiVoiceを搭載したコンタクトセンター向け音声認識ソリューション「AmiVoice Communication Suite」を、2019年より同社のコールセンターに導入している。個人情報を含む顧客情報を扱うコールセンターでは、高いレベルのセキュリティの確保が必須だ。このため、LLMの導入においても厳格なデータ保護とプライバシー管理が求められていた。そこで、セキュリティの確保されたローカル環境で稼働するLLMの検証を、アドバンスト・メディアと共同で行ってきた。
　ベースモデルについては、さまざまな検証の結果、Meta社が提供するLlamaに東京科学大学(旧・東京工業大学)が日本語能力を強化した大規模言語モデルであるSwallow-70bが今回の用途において、高い性能を発揮したため採用を決定した。
　AOI LLM for AmiVoice Communication Suiteは、ソフトバンクのコールセンターにおいて顧客との通話内容の要約業務に活用がされる。
　アドバンスト・メディアでは、高い要約精度を実現したAOI LLM for AmiVoice Communication Suiteの活用を、さまざまな企業や団体に拡大していくことで、コンタクトセンタービジネスの変革を推進し、より効率的で高品質な顧客サービスの提供を実現していく。