大規模言語モデル（LLM）は生成AIの性能向上に不可欠な要素として、AI技術の分野で特に注目されています。数多くあるLLMの中でも、NTTが開発した「tsuzumi」は言語処理技術における革新的な進歩を達成しています。本記事では、tsuzumiの概要やtsuzumiが提供する価値、さまざまなソリューションへの応用についてご紹介します。

tsuzumiとは

tsuzumiは、NTTが独自に開発し2024年3月25日に商用サービスを開始した大規模言語モデルです。パラメータサイズが7B（70億）と軽量でありながら、日本語に特化しており、高い日本語処理能力を誇ります。

tsuzumiはオンプレミス環境やプライベートクラウド、パブリッククラウドなど、さまざまな環境での利用が可能です。2023年11月の発表以来、500件を超える導入相談があり、特に製造業や自治体、金融業など、機密性の高いデータを扱う企業や組織からの関心が高いです。今後は多言語対応とグローバル展開も計画しています。

tsuzumiの特長

tsuzumiの特長として、軽量なパラメータサイズ、日本語処理能力の高さ、そして特定のタスクに合わせて柔軟にチューニングできる能力の三つが挙げられます。

パラメータサイズが軽量

tsuzumiは、パラメータサイズが7B（70億）と、OpenAI社のGPT-3の175Bに比べて格段に小さいです。超軽量版のtsuzumiはさらに小さい0.6Bであるため、CPUでも高速な推論動作が可能です。tsuzumiはパラメータサイズを増加させるかわりに日本語学習データの質と量を重視するアプローチを採用しており、パラメータサイズが小さくても高性能を維持しています。

一般的にLLMのパラメータサイズが増加すると、計算リソースやエネルギー消費量が増加するという課題があります。tsuzumiは、パラメータの軽量性のおかげで高価なハードウエア環境がなくても高速な推論が可能です。また、ローカル環境での利用もしやすくなるため、コストや機密性の課題を解決でき、多くの企業や組織で導入しやすいと考えられます。

日本語が得意

tsuzumiは日本語と英語に対応しています。NTT研究所が長年にわたって培ってきた自然言語処理技術を生かし、特に日本語処理能力においては高い精度が確認されています。一例として、モデルの優劣を判定する性能比較において、GPT-3.5に対するtsuzumiの勝率は81.3%を記録しました。この高い日本語処理能力により、日本の企業や組織において自然で正確な対話型AIや自動文章生成などの応用が期待されています。

柔軟にチューニング可能

tsuzumiは柔軟なチューニングが可能で、特定の業界や言語表現、知識に特化したモデルの開発を低コストで実現できます。事前学習済みのモデルの外部に「アダプタ」と呼ばれるサブモジュールを追加し、効率的に知識を学習させるアプローチをとっています。チューニングの際は学習済みモデルの再学習は行わず、アダプタのパラメータのみ更新することで計算コストを抑えられます。

このチューニング機能により、顧客のニーズに合わせてカスタマイズし、より精度の高い情報提供や問題解決が可能になります。さらに、ユーザーやシーンに応じて複数のアダプタを切り替えたり、組み合わせたりできるマルチアダプタの機能も導入予定です。将来的にはマルチモーダルな対応も視野に入れており、言語だけでなく、視覚や聴覚に関する情報も処理することで、より幅広い応用が期待できます。

現時点で想定されるtsuzumiを活用したソリューションとは

tsuzumiの活用で想定される、顧客体験（CX）、従業員体験（EX）、IT運用サポートに対する三つのソリューションをご紹介します。

CXソリューション

tsuzumiを活用したCX（顧客体験）ソリューションは、あらゆる顧客接点での体験向上を目的としています。コンタクトセンターでのオペレータ支援や、バーチャルコンシェルジュとしての利用など、顧客満足度の向上に直結するサービスの提供が可能です。

顧客からの問い合わせに対して最適な回答候補を提供することで、応答の質とスピードを大幅に改善します。さらに、応対後のフォローアップ業務や、顧客とのコミュニケーションの記録管理など、後工程も効率化できます。顧客の待ち時間が削減され、企業は顧客とのコミュニケーションの質を高められます。

EXソリューション

EX（従業員体験）ソリューションでは、議事録の作成や要約、社内規定のチェックなど、さまざまな業務プロセスの自動化や効率化を目指します。業界特有の知識や社内で利用されているドキュメントを学習した特化型の大規模言語モデルを活用することで、業界や企業独自のニーズに応じた対応を可能にします。

また、オンプレミスや専用のプライベートクラウド環境での利用が可能であるため、機密性の高いデータも安心して扱えます。従業員はルーチンワークから解放され、満足度や生産性の向上が期待できるでしょう。

IT運用サポートソリューション

IT運用サポートソリューションでは、tsuzumiの活用により企業内のIT運用の自動化と効率化を図ります。社内ヘルプデスクの対応や技術相談、セキュリティ対策の自動化、各種申請手続きのサポートなど、IT運用に関わる多くの課題に対応します。

特に近年はセキュリティ人材の不足が課題となっています。そこでNTTグループが蓄積した、サイバー防御のノウハウを取り入れたセキュリティ運用に特化したモデルの活用も想定しています。企業はIT関連の業務負担を大幅に軽減し、よりコアなビジネス活動にリソースを集中できるようになるでしょう。

tsuzumiは軽量かつ日本語特化型のLLM

tsuzumiは、軽量性、高度な日本語処理能力、柔軟なチューニングへの対応という特長を持ち、多様なビジネスニーズに応えることが期待されています。特にパラメータサイズが軽量であることは大きなメリットであり、低コストでリアルタイムな応答が可能になります。今後のtsuzumiの進化と、それがもたらすビジネスや社会への影響に注目しておくとよいでしょう。