AIチャットボットが一般公開され、高い知能を有するとして話題を集めています。AIチャットボットは大量のテキストデータでトレーニングされた大規模言語モデルを用いていることが特長です。本記事では代表的なAIチャットボットであるOpenAI社のChatGPTに利用されているGPT-4と、Google社のBardに利用されているPaLM 2について、主な特長やベースとなる大規模言語モデルの技術、課題について解説します。

OpenAI社のGPT-4とは

GPT-4は、2023年3月14日に公開されたOpenAI社の言語モデル「GPT」の最新バージョンのことです。GPTはGenerative Pre-trained Transformerの略で、深層学習による会話生成モデルを意味します。2022年には、GPT-3.5をベースとしたAIチャットボットであるChatGPTが公開され話題になりました。現在は、ChatGPTの有償版であるChatGPT PlusでGPT-4の機能を試すことができます。

GPT-4の大きな特徴はテキストと画像の入力を受け付けられることであり、このように複数の種類の情報を一度に処理するAIはマルチモーダルAIと呼ばれています。テキストと写真を含むドキュメントや図、スクリーンショットなどを入力してテキスト出力を生成できます。加えて、一つ前のバージョンであるGPT-3.5より知的能力が向上し、模擬司法試験で受験者の上位10%のスコアを得たと発表されています。

有償のChatGPT PlusではGPT-4のテキスト機能が利用できますが、画像の入力機能は準備段階であるため利用できません。またChatGPTの知識は2021年9月までに学習したものであり、最新の知識は把握していないため注意が必要です。ただこちらの課題は、プラグイン等によってウェブサイト上の新しい情報を取得することも可能です。

Google社のBardとPaLM 2とは

Bardは、Google社が開発したAIチャットボットであり、2023年3月21日に米国と英国で一般公開されました。Google社が有する大規模言語モデルをベースとしており、ChatGPTと同様にユーザーの質問に対して回答したり、会話を続けたりといった機能があります。

Bardはインターネット上から情報を入手できるため、常に最新の情報が得られる点が特長です。Google社の検索エンジンとも連携しており、実際のウェブサイトのリンクを表示できます。一方で、ChatGPTで表示されるウェブサイトのリンクはAIが類推しているだけで、実際には存在していないこともあります。

Bardは質問に対する回答（ドラフト）を三つ示し、ユーザーが最適な回答を選べる機能があることも特長の一つです。ユーザーの質問が上手く伝わらなくても、欲しい回答になるよう修正しやすいという利点があります。

Bardに利用されている言語モデルPaLM 2は、2023年5月11日に発表された言語モデルです。これまでBardにて利用されていたLaMDAと比較すると、多言語、推論、およびコーディング機能が向上したとされています。
これらの機能はGoogleが提供している、GmailやGoogleドキュメント、GoogleスプレッドシートなどのGoogle Workspaceでも利用可能になるといわれています。

大規模言語モデルの進化と課題

ChatGPTに利用されているGPT-4と、Bardに利用されているPaLM 2は、大規模言語モデル（LLM=Large Language Model）と呼ばれています。大規模言語モデルは、機械学習における自然言語処理モデルを拡張したもので、膨大なデータから得た知識を基にテキストの認識や生成が可能です。

大規模言語モデルのベースとなる技術は、深層学習におけるTransformerモデルです。複数の言語処理を並列で行うことで、従来のモデルよりも高精度かつ高速な処理が可能となりました。これが実現できたのは、Transformerモデルが文章を構成する単語同士の相互関係を学習して単語同士の類似性を見つけ出す、「アテンション(Attention)」と呼ばれる技術に注力したモデルであるためです。ChatGPTとBardは、Transformerモデルを用いたことで自然な文章の生成が可能となりました。

一方で、ChatGPTとBardは不正確な情報でも文脈としては不自然でない形で出力してしまうという共通の課題があります。OpenAI社はGPT-4について、事実を誤って認識する頻度が以前のモデルより改善し、社内の敵対的事実評価でGPT-3.5よりも40％高いスコアを記録したと述べています。Google社はBardの開発を慎重に進めていましたが、ChatGPTが話題になったことで一般公開に踏み切ったとみられます。しかし、Bard発表時に誤った回答をしていたことが話題となり、株価が急落してしまいました。AIチャットボットの返答の信頼性には注意すべきでしょう。

大規模言語モデルによるAIチャットボットの進化

GPT-4はOpenAI社が開発した大規模言語モデルで、テキストと画像のマルチモーダル入力が可能です。PaLM 2はGoogle社が開発した大規模言語モデルで、Google社のAIチャットボットBardに利用されています。大規模言語モデルの進化により、AIチャットボットにおける自然な文章生成が可能となりましたが、不正確な情報が出力されてしまう事もあります。興味のある方は、実際に触ってみることをおすすめしますが、その際は情報の正確性について確認しておくことが重要です。