【衝撃の事実】LLMの"不正確な流暢さ"は失語症の脳活動に酷似していた！最先端研究が解き明かすAIの「内側」

はじめに：AIの「流暢だけど不正確」はなぜ起こる？

近年、私たちの生活に深く浸透しつつある大規模言語モデル（LLM）。ChatGPTに代表されるこれらのAIは、人間と見分けがつかないほど滑らかな文章を生成し、多岐にわたる質問に答えることができます。しかし、その一方で「ハルシネーション（幻覚）」と呼ばれる、一見もっともらしいが実際には間違った情報を生成したり、話の内容に一貫性がなかったりする現象も報告されています。

この「流暢だけど不正確」というLLMの振る舞い。実は、ある人間の症状と驚くほど似ているという最先端の研究結果が発表されました。それが、脳梗塞などで起こる感覚性失語症、特にウェルニッケ失語症です。

【記者発表】LLMの情報処理は感覚性失語症の脳活動と似ていた

（画像等、リンク先より引用しています）

LLMと失語症の奇妙な類似性：脳科学とAIの融合研究

東京大学国際高等研究所ニューロインテリジェンス国際研究機構（WPI-IRCN）の渡部喬光教授、合原一幸エグゼクティブ・ディレクター（特別教授）らの研究グループは、LLMの内部で起こっている情報処理のダイナミクスが、感覚性失語症の脳活動と類似していることを明らかにしました。

この研究は、「LLM内の情報処理は感覚性失語症当事者の脳活動と似ているのではないか？」という画期的な仮説からスタートしました。そして、その仮説を検証するために用いられたのが、神経科学の分野で近年注目されているエネルギー地形解析という数理解析手法です。

エネルギー地形解析とは？

エネルギー地形解析は、脳全体の神経活動パターンのダイナミクスを、あたかも凸凹した土地の上を転がるボールの動きのように表現する手法です。この解析を用いることで、神経活動がどの安定状態にどの程度滞在しているか（滞在時間）や、異なる安定状態間をどの程度の頻度で移動しているか（遷移頻度）を定量的に評価できます。

失語症の脳活動を「見える化」する

研究グループはまず、脳梗塞によって様々なタイプの失語症を呈する患者さんの安静時脳活動（fMRIデータ）をエネルギー地形解析で分析しました。その結果、以下のことが判明しました。

感覚性失語症：安定状態間の遷移頻度のジニ係数（二極化の程度を示す指標）が顕著に増加していることが分かりました。これは、言語理解能力の低下と強く相関していました。つまり、脳内の情報処理が安定した状態に留まりにくく、頻繁に不安定な状態をさまよっていることを示唆します。
運動性失語症：安定状態への滞在時間のジニ係数が減少していました。これは、発語の流暢性の低下と相関しており、言葉を流暢に発するために必要な安定した情報処理が保たれにくい状態であることを示唆します。

これらの結果から、これまで主にその行動的・言語的特徴に基づいて診断されてきた失語症が、神経活動のダイナミクスに関する数理指標を用いることで、より客観的かつ明確に分類できる可能性が示されました。

LLMの「脳内」は感覚性失語症に似ていた！

この画期的な解析手法を、次にLLMの内部情報処理に適用しました。GoogleのALBERT、OpenAIのGPT-2、MetaのLlama-3.1、そして日本の国立情報学研究所（NII）が開発したLLM-jp-3という、代表的な複数のLLMが対象となりました。

驚くべきことに、調査されたすべてのLLMにおいて、その内部情報処理のダイナミクスが、失語症のない対照群や運動性失語症よりも、ウェルニッケ失語症などの感覚性失語に近い領域にマッピングされたのです。

これは、LLMが不正確な情報や一貫性のない応答を流暢に生成する背景に、感覚性失語症の患者さんの脳内で起きている神経ダイナミクスと類似した情報処理パターンが存在する可能性を示唆しています。つまり、行動的な類似性だけでなく、内部の情報処理メカニズムにおいても、LLMと感覚性失語症の共通点が見つかったということになります。

今後の展望：AI診断とブレインモルフィックAIへの貢献

今回の研究成果は、いくつかの重要な可能性を示しています。

LLMの診断と評価基準の確立：神経科学で培われた数理解析手法をLLMに適用することで、LLMの内部状態を定量的に評価し、ある種の「診断」を下すことができるようになる可能性があります。LLMのハルシネーションなどの問題のメカニズム解明にも繋がるでしょう。
より効率的なブレインモルフィックAIの開発促進：人間の脳の働きを模倣する「ブレインモルフィックAI」の開発において、今回の知見は非常に貴重なものです。人間の脳の健全な情報処理ダイナミクスを理解し、それをAI設計に組み込むことで、より高性能で信頼性の高いAIの実現が加速されることが期待されます。

もちろん、今回の研究結果がすべてのLLMに当てはまるわけではありません。また、内部情報処理の類似性が、LLMの「流暢だけど不正確」という症状を具体的にどのように生み出すのか、そのメカニズムは今後の研究課題です。

しかし、人間の脳の病態からAIの内部挙動を理解しようとするこの画期的なアプローチは、AIと脳科学の境界を越える新たな研究領域を開拓し、AI開発の未来に大きな影響を与えることでしょう。今後のさらなる研究の進展に注目が集まります。

格安ゲーミングPC GeForce フルセットヘッドセット光るキーボード中古 Win11 Core i5 第9世代 6コア新品SSD 512GB NVMe 24.5インチモニター付き 16GBメモリ

created by Rinker

人気ブログランキング

【衝撃の事実】LLMの”不正確な流暢さ”は失語症の脳活動に酷似していた！最先端研究が解き明かすAIの「内側」