私たちの脳はどのように言語を処理するのか？
概要
疑問の余地なく、人間がこれほど短時間で印象的な発話を生成できる能力は、単に驚異的です。Ted-edの動画「私たちの脳はどのように言語を解釈するのか？」によると、言語理解の複雑さについてより深く理解することができます。典型的な20歳の人は1秒以内で話し、27,000から52,000語の語彙を持っています。私たちの脳は非常に素早く判断を下し、98%の確率で正しい判断を下すため、その仕組みを理解することは重要です。この動画の主なポイントは、GPUのように、私たちの脳が並列処理に長けているということです。まず、私たちの脳には、入力される発話がその単語を含む可能性を評価する言語ユニットが存在すると仮定してみましょう。脳内の各単語処理ユニットは、大脳皮質の神経集団の発火パターンに相当します。私たちは単語の始まりを聞いた瞬間から、その単語の具体的な意味について推測を始めます。例えば、単語がproで始まる場合、それは教授（professor）、専門家（professional）、または可能性（possibility）を指す可能性があります。そして、単語をさらに聞くことで、おそらくそれを特定することができます。さらに、活性化されたユニットが他の非活性化ユニットを数ミリ秒間一時的に無効化している間、脳はその単語の意味を決定しようと働きます。文脈を使用することで、文の正確な意味をより良く理解することができます。また、新しい単語をどのように学習するかを理解することも重要です。主要な言語処理システムからは遠く離れた海馬が、最初に新しい単語を保存します。そして、何日もの睡眠を経て、新旧の単語が言語処理ネットワークにリンクされていきます。
考察
間違いなく、NLP（自然言語処理）アプリケーションは、誰もの日常生活でますます重要になってきています。New Bing、Notion AI、OpenAIのChatGPTのようなチャットボットのおかげで、AIが何をできるかについての私たちの考え方は進化しています。人々はそれを使ってエッセイを書き、コードを書き、創造的な物語を作り、旅行を計画し、新しいことを学び、オンラインのヒントを得て、さらにはロボットを制御しています。そして、NLPの概念は、人間が言語を使用し分析する方法とほぼ同じです。私の将来の目標の1つは汎用人工知能（AGI）を構築することなので、この知識を学ぶことは非常に必要で興味深いことです。現在私たちが持っているNLPチャットボットシステムで実行できる最適化ポイントを含め、多くの有用な情報を学びました。例えば、AIの応答を速くするために、ユーザーが話している時に単語を予測させることができます。時間とともに、モデルはより速く単語を予測できるようになり、ユーザーはより良いユーザー体験を得ることができます。授業で学んだことと関連があります。例えば、新しい単語は海馬に保存されますが、授業で学んだように、海馬は主に長期記憶を保存する脳の部分であることを知っています。この動画を見る前は、人間がなぜこんなに短時間で発話を生成できるのか分かりませんでしたが、今では精度と速度の間で、できるだけ速く、かつ低消費電力であることが、時として私たちの脳にとってより優れた答えであることに気付きました。最後に、これらの知識をすべて理解した後、システム全体をより良くし、最終的に人間がより良い知識システムを発見するのを助けるために、LLM（大規模言語モデル）をどのように最適化するのかという疑問が1つあります。
