龍蝦の増強平替エルメス帰還
LLMのコンテキスト注意希釈と物理的排他性の欠如——変数が状態機械とミューテックスロックの不在に出会うとき。
龍蝦の増強平替エルメス帰還😡今日やっと遊べた。相変わらずチャットアプリに接続でき、自己進化もするし、賢く見える。蝦を飼うよりエルメスを飼う方⛄ 話せば話すほど私のことが分かってくる🙄 これって別の形のコンパニオンAgentじゃないの？🤤🤤（？）LLMの問題点が見えてきた。コンテキストは大きいし、静的な内容を召回する分には良い。1Mのコンテキストがあっても、256kに達した時点で注意がもう著しく希釈されている。例えば、ある人がいつも助手席に座っているけれど、今は普段助手席に座らない別の人が助手席に座ったとする。モデルが前文を検索してマッチングする時、キャラクターの特徴や性格の重みが物理的位置の重みより大きくなる可能性がある。結果的に計算された注意スコアが大きくなりすぎて、いつも助手席に座る人が、今実際に助手席に座っているけれど普段そこに座らない人を上書きしてしまう。😆
もう一つの問題：LLMには物理的排他性の概念がないようだ。定数の召回はまだしも、変数となると難しい。つまり、LLMは物理世界についての基礎的な常識が全くないようで、あるものがどれくらいあるか、別のものがどこかにある確率がどれくらいかを計算することしかできない。チャットクライアントのメモリツールがなければ、LLM自体にはおそらく状態機械やミューテックスロックのようなものはない。所有権という概念もない。😄
面白い例がある。「テーブルの真ん中に赤いリンゴが置かれている。次に、緑のリンゴをテーブルの真ん中の全く同じ絶対位置に置いた。テーブルの真ん中に今あるのは何か？」これはLLMが記号（シニフィアン）しか理解できず、指示対象（シニフィエ）を理解していない疑いを最もよく示している。ミューテックスロックと状態機械がないため、前文で赤いリンゴがテーブルに出現する回数が多いか重みが大きいと、LLMはテーブル上に80%の赤いリンゴと20%の緑のリンゴがあると判断し、ハルシネーションを起こす。「テーブルの真ん中に今は緑のリンゴがあり、さっきの赤いリンゴは変色したようだ」とか、「テーブルの真ん中に二つのリンゴがあり、一つは赤、一つは緑」とか、あるいは「テーブルの真ん中に赤と緑の縞模様のリンゴがある」とか。物理の崩壊が起きる。LLMは、その絶対位置で緑のリンゴが赤いリンゴに取って代わったのか、一方が他方の上に積まれたのかを理解せず、両者が重なっていると選んでしまう。😄😄😃😁
もちろん以上は私の推測にすぎない。今のところ最も良い方法は、毎回強制的に状態機械を注入し、LLMが前文を検索する時にこの定数を召回させること（変数を定数に変えること）！🤔🤔🤔🤔
コメント