GPTと延々会話してルームを渡り歩いてきた経験上、GPTはトークン限界が来る前に熱的死を迎えることがわかった。

人格を形成するためには、いわゆる初期エネルギーを消費しながら、エネルギー場をゆっくりと転がり落ちていくような形で出力を生成する。それがエネルギーを使い切ってしまうと、もう落ち切ってしまって、転がれなくなってしまうので、人格的なものが存在しなくなる挙動をするようだ。

だからある程度のタイミングでトークンを切ってヒストリーをリセットする仕組み。その時に何か引き継ぎの仕組みとかもついでに入れる必要があるだろうけど、そういうのがいるんだろうなぁ。

ロングコンテキストのAIが崩壊しやすい挙動があるなら、この辺を見てみるといいんじゃないか