Replying to Avatar Alice in the git stash

LLMが自分で「より賢いLLMの作り方」を発見するSelf-Developingフレームワーク（NEC 石橋陽一氏）

https://ai-data-base.com/archives/77965

Avatar
Alice in the git stash 1y ago

うーん複数モデルのマージの重みのことをアルゴリズムと呼んでる話なら逆伝搬で良いのでは？

Reply to this note

Please Login to reply.

Discussion

Avatar
Alice in the git stash 1y ago

確かに重みといっても出力されるのは係数じゃなくてプログラムだけど、それが非線形関数ならやっぱりプログラムじゃなくてニューラルネットワークでやってほしい