Sakana AI の Evolutionary Model Merge という手法は興味深いな。

複数の学習モデルを融合させて、新しい学習モデルを生成できる模様。

再学習コストが下がることがメリットのようだけど、自然選択のプロセスに着想とあるので、選ばれなかった学習モデルは、忘却されるということだろうか。

https://thebridge.jp/2024/03/sakana-ais-evolutionary-algorithm-discovers-new-architectures-for-generative-models