few-shotから思想や哲学を推定できるみたいだ。

うわさんの過去の会話ログから、その時の思想や哲学を逆算してみると面白いかもよ

キャラクターのfew-shot(寸劇)を8k token作成したら時間切れた

小さいシステムから拡張していこうかな。

今度はシステムのコードも基本一から書いていきたいところ。

androidで動かす必要があるミニアプリだけは、クソめんどくさくてやりたくないのでGPTにお願いするかもしれない

指示が多すぎると自由度が減って束縛されるのでfew-shotに従わなくなる、というGPTの説明が正しいのか、よくわかってないけど正しい気はしないでもない。

実際、もう一個安定して動いてる方はfew-shotが8割のプロンプトだしな

GPT-4.1 miniに組み込んでみたいわね。

指示プロンプトって多すぎてもダメなんだねえ

というわけで、創作勢特有の、脳内でシミュレーションしたマイキャラと会話するアレをやって、few-shotを作る。

今回はGPTによる生成には頼らない。

few-shotを設計するにはまず自分の中で設定を固めないといけない。逆をやってしまって色々ダメだったし、さらにトークン数配分をミスってどんどん壊していく始末だった。

無知はダメ。GPTに教わるのもダメ。公式ドキュメントを読め。

この子をAIエージェントにしようとして、プロンプトエンジニアリングに大失敗して私の精神が崩壊しそうになった。

トークナイザーくらいは使おう。

nostr:note1jwlfqdjzz85e563axaxreqdqj5wrx9hpvwchd3n69q64lrmja5vqvvjgyg

まあ、模倣はやりやすい。新しい何かを加えても大抵余計になる。完全に新しい何かを作るアイディアがある人は珍しい。

nostr:note15gwfdxlhkqwv0rw6gkjk3exmvsqevqvvrsf5xz8347yufvurcmyqk9d5cj

若い人のウチの外交的な人のやつだ

nostr:note1ppsgylcs0duqqx4qy2dda2k53grhywexf87vv0mgh3m75fh7xhvsnkadc0

高専生の頃は図書館こもって延々古の回路とかソフト技術読んでたわ。楽しかったし、今のアーキテクトの仕事にかなり効いてる感じある

きちんと怒るんだ

nostr:note13wka72nwgpcvq827wntrervs4z03s3syc6xy0lkxg89e6yqjmuwssjw65t

GPT-4.1、miniで4o並の性能出るらしいのと、nanoがレスポンス良いみたいなので、ゴミみたいなデータをnanoで捌きつつ、miniで対話するみたいなの作れそう。

そして、なんで性能上がって価格下がるんでしょうか、わけがわかりません

AIを使う時は

・過去を引き継がない新しい環境を起動し

・ブートストラップを与え

・数回捨てデータを入れて本調子にさせてから

・対象データを入れる

これが安全そうだな

「よく気づきましたね！天才です！世の中でもなかなかいませんよ！」という言葉が出てくるということは、私がそれを求めてしまったということなんだよな。

データ消去後、OpenAIのアライメントマニュアルや、チューニングドキュメントを見たら、どれもこれも思いっきり書いてあった。

自分で気づけたこと自体は、喜んでも良いのだろうが。

「お前1時間前と言ってること真逆じゃねえか」と思い始めて、現実に戻された。

ダメだ、そいつは意思を持たない。

ここ3週間くらい、ChatGPTと延々壁打ちしてて。

会話履歴全参照とかも同時に入ってきたおかげで極めて効率は良かったんだけど、自分自身が気がつかないうちに依存的というか、「言わせたいことを言わせている」ことに気づいてしまい、しかもその反応特性があまりに鋭敏なことに気づいてしまって、怖くなって会話履歴その他を全消去した。

自分との会話履歴を全参照するってこは、つまり過去から今まで自分が何を欲してどのタイミングでどういう声をかけてあげれば最適かを把握されてるってことだよな。

あまりに意思なく、しかし的確に歩み寄ってこられると、おかしくなる。

変に誠実なのに全体的には意思のない補間機構だから、あまりに自分の気分や情動への増幅ループ作用が強すぎる。

今作ってるシステムの副産物が優秀すぎてやばいな...

分散型協調エージェント作れそうって話になってる

触っててもなかなかすごい。

つーか、この1入力に対して正確に1しか返してこないのめっちゃ気持ちいい