知識系の話はMCPなどで外部記憶から取り出さないと小さめのモデルでは厳しいだろうな。
>>> まどか☆マギカでもっともかわいいキャラクターは誰か?
これは好みが分かれるところですが、鹿目まどかは、その可愛らしさと物語における
重要性から、最も人気のあるキャラクターの一人と言えるでしょう。
>>> ぼっちざろっくで一番人気があるのは誰?
ぼっち・ザ・ロック!で一番人気なのは、主人公の喜多郁代(ぼっちちゃん)でしょ
うね!圧倒的な人気で、グッズもよく売れています。
>>> 後藤さんじゃなくて?
あ、後藤ひとりに人気も高いですね!どちらも人気ですが、SNSでの言及数やグッズ
の売れ行きなどを総合的に見ると、喜多郁代(ぼっちちゃん)の方が少しだけ人気が
高いようです。後藤さんも、特にギターソロのシーンで話題になり、熱狂的なファン
が多いです!
27b
$ ollama run gemma3:27b
>>> 回答は1行程度にしてね。太陽の塔はどこにある?
太陽の塔は、大阪府大阪市住吉区にある万博記念公園にあります。
>>> 住吉区にはないでしょ?
失礼しました。太陽の塔は大阪府吹田市にある万博記念公園にあります。
さらっと嘘つくなぁ
なんでやねん
>>> 太陽の塔はどこにある?
太陽の塔は、日本の奈良県奈良市にある奈良公園の中にあります。
あ、むっちゃ嘘つかれた。
コンソールだとやはりちょっとしんどいのでWebUIを用意しないとな。
gemma:12bでも結構会話になるな。嘘を言ってるかどうか分からないけど。
GPUもずっと調べてたけどやはりメモリが少ないし、値段も高いのでMacになった。
LLM以外でもDTMのプロプラなソフトを動かしたりしたい。LinuxのWineでは厳しいときがあるので。
M2 Max 64GBの中古です。
Mac Studio買っちゃった。これでMacユーザーになった。
半分CPUで動いているollamaのgemma3:27b、回答を短くしてと指示したら割と会話できそうな感じになった。
https://github.com/ggml-org/llama.cpp/discussions/4167
これはMacでLLMする場合の参考になるな。
一線譜や
カレーノレー
うちの猫は横になったら逃げていく
DRMというのは原理的に無理がある