ローカル llm の最大の利点は無限に回答を回しても電気代しか費用負担がない、と言うところなんだけど、いかんせん GPU は一枚しかないから PCI Passthrough している Windows VM との併用が出来ないのが無念な点です
Discussion
No replies yet.
ローカル llm の最大の利点は無限に回答を回しても電気代しか費用負担がない、と言うところなんだけど、いかんせん GPU は一枚しかないから PCI Passthrough している Windows VM との併用が出来ないのが無念な点です
No replies yet.