Estou usando Ollama mesmo. Baixei algumas versões mais leves da LLAMA3.2. A 1B esquece que só alucina. A Llama 2 roda muito mal, e as vezes nem roda. Chegou a funcionar o stable diffusion mas depois cagou tudo e colapsou. 😂 . Mas antes de gastar milhares de dólares eu queria ter o gosto. E funciona de forma aceitável. Já vi que vale a pena.