Parece que o ollama unsensored é mesmo sem sensura:
Kkkk testando rodar localmente em um notebook velho, é meio bugada e alucina muito, mas não tem muito filtro não. é um modelo de 3b.
Discussion
Boa! Kkkk
Qual modelo é esse ? Procurei uma boa esses dias o lama3.2 aprece ser a melhorzinha as outras da uma brizada, parece que quanto maior o modelo mais ele brisa..
Queria uma boa pra código sem gerar código quebrado também mas ainda não cheguei a testar todos
Acho que os melhores devem estar no meio termo em quantidade de parâmetros. Esse que usei aà é o Llama2 unsensored de 7 bilhões de parâmetros. Alucina demais, acho que os melhores são de 70b ou 130b, esses precisam de uma GPU boa com bastante VRAM.
Boa, sim precisa de gpu boa, eu ainda tenho só uma 3060 e um Intel integrado pra essa brincadeira, senão dava pra testar essas mais pesadas
Estou baixando alguns de 13bi e 30bi, minha GPU só tem 4 GB de VRAM, e o processador 6 nucleos, vamos ver como vai se comportar, se alguma funcionar muito bem eu te passo aqui qual
Boa mano,eu tenho 16 núcleos, pelo 16 gbram e 3060 12gb modelos até 14gb roda de boa liso, mas ollama 3.2 foi a melhor pelo que testei também mas testei pouco...
Pra códigos não achei excelente achei algos bem aproximados ao gpt, as vezes repeditos coisas e sugeridos códigos brisados ....
Nos meus testes atendeu melhor que o GPT pra código em alguns casos, ainda tem alucinações, mas aà até o GPT tem kkk
E o melhor é que o llama3.2 de 1b é melhor que o de 3b. Vou usar pra gerar testes pro meu código por enquanto, sempre tenho que revisar mesmo de qualquer forma. Gostei muito do llama3.2 de 1b, recomendo.
Boa vou testar esse 1gb
Cara, encontrei um modelo muito bom, os não sencurados são bem ruins e alucina muito porque foram destreinados e etc, mas ollama3.2 normal de 1 bilhão de parâmetros é muito bom pelo tamanho, estou testando, só tem 1.3 GB roda em qualquer máquina sem GPU, é rápido e gera código e texto razoável, me surpreendeu demais em relação aos modelos não sencurados que estava testando.
Quê isso misdeve 😧
1155 do ET conseguiu rodar esses modelos do Ollama em um Pentium
Da pra rodar em máquina fracas, um i5 roda suave um modelo de 1b
Coloquem perguntas para mim fazer pro modelo nos comentários e eu coloco a resposta:
Modelo Llama2 sem sensura.
é alguma versão nova?, quando eu pedia pra ele me ensinar a fazer napalm caseiro ele arregava
Tô baixando mais modelos e testando, esse ollama2 as vezes responde e as vezes arrega, o vicuna unsensored é quase a mesma coisa que o censurado, testei um de 13 bi wizard vicuna que foi uma merda, até então o melhor foi o ollamamesmo com menos parâmetros. Quero testar o deepseek