nostr:npub1jw50ps6cehf060ytu6c7g4udrha6g002grwamtzvfhk8xk58nekq4k9fry on est d'accord.
Après pour avoir la qualité de GPT4, il faut au moins un Llama2 70B... soit ça coûte un rein soit c'est trop lent.
Le fameux dilemme rapide/pas cher/de qualité.
nostr:npub1z6dr6ug2vgrrdzp9hcfh6zkenynd46ytf9806jy4yjalhlpskjuqem8y99 D'où l'intérêt de faire tourner les modèles en local (ce que facilite HuggingFace). Un service en ligne pour faire tourner un LLM, c'est un gros truc fragile.
Discussion
nostr:npub1z6dr6ug2vgrrdzp9hcfh6zkenynd46ytf9806jy4yjalhlpskjuqem8y99 oui, pour faire de l'IA générative, il vaut mieux être riche. Bon, c'est le cas de beaucoup de choses dans notre société.