果然不出我所料,
Groq不愧是自己不产出model的公司里面最牛逼的一个,
就凭借llama 3.1 70b的模型,能做到250 tokens/s的性能,比市场上所有竞争对手在这个体量的模型上都快了整整一个数量级。
我作为天天吹、月月吹、年年吹groq的groq大铁粉,我单方面宣布,groq欠我1个亿的广告费。
果然不出我所料,
Groq不愧是自己不产出model的公司里面最牛逼的一个,
就凭借llama 3.1 70b的模型,能做到250 tokens/s的性能,比市场上所有竞争对手在这个体量的模型上都快了整整一个数量级。
我作为天天吹、月月吹、年年吹groq的groq大铁粉,我单方面宣布,groq欠我1个亿的广告费。
No replies yet.