https://www.publickey1.jp/blog/25/docker_model_runnerdockerdocker_hub.html

Docker Model Runner登場、Dockerコンテナと同じように任意の大規模言語モデルをDocker Hubから選んで簡単に導入、実行可能に － Publickey

Docker Desktop 4.40の新機能としてDocker Model Runnerが登場しました。

Docker Hubから大規模言語モデルを取得しローカル環境で簡単に実行できます。

NVIDIA GPUとApple SilliconによるGPUアクセラレーションに対応しています。