https://forest.watch.impress.co.jp/docs/serial/usecopilotpc/2010080.html
Snapdragon XのNPUをフル稼働してLLMを動かせる「AnythingLLM」 - 使ってわかるCopilot+ PC - 窓の杜
Snapdragon XのNPUを活用してLLMを動かす「AnythingLLM」が紹介されています。
このツールは、Qualcomm QNNを選択することでSnapdragon XシリーズのNPUを利用したローカル処理が可能です。
記事では、実際にLLMを動作させた際のパフォーマンスや設定方法が解説されています。