目前有多少应用程序会调度NPU? 今年开始大吹特吹的AI PC到底有没有实际意义?
要我说搞npu不如搞usb计算棒,直接上矿机同款asic电路,专为transformer设计,软硬结合,小小一根棒,上面可以跑起来qwen2.0 7b量化,随时随地给ai赋能。
再结合桌面对话客户端,这不是一下就走进千家万户了。
本文由自媒体运营网发布,转载联系作者并注明出处:/
要我说搞npu不如搞usb计算棒,直接上矿机同款asic电路,专为transformer设计,软硬结合,小小一根棒,上面可以跑起来qwen2.0 7b量化,随时随地给ai赋能。
再结合桌面对话客户端,这不是一下就走进千家万户了。
本文由自媒体运营网发布,转载联系作者并注明出处:/
评论列表