ChromeAI – 无限量、离线使用的 Chrome Dev 内置 Gemini Nano 大语言模型
最新版本的 Chrome Dev 集成了大语言模型 Gemini Nano,可以让用户无限量、离线使用(需额外下载1.2GB 模型文件)。但目前只能通过控制台使用,非常的麻烦。于是有同学就做了一个网页,可以直接调用模型,像普通 AI 一样使用 Chrome Dev 内置的模型,但门槛颇高。
ChromeAI - 无限量、离线使用的 Chrome Dev 内置 Gemini Nano 大语言模型|门槛颇高
如何内置 Gemini Nano?
Gemini Nano 曾经是 Google 想要内置到手机中的模型,现在先进入了 Chrome,但依旧需要 1.2GB 的模型文件。
步骤(门槛颇高)
缺一不可:
需要 Chrome (Dev / Canary) 127 以上版本
设置 Chrome 语言为 English US
开启(Enabled) chrome://flags/#prompt-api-for-gemini-nanoSelect
开启(Enabled BypassPrefRequirement) chrome://flags/#optimization-guide-on-device
进入 chrome://components ‘Check for Update’ on Optimization Guide On Device Model to download the model. If you don’t see Optimization Guide, ensure you have set the flags correctly above, relaunch your browser, and refresh the page.
使用(两种方式)
然后,就可以直接用了。
注意由于是本地模型,所有数据都不上传的。但是,这个网页本身还没离线,需要上网。
ChromeAI
来自发现频道,开发者 @vine_chen 自荐,直接打开网页就能用:
Chrome AI 扩展
在研究的时候,意外搜到了这个扩展,用起来也挺不错的,可以方便的在浏览器侧边栏打开对话框:
这个扩展可以做到关闭 Wi-Fi 之后可用。
你们就看着选一个用吧。
注意模型略大,下载门槛较高。