llamafile[^1] 是一个在本地离线运行 LLM 的单文件程序,不用安装任何依赖,只需要下载一个文件然后在命令行
https://justine.lol/oneliners/
这篇文章介绍了 llamafile 的用法,以及一些实用的 one-liner 命令,包括识别图片内容并批量重命名、总结链接内容等,可以当作没有网络时的 ChatGPT 备用方案。还提到了一些其他项目比如 ollama [^2] 这个本地启动各种 Llama 模型的框架,和Mistral, Wizard Coder, Rocker 3B 等有着不同能力侧重的模型。
llamafile 的计算速度并不差,在我的 2020 M1 MBP 上也能很快响应。看着命令行里滚动的日志,突然觉得这是我与真正的 LLM 技术距离最近的一次。
[^1]: https://github.com/mozilla-Ocho/llamafile
[^2]: https://ollama.ai/
./ 执行,即可得到一个 llama.cpp 内核的 AI。https://justine.lol/oneliners/
这篇文章介绍了 llamafile 的用法,以及一些实用的 one-liner 命令,包括识别图片内容并批量重命名、总结链接内容等,可以当作没有网络时的 ChatGPT 备用方案。还提到了一些其他项目比如 ollama [^2] 这个本地启动各种 Llama 模型的框架,和Mistral, Wizard Coder, Rocker 3B 等有着不同能力侧重的模型。
llamafile 的计算速度并不差,在我的 2020 M1 MBP 上也能很快响应。看着命令行里滚动的日志,突然觉得这是我与真正的 LLM 技术距离最近的一次。
[^1]: https://github.com/mozilla-Ocho/llamafile
[^2]: https://ollama.ai/
来自频道: @lover_links
#Update #Gemini
Gemini Pro 现已可用
特性:
- 32K Token Window,未来更大
- 支持全球 180 多个国家和地区的 38 种语言
- 提供 Gemini Pro、Gemini Pro Vision 两个模型
定价:
- API 目前免费调用,未来将按量付费
- 输入:0.00025 USD/1K 字符,0.0025 USD/张图片
- 输出:0.0005 USD/1K 字符
现在,你就可以开始访问 https://ai.google.dev/ 测试 Gemini、获取 API Key。
Gemini Pro 现已可用
特性:
- 32K Token Window,未来更大
- 支持全球 180 多个国家和地区的 38 种语言
- 提供 Gemini Pro、Gemini Pro Vision 两个模型
定价:
- API 目前免费调用,未来将按量付费
- 输入:0.00025 USD/1K 字符,0.0025 USD/张图片
- 输出:0.0005 USD/1K 字符
现在,你就可以开始访问 https://ai.google.dev/ 测试 Gemini、获取 API Key。
来自频道: @lover_links
#tools #PKM 高度简洁的微信公众号 Markdown 编辑器,支持 Markdown 所有基础语法、色盘取色、一键复制并粘贴到公众号后台、多图上传、一键下载文档、自定义 CSS 样式、一键重置等特性并自动即时渲染为微信图文。
1. Gitee Pages:https://doocs.gitee.io/md (无VPN速度起飞)
2. GitHub Pages:https://doocs.github.io/md
1. Gitee Pages:https://doocs.gitee.io/md (无VPN速度起飞)
2. GitHub Pages:https://doocs.github.io/md
来自频道: @lover_links
The Browser Company 公司今天宣布,他正在为其 Windows 版本邀请第一批测试人员。
该公司表示,它将在整个月内吸引更多的测试版用户,并将在一月份“迅速”增加邀请发放。该公司表示,等待名单上有超过 50 万用户。
加入地址: isarconwindowsyet.com
—— The Browser Company
来自频道: @lover_links
来自频道: @lover_links