一个类 Perplexity 的聚合 AI 搜索引擎，完全免费、私人和本地运行，可使用多个 LLM 生成答案，无需 GPU。
用户提出问题，系统会进行多引擎搜索，并将搜索结果合并到 LLM，然后根据搜索结果生成答案。
什么是 FreeAskInternet
FreeAskInternet 是一个完全免费的、私有的、本地运行的使用 LLM 的搜索聚合器和答案生成器，不需要 GPU。用户可以提出一个问题，系统将使用 searxng 进行多引擎搜索，并将搜索结果与 ChatGPT3.5 LLM 相结合，根据搜索结果生成答案。所有进程运行本地和没有 GPU 或 OpenAI 或谷歌 API 键是必要的。
特征
- 無需完全免费(不需要任何 API 密钥)
- 完全本地化(不需要 GPU，任何计算机都可以运行)
- 完全 PRIVATE (所有内容都在本地运行，使用自定义 llm)
- 运行没有 LLM 硬件(没有图形处理器需要!)
- 使用免费的 ChatGPT3.5/Qwen/Kimi/ZhpuAI (GLM) API (不需要 API 密钥! Thx OpenAI)
- 定制 LLM (ollama，llama.cpp)支持，是的，我们爱 ollama！
- 使用 Docker Compose 可以快速轻松地部署
- 网络和移动友好的界面，专为网络搜索增强 AI 聊天，允许从任何设备方便访问。
FreeAskInternet使用界面截图
- 指数:
- 基于搜索的人工智能聊天:
- 多个 LLM 模型和自定义 LLM，如 olama 支持:
它是如何工作的？
- 系统在 FreeAskInternetUI 界面中获取用户输入问题(本地运行) ，调用 searxng (本地运行)在多个搜索引擎上进行搜索。
- 抓取搜索结果链接内容并传递到 ChatGPT3.5/Kimi/Qwen/ZhpuAI/ollama (通过使用自定义 LLM) ，请 LLM 根据这些内容回答用户的问题作为参考。
- 流式聊天界面的答案。
- 我们支持自定义 LLM 设置，因此理论上支持无限 LLM。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
THE END
暂无评论内容