FreeAskInternet – 免费、私密、本地运行的聚合 AI 搜索引擎

 
 
 
▎项目功能:AI 搜索引擎
 
▎项目介绍:一个类 Perplexity 的聚合 AI 搜索引擎,完全免费、私人和本地运行,可使用多个 LLM 生成答案,无需 GPU。
 
用户提出问题,系统会进行多引擎搜索,并将搜索结果合并到 LLM,然后根据搜索结果生成答案。
 

什么是 FreeAskInternet

FreeAskInternet 是一个完全免费的、私有的、本地运行的使用 LLM 的搜索聚合器和答案生成器,不需要 GPU。用户可以提出一个问题,系统将使用 searxng 进行多引擎搜索,并将搜索结果与 ChatGPT3.5 LLM 相结合,根据搜索结果生成答案。所有进程运行本地和没有 GPU 或 OpenAI 或谷歌 API 键是必要的。

特征

  • 無需完全免费(不需要任何 API 密钥)
  • 完全本地化(不需要 GPU,任何计算机都可以运行)
  • 完全 PRIVATE (所有内容都在本地运行,使用自定义 llm)
  • 运行没有 LLM 硬件(没有图形处理器需要!)
  • 使用免费的 ChatGPT3.5/Qwen/Kimi/ZhpuAI (GLM) API (不需要 API 密钥! Thx OpenAI)
  • 定制 LLM (ollama,llama.cpp)支持,是的,我们爱 ollama!
  • 使用 Docker Compose 可以快速轻松地部署
  • 网络和移动友好的界面,专为网络搜索增强 AI 聊天,允许从任何设备方便访问。

FreeAskInternet使用界面截图

  1. 指数:

index

  1. 基于搜索的人工智能聊天:

index

  1. 多个 LLM 模型和自定义 LLM,如 olama 支持:

index

它是如何工作的?

 

  1. 系统在 FreeAskInternetUI 界面中获取用户输入问题(本地运行) ,调用 searxng (本地运行)在多个搜索引擎上进行搜索。
  2. 抓取搜索结果链接内容并传递到 ChatGPT3.5/Kimi/Qwen/ZhpuAI/ollama (通过使用自定义 LLM) ,请 LLM 根据这些内容回答用户的问题作为参考。
  3. 流式聊天界面的答案。
  4. 我们支持自定义 LLM 设置,因此理论上支持无限 LLM。
© 版权声明
THE END
喜欢就支持一下吧
点赞0 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容