请求增加支持本地离线 GGUF 格式模型

[blickers]

对于中国大陆用户来说，ChatGPT等的在线服务使用起来非常麻烦。如果这个项目能像 GPT4ALL 或 Jan AI 那样支持运行离线的 gguf 模型，将对万千努力学习外语的墙内用户友好得多。只需要一次翻墙下载 gguf 模型，后面便可离线口语对话练习外语（当然 gguf 模型也可以放在墙内网盘上共享）。

GPT4All 项目：https://github.com/nomic-ai/gpt4all
Jan AI 项目：https://github.com/janhq/jan