Ollama

Ollama is the easiest way to get up and running with large language models such as gpt-oss, Gemma 3, DeepSeek-R1, Qwen3 and more.

Open WebUI是一个可扩展的、功能丰富且用户友好的自托管AI平台，旨在完全离线运行。它支持各种LLM运行器，如Ollama和与OpenAI兼容的API，内置RAG推理引擎，使其成为强大的AI部署解决方案。