在本地使用Ollama运行多个LLM
Ollama 是一个为 Mac 用户设计的免费个性化工具，能够通过简单的命令输入在本地执行各种语言模型（LLMs）。凭借其开源框架，用户可以直接从命令行界面轻松访问高级模型，如 Phi 3、Mistral、Gemma、Llama 2 和 Llama 3，从而快速高效地检索信息。用户必须确保有足够的硬盘空间，因为某些模型需要几个千兆字节才能有效运行。
该工具还支持存储以前的交互，增强未来查询的上下文，类似于知名的 LLM，如 ChatGPT 和 Copilot。对于那些更喜欢图形界面的用户，Ollama 可以与 Docker 一起运行，通过用更具视觉吸引力的界面替代命令行，提供用户友好的体验。总体而言，Ollama 是一个强大的工具，适合任何希望在其 Mac 上利用 LLM 能力的人。
