Ollama

Ollama是一个开源框架，专门用于在个人计算机上简化大型语言模型的本地部署、管理和运行。

其主要优势在于完全本地化运行保障数据隐私、安装和使用简单易上手，并且提供灵活的API便于开发者集成。

Ollama核心框架是免费开源的。其云服务Ollama Cloud提供免费配额，并有Pro和Max等付费套餐以获得更高使用限制和性能。

Ollama兼容macOS、Windows和Linux主流操作系统，用户可从官网下载对应安装包或使用Docker部署。

模型在用户本地硬件上运行，数据无需上传至云端。其云服务也承诺不保留用户查询数据，注重隐私保护。

建议至少8GB RAM运行7B参数模型，运行更大模型需要更高内存和显存。硬盘建议预留20GB以上空间存储模型。