Ollama是一個用于在本地計算機上運行大型語言模型的命令行工具，允許用戶下載并本地運行像Llama 2、Code Llama和其他模型，并支持自定義和創建自己的模型。該免費開源的項目，目前支持macOS和Linux操作系統，未來還將支持Windows系統????，大家快來奇想AI導航網！
此外，Ollama還提供了官方的Docker鏡像，由此使用Docker容器部署大型語言模型變得更加簡單，確保所有與這些模型的交互都在本地進行，無需將私有數據發送到第三方服務。Ollama在macOS和Linux上支持GPU加速，并提供了簡單的命令行界面（CLI）以及用于與應用程序交互的REST API??。
該工具對于需要在本地機器上運行和實驗大語言模型的開發人員或研究人員來說特別有用，無需依賴外部云服務。
Ollama支持的模型
Ollma提供一個模型庫，用戶可以自行選擇安裝想要運行的模型，目前支持40+的模型，還在持續增加中，以下是可以下載的開源模型示例：
| 模型 | 參數大小 | 文件大小 | 下載運行命令 |
|---|---|---|---|
| Neural Chat | 7B | 4.1GB | ollama run neural-chat |
| Starling | 7B | 4.1GB | ollama run starling-lm |
| Mistral | 7B | 4.1GB | ollama run mistral |
| Llama 2 | 7B | 3.8GB | ollama run llama2 |
| Code Llama | 7B | 3.8GB | ollama run codellama |
| Llama 2 Uncensored | 7B | 3.8GB | ollama run llama2-uncensored |
| Llama 2 13B | 13B | 7.3GB | ollama run llama2:13b |
| Llama 2 70B | 70B | 39GB | ollama run llama2:70b |
| Orca Mini | 3B | 1.9GB | ollama run orca-mini |
| Vicuna | 7B | 3.8GB | ollama run vicuna |
??版權聲明：若無特殊聲明，本站所有文章版權均歸奇想AI導航網原創和所有，未經許可，任何個人、媒體、網站、團體不得轉載、抄襲或以其他方式復制發表本站內容，或在非我站所屬的服務器上建立鏡像。否則，我站將依法保留追究相關法律責任的權利。
類似于Ollama的工具
奇想AI導航網收錄了國內外數百個不同類型的AI工具，每日更新和添加最新AI工具，奇想AI導航網還推薦了AI學習開發的常用網站、框架和模型，幫助你加入人工智能浪潮，自動化高效完成任務！
Ctrl + D 或 ? + D 收藏本站到瀏覽器書簽欄。