【Ollama 中文手册】Linux
本文详细介绍在 Linux 系统上安装 Ollama 的完整步骤。涵盖手动安装、旧版本升级处理、AMD GPU 与 ROCm 驱动配置、ARM64 架构支持及可选的 CUDA 驱动安装。同时提供创建启动服务、自定义环境变量、查看日志以及卸载程序的详细指南,助您高效部署本地大模型环境。
关于源码的技术文章和开发文档。
本文详细介绍在 Linux 系统上安装 Ollama 的完整步骤。涵盖手动安装、旧版本升级处理、AMD GPU 与 ROCm 驱动配置、ARM64 架构支持及可选的 CUDA 驱动安装。同时提供创建启动服务、自定义环境变量、查看日志以及卸载程序的详细指南,助您高效部署本地大模型环境。
llama.cpp 是一款高性能库,让您在笔记本或服务器上轻松运行大型语言模型。配套的 Llama app 提供极简桌面体验,支持 Mac 和 Windows。项目支持 GGUF 格式模型,内置 Web 界面及 OpenAI 兼容 API,适合本地部署、终端实验及快速开发,无需复杂配置即可启动服务。
本文详细介绍 llama.cpp 的安装方法,涵盖 Mac、Windows 和 Linux 系统。提供 Llama app 图形界面安装步骤及一行命令快速部署方案。指导用户通过终端验证安装是否成功,并介绍后续运行第一个模型的快速开始流程,助您轻松上手使用。