变量共享

关于变量共享的技术文章和开发文档。

【Ollama 中文手册】常见问题

本文详细介绍 Ollama 常见问题解决方案,涵盖 macOS、Windows 及 Linux 系统的模型升级方法、GPU 兼容性检查与配置。内容包括如何通过环境变量调整上下文窗口大小、在 Docker 中启用 GPU 加速、禁用云端功能以保护隐私、设置代理服务器访问模型、优化 Flash Attention 与 K/V 缓存量化以减少内存占用,以及管理并发请求和模型加载策略。

2026-11-04 7 人工智能

【Ollama 中文手册】Modelfile 参考

本文详细介绍 Ollama Modelfile 参考指南,涵盖创建和共享自定义模型的蓝图格式。内容包括必需指令 FROM、有效参数设置如上下文窗口与温度、提示模板变量、系统消息及法律许可证指定。同时讲解基于 Safetensors 和 GGUF 模型构建方法、分片处理、投机采样配置以及版本要求等注意事项,帮助用户高效定制大模型。

2026-11-04 7 人工智能

【Ollama 中文手册】Windows

本文详细介绍 Windows 版 Ollama 的安装、配置与使用指南。涵盖系统要求、NVIDIA 及 AMD 显卡驱动支持、环境变量设置、模型存储路径修改、API 访问示例以及故障排除方法,帮助用户在 Windows 10/11 上高效部署和运行本地大语言模型。

2026-11-04 7 人工智能

【Ollama 中文手册】硬件支持

本文详细介绍 Ollama 对各类硬件的 GPU 加速支持情况。涵盖 Nvidia CUDA、AMD ROCm、Apple Metal 及 Vulkan 等后端配置,提供不同显卡型号(如 RTX 40/50 系列、Radeon RX)的驱动版本要求与兼容性列表。同时讲解多卡选择、CPU 回退设置及 Linux 容器权限等高级用法,助您优化本地大模型运行性能。

2026-11-04 2 人工智能
导入模型

【Ollama 中文手册】导入模型

本文详细介绍如何在 Ollama 中导入 Safetensors 和 GGUF 格式的大语言模型。教程涵盖使用 Modelfile 创建模型文件、对 GGUF 模型进行量化处理、构建模型以及通过 ollama.com 平台共享模型的完整流程,帮助用户轻松部署和使用自定义 AI 模型。

2026-11-04 4 人工智能
运行服务器

【Llama 中文手册】运行服务器

运行服务器是一款轻量级 LLM 推理 HTTP 服务器,提供 OpenAI 兼容 API 及内置 Web UI。它支持多用户并行解码、连续批处理、Prompt caching 加速以及嵌入、重排序和多模态模型服务。此外,还具备推测解码功能和灵活的模型路由模式,适合快速部署与高效推理需求。

2026-11-05 3 人工智能

【Ollama 中文手册】Linux

本文详细介绍在 Linux 系统上安装 Ollama 的完整步骤。涵盖手动安装、旧版本升级处理、AMD GPU 与 ROCm 驱动配置、ARM64 架构支持及可选的 CUDA 驱动安装。同时提供创建启动服务、自定义环境变量、查看日志以及卸载程序的详细指南,助您高效部署本地大模型环境。

2026-11-04 6 人工智能

【Ollama 中文手册】决策

本文介绍 System One 决策模型,支持文本分类、是非问答及评分功能。涵盖 Nimble、Tev1、Clef 等模型,其中 Clef 可处理图像判断。文章详解本地运行无需 API key 的设置方法,包括状态输入、标签与等级选择逻辑。同时说明云端模型调用方式、请求限制如 token 窗口、图片规格及用量计费标准,帮助用户高效部署与使用决策系统。

2026-11-04 6 人工智能
快速入门

【Llama 中文手册】快速入门

本指南介绍如何快速入门 Llama 应用,从安装到使用终端或 Web UI 与模型对话。支持下载 Gemma-4 E4B 等 GGUF 模型,提供 CLI 命令行交互及 HTTP API 服务化功能。内置聊天界面兼容 OpenAI 端点,支持图像、文本、音频多模态输入,并可根据设备内存自动调整配置,适合开发者快速部署与使用。

2026-11-05 7 人工智能

【Ollama 中文手册】CLI 参考

本文介绍 Ollama CLI 参考,涵盖模型启动、外部应用集成配置及交互式设置方法。支持 OpenCode、Claude Code、Codex、VS Code 等工具集成。详解多行输入处理、决策模型状态查询、语音交互功能以及模型的下载、删除、登录与自定义创建等完整操作流程。

2026-11-04 4 人工智能