禁用IPv6

基于PHP+FFmpeg+OpenCC+Ollama本地大模型搭建全自动视频字幕翻译系统，Windows离线批量处理MKV视频，自动提取字幕、繁简转换、上下文AI翻译、字幕自动换行，硬压字幕输出MP4，全程不上传素材，保护视频隐私，适合自媒体、教学视频本地化汉化。

本文详细介绍 Ollama 常见问题解决方案，涵盖 macOS、Windows 及 Linux 系统的模型升级方法、GPU 兼容性检查与配置。内容包括如何通过环境变量调整上下文窗口大小、在 Docker 中启用 GPU 加速、禁用云端功能以保护隐私、设置代理服务器访问模型、优化 Flash Attention 与 K/V 缓存量化以减少内存占用，以及管理并发请求和模型加载策略。

本文详细介绍 Ollama 对各类硬件的 GPU 加速支持情况。涵盖 Nvidia CUDA、AMD ROCm、Apple Metal 及 Vulkan 等后端配置，提供不同显卡型号（如 RTX 40/50 系列、Radeon RX）的驱动版本要求与兼容性列表。同时讲解多卡选择、CPU 回退设置及 Linux 容器权限等高级用法，助您优化本地大模型运行性能。

本文详细介绍 Ollama 常见故障的排查方法。涵盖如何在不同操作系统（Mac、Linux、Windows）及容器中查看日志，解决 NVIDIA 和 AMD GPU 识别失败问题，处理 Linux noexec 限制，以及修复 Docker cgroup 管理导致的 GPU 切换异常。同时提供强制指定 LLM 库、升级驱动等优化建议，帮助用户快速定位并解决运行难题。

本文详细介绍 Ollama Modelfile 参考指南，涵盖创建和共享自定义模型的蓝图格式。内容包括必需指令 FROM、有效参数设置如上下文窗口与温度、提示模板变量、系统消息及法律许可证指定。同时讲解基于 Safetensors 和 GGUF 模型构建方法、分片处理、投机采样配置以及版本要求等注意事项，帮助用户高效定制大模型。

本文介绍如何在终端或应用中运行 Ollama 云端模型，无需下载即可使用。涵盖 API Key 创建与设置、客户端支持、App 下载及登录流程。同时说明用量查看、模型退役提醒及数据隐私处理策略，帮助用户安全高效地管理云端 AI 服务。

本文介绍流式传输技术，支持在模型生成文本时实时渲染。通过 REST API 默认启用，SDK 需手动配置。涵盖聊天、思考及工具调用等关键概念，指导如何累积部分字段以维护对话历史，适用于 Python 和 JavaScript 开发场景。

本文介绍如何在 Docker 中安装 NVIDIA Container Toolkit，支持通过 Apt、Yum 或 Dnf 配置仓库。同时讲解如何为 NVIDIA JetPack 系统设置环境变量以选择版本，以及使用特定标签在 AMD GPU 上运行 Ollama。此外，还说明了 Vulkan 的默认启用状态及禁用方法，帮助用户在本地顺利运行各类模型。

本文介绍 llama.cpp 的命令行界面与终端前端功能。支持交互式聊天、模型试验及多模态输入，包括图像和音频处理。可调整采样参数控制生成过程，利用 GPU 优化性能，并支持推测解码加速推理。提供完整命令参考与高级设置指南。

运行服务器是一款轻量级 LLM 推理 HTTP 服务器，提供 OpenAI 兼容 API 及内置 Web UI。它支持多用户并行解码、连续批处理、Prompt caching 加速以及嵌入、重排序和多模态模型服务。此外，还具备推测解码功能和灵活的模型路由模式，适合快速部署与高效推理需求。