VRAM

关于VRAM的技术文章和开发文档。

基于PHP+FFmpeg+本地大模型的全自动视频字幕翻译方案

基于PHP+FFmpeg+OpenCC+Ollama本地大模型搭建全自动视频字幕翻译系统,Windows离线批量处理MKV视频,自动提取字幕、繁简转换、上下文AI翻译、字幕自动换行,硬压字幕输出MP4,全程不上传素材,保护视频隐私,适合自媒体、教学视频本地化汉化。

2026-09-26 43 人工智能

【Ollama 中文手册】常见问题

本文详细介绍 Ollama 常见问题解决方案,涵盖 macOS、Windows 及 Linux 系统的模型升级方法、GPU 兼容性检查与配置。内容包括如何通过环境变量调整上下文窗口大小、在 Docker 中启用 GPU 加速、禁用云端功能以保护隐私、设置代理服务器访问模型、优化 Flash Attention 与 K/V 缓存量化以减少内存占用,以及管理并发请求和模型加载策略。

2026-11-04 2 人工智能
上下文长度

【Ollama 中文手册】上下文长度

本文介绍 Ollama 的上下文长度设置及其与 VRAM 内存的关系。根据显存大小,默认支持 4k、32k 及 256k token 上下文。针对网页搜索、智能体及代码工具等需大上下文任务,建议至少配置 64000 tokens。同时提供通过 App 滑块或 CLI 启动参数调整的方法,并强调避免模型卸载至 CPU 以保障最佳性能。

2026-11-04 0 人工智能

【Ollama 中文手册】快速开始

本文介绍如何在桌面应用和编码代理中使用 Ollama。支持 macOS、Windows 及 Linux 系统,提供本地与云端两种运行模式。教程涵盖 API 密钥创建、模型下载、终端启动命令以及 Claude Code、Codex CLI 等集成工具的配置方法,助您快速构建 AI 应用程序。

2026-11-04 3 人工智能

【Ollama 中文手册】硬件支持

本文详细介绍 Ollama 对各类硬件的 GPU 加速支持情况。涵盖 Nvidia CUDA、AMD ROCm、Apple Metal 及 Vulkan 等后端配置,提供不同显卡型号(如 RTX 40/50 系列、Radeon RX)的驱动版本要求与兼容性列表。同时讲解多卡选择、CPU 回退设置及 Linux 容器权限等高级用法,助您优化本地大模型运行性能。

2026-11-04 0 人工智能

【Ollama 中文手册】故障排除

本文详细介绍 Ollama 常见故障的排查方法。涵盖如何在不同操作系统(Mac、Linux、Windows)及容器中查看日志,解决 NVIDIA 和 AMD GPU 识别失败问题,处理 Linux noexec 限制,以及修复 Docker cgroup 管理导致的 GPU 切换异常。同时提供强制指定 LLM 库、升级驱动等优化建议,帮助用户快速定位并解决运行难题。

2026-11-04 0 人工智能
网页搜索

【Ollama 中文手册】网页搜索

Ollama Web Search API 为模型提供最新信息,减少幻觉并提高准确性。通过创建免费账户获取 API Key 即可访问。该 API 支持 REST 调用及 Python、JavaScript 库集成,能返回网页标题、URL 和内容片段。适用于构建搜索代理或集成至 Cline、Goose 等工具,需确保模型上下文长度足够以处理大量搜索结果。

2026-11-04 0 人工智能