ftp

基于PHP+FFmpeg+OpenCC+Ollama本地大模型搭建全自动视频字幕翻译系统，Windows离线批量处理MKV视频，自动提取字幕、繁简转换、上下文AI翻译、字幕自动换行，硬压字幕输出MP4，全程不上传素材，保护视频隐私，适合自媒体、教学视频本地化汉化。

本文介绍如何使用 Ollama 和 Llama 3.2 模型构建本地 AI 应用，实现电子设备列表自动分类。通过 Python 脚本读取原始数据、设计提示词并与本地大模型交互，将未分类物品按类别排序输出至终端及文件。项目完全离线运行，无需云端或 API 密钥，具备高隐私性，适合自动化日常任务并灵活调整模型与提示词。

本文介绍2025年AI开发最佳Linux工具。Linux凭借开源、高性能成为人工智能主要平台。文章涵盖TensorFlow、PyTorch等深度学习框架，Scikit-learn、XGBoost等数据科学库，Jupyter、VS Code等开发环境，以及Docker、Kubernetes容器化部署方案。此外还涉及Spark大数据处理、OpenCV计算机视觉和Hugging Face NLP工具，助您高效构建与部署AI模型。

本文详细介绍如何在Ubuntu 26.04 LTS系统上，利用Ollama和Open WebUI完全离线运行ChatGPT风格的AI助手。无需API密钥或互联网连接，即可在本地CPU上部署Llama 3.2等小型模型。教程涵盖安装步骤、模型选择及浏览器界面配置，确保数据隐私且无持续成本，适合日常代码解释与文本处理任务。

本文介绍 llama.cpp 的命令行界面与终端前端功能。支持交互式聊天、模型试验及多模态输入，包括图像和音频处理。可调整采样参数控制生成过程，利用 GPU 优化性能，并支持推测解码加速推理。提供完整命令参考与高级设置指南。

运行服务器是一款轻量级 LLM 推理 HTTP 服务器，提供 OpenAI 兼容 API 及内置 Web UI。它支持多用户并行解码、连续批处理、Prompt caching 加速以及嵌入、重排序和多模态模型服务。此外，还具备推测解码功能和灵活的模型路由模式，适合快速部署与高效推理需求。

本文介绍 System One 决策模型，支持文本分类、是非问答及评分功能。涵盖 Nimble、Tev1、Clef 等模型，其中 Clef 可处理图像判断。文章详解本地运行无需 API key 的设置方法，包括状态输入、标签与等级选择逻辑。同时说明云端模型调用方式、请求限制如 token 窗口、图片规格及用量计费标准，帮助用户高效部署与使用决策系统。

本文深入解析大语言模型推理的两个核心阶段：预填充与解码。预填充阶段处理提示词，受计算能力限制；解码阶段生成答案，受内存带宽限制。文章详细探讨了影响各阶段性能的关键因素，如上下文长度、模型大小及硬件瓶颈。同时介绍了 KV Cache 机制如何加速注意力运算，并分析了 TTFT、TPOT 等用户体验指标及其优化策略，旨在帮助开发者提升推理效率与吞吐量。

本文介绍 Ollama CLI 参考，涵盖模型启动、外部应用集成配置及交互式设置方法。支持 OpenCode、Claude Code、Codex、VS Code 等工具集成。详解多行输入处理、决策模型状态查询、语音交互功能以及模型的下载、删除、登录与自定义创建等完整操作流程。

本文详细介绍 Ollama Modelfile 参考指南，涵盖创建和共享自定义模型的蓝图格式。内容包括必需指令 FROM、有效参数设置如上下文窗口与温度、提示模板变量、系统消息及法律许可证指定。同时讲解基于 Safetensors 和 GGUF 模型构建方法、分片处理、投机采样配置以及版本要求等注意事项，帮助用户高效定制大模型。