渲染

关于渲染的技术文章和开发文档。

Web UI

【Llama 中文手册】Web UI

llama.cpp内置现代化Web UI,支持多模态输入与MCPs功能。界面实时流式传输响应,渲染Markdown、LaTeX公式及代码块。支持图像、音频等文件上传,智能识别模型能力。提供对话分支编辑、搜索导入导出功能,可配置JSON schema约束输出,并支持多模型切换与自定义主题设置。

2026-11-05 4 人工智能

【Ollama 中文手册】流式传输

本文介绍流式传输技术,支持在模型生成文本时实时渲染。通过 REST API 默认启用,SDK 需手动配置。涵盖聊天、思考及工具调用等关键概念,指导如何累积部分字段以维护对话历史,适用于 Python 和 JavaScript 开发场景。

2026-11-04 3 人工智能

【Ollama 中文手册】思考

本文介绍具备思考能力的模型如何通过特定字段分离推理轨迹与最终答案。用户可审计模型步骤、在UI中动画展示思考过程或隐藏推理内容。文章详细说明了在chat和generate请求中启用思考的API参数设置,包括布尔值开关及字符串级别选择,并解释了流式传输时推理令牌与答案令牌的交错发送机制。

2026-11-04 6 人工智能