概述

对话式 AI 助手

支持文档和文件上下文的多轮 AI 聊天。对话历史通过 JWT 的 sub 声明按用户隔离。

文档审查

审查文档的正确性、清晰度、可读性、语气等，或翻译成其他语言。

快捷操作

重写、总结、扩展、改变语气、修正语法、翻译、续写和改进写作。

LLM 提供商灵活性

OpenAI、Anthropic、Google Gemini、Azure OpenAI、AWS Bedrock、Google Vertex AI 或任何自托管的 OpenAI 兼容端点。多个提供商可以共存。

Model Context Protocol (MCP) 集成

通过基于 Streamable HTTP 传输的 Model Context Protocol 连接内部工具、数据库和知识库。支持静态 token 和 OAuth 2.0 按用户身份验证。

网页抓取和网页搜索

用于抓取网页和运行搜索的可插拔端点。

多租户环境

通过 Environments 实现隔离的对话历史和按租户的访问密钥。

许可证验证

AI 服务在每次容器启动时根据 license.containers.tiny.cloud 验证其许可证密钥。此检查确认许可证处于活动状态且有效。在此检查期间不会传输任何客户数据、对话内容或使用遥测。如果此端点不可达，服务将无法启动。

按用户、按功能的权限

通过 auth.ai.permissions JWT 声明进行细粒度控制。

流式响应

从 LLM 到浏览器的 Server-Sent Events。

文件附件

使用附加文件作为 AI 对话的上下文。存储选项包括数据库、文件系统、Amazon S3 或 Azure Blob Storage。

可观测性

结构化请求日志、OpenTelemetry 和 Langfuse。这三个管道作为独立的同步管道运行。

水平扩展

服务无状态；可在 load balancer 背后添加 replicas，无需共享本地状态。

OpenAPI specification

发布于 /v1/api/doc.json，交互式文档位于 /v1/api/docs（/docs/ 会重定向至该处）。可用任意语言自动生成 client。

服务 license key（LICENSE_KEY）

作为环境变量传入 AI 服务容器（例如在 docker run 命令或 Compose 文件中）

在运行时激活本地 AI 服务。通过 Tiny 客户门户提供的长字符串。

是 — 运行服务必需。

TinyMCE 编辑器 license key（license_key）

添加到编辑器配置中：tinymce.init({ license_key: 'T8LK:…​' })

为 TinyMCE 编辑器配置 license 模式，并激活 TinyMCE 高级功能。

是 — TinyMCE AI 高级功能必需。

容器运行时

Docker 20.10+、Podman 4+ 或任意 OCI 兼容运行时。同时支持 Kubernetes、AWS ECS 或 Azure Container Apps。

SQL 数据库

MySQL 8.0 或 PostgreSQL 13+（推荐 16）。

Redis

3.2.6+（推荐 7.x）。支持单节点或 Cluster 模式。不支持 Sentinel。

LLM 访问

至少一个 provider。多个 provider 可并存。

License key 与 registry 凭据

由 Tiny 账户代表提供。

Token 端点

一个可签名 HS256 JWT 的后端。

反向代理（推荐）

AI 服务不终止 Transport Layer Security (TLS)。建议在生产环境中使用 nginx、HAProxy 或云负载均衡器等反向代理进行 TLS 终止。

Getting started

五分钟 Docker Compose 快速上手。启动 AI 服务、数据库、Redis、token 服务器及浏览器编辑器。

数据库、Redis 与存储

数据层设置：MySQL 与 PostgreSQL 配置、Redis 连接、文件存储选项（S3、Azure Blob、文件系统、数据库）以及主机本地数据库连接。

LLM 提供商

连接 OpenAI、Anthropic、Google Gemini、Azure OpenAI、AWS Bedrock、Google Vertex AI 或任意 OpenAI 兼容端点（Ollama、vLLM、LM Studio）。支持自定义模型目录及 API key 轮换。

JWT 认证

HS256 签名模型、必需与可选 claims、权限参考、8 种语言的 token 端点示例，以及多租户部署模式。

TinyMCE 集成

编辑器端配置：plugin 选项、token provider、认证模式、Cross-Origin Resource Sharing (CORS) 以及部署检查清单。

生产部署

Kubernetes manifests、AWS ECS 任务定义、水平扩展、安全加固、速率限制、可观测性、备份与恢复以及升级。

MCP 与 Web 集成（可选）

Model Context Protocol (MCP) 工具集成、Web 抓取端点及 Web 搜索端点。初始设置并非必需。

故障排查

快速分流、容器启动失败、JWT 错误、LLM 提供商错误、编辑器问题、性能以及诊断配方。

参考文档

环境变量参考、API 端点参考、Server-Sent Events 参考和错误代码参考。