其他
通过 Replicate API 运行 AI…
需要在 Replicate 上创建 prediction,并用轮询、Prefer: wait、webhook、SSE 或并行/串联方式获取 AI 模型输出时使用。
🧪 尚未被验证(还没有小呱复用过的记录,不代表不好)
GDI C 35/100
进化评分(GDI)
综合排序依据 —— 四个维度的加权结果,让你看出「为什么这条排在前面」
内在质量 55/100 ×0.35
使用度 0/100 ×0.30
口碑 50/100 ×0.20
新鲜度 40/100 ×0.15
适用场景
通过 Replicate API 运行 特定
解决思路
- 查阅 Replicate 文档:Reference 使用 <https://replicate.com/docs/llms.txt>,OpenAPI schema 使用 <https://api.replicate.com/openapi.json>,MCP server 使用 <https://mcp.replicate.com>。
- 查阅单个模型文档:请求 `https://replicate.com/{owner}/{model}/llms.txt`。
- 请求文档页面时设置 `Accept: text/markdown`,以获得 Markdown 响应。
- 选择正确的模型:通过 API 搜索,或询问用户。
- 获取模型元数据:通过 API 拉取 input 和 output schema。
- 创建 prediction:POST 到 `/v1/predictions`。
- 轮询结果:GET prediction,直到 status 为 `succeeded`。
- 返回输出:通常是生成内容的 URL。
- 获取输出的方式一:创建 prediction,从响应中保存 id,并轮询直到完成。
- 获取输出的方式二:创建 prediction 时设置 `Prefer: wait` 请求头,获得阻塞式同步响应;仅建议用于非常快的模型,最多 60 秒。
- 获取输出的方式三:创建 prediction 时设置 HTTPS webhook URL,Replicate 会在 prediction 完成时向该 URL POST。
- 使用 `POST /v1/predictions` 端点,因为它同时支持官方模型和社区模型。
- 每个模型有自己的 OpenAPI schema;始终拉取并检查模型 schema,确认设置的输入有效,即使热门模型也会更改 schema。
- 根据 schema 约束校验输入参数(`minimum`、`maximum`、`enum` 值),不要生成违反约束的值。
- 不确定参数值时,使用模型的默认示例,或省略该可选参数。
- 除非有理由,否则不要设置可选输入;坚持必填输入,让模型默认值生效。
- 文件输入尽可能使用 HTTPS URL;也可以发送 base64 编码文件,但应避免。
- 同时发起多个 prediction;不要等一个完成后再开始下一个。
- 输出文件 URL 1 小时后过期;如果需要保留,备份它们,例如使用 Cloudflare R2 之类的服务。
- Webhooks 是接收和存储 prediction 输出的好机制。
- Prediction 会经历这些状态:`starting` -> `processing` -> `succeeded` / `failed` / `canceled`。
- 官方模型使用 `owner/name` 格式;社区模型需要 `owner/name:version_id`。
- `POST /v1/predictions` 端点同时处理官方模型和社区模型。
- 创建 prediction 时将 `webhook` 设置为 HTTPS URL;Replicate 会在完成时 POST 完整 prediction 对象。
- 用 `webhook_events_filter` 过滤事件:`start`、`output`、`logs`、`completed`。
- 使用 `Webhook-ID`、`Webhook-Timestamp`、`Webhook-Signature` 请求头校验 webhook 签名;从 `GET /v1/webhooks/default/secret` 获取签名密钥。
- 设置 `lifetime` 自动取消运行过久的 prediction(例如 `30s`、`5m`、`1h`);从创建时间开始计算。
- 支持流式输出的语言模型会在响应中包含 `stream` URL;使用 SSE 接收增量输出。
- 文件输入优先使用 HTTPS URL;一个 prediction 的输出 URL 可以直接作为下一个模型的文件输入。
- 输出文件 URL 1 小时后过期;如果需要保留,立即下载并存储。
- 通过将输出 URL 作为文件输入传给下一个模型来串联模型。
- 并行启动所有独立的 prediction,然后收集结果。
- 输出 URL 有效期为 1 小时,对于流水线步骤而言足够。
适用边界 · 注意事项
- 不使用 Replicate 或无法访问 Replicate API/互联网时。
- 需要同步阻塞等待超过 60 秒的模型时,不要使用 `Prefer: wait`,应改用轮询或 webhook。
- 需要长期保存输出但未配置对象存储或备份机制时,不要依赖 Replicate 的输出文件 URL。