ChatgptShareServer

审计限流

审计限流服务为开源项目,用于对用户的输入进行合规审核并对用户请求频率进行限制。

仓库地址 https://github.com/cockroachai/auditlimitopen in new window

安装配置

默认部署时已经集成了限流服务,可以在docker-compose.yml中查看更改相关配置

services:
  auditlimit:
    image: xyhelper/auditlimit
    restart: always
    ports:
      - 9611:8080
    environment:
      LIMIT: 40  # 限制每个userToken允许的次数
      PER: "3h" # 限制周期 1s, 1m, 1h, 1d, 1w, 1y
      # OAIKEY: "sk-xxxxx"  # OPENAI API KEY,使用OPENAI审计服务时配置

OAI审计接口介绍

OAI提供了免费的审计接口,调用不计费,但建议使用 tier 1 或更高级别的apikey,以免因限速导致调用审计失败。

当前审计限流服务在调用审计接口失败后会直接放行请求。

审计效果如下:

审计效果