Gateway API-散宜生的个人博客

散宜生的个人博客

累计撰写 238 篇文章
累计创建 148 个标签
累计收到 0 条评论

目录CONTENT

以下是 Gateway API 相关的文章

2025-10-07
SGLang 上 K8S：接入 Open WebUI、服务发布与 GPU 运维当 SGLang 已经能在单机上通过本地或 Docker 方式稳定提供推理接口后，下一步自然就是把它放进 K8S，接上 Open WebUI，变成团队可共享、可访问、可观测的内部 AI 服务。本文按实战顺序完成这条链路：准备模型存储、部署 SGLang 工作负载、接入 Open WebUI、通过 NodePort 和 Gateway 发布服务，并补上 GPU 与 SGLang 指标监控和告警。
- 2025-10-07
- 8
- 0
- 0
- AI 推理服务
2025-10-01
vLLM 上 K8S：服务部署、对外暴露、监控与验证当 vLLM 已经能在单机上通过本地或 Docker 方式稳定提供 API 后，下一步自然就是把它放进 K8S，变成团队可以共享、扩展和观测的正式推理服务。本文按实战顺序完成这条链路：部署 NVIDIA Device Plugin、准备模型存储、发布 vLLM 工作负载、通过 Service 和 Gateway 对外暴露，并补上 GPU 与服务层监控。
- 2025-10-01
- 4
- 0
- 0
- AI 推理服务
2025-09-24
用 Ollama + Open WebUI 快速搭建本地 AI 体验环境当前面的 K8S 底座、入口和存储都补齐后，最适合先跑通的一条 AI 路线，往往不是直接上 vLLM 或 SGLang，而是先用 Ollama + Open WebUI 做一套低门槛、可交互、可验证的本地 AI 体验环境。本文按实战顺序完成完整闭环：部署 Ollama、拉起 DeepSeek 模型、接入 Open WebUI、通过 Gateway 对外暴露，并给出关键命令输出和验收方法。
- 2025-09-24
- 4
- 0
- 0
- AI 应用实践
2025-09-21
为 K8S 补齐入口与存储：MetalLB、Gateway API、NFS 动态供给一套原生 K8S 集群即使已经 Ready，也还不等于能稳定承载 AI 服务。裸机或私有云环境里，最缺的通常是三类能力：对外入口、负载均衡地址，以及可动态申请的持久存储。本文按实战顺序补齐这三层：MetalLB、Gateway API 和 NFS 动态供给，并在关键步骤给出命令、示例输出和验收方法。
- 2025-09-21
- 2
- 0
- 0
- AI Infra