当前位置: 首页 > Linux运维

大模型网关Bifrost 路由规则:实现负载均衡与故障转移

Linux运维 0条评论 2026-3-27 451 views
上一篇文章介绍了高可用 LLM 网关 Bifrost 的安装与基本使用,还未部署的朋友可参考《从零搭建高可用 LLM 网关:Bifrost 部署与上手指南》。若要构建稳定可靠的 LLM 网关,Bifrost 的路由规则至关重要。借助其强大且灵活的配置,您可以轻松实现模型的负载均衡与故障转移。Bifr...

从零搭建高可用 LLM 网关:Bifrost 部署与上手指南

Docker 0条评论 2026-3-26 599 views
做 AI 应用,最头疼的就是对接各家五花八门的 API,还要操心谁挂了、谁慢了。Bifrost 就是为了解决这个麻烦而生的——一个用 Go 写的超轻量开源网关。它能把 OpenAI、Claude、Gemini 等所有模型统一成一个标准接口给你用,不仅速度快,还自带自动故障转移和负载均衡。Bifros...

服务器数据备份方案:用Backrest实现加密+增量+定时备份

Linux运维 2条评论 2025-8-11 7,421 views
backrest是一款基于restic的可视化加密备份工具,如果还不了解restic的可以参考xiaoz之前写的一篇文章《CentOS 7使用restic备份VPS数据》,backrest在restic基础上增加了WEBUI管理和定时任务、快照预览等功能,极大的简化了restic繁杂的命令行操作。这...

MinIO替代品:使用Docker轻松部署RustFS高性能对象存储服务

Docker 0条评论 2025-7-25 9,954 views
私有对象存储用得比较多的大概是MinIO了,但最近xiaoz在网上看到MinIO新版本删减了WEB控制台功能,且修改了License,最新版本的MinIO商业使用可能存在风险,这时候一般有两种选择:继续使用旧版本MinIO:minio/minio:RELEASE.2022-05-26T05-48-4...

使用 Docker 部署 OpenResty Manager 搭建可视化反向代理系统

Docker 0条评论 2025-5-19 7,393 views
在之前的文章中,xiaoz推荐过可视化Nginx反向代理工具Nginx Proxy Manager,最近xiaoz还发现一款功能更加强大,界面更加漂亮的OpenResty Manager,完全可以替代Nginx Proxy Manager,并且还带有基础防御功能,推荐在服务器或NAS上搭建使用。Op...

Jenkins Publish Over SSH实战指南:常见问题与解决方案

Linux运维 0条评论 2025-3-7 7,252 views
最近计划对Jenkins的构建项目进行优化,将传统的scp命令替换为Publish Over SSH插件来执行远程命令和文件传输操作,从而提升安全性和简化流程。本文将分享我在使用Jenkins Publish Over SSH插件过程中积累的一些经验以及踩坑记录。Jenkins安装Publish O...

实战指南:使用Docker安装Jenkins并结合Buildx构建跨平台镜像

Linux运维 0条评论 2025-3-5 7,264 views
最近尝试升级 Jenkins,但升级后无法启动。经过排查,发现原因是 JDK 版本过低:旧版本使用的是 JDK 8,而新版本需要 JDK 17。为了省去升级 JDK 的麻烦,索性直接将其迁移到容器版本,一劳永逸地解决了环境依赖问题。准备工作目录权限Jenkins容器版本内部使用jenkins用户运行...

【开源】借助DPanel的强大可视化界面,轻松高效管理Docker容器

Docker 0条评论 2024-10-31 8,215 views
DPanel 是一款专为 Docker 打造的可视化管理面板,为用户提供全面且直观的容器管理体验。通过它,用户可以轻松执行容器的启动、停止、删除等操作,并实时监控资源状态,告别复杂的命令行。官网:https://dpanel.cc/#/Github开源地址:https://github.com/do...

开源轻量级服务器监控工具 Beszel:基于 Docker 的安装与使用指南

Docker 0条评论 2024-10-12 14,938 views
Beszel 是一款开源的轻量级服务器资源监控工具,支持对服务器的关键资源进行实时监控,并记录历史数据。它通过直观的界面展示 CPU、内存、磁盘 I/O 等关键指标,还支持监控 Docker 容器的运行状态,帮助用户更好地了解容器的性能表现。除此之外,Beszel 还具备告警功能,能在系统出现异常时...