1. 需求与架构概览
- 目标:为
香港站群提供按需扩展的物理机器池与高可用网络层。
- 并发目标:峰值并发连接 120k,平均每秒请求(RPS)20k。
- 可用性要求:SLA 99.95%,单机故障时 5s 内切换流量。
- 扩展策略:按业务分层(边缘->应用->数据库)按需添加物理机或虚拟化实例。
- 关联要素:域名解析(权重A/备A记录)、CDN 前置、DDos 清洗链路与机房带宽规划。
2. 物理机器按需扩展策略
- 基于监控触发扩展:CPU>65%或连接数>40k 时自动启动预留机器并加入负载池。
- 预留资源池:常驻 4 台热备物理机,按需最多扩展到 24 台。
- 冷启动时间:物理机镜像预热 90 秒,应用容器启动 15 秒,流量切换 <10s。
- 网络预配:使用可编程交换机并配置 VXLAN/VLAN,快速搬迁 IP 和路由。
- 存储策略:应用层使用本地 NVMe + 异步备份到 NAS/对象存储,数据库采用主从复制与热备。
3. 网络设计(VLAN / BGP / Anycast)
- 核心骨干:机房到上游骨干 20Gbps 聚合链路,单机出口 1Gbps,能在线性扩展。
- BGP 宣告:通过两家上游做双出口 BGP,前缀 Anycast 用于边缘节点就近接入。
- VLAN 划分:VLAN10(前端)、VLAN20(应用)、VLAN30(数据库)、VLAN99(管理)。
- 路由策略:内部使用 iBGP + 优先级策略,外部用 AS-path 控制流量回源。
- QOS 与限速:对管理流量与清洗流量设置优先级,防止控制面被洪水影响。
4. 负载均衡与故障切换方案
- 边缘负载:使用 Anycast + CDN 做静态加速并吸收部分请求。
- 二级负载:LVS(IPVS)做第 4 层均衡,后端为 HAProxy 做第 7 层智能路由。
- 高可用:Keepalived 做主备 VIP 切换,心跳 interval=1s,dead=3 则 3s 切换。
- 性能参数:单台 LVS 节点可处理 ~200k TPS,HAProxy 配置 maxconn=20000。
- 健康检查:TCP/HTTP 检查并结合应用层自定义探针(响应时间、错误率阈值)。
5. CDN 与 DDoS 防护设计
- CDN 布局:多家 CDN 提供商组合,启用静态就近缓存与动态回源加速。
- DDoS 策略:流量清洗链路 10/20/100Gbps 按需接入,上游黑洞与流量分流并行。
- 防护规则:基于速率限制、连接数、地理封锁与行为指纹。
- 清洗触发:当边缘入口流量超过 60% 口线或 SYN 洪泛超过 50k/s 自动触发清洗。
- 日志与溯源:Netflow/sFlow + WAF 日志用于攻击溯源与规则自动化下发。
6. 真实案例与服务器配置示例
- 案例:某香港电商站群(12 个站点)在双十一期间峰值 RPS 18k,成功通过上述架构将可用性保持在 99.98%。
- 运行结果:流量高峰期总带宽峰值 9.5Gbps,DDoS 攻击峰值 25Gbps 被 CDN+清洗池完全吸收。
- 配置示例表(三类节点):
| 角色 | CPU | 内存 | 磁盘 | 带宽 |
| 前端(NGINX) | 2x E5-2620 v4 | 32GB | 2x480GB NVMe | 1Gbps |
| 应用(容器) | 2xE5-2630 v4 | 64GB | 1TB SSD | 1Gbps |
| 数据库(主/从) | 2xE5-2680 v4 | 128GB | 4TB RAID10 | 1Gbps |
- 经验总结:将物理机器池与软件自动化(Ansible/MAAS)结合,能在 2 分钟内完成扩容并保证路由与负载均衡正确切换。
来源:香港站群物理机器按需扩展的网络架构与负载均衡方案