超时阈值是很多环境里唯一没被认真调过的参数——装上客户端时是多少,几年之后还是多少。这个值定得太短会把正常慢的请求判成失败,定得太长会让故障请求占着连接不放,两种情况都会让代理IP线路的实际表现偏离预期。代理IP线路的超时要按请求类型分别定,不能全局一个值,下面讲怎么取值、怎么验证取得对不对。
超时的取值来源与验证
取值有两个来源。第一个来源是历史耗时分布:统计同类请求过去两周的耗时,取九成请求完成的时间,在它基础上放一半余量。第二个来源是业务容忍上限:任务如果等超过某个时间就没意义了,那这个时间就是硬边界。
两个来源给出的值可能不一致,处理方式是以硬边界为准。假设历史分布说超时该设十五秒,业务只容忍八秒,那设十五秒毫无意义——它省下的失败次数换来的是超时的无效结果。没有业务容忍上限这个数,光靠历史分布定超时,很容易定出一个技术上合理、业务上没用的值。
超时值要按请求类型分开定,至少分三类。短请求指查询与心跳类,容忍度低,设三到五秒;长请求指文件传输与批量提交,需要几十秒;交互式请求看用户体验,通常三秒内必须给反馈。三类共用一个值时,一定是长请求频繁失败、短请求又占着连接太久,两边都不合适。
重试次数与超时值是配在一起的。超时八秒、重试三次,最坏情况单条请求占用二十四秒。批量环境里几十条并发同时进入这个状态,队列会迅速堆积。所以定超时值时要把重试次数算进去看总耗时,代理IP线路的连接池容量要按这个总耗时来估。
验证方法很直接:故意设置一个明显过短的值跑一段时间,统计被判失败的请求里有多少后来在正常超时下能成功。这个比例如果超过一成,说明取值过紧;低于两成且失败集中在真实故障时段,说明取值合理。验证要跑足一个完整业务周期,短时间的观察会被时段差异误导。
还有一处常被忽略:客户端超时与服务端超时要对齐。客户端六秒断开,服务端还按二十秒处理,请求在服务端完成了但客户端已经报错,这种”成功但报失败”的结果比单纯的失败更麻烦,因为它会触发重放。代理IP线路链路上任何一段的超时不一致,都会表现为随机性的结果异常。
长期维护上,超时值要跟线路表现一起重新校准。换过线路、加过新出口之后原来的分布会变,建议每次线路变更后重做一次分布统计。没有变更记录时按季度看一次即可,不必频繁调整。
最后一句实用提醒:改超时要单独记录。批量环境里出问题时,大家会检查线路配置、环境参数,很少想到三个月前有人调过超时值。把它记进变更台账,比靠回忆可靠得多。
问:能不能设成不超时,一直等?
不能。不超时意味着故障时连接永远不会释放,几十条并发全部挂住之后整个流程停摆,恢复比超时误判更难。宁可设一个偏短的值并配好重放。
问:不同地区的线路要不要用不同超时?
要。距离远的线路基础耗时高,共用一个短超时会把远线路的正常请求大量判成失败,表现为某条线路的成功率明显低于其他条。
