48、网络 API 请求重试策略解析

网络 API 请求重试策略解析

在网络 API 的使用过程中，请求失败是难以避免的情况。有些错误源于客户端的失误，而另一些则是客户端无法控制的问题导致的。对于后者，在合适的时机重试相同的请求往往是解决问题的有效方法。本文将深入探讨如何确定哪些 API 请求失败后可以安全重试、重试时机的高级指数退避策略、如何避免“踩踏效应”，以及 API 如何为客户端指定重试时间。

1. 重试的动机

在网络 API 中，部分请求失败是不可避免的。失败的原因主要分为两类：
- 客户端错误 ：如请求消息无效等，这类错误通常是请求本身违反了某些约束或违背了 API 的业务逻辑。即使再次发送相同的无效请求，也会得到相同的错误响应。
- 服务器内部问题 ：例如服务器过载、系统或必要子组件进行定期维护等。这类错误与请求本身无关，再次尝试相同的请求有可能成功，或者至少会得到不同的错误结果。

HTTP 错误码可以在一定程度上提示请求是否可重试。一般来说，400 级错误（如 400 Bad Request、403 Forbidden、404 Not Found 等）通常是特定请求的问题，而 500 级错误（如 500 Internal Server Error 或 503 Service Unavailable）更可能表示内部服务存在问题，500 级错误更有可能可重试，但这只是一个大致的指导原则。此外，错误码并不能明确告知客户端何时应该重试失败的请求。

2. 总体概述

该策略的目标是在尽可能少地重试请求的同时，响应尽可能多的请求。为了实现这一目标，需要解决两个问题：