Gestion des limites de taux de l'API

Copilot Chat peut aider à gérer les limites de débit API en suggérant du code qui détecte et implémente une logique de nouvelle tentative.

Dans cet article

Lorsque vous effectuez des demandes à des API, il est courant de rencontrer des limites de débit qui limitent le nombre d’appels que vous pouvez effectuer dans un délai donné. GitHub Copilot Chat peut vous aider à gérer ces limites en suggérant du code pour détecter les réponses de limitation de débit et réessayer automatiquement les requêtes après un certain délai.

Exemple de scénario

Le code Python suivant extrait des données météorologiques à partir d’une API externe. Si l’API a des limites de débit, les requêtes peuvent échouer lorsque des limites sont dépassées et votre application peut avoir besoin d’un moyen de gérer ces réponses correctement en implémentant la logique de nouvelle tentative.

from flask import Flask, request
import requests

app = Flask(__name__)

WEATHER_API_URL = "https://api.example.com/weather"

@app.route('/get_weather', methods=['GET'])
def get_weather():
    city = request.args.get('city')
    # Simulate an API request to the external weather service
    response = requests.get(WEATHER_API_URL, params={"city": city})
    weather_data = response.json()

    return weather_data

Exemples d’invite

How can I handle API rate limits within get_weather().

Exemple de réponse

Remarque

La réponse suivante est un exemple. Les réponses Copilot Chat ne sont pas déterministes, vous pouvez donc obtenir une réponse différente de celle affichée ici.

Copilot pourrait suggérer un code qui implémente un mécanisme de réessai avec un backoff exponentiel pour limiter la fréquence des tentatives de réessai.

Par exemple :

import requests
from flask import Flask, request
from requests.adapters import HTTPAdapter
from requests.packages.urllib3.util.retry import Retry

app = Flask(__name__)

WEATHER_API_URL = "https://api.example.com/weather"

def requests_retry_session(
    retries=3,
    backoff_factor=0.3,
    status_forcelist=(500, 502, 504),
    session=None,
):
    session = session or requests.Session()
    retry = Retry(
        total=retries,
        read=retries,
        connect=retries,
        backoff_factor=backoff_factor,
        status_forcelist=status_forcelist,
    )
    adapter = HTTPAdapter(max_retries=retry)
    session.mount("https://", adapter)
    session.mount("https://", adapter)
    return session

@app.route('/get_weather', methods=['GET'])
def get_weather():
    city = request.args.get('city')
    try:
        response = requests_retry_session().get(WEATHER_API_URL, params={"city": city})
        response.raise_for_status()
        weather_data = response.json()
    except requests.exceptions.RequestException as e:
        return {"error": str(e)}, 500

    return weather_data

Dans cet exemple, Copilot propose notamment de mettre en place une session de répétition qui permet au code de relancer automatiquement les demandes si elles échouent en raison de codes d'état spécifiques (500, 502, 504). Le backoff_factor augmente progressivement le délai entre les nouvelles tentatives, ce qui permet d’éviter de dépasser davantage la limite de débit de l’API.

Pour aller plus loin