Cómo solucionar el tiempo de respuesta lento de la API cuando la base de datos parece estar bien

El mes pasado tenía una API de producción que parecía saludable en todos los lugares equivocados. La CPU era baja, PostgreSQL no mostraba esperas de bloqueo y el endpoint aún devolvía 2 a 4 segundos en p95 durante el pico de tráfico de la mañana. La parte frustrante era que una sola solicitud manual en staging se devolvió rápidamente, por lo que la primera reacción fue culpar a la red o al CDN…