Ваши пользователи физически близко к edge-узлам — может, 20-50мс. Ваши origin-серверы — в 150-300мс. Весь смысл edge-инфраструктуры — сократить этот разрыв. Но как понять, действительно ли ваш edge-слой помогает? Тут и появляются бюджеты задержки.
Что такое бюджет задержки?
Бюджет задержки — это максимально допустимое время выполнения запроса с точки зрения пользователя. Если ваш целевой показатель «до 200мс», это и есть ваш бюджет. Каждая миллисекунда, добавляемая edge-слоем, вычитается из бюджета приложения.
Разбираем по частям
Типичный edge-запрос включает: DNS-резолвинг, TLS-рукопожатие, edge-обработку (поиск в кеше, маршрутизация), обращение к origin (при промахе кеша) и доставку ответа. Каждая из этих стадий потребляет часть бюджета. Мониторинг каждой стадии независимо — единственный способ понять, куда уходит задержка.
Реалистичные целевые показатели
Не устанавливайте единый глобальный целевой показатель задержки. Ваши пользователи в Токио и ваши пользователи в Лондоне имеют разные сетевые маршруты и разные ожидания. Установите целевые показатели по каждому региону на основе реальных сетевых условий и измеряйте относительно них — а не относительно какого-то идеализированного глобального числа.
В EdgePulse мы построили мониторинг вокруг этого принципа: каждая проверка измеряет полный путь, и каждый алерт оценивается относительно соответствующего регионального базового показателя. Это единственный способ получить сигнал без шума.