Асинхронные инструменты без блокировок

Если инструмент выполняет медленную работу синхронно, он блокирует весь сервер, поэтому каждому другому вызову приходится ждать своей очереди. ⏳

Инструмент, обращающийся к базе данных или API, большую часть времени тратит на ввод-вывод: он ждёт ответа, а не использует CPU.

Если объявить инструмент асинхронным, сервер сможет обрабатывать другие запросы во время ожидания, а не простаивать на одном вызове.

Объявите обработчик асинхронным, используя async def, и FastMCP дождётся его завершения, пока цикл событий будет обслуживать другую работу.

Внутри асинхронного инструмента используйте await для асинхронных библиотек, чтобы каждая пауза возвращала управление циклу, а не замораживала его.

Выбирайте клиентов, рассчитанных на асинхронную работу, например для HTTP или PostgreSQL. Они умеют ожидать без блокировки, в отличие от блокирующих библиотек, останавливающих весь цикл.

Обычный вызов time.sleep или тяжёлый цикл блокирует все остальные запросы. В асинхронном коде блокирующие вызовы незаметно замораживают сервер.

Для настоящих вычислений на CPU передавайте работу в поток с помощью asyncio.to_thread, чтобы цикл событий оставался свободным для обработки вызовов.

Нужно выполнить несколько операций fetch одновременно? asyncio.gather запускает ожидаемые операции вместе, поэтому всё завершается гораздо быстрее, чем при последовательном ожидании.

Оборачивайте длительные ожидаемые операции в тайм-аут, чтобы один зависший внешний сервис не удерживал запрос бесконечно и не лишал сервер ресурсов.

При асинхронном вводе-выводе один процесс может одновременно обрабатывать множество текущих вызовов, поэтому Ваш сервер остаётся отзывчивым при реальной нагрузке.

Вы сделали инструменты асинхронными, дождались завершения операций ввода-вывода, вынесли вычисления на CPU и запустили вызовы вместе, поэтому один медленный инструмент больше не замораживает сервер. 🚀