Gestire le richieste di annullamento

L’utente potrebbe chiudere una chat o cambiare idea mentre è in esecuzione uno strumento lungo. MCP consente al client di inviare una cancellazione, così il lavoro inutile può terminare.

Il client lo segnala con un messaggio notifications/cancelled che indica il requestId da interrompere. È un’operazione fire-and-forget, senza risposta.

È possibile cancellare solo una richiesta in corso, identificata dal relativo requestId. Le notifiche, che non hanno un id, non possono mai essere cancellate.

Una cancellazione è una richiesta cortese, non un arresto forzato. Il lavoro potrebbe essere già in fase di conclusione, quindi la consideri un’indicazione di tipo best-effort per terminare gradualmente.

Nel Python SDK, una cancellazione arriva come un asyncio.CancelledError generato all’interno dello strumento in attesa. Di solito non deve controllare personalmente alcun flag.

Il comportamento corretto più semplice consiste nel lasciare che CancelledError si propaghi. Il framework interromperà quindi l’attività e non invierà un risultato normale.

Se lo strumento mantiene aperto un file o acquisisce un lock, lo racchiuda in una struttura che rilasci comunque le risorse in caso di cancellazione. Un blocco try/finally garantisce che la pulizia venga eseguita durante l’uscita.

Non intercetti mai CancelledError per poi continuare in silenzio. Così vanifichi l'intero scopo della cancellazione e lasci al client l'impressione che il lavoro sia stato interrotto.

Una volta cancellata una richiesta, non inviare né un risultato né un errore per quella richiesta. Il client è già passato oltre e qualsiasi risposta tardiva viene semplicemente ignorata.

Rispettare rapidamente la cancellazione libera CPU, rete e token del modello. Un server che si arresta prontamente si comporta da buon cittadino in un agent affollato.

Per i cicli CPU intensivi senza await, inserisca qua e là un breve await asyncio.sleep(0), così la cancellazione ha la possibilità di intervenire tra un'iterazione e l'altra.

Ha visto la notifica cancelled, perché le cancellazioni sono best effort e come lasciare propagare CancelledError eseguendo al contempo la pulizia necessaria. Ottimo lavoro!