El recurso InferenceService
Declare el despliegue de un modelo en un único manifiesto.
El recurso InferenceService es una lección gratuita de MLOps Academy en CoddyKit. Esta es la lección 1 de 4. Puedes leer la lección completa abajo gratuitamente — luego la practicas en el navegador con un editor de código integrado y un tutor de IA 24/7. Forma parte de la ruta de aprendizaje de MLOps Academy, y tu progreso se sincroniza en la web y la app de CoddyKit. El curso de MLOps Academy incluye 4 lecciones en total.
Conozca KServe
KServe convierte un modelo entrenado en un endpoint de producción en Kubernetes. Usted describe lo que necesita y KServe se encarga del serving, el escalado y el enrutamiento. KServe es su capa de serving. 🚀
Un recurso para gobernarlos a todos
En lugar de escribir Deployments y Services sin procesar manualmente, cree un único recurso personalizado. InferenceService es el objeto que define toda la configuración de serving.
Solo es YAML
Declare un InferenceService en un pequeño manifiesto YAML y aplíquelo con kubectl. KServe lee ese manifest y crea todo lo necesario por debajo.
apiVersion: serving.kserve.io/v1beta1
kind: InferenceService
metadata:
name: sklearn-irisEl bloque predictor
El núcleo de la especificación es predictor, que indica cómo cargar y ejecutar el modelo. Indica a KServe dónde está el modelo y qué runtime debe servirlo.
spec:
predictor:
model:
modelFormat:
name: sklearn
storageUri: gs://kfserving-examples/models/sklearn/1.0/modelDónde reside su modelo
storageUri indica a KServe desde dónde obtener el modelo, por ejemplo, un bucket de GCS o S3. KServe lo descarga en el contenedor de serving al iniciarse.
El formato del modelo selecciona el runtime
El campo modelFormat, como sklearn o pytorch, permite que KServe elija automáticamente un runtime de serving compatible. No se necesita código de servidor personalizado para los frameworks habituales.
Aplíquelo como cualquier recurso
Envíe el manifiesto al clúster con un comando normal de kubectl. KServe detecta el objeto nuevo y empieza a reconciliarlo para convertirlo en un servicio en ejecución. kubectl apply inicia el proceso.
kubectl apply -f sklearn-iris.yamlObserve cómo pasa a estar listo
Después de aplicarlo, compruebe el estado hasta que el servicio indique READY. La columna READY cambia a True cuando el modelo se ha cargado y acepta tráfico.
kubectl get inferenceservice sklearn-irisObtendrá una URL
Un InferenceService listo expone una URL estable para realizar predicciones. Los clientes envían allí sus solicitudes y KServe las dirige al modelo internamente.
Envío de una predicción
Envíe sus datos de entrada mediante POST como JSON a la ruta predict de esa URL. KServe los reenvía al modelo y devuelve la prediction en el cuerpo de la respuesta.
curl -X POST $URL/v1/models/sklearn-iris:predict \
-d '{"instances": [[5.1, 3.5, 1.4, 0.2]]}'También transformer y explainer
Además de predictor, la especificación puede añadir un transformer para el preprocesamiento y posprocesamiento, y un explainer para obtener información explicativa. Ambos son opcionales y se encadenan automáticamente.
Comprobación rápida
Quiere que KServe sirva un modelo. ¿Qué único objeto debe declarar?
Resumen
Ha aprendido que InferenceService es el recurso declarativo único de KServe. Configure un predictor con un storageUri y un formato, aplíquelo y obtenga una URL de predicción lista para usar. ¡Buen trabajo! 🎉
Preguntas frecuentes
¿La lección «El recurso InferenceService» es gratis?
Sí — el texto completo de «El recurso InferenceService» es gratis para leer aquí en la web. Para practicarla de forma interactiva (editor de código integrado y tutor de IA 24/7) y desbloquear el resto del curso de MLOps Academy, actualiza a CoddyKit PRO. El curso de MLOps Academy incluye 4 lecciones en total.
¿Qué aprenderé en «El recurso InferenceService»?
Declare el despliegue de un modelo en un único manifiesto. Practicas MLOps Academy con código real que ejecutas directamente en el navegador, y un tutor de IA 24/7 responde tus preguntas mientras trabajas en la lección.
¿Necesito experiencia previa para empezar MLOps Academy?
No se requiere experiencia previa. MLOps Academy en CoddyKit está estructurado para principiantes hasta estudiantes avanzados, así que puedes empezar aquí o desde el inicio y avanzar a tu ritmo. Esta es la lección 1 de 4.
¿Cuánto tiempo toma la lección «El recurso InferenceService»?
La mayoría de las lecciones de CoddyKit toman alrededor de 5–10 minutos. Cada una es compacta e interactiva, así que avanzas constantemente y retomas exactamente por donde dejaste en la web y la app.
¿Puedo escribir y ejecutar código en esta lección de MLOps Academy?
Sí. Cada lección de MLOps Academy incluye un editor de código integrado, así que escribes y ejecutas código real directamente en tu navegador y obtienes retroalimentación instantánea de IA — sin configuración local necesaria.
Todas las lecciones de este curso
- El recurso InferenceService
- Escale a cero y vuelva a activar
- Escriba un predictor personalizado
- KServe frente a Seldon Core