MLOps Academy · Aula

O recurso InferenceService

Declare uma implantação de modelo em um único manifesto.

O recurso InferenceService é uma aula grátis de MLOps Academy no CoddyKit. Esta é a aula 1 de 4. Você pode ler a aula completa abaixo gratuitamente — depois pratica ao vivo no navegador com um editor de código integrado e um tutor de IA 24/7. Faz parte do caminho de aprendizado de MLOps Academy, e seu progresso é sincronizado entre a web e o app CoddyKit. O curso de MLOps Academy inclui 4 aulas no total.

Conheça o KServe

O KServe transforma um modelo treinado em um endpoint de produção no Kubernetes. Você descreve o que deseja, e ele cuida do atendimento, do dimensionamento e do roteamento para você. O KServe é sua camada de atendimento. 🚀

Um recurso para governar todos

Em vez de escrever implantações e serviços brutos manualmente, você cria um único recurso personalizado. O InferenceService é o objeto que define toda a sua configuração de atendimento.

É apenas YAML

Você declara um InferenceService em um pequeno manifesto YAML e depois o aplica com kubectl. O KServe lê esse manifesto e cria tudo o que está por baixo dele.

apiVersion: serving.kserve.io/v1beta1
kind: InferenceService
metadata:
  name: sklearn-iris

O bloco do preditor

O núcleo da especificação é o predictor, que informa como carregar e executar seu modelo. Ele aponta para o modelo e para o ambiente de execução que deverá atendê-lo.

spec:
  predictor:
    model:
      modelFormat:
        name: sklearn
      storageUri: gs://kfserving-examples/models/sklearn/1.0/model

Onde seu modelo está armazenado

O storageUri informa ao KServe de onde buscar o modelo, como um bucket do GCS ou do S3. O KServe faz o download dele para o contêiner de atendimento durante a inicialização.

O formato do modelo escolhe o ambiente de execução

O campo modelFormat, como sklearn ou pytorch, permite que o KServe escolha automaticamente um ambiente de atendimento compatível. Não é necessário escrever código de servidor personalizado para estruturas comuns.

Aplique-o como qualquer recurso

Você envia o manifesto para o cluster com um comando comum do kubectl. O KServe vê o novo objeto e começa a reconciliá-lo até transformá-lo em um serviço em execução. kubectl apply dá início ao processo.

kubectl apply -f sklearn-iris.yaml

Acompanhe até ficar pronto

Depois de aplicar, verifique o status até que o serviço informe READY. A coluna READY muda para True quando o modelo é carregado e começa a aceitar tráfego.

kubectl get inferenceservice sklearn-iris

Você recebe uma URL

Um InferenceService pronto expõe uma URL estável para previsões. Os clientes enviam solicitações para ela, e o KServe as encaminha ao seu modelo nos bastidores.

Enviando uma previsão

Envie sua entrada como JSON pelo método POST para o caminho predict dessa URL. O KServe a encaminha ao modelo e retorna a previsão no corpo da resposta.

curl -X POST $URL/v1/models/sklearn-iris:predict \
  -d '{"instances": [[5.1, 3.5, 1.4, 0.2]]}'

Também há transformador e explicador

Além do preditor, a especificação pode adicionar um transformador para o pré e pós-processamento e um explicador para obter informações. Cada um é opcional, e eles são encadeados automaticamente.

Verificação rápida

Você quer que o KServe atenda a um modelo. Qual é o único objeto que deve declarar?

Recapitulação

Você aprendeu que o InferenceService é o único recurso declarativo do KServe. Defina um preditor com um storageUri e um formato, aplique-o e obtenha uma URL de previsão pronta. Bom trabalho! 🎉

Perguntas Frequentes

A aula “O recurso InferenceService” é grátis?

Sim — o texto completo de “O recurso InferenceService” é grátis para ler aqui na web. Para praticá-la interativamente (um editor de código integrado e um tutor de IA 24/7) e desbloquear o restante do curso de MLOps Academy, atualize para CoddyKit PRO. O curso de MLOps Academy inclui 4 aulas no total.

O que vou aprender em “O recurso InferenceService”?

Declare uma implantação de modelo em um único manifesto. Você pratica MLOps Academy com código prático que executa diretamente no navegador, e um tutor de IA 24/7 responde suas dúvidas enquanto trabalha na aula.

Preciso ter experiência prévia para começar MLOps Academy?

Nenhuma experiência prévia é necessária. MLOps Academy no CoddyKit é estruturado para alunos iniciantes até avançados, então você pode começar aqui ou desde o início e aprender no seu ritmo. Esta é a aula 1 de 4.

Quanto tempo leva a aula “O recurso InferenceService”?

A maioria das aulas CoddyKit leva cerca de 5–10 minutos. Cada uma é compacta e interativa, então você faz progresso constante e retoma exatamente de onde parou entre web e app.

Posso escrever e executar código nesta aula de MLOps Academy?

Sim. Cada aula de MLOps Academy inclui um editor de código integrado, então você escreve e executa código real direto no navegador e recebe feedback de IA instantaneamente — nenhuma configuração local necessária.

Todas as aulas deste curso

← Voltar para MLOps Academy