AI Agents · Aula

Coleta e armazenamento de feedback

Capturando avaliações explícitas e sinais comportamentais implícitos das interações com agentes.

Aula 1 de 413 etapas

Coleta e armazenamento de feedback é uma aula grátis de AI Agents no CoddyKit. Esta é a aula 1 de 4. Você pode ler a aula completa abaixo gratuitamente — depois pratica ao vivo no navegador com um editor de código integrado e um tutor de IA 24/7. Faz parte do caminho de aprendizado de AI Agents, e seu progresso é sincronizado entre a web e o app CoddyKit. O curso de AI Agents inclui 4 aulas no total.

Por que os agentes precisam de retorno

Um agente que nunca recebe retorno fica congelado no tempo — não pode melhorar além de seu treinamento inicial. O retorno fecha o ciclo entre o que o agente faz e o que os usuários realmente desejam.

Duas categorias são especialmente importantes: retorno explícito (o usuário avalia conscientemente a saída) e retorno implícito (o comportamento do usuário indica a qualidade sem que ele precise dizer isso).

Retorno explícito: polegar para cima ou para baixo

A forma mais simples: um sinal binário após cada resposta. É fácil de coletar e armazenar, mas tem baixa densidade de informação.

Padrão de implementação: depois que o agente responder, ofereça uma solicitação de retorno e registre o resultado junto ao ID do turno da conversa.

import uuid
from datetime import datetime

def collect_thumbs_feedback(turn_id: str, rating: str) -> dict:
    """rating: 'up' or 'down'"""
    assert rating in ('up', 'down'), 'Invalid rating'
    record = {
        'feedback_id': str(uuid.uuid4()),
        'turn_id': turn_id,
        'type': 'thumbs',
        'value': 1 if rating == 'up' else -1,
        'created_at': datetime.utcnow().isoformat()
    }
    return record

feedback = collect_thumbs_feedback('turn_abc123', 'up')
print(feedback)

Retorno explícito: avaliações por estrelas

Uma avaliação de 1 a 5 estrelas oferece mais granularidade do que o polegar. Ela permite distinguir entre mal aceitável (2 estrelas) e excelente (5 estrelas), o que é útil para ajustar a qualidade do sinal.

Normalize para um valor entre 0 e 1 antes de usar nos fluxos de treinamento.

def collect_star_feedback(turn_id: str, stars: int) -> dict:
    if not 1 <= stars <= 5:
        raise ValueError('Stars must be between 1 and 5')
    return {
        'turn_id': turn_id,
        'type': 'star',
        'raw_value': stars,
        'normalized': (stars - 1) / 4.0  # maps 1->0.0, 5->1.0
    }

fb = collect_star_feedback('turn_xyz456', 4)
print(fb)
# {'turn_id': 'turn_xyz456', 'type': 'star', 'raw_value': 4, 'normalized': 0.75}

Retorno explícito: correções em texto livre

O retorno em texto livre é o sinal mais rico. O usuário escreve exatamente o que queria: "O resumo ficou longo demais", "Você não mencionou o ponto principal", "Moeda errada — pedi EUR".

Armazene as correções vinculadas à saída original para que você possa combinar (saída incorreta → saída corrigida) e realizar posteriormente um ajuste fino supervisionado.

def collect_correction_feedback(
    turn_id: str,
    original_output: str,
    corrected_output: str,
    user_note: str = ''
) -> dict:
    return {
        'turn_id': turn_id,
        'type': 'correction',
        'original': original_output,
        'corrected': corrected_output,
        'user_note': user_note
    }

fb = collect_correction_feedback(
    'turn_789',
    'The capital of Australia is Sydney.',
    'The capital of Australia is Canberra.',
    'Sydney is the largest city but not the capital.'
)
print(fb)

Retorno implícito: sinal de nova pergunta

Quando um usuário faz imediatamente a mesma pergunta com palavras diferentes, isso é um forte sinal implícito de que a resposta anterior estava errada ou era insuficiente. Você não precisa que o usuário clique em nada — o próprio comportamento é o sinal.

from datetime import datetime, timedelta

def detect_re_ask(
    current_msg: str,
    conversation_history: list,
    similarity_threshold: float = 0.7,
    window_seconds: int = 120
) -> bool:
    """
    Returns True if the current message is semantically similar
    to a recent message, suggesting dissatisfaction.
    """
    now = datetime.utcnow()
    for turn in conversation_history[-5:]:
        age = (now - turn['timestamp']).seconds
        if age <= window_seconds and turn['role'] == 'user':
            # In production: use embedding cosine similarity
            if simple_similarity(current_msg, turn['content']) >= similarity_threshold:
                return True
    return False

def simple_similarity(a: str, b: str) -> float:
    words_a = set(a.lower().split())
    words_b = set(b.lower().split())
    if not words_a or not words_b:
        return 0.0
    return len(words_a & words_b) / len(words_a | words_b)

if __name__ == '__main__':
    now = datetime.utcnow()
    history = [
        {'role': 'user', 'content': 'How do I reset my password', 'timestamp': now - timedelta(seconds=30)},
    ]
    result = detect_re_ask('How do I reset my password please', history)
    print('Re-ask detected:', result)

Retorno implícito: sinal de edição da saída

Se o agente gerar um texto e o usuário editá-lo antes de usá-lo, a diferença entre o original e o editado será um retorno implícito. A versão editada é o que o usuário realmente queria.

Isso é comum em assistentes de escrita, geradores de código e redatores de e-mails.

import difflib

def extract_edit_feedback(original: str, edited: str) -> dict:
    differ = difflib.unified_diff(
        original.splitlines(),
        edited.splitlines(),
        lineterm=''
    )
    diff_lines = list(differ)
    edit_ratio = difflib.SequenceMatcher(None, original, edited).ratio()
    return {
        'type': 'edit',
        'original': original,
        'edited': edited,
        'edit_distance': 1.0 - edit_ratio,  # 0=unchanged, 1=fully rewritten
        'diff': '\n'.join(diff_lines)
    }

fb = extract_edit_feedback(
    'Dear John, I am writing to inform you...',
    'Hi John, Just a quick note...'
)
print(f"Edit distance: {fb['edit_distance']:.2f}")

Esquema de armazenamento de retornos

Todos os tipos de retorno compartilham um esquema comum com campos de carga específicos para cada tipo. Usar uma única tabela com um discriminador type e uma coluna JSON de payload mantém as consultas simples e oferece suporte a qualquer tipo de retorno.

# SQL schema for feedback storage

CREATE_TABLE_SQL = '''
CREATE TABLE agent_feedback (
    id          UUID PRIMARY KEY DEFAULT gen_random_uuid(),
    session_id  TEXT NOT NULL,
    turn_id     TEXT NOT NULL,
    agent_id    TEXT NOT NULL,
    type        TEXT NOT NULL CHECK (type IN ('thumbs','star','correction','re_ask','edit')),
    value       FLOAT,           -- numeric signal: +1/-1, 0-1, edit distance
    payload     JSONB,           -- type-specific data
    created_at  TIMESTAMPTZ DEFAULT now()
);

CREATE INDEX ON agent_feedback (agent_id, created_at);
CREATE INDEX ON agent_feedback (type);
'''

# Example insert
INSERT_SQL = '''
INSERT INTO agent_feedback (session_id, turn_id, agent_id, type, value, payload)
VALUES ($1, $2, $3, $4, $5, $6)
'''

if __name__ == '__main__':
    print('Feedback table schema:')
    print(CREATE_TABLE_SQL)
    print('Insert statement:')
    print(INSERT_SQL)

Escrita de uma classe coletora de retornos

Centralizar toda a coleta de retornos em uma única classe mantém o restante da base de código organizado. A coletora lida com a eliminação de duplicatas, o processamento em lotes e as gravações assíncronas, para que o retorno nunca bloqueie o ciclo principal do agente.

import asyncio
from collections import deque
from datetime import datetime

class FeedbackCollector:
    def __init__(self, agent_id: str, flush_interval: int = 30):
        self.agent_id = agent_id
        self.buffer: deque = deque(maxlen=1000)
        self.flush_interval = flush_interval

    def record(self, turn_id: str, fb_type: str, value: float, payload: dict):
        self.buffer.append({
            'turn_id': turn_id,
            'agent_id': self.agent_id,
            'type': fb_type,
            'value': value,
            'payload': payload,
            'created_at': datetime.utcnow().isoformat()
        })

    async def flush(self, db_client):
        while self.buffer:
            record = self.buffer.popleft()
            await db_client.insert('agent_feedback', record)

    async def start_auto_flush(self, db_client):
        while True:
            await asyncio.sleep(self.flush_interval)
            await self.flush(db_client)

if __name__ == '__main__':
    fc = FeedbackCollector(agent_id='agent-1')
    fc.record('turn-1', 'thumbs', 1.0, {'comment': 'Great answer'})
    fc.record('turn-2', 'thumbs', -1.0, {'comment': 'Wrong ticker'})
    print(f'Buffered {len(fc.buffer)} feedback records:')
    for rec in fc.buffer:
        print(' -', rec['type'], rec['value'], rec['payload'])

Agregação de retornos para análise

Os registros brutos de retorno precisam ser agregados antes de serem úteis para decisões de melhoria. Agregações comuns: taxa de aprovação por tipo de intenção, taxa de correção ao longo do tempo e categorias de saída mais editadas.

from collections import defaultdict
from statistics import mean

def aggregate_feedback(records: list) -> dict:
    by_type = defaultdict(list)
    for r in records:
        by_type[r['type']].append(r['value'])

    summary = {}
    if 'thumbs' in by_type:
        values = by_type['thumbs']
        summary['approval_rate'] = (values.count(1) / len(values)) * 100
    if 'star' in by_type:
        summary['avg_star'] = mean(by_type['star']) * 4 + 1  # denormalize
    if 'edit' in by_type:
        summary['avg_edit_distance'] = mean(by_type['edit'])
    if 'correction' in by_type:
        summary['correction_count'] = len(by_type['correction'])
    return summary

records = [
    {'type': 'thumbs', 'value': 1},
    {'type': 'thumbs', 'value': -1},
    {'type': 'star', 'value': 0.75},
    {'type': 'edit', 'value': 0.3}
]
print(aggregate_feedback(records))

Privacidade e consentimento na coleta de retornos

Os retornos geralmente contêm dados sensíveis dos usuários. Práticas recomendadas: obtenha consentimento explícito antes de registrar correções em texto livre, anonimize os identificadores de sessão antes da análise, defina limites de retenção (por exemplo, exclua os dados após 90 dias) e nunca registre PII nas cargas de retorno.

import hashlib
import re

def anonymise_feedback(record: dict) -> dict:
    """Anonymise feedback record before storing for training."""
    safe = record.copy()

    # Hash the session_id so it can't be traced back to a user
    if 'session_id' in safe:
        safe['session_id'] = hashlib.sha256(
            safe['session_id'].encode()
        ).hexdigest()[:16]

    # Strip emails and phone numbers from correction text
    if 'payload' in safe and 'corrected' in safe['payload']:
        text = safe['payload']['corrected']
        text = re.sub(r'[\w.+-]+@[\w-]+\.[\w.]+', '[EMAIL]', text)
        text = re.sub(r'\+?[0-9][\s\-().]{7,}[0-9]', '[PHONE]', text)
        safe['payload'] = dict(safe['payload'], corrected=text)

    return safe

if __name__ == '__main__':
    record = {
        'session_id': 'sess-abc123',
        'payload': {'corrected': 'Contact me at jane@example.com or 555-123-4567'}
    }
    print('Anonymised record:', anonymise_feedback(record))

Fluxo de retornos de ponta a ponta

Reunindo tudo: coletar → anonimizar → armazenar em buffer → liberar → agregar → gerar relatório. O fluxo é executado junto ao agente em produção e produz um relatório semanal de melhoria que mostra quais intenções têm as menores taxas de aprovação.

# Simplified end-to-end feedback pipeline sketch

class FeedbackPipeline:
    def __init__(self, agent_id: str):
        self.collector = FeedbackCollector(agent_id)
        self.records = []

    def on_thumbs(self, turn_id: str, rating: str):
        value = 1.0 if rating == 'up' else -1.0
        record = self.collector.record(turn_id, 'thumbs', value, {})
        self.records.append(record)

    def on_edit(self, turn_id: str, original: str, edited: str):
        fb = extract_edit_feedback(original, edited)
        record = self.collector.record(
            turn_id, 'edit', fb['edit_distance'], fb
        )
        self.records.append(record)

    def weekly_report(self) -> dict:
        return aggregate_feedback(
            [r for r in self.records]
        )

Verificação de conhecimentos

Qual sinal de retorno não exige nenhuma ação consciente do usuário?

Recapitulação: coleta e armazenamento de retornos

Muito bem! Veja o que você aprendeu nesta lição:

  • Retorno explícito: polegares (binário), estrelas (graduado), correções (dados de treinamento combinados)
  • Retorno implícito: a detecção de novas perguntas e a distância de edição da saída indicam a qualidade do sinal sem esforço do usuário
  • Esquema de armazenamento: uma única tabela com discriminador de tipo e carga JSONB
  • Fluxo: coletar → anonimizar → armazenar em buffer → liberar → agregar
  • Privacidade: aplicar hash aos identificadores de sessão, remover PII e definir limites de retenção

Na próxima lição, você aprenderá como os agentes podem refletir sobre o próprio desempenho e armazenar essas reflexões como memória episódica.

Grátis para começar

Aprenda AI Agents com um tutor de IA — grátis

Escreva e execute código real no seu navegador, obtenha ajuda instantânea de um tutor de IA 24/7 e continue de onde parou na web ou no app.

Cursos
60
Aulas
239

Perguntas Frequentes

A aula “Coleta e armazenamento de feedback” é grátis?

Sim — o texto completo de “Coleta e armazenamento de feedback” é grátis para ler aqui na web. Para praticá-la interativamente (um editor de código integrado e um tutor de IA 24/7) e desbloquear o restante do curso de AI Agents, atualize para CoddyKit PRO. O curso de AI Agents inclui 4 aulas no total.

O que vou aprender em “Coleta e armazenamento de feedback”?

Capturando avaliações explícitas e sinais comportamentais implícitos das interações com agentes. Você pratica AI Agents com código prático que executa diretamente no navegador, e um tutor de IA 24/7 responde suas dúvidas enquanto trabalha na aula.

Preciso ter experiência prévia para começar AI Agents?

Nenhuma experiência prévia é necessária. AI Agents no CoddyKit é estruturado para alunos iniciantes até avançados, então você pode começar aqui ou desde o início e aprender no seu ritmo. Esta é a aula 1 de 4.

Quanto tempo leva a aula “Coleta e armazenamento de feedback”?

A maioria das aulas CoddyKit leva cerca de 5–10 minutos. Cada uma é compacta e interativa, então você faz progresso constante e retoma exatamente de onde parou entre web e app.

Posso escrever e executar código nesta aula de AI Agents?

Sim. Cada aula de AI Agents inclui um editor de código integrado, então você escreve e executa código real direto no navegador e recebe feedback de IA instantaneamente — nenhuma configuração local necessária.

Todas as aulas deste curso

  1. Coleta e armazenamento de feedback
  2. Ciclos de reflexão e autocrítica
  3. Autoaperfeiçoamento baseado em trajetórias
  4. Quando o autoaperfeiçoamento dá errado
← Voltar para AI Agents