Coleta e armazenamento de feedback
Capturando avaliações explícitas e sinais comportamentais implícitos das interações com agentes.
Coleta e armazenamento de feedback é uma aula grátis de AI Agents no CoddyKit. Esta é a aula 1 de 4. Você pode ler a aula completa abaixo gratuitamente — depois pratica ao vivo no navegador com um editor de código integrado e um tutor de IA 24/7. Faz parte do caminho de aprendizado de AI Agents, e seu progresso é sincronizado entre a web e o app CoddyKit. O curso de AI Agents inclui 4 aulas no total.
Por que os agentes precisam de retorno
Um agente que nunca recebe retorno fica congelado no tempo — não pode melhorar além de seu treinamento inicial. O retorno fecha o ciclo entre o que o agente faz e o que os usuários realmente desejam.
Duas categorias são especialmente importantes: retorno explícito (o usuário avalia conscientemente a saída) e retorno implícito (o comportamento do usuário indica a qualidade sem que ele precise dizer isso).
Retorno explícito: polegar para cima ou para baixo
A forma mais simples: um sinal binário após cada resposta. É fácil de coletar e armazenar, mas tem baixa densidade de informação.
Padrão de implementação: depois que o agente responder, ofereça uma solicitação de retorno e registre o resultado junto ao ID do turno da conversa.
import uuid
from datetime import datetime
def collect_thumbs_feedback(turn_id: str, rating: str) -> dict:
"""rating: 'up' or 'down'"""
assert rating in ('up', 'down'), 'Invalid rating'
record = {
'feedback_id': str(uuid.uuid4()),
'turn_id': turn_id,
'type': 'thumbs',
'value': 1 if rating == 'up' else -1,
'created_at': datetime.utcnow().isoformat()
}
return record
feedback = collect_thumbs_feedback('turn_abc123', 'up')
print(feedback)Retorno explícito: avaliações por estrelas
Uma avaliação de 1 a 5 estrelas oferece mais granularidade do que o polegar. Ela permite distinguir entre mal aceitável (2 estrelas) e excelente (5 estrelas), o que é útil para ajustar a qualidade do sinal.
Normalize para um valor entre 0 e 1 antes de usar nos fluxos de treinamento.
def collect_star_feedback(turn_id: str, stars: int) -> dict:
if not 1 <= stars <= 5:
raise ValueError('Stars must be between 1 and 5')
return {
'turn_id': turn_id,
'type': 'star',
'raw_value': stars,
'normalized': (stars - 1) / 4.0 # maps 1->0.0, 5->1.0
}
fb = collect_star_feedback('turn_xyz456', 4)
print(fb)
# {'turn_id': 'turn_xyz456', 'type': 'star', 'raw_value': 4, 'normalized': 0.75}Retorno explícito: correções em texto livre
O retorno em texto livre é o sinal mais rico. O usuário escreve exatamente o que queria: "O resumo ficou longo demais", "Você não mencionou o ponto principal", "Moeda errada — pedi EUR".
Armazene as correções vinculadas à saída original para que você possa combinar (saída incorreta → saída corrigida) e realizar posteriormente um ajuste fino supervisionado.
def collect_correction_feedback(
turn_id: str,
original_output: str,
corrected_output: str,
user_note: str = ''
) -> dict:
return {
'turn_id': turn_id,
'type': 'correction',
'original': original_output,
'corrected': corrected_output,
'user_note': user_note
}
fb = collect_correction_feedback(
'turn_789',
'The capital of Australia is Sydney.',
'The capital of Australia is Canberra.',
'Sydney is the largest city but not the capital.'
)
print(fb)Retorno implícito: sinal de nova pergunta
Quando um usuário faz imediatamente a mesma pergunta com palavras diferentes, isso é um forte sinal implícito de que a resposta anterior estava errada ou era insuficiente. Você não precisa que o usuário clique em nada — o próprio comportamento é o sinal.
from datetime import datetime, timedelta
def detect_re_ask(
current_msg: str,
conversation_history: list,
similarity_threshold: float = 0.7,
window_seconds: int = 120
) -> bool:
"""
Returns True if the current message is semantically similar
to a recent message, suggesting dissatisfaction.
"""
now = datetime.utcnow()
for turn in conversation_history[-5:]:
age = (now - turn['timestamp']).seconds
if age <= window_seconds and turn['role'] == 'user':
# In production: use embedding cosine similarity
if simple_similarity(current_msg, turn['content']) >= similarity_threshold:
return True
return False
def simple_similarity(a: str, b: str) -> float:
words_a = set(a.lower().split())
words_b = set(b.lower().split())
if not words_a or not words_b:
return 0.0
return len(words_a & words_b) / len(words_a | words_b)
if __name__ == '__main__':
now = datetime.utcnow()
history = [
{'role': 'user', 'content': 'How do I reset my password', 'timestamp': now - timedelta(seconds=30)},
]
result = detect_re_ask('How do I reset my password please', history)
print('Re-ask detected:', result)
Retorno implícito: sinal de edição da saída
Se o agente gerar um texto e o usuário editá-lo antes de usá-lo, a diferença entre o original e o editado será um retorno implícito. A versão editada é o que o usuário realmente queria.
Isso é comum em assistentes de escrita, geradores de código e redatores de e-mails.
import difflib
def extract_edit_feedback(original: str, edited: str) -> dict:
differ = difflib.unified_diff(
original.splitlines(),
edited.splitlines(),
lineterm=''
)
diff_lines = list(differ)
edit_ratio = difflib.SequenceMatcher(None, original, edited).ratio()
return {
'type': 'edit',
'original': original,
'edited': edited,
'edit_distance': 1.0 - edit_ratio, # 0=unchanged, 1=fully rewritten
'diff': '\n'.join(diff_lines)
}
fb = extract_edit_feedback(
'Dear John, I am writing to inform you...',
'Hi John, Just a quick note...'
)
print(f"Edit distance: {fb['edit_distance']:.2f}")Esquema de armazenamento de retornos
Todos os tipos de retorno compartilham um esquema comum com campos de carga específicos para cada tipo. Usar uma única tabela com um discriminador type e uma coluna JSON de payload mantém as consultas simples e oferece suporte a qualquer tipo de retorno.
# SQL schema for feedback storage
CREATE_TABLE_SQL = '''
CREATE TABLE agent_feedback (
id UUID PRIMARY KEY DEFAULT gen_random_uuid(),
session_id TEXT NOT NULL,
turn_id TEXT NOT NULL,
agent_id TEXT NOT NULL,
type TEXT NOT NULL CHECK (type IN ('thumbs','star','correction','re_ask','edit')),
value FLOAT, -- numeric signal: +1/-1, 0-1, edit distance
payload JSONB, -- type-specific data
created_at TIMESTAMPTZ DEFAULT now()
);
CREATE INDEX ON agent_feedback (agent_id, created_at);
CREATE INDEX ON agent_feedback (type);
'''
# Example insert
INSERT_SQL = '''
INSERT INTO agent_feedback (session_id, turn_id, agent_id, type, value, payload)
VALUES ($1, $2, $3, $4, $5, $6)
'''
if __name__ == '__main__':
print('Feedback table schema:')
print(CREATE_TABLE_SQL)
print('Insert statement:')
print(INSERT_SQL)
Escrita de uma classe coletora de retornos
Centralizar toda a coleta de retornos em uma única classe mantém o restante da base de código organizado. A coletora lida com a eliminação de duplicatas, o processamento em lotes e as gravações assíncronas, para que o retorno nunca bloqueie o ciclo principal do agente.
import asyncio
from collections import deque
from datetime import datetime
class FeedbackCollector:
def __init__(self, agent_id: str, flush_interval: int = 30):
self.agent_id = agent_id
self.buffer: deque = deque(maxlen=1000)
self.flush_interval = flush_interval
def record(self, turn_id: str, fb_type: str, value: float, payload: dict):
self.buffer.append({
'turn_id': turn_id,
'agent_id': self.agent_id,
'type': fb_type,
'value': value,
'payload': payload,
'created_at': datetime.utcnow().isoformat()
})
async def flush(self, db_client):
while self.buffer:
record = self.buffer.popleft()
await db_client.insert('agent_feedback', record)
async def start_auto_flush(self, db_client):
while True:
await asyncio.sleep(self.flush_interval)
await self.flush(db_client)
if __name__ == '__main__':
fc = FeedbackCollector(agent_id='agent-1')
fc.record('turn-1', 'thumbs', 1.0, {'comment': 'Great answer'})
fc.record('turn-2', 'thumbs', -1.0, {'comment': 'Wrong ticker'})
print(f'Buffered {len(fc.buffer)} feedback records:')
for rec in fc.buffer:
print(' -', rec['type'], rec['value'], rec['payload'])
Agregação de retornos para análise
Os registros brutos de retorno precisam ser agregados antes de serem úteis para decisões de melhoria. Agregações comuns: taxa de aprovação por tipo de intenção, taxa de correção ao longo do tempo e categorias de saída mais editadas.
from collections import defaultdict
from statistics import mean
def aggregate_feedback(records: list) -> dict:
by_type = defaultdict(list)
for r in records:
by_type[r['type']].append(r['value'])
summary = {}
if 'thumbs' in by_type:
values = by_type['thumbs']
summary['approval_rate'] = (values.count(1) / len(values)) * 100
if 'star' in by_type:
summary['avg_star'] = mean(by_type['star']) * 4 + 1 # denormalize
if 'edit' in by_type:
summary['avg_edit_distance'] = mean(by_type['edit'])
if 'correction' in by_type:
summary['correction_count'] = len(by_type['correction'])
return summary
records = [
{'type': 'thumbs', 'value': 1},
{'type': 'thumbs', 'value': -1},
{'type': 'star', 'value': 0.75},
{'type': 'edit', 'value': 0.3}
]
print(aggregate_feedback(records))Privacidade e consentimento na coleta de retornos
Os retornos geralmente contêm dados sensíveis dos usuários. Práticas recomendadas: obtenha consentimento explícito antes de registrar correções em texto livre, anonimize os identificadores de sessão antes da análise, defina limites de retenção (por exemplo, exclua os dados após 90 dias) e nunca registre PII nas cargas de retorno.
import hashlib
import re
def anonymise_feedback(record: dict) -> dict:
"""Anonymise feedback record before storing for training."""
safe = record.copy()
# Hash the session_id so it can't be traced back to a user
if 'session_id' in safe:
safe['session_id'] = hashlib.sha256(
safe['session_id'].encode()
).hexdigest()[:16]
# Strip emails and phone numbers from correction text
if 'payload' in safe and 'corrected' in safe['payload']:
text = safe['payload']['corrected']
text = re.sub(r'[\w.+-]+@[\w-]+\.[\w.]+', '[EMAIL]', text)
text = re.sub(r'\+?[0-9][\s\-().]{7,}[0-9]', '[PHONE]', text)
safe['payload'] = dict(safe['payload'], corrected=text)
return safe
if __name__ == '__main__':
record = {
'session_id': 'sess-abc123',
'payload': {'corrected': 'Contact me at jane@example.com or 555-123-4567'}
}
print('Anonymised record:', anonymise_feedback(record))
Fluxo de retornos de ponta a ponta
Reunindo tudo: coletar → anonimizar → armazenar em buffer → liberar → agregar → gerar relatório. O fluxo é executado junto ao agente em produção e produz um relatório semanal de melhoria que mostra quais intenções têm as menores taxas de aprovação.
# Simplified end-to-end feedback pipeline sketch
class FeedbackPipeline:
def __init__(self, agent_id: str):
self.collector = FeedbackCollector(agent_id)
self.records = []
def on_thumbs(self, turn_id: str, rating: str):
value = 1.0 if rating == 'up' else -1.0
record = self.collector.record(turn_id, 'thumbs', value, {})
self.records.append(record)
def on_edit(self, turn_id: str, original: str, edited: str):
fb = extract_edit_feedback(original, edited)
record = self.collector.record(
turn_id, 'edit', fb['edit_distance'], fb
)
self.records.append(record)
def weekly_report(self) -> dict:
return aggregate_feedback(
[r for r in self.records]
)Verificação de conhecimentos
Qual sinal de retorno não exige nenhuma ação consciente do usuário?
Recapitulação: coleta e armazenamento de retornos
Muito bem! Veja o que você aprendeu nesta lição:
- Retorno explícito: polegares (binário), estrelas (graduado), correções (dados de treinamento combinados)
- Retorno implícito: a detecção de novas perguntas e a distância de edição da saída indicam a qualidade do sinal sem esforço do usuário
- Esquema de armazenamento: uma única tabela com discriminador de tipo e carga JSONB
- Fluxo: coletar → anonimizar → armazenar em buffer → liberar → agregar
- Privacidade: aplicar hash aos identificadores de sessão, remover PII e definir limites de retenção
Na próxima lição, você aprenderá como os agentes podem refletir sobre o próprio desempenho e armazenar essas reflexões como memória episódica.
Aprenda AI Agents com um tutor de IA — grátis
Escreva e execute código real no seu navegador, obtenha ajuda instantânea de um tutor de IA 24/7 e continue de onde parou na web ou no app.
- Cursos
- 60
- Aulas
- 239
Perguntas Frequentes
A aula “Coleta e armazenamento de feedback” é grátis?
Sim — o texto completo de “Coleta e armazenamento de feedback” é grátis para ler aqui na web. Para praticá-la interativamente (um editor de código integrado e um tutor de IA 24/7) e desbloquear o restante do curso de AI Agents, atualize para CoddyKit PRO. O curso de AI Agents inclui 4 aulas no total.
O que vou aprender em “Coleta e armazenamento de feedback”?
Capturando avaliações explícitas e sinais comportamentais implícitos das interações com agentes. Você pratica AI Agents com código prático que executa diretamente no navegador, e um tutor de IA 24/7 responde suas dúvidas enquanto trabalha na aula.
Preciso ter experiência prévia para começar AI Agents?
Nenhuma experiência prévia é necessária. AI Agents no CoddyKit é estruturado para alunos iniciantes até avançados, então você pode começar aqui ou desde o início e aprender no seu ritmo. Esta é a aula 1 de 4.
Quanto tempo leva a aula “Coleta e armazenamento de feedback”?
A maioria das aulas CoddyKit leva cerca de 5–10 minutos. Cada uma é compacta e interativa, então você faz progresso constante e retoma exatamente de onde parou entre web e app.
Posso escrever e executar código nesta aula de AI Agents?
Sim. Cada aula de AI Agents inclui um editor de código integrado, então você escreve e executa código real direto no navegador e recebe feedback de IA instantaneamente — nenhuma configuração local necessária.
Todas as aulas deste curso
- Coleta e armazenamento de feedback
- Ciclos de reflexão e autocrítica
- Autoaperfeiçoamento baseado em trajetórias
- Quando o autoaperfeiçoamento dá errado