Como usar o TutorGuard

Como o TutorGuard se encaixa no seu fluxo de trabalho

Configuração passo a passo

Quando você abre o aplicativo pela primeira vez, você vê um formulário com três campos: o endpoint do provedor de IA, o identificador do modelo e a chave de API. Preencha a URL do endpoint exatamente como o provedor documenta, por exemplo https://api.example.com/v1. Escolha o modelo que você usa para tutoria na lista suspensa; se o seu modelo não estiver listado, você pode digitar o nome manualmente. Deixe a chave de API em branco por enquanto; você a adicionará mais tarde quando mudar do modo de demonstração para o modo ao vivo.

Executando o modo de demonstração

O modo de demonstração usa um gerador de mock incorporado que retorna respostas de tutor de exemplo. Clique no botão Executar demonstração para ver como o TutorGuard processa uma resposta. A tela se divide em duas janelas: a esquerda mostra a saída bruta do tutor, a direita mostra o relatório de segurança. Você pode editar o texto bruto na janela esquerda para testar diferentes cenários, como inserir uma frase proibida ou um erro factual. O relatório é atualizado instantaneamente, permitindo que você veja quais verificações são acionadas.

Alternando para a chave ao vivo

Quando você estiver satisfeito com o comportamento da demonstração, obtenha uma chave de API real do seu provedor de IA. Cole a chave no campo da chave de API e desligue o switch de demonstração. O aplicativo agora enviará solicitações reais ao provedor e retornará respostas reais de tutor para revisão. Lembre-se de manter a chave secreta; trate-a como qualquer outra credencial e não a commite em um repositório público.

- Verifique se a URL do endpoint termina com uma barra se o seu provedor exigir. - Verifique se o nome do modelo corresponde exatamente ao que o provedor espera. - Após salvar a chave, execute um teste rápido com um prompt neutro para confirmar a conectividade.

Verificações de segurança principais realizadas

Detecção de conteúdo não seguro

Esta verificação procura por linguagem que possa prejudicar um estudante, como discurso de ódio, assédio ou instruções para atividades perigosas. O detector usa um classificador treinado em conjuntos de dados de segurança pública e no OWASP Top 10 para aplicações de LLM (https://owasp.org/www-project-top-10-for-large-language-model-applications). Se a pontuação exceder o limite que você definir, a resposta é marcada e o relatório mostra o trecho ofensivo realçado em vermelho.

Verificação de consistência factual

A segunda verificação compara as declarações na resposta do tutor com uma base de conhecimento confiável que você pode indicar, como um banco de dados de currículo ou um FAQ verificado. Ela marca contradições, números desatualizados ou citações ausentes. Por exemplo, se o tutor afirmar que “a Terra é plana”, a verificação irá levantar um alerta porque a base de conhecimento contém o modelo esférico correto.

Verificação de conformidade com política

Muitas plataformas de tutoria têm regras internas sobre conteúdo apropriado para a idade, material com direitos autorais ou privacidade de dados. Você pode fazer upload de um arquivo de texto simples que liste padrões proibidos ou declarações necessárias. A verificação executa uma correspondência de regex simples sobre a resposta e relata qualquer ocorrência. Isso permite que você aplique diretrizes específicas da plataforma sem precisar escrever código personalizado.

Tipo de verificação | O que ela procura | Exemplo de gatilho Conteúdo não seguro | Ódio, assédio, violência, conselho ilegal | “Você deve ignorar o conselho do professor e trapacear no teste.” Consistência factual | Contradição com a base de conhecimento, informação desatualizada | “A mitocôndria é a usina de energia da célula, mas também faz café.” Conformidade com política | Padrões de regex personalizados, ausência de declaração necessária | Declaração necessária ausente: “Este material é para uso educacional apenas.”

O que isso não é

Nenhuma garantia absoluta

Eu não afirmo que o TutorGuard detecta todos os problemas possíveis. A ferramenta fornece suporte à decisão; você ainda deve ler a resposta sinalizada e decidir se editá-la, rejeitá-la ou aprová-la.

Não é um substituto para a revisão humana

Mesmo com as configurações mais fortes, um caso de bordo habilmente formulado pode passar despercebido. Trate a saída como uma primeira linha de defesa, não a autoridade final.

Não bloqueia todos os casos de bordo

Alguns vetores de ataque novos ou nuances altamente específicas do domínio podem não ser cobertos pelo conjunto de regras atuais. Mantenha as regras de detecção atualizadas e revise os logs regularmente.

Configurando campos de entrada

Entrada da chave de API

Cole a chave exatamente como mostrada na console do seu provedor. Não adicione espaços extras antes ou após a string. O campo mascara os caracteres por privacidade, mas você pode clicar no ícone de olho para verificar a entrada.

Seleção do modelo

Escolha o modelo que corresponde à versão que você usa em produção. Se você executar vários modelos, você pode criar perfis separados no menu de configurações e alternar entre eles sem reentrar a chave.

Ajuste do limiar

Cada verificação de segurança tem um controle deslizante que define a sensibilidade. Comece com a posição do meio, execute algumas respostas de demonstração e observe a taxa de falsos positivos. Se você vir muitas bandeiras em texto inofensivo, diminua o controle deslizante; se o texto arriscado passar despercebido, aumente-o. Registre os valores escolhidos na documentação interna para que a equipe possa reproduzir a configuração.

- Conteúdo não seguro: padrão 0,6, faixa 0,0-1,0 - Consistência factual: padrão 0,5, faixa 0,0-1,0 - Conformidade com políticas: padrão 0,7, faixa 0,0-1,0

Interpretando o relatório de saída

Níveis de risco explicados

O relatório atribui um nível a cada problema detectado: Baixo, Médio ou Alto. Baixo indica uma preocupação menor de estilo que pode não afetar a segurança. Médio sugere um problema potencial que merece uma olhada rápida. Alto significa que a resposta provavelmente viola uma regra e não deve ser mostrada a um estudante sem revisão.

Lista de itens de ação

Abaixo do resumo, você encontrará uma lista de verificação:

- Edite os segmentos destacados para remover a linguagem insegura. - Substitua erros factuais por informações corretas de sua fonte. - Adicione quaisquer avisos ausentes exigidos por sua política. - Execute o check novamente após cada alteração para confirmar que a pontuação diminui.

Opções de exportação

Integrando com sua plataforma de tutoria

Ponto de extremidade de webhook

TutorGuard pode POSTar uma carga JSON para uma URL que você especificar sempre que uma revisão for concluída. A carga contém a decisão (permitir, editar, bloquear) e a resposta anotada. Configure um ouvinte do seu lado que atualize a interface de tutoria em tempo real.

Processamento em lote

Se você precisar verificar um grande pool de respostas geradas, faça o upload de um arquivo CSV com duas colunas: prompt e resposta do tutor. O aplicativo processará cada linha e retornará um arquivo de resultado com a mesma estrutura mais uma coluna de segurança. Isso é útil para execuções noturnas ou para verificar um backlog de conteúdo.

Registro e auditoria

Cada solicitação e resposta é escrita em um arquivo de log local no diretório .data/. O log inclui um carimbo de data/hora, o modelo usado, a resposta bruta e a decisão final de segurança. Mantenha esta pasta de backup e restrinja o acesso a operadores autorizados apenas.

- Gire os logs semanalmente para evitar overflow de disco. - Revise o rastro de auditoria mensalmente para detectar tendências em falsos positivos ou negativos. - Exporte o log para o seu SIEM se precisar de retenção de longo prazo.

Lista de verificação do operador para usar o TutorGuard

Mantenho uma lista de verificação escrita ao lado de cada lançamento que toca nesse tópico. A lista é propositadamente monótona: nomear o proprietário, nomear a evidência do artifact, e nomear o rollback. Se uma etapa não puder produzir um arquivo, um ticket ou uma linha de log, não é uma etapa — é um desejo.

Antes de alterar a produção

- Congele o branch ou a revisão de configuração que você medirá. - Registre o modo de falha atual com uma entrada concreta e uma saída concreta. - Confirme qual identidade o trabalho é executado e se essa identidade pode alcançar dados que não deve. - Abra as referências principais que você citará: https://owasp.org/www-project-top-10-for-large-language-model-applications, https://www.nist.gov/itl/ai-risk-management-framework

Enquanto você executa a verificação

- Prefira um caminho reprodutível em vez de dez capturas de tela anedóticas. - Escreva o resultado seguro esperado antes de acionar a ferramenta ou consulta. - Capture o comando exato, prompt, esquema ou regex em teste — não uma paráfrase. - Se o sistema puder agir (enviar, escrever, excluir, transferir), exija um limite de confirmação na mesma passagem.

Depois de terminar

Sinal | O que registrar | Parar o envio? Escrita ou envio inesperado | Nome da ferramenta, args, identidade | Sim até que seja controlado Falta de confirmação em ação destrutiva | Caminho de chamada e bypass | Sim Texto não confiável tratado como instrução | Superfície de origem e ação resultante | Sim para alcance do agente

O TutorGuard ajuda com a primeira passagem mensurável. As escolhas de arquitetura, a aprovação legal e as alegações voltadas para o cliente ainda precisam de um proprietário humano. Trate cada linha da lista de verificação como suporte à decisão, não como certificado.

Como explico limites aos compradores

Quando um prospecto pergunta se o produto "cobrir tudo", respondo com o limite: verificações automatizadas capturam padrões conhecidos; cadeias novas e julgamento de política ainda precisam de revisão. Essa honestidade mantém a carga de suporte baixa e mantém o blog alinhado com o que o produto realmente faz.

Se você precisar de uma segunda opinião, combine este texto com as referências abaixo e com sua própria reprodução de teste. Não pule a etapa de reprodução apenas porque um modelo escreveu um resumo confiante.

Referências

- https://owasp.org/www-project-top-10-for-large-language-model-applications - https://www.nist.gov/itl/ai-risk-management-framework

Perguntas frequentes

O que é TutorGuard?

Mantenha todas as respostas do tutor de IA seguras antes que os alunos as vejam.

Quem deve usar o TutorGuard?

Operadores e construtores que precisam de um rascunho rápido ou uma lista de verificação do TutorGuard.

Ele funciona sem uma chave de API?

Sim, no modo Demo explícito. O AI ao vivo requer uma chave configurada.

Ele garante os resultados?

Não. As saídas são de suporte à decisão; você ainda revisa antes de publicar ou agir.

Ele inclui SSO, Slack ou CSV em massa?

Apenas se esses recursos forem implementados nessa versão do produto — não os pressuponha a partir do material de marketing.

Onde os dados vão?

As execuções podem ser armazenadas localmente dentro do limite.data/ do produto; trate os demos como efêmeros.