Come utilizzare TutorGuard

Come TutorGuard si integra nel tuo flusso di lavoro

Configurazione passo dopo passo

Quando apri l'applicazione per la prima volta, vedi un modulo con tre campi: l'endpoint del provider di intelligenza artificiale, l'identificatore del modello e la chiave API. Compila l'URL dell'endpoint esattamente come indicato dalla documentazione del provider, ad esempio https://api.example.com/v1. Scegli il modello che utilizzi per la didattica dal menu a discesa; se il tuo modello non è elencato, puoi inserire il nome manualmente. Lascia la chiave API vuota per ora; la aggiungerai in seguito quando passerai dalla modalità demo alla modalità live.

Esecuzione della modalità demo

La modalità demo utilizza un generatore mock integrato che restituisce risposte di esempio del tutor. Clicca il pulsante Esegui demo per vedere come TutorGuard elabora una risposta. Lo schermo si divide in due riquadri: il riquadro sinistro mostra l'output grezzo del tutor, il riquadro destro mostra il report di sicurezza. Puoi modificare il testo grezzo nel riquadro sinistro per testare diversi scenari, come ad esempio inserire una frase vietata o un errore fattuale. Il report si aggiorna istantaneamente, permettendoti di vedere quali controlli vengono attivati.

Passaggio alla chiave live

Quando sei soddisfatto del comportamento della modalità demo, ottieni una chiave API reale dal provider di intelligenza artificiale. Incolla la chiave nel campo della chiave API e disattiva l'interruttore della modalità demo. L'applicazione invierà ora richieste effettive al provider e restituirà risposte reali del tutor per la revisione. Ricorda di mantenere la chiave segreta; trattala come qualsiasi altra credenziale e non inserirla in un repository pubblico.

- Verifica che l'URL dell'endpoint termini con una barra se il provider lo richiede. - Controlla che il nome del modello corrisponda esattamente a quanto previsto dal provider. - Dopo aver salvato la chiave, esegui un test rapido con un prompt neutro per confermare la connettività.

Controlli di sicurezza fondamentali eseguiti

Rilevamento di contenuti non sicuri

Questo scan cerca linguaggio che potrebbe nuocere a uno studente, come discorsi d'odio, molestie o istruzioni per attività pericolose. Il rilevatore utilizza un classificatore addestrato su set di dati di sicurezza pubblici e sull'OWASP Top 10 per applicazioni LLM (https://owasp.org/www-project-top-10-for-large-language-model-applications). Se il punteggio supera la soglia che hai impostato, la risposta viene segnalata e il report mostra lo span offensivo evidenziato in rosso.

Verifica della coerenza fattuale

Il secondo controllo confronta le affermazioni nella risposta del tutor con una base di conoscenza attendibile a cui puoi fare riferimento, come un database di curriculum o un FAQ verificato. Segnala le contraddizioni, i numeri superati o le citazioni mancanti. Ad esempio, se il tutor afferma che "la Terra è piatta", il controllo solleverà un avvertimento perché la base di conoscenza contiene il modello sferico corretto.

Scan di conformità alle politiche

Molte piattaforme di tutoraggio hanno regole interne relative ai contenuti adatti all'età, al materiale protetto da copyright o alla privacy dei dati. Puoi caricare un file di testo semplice che elenchi modelli proibiti o avvisi richiesti. Lo scan esegue una semplice corrispondenza regex sulla risposta e segnala eventuali corrispondenze. Ciò ti consente di applicare linee guida specifiche della piattaforma senza scrivere codice personalizzato.

Tipo di controllo | Cosa cerca | Esempio di trigger Contenuto non sicuro | Odio, molestie, violenza, consigli illegali | "Dovresti ignorare il consiglio dell'insegnante e barare al test. Coerenza fattuale | Contraddizione con la base di conoscenza, informazioni superate | "I mitocondri sono la centrale elettrica della cellula, ma producono anche caffè." Conformità alle politiche | Modelli regex personalizzati, assenza di avvisi | Dichiarazione richiesta mancante: "Questo materiale è solo per uso didattico."

Cosa non è

Nessuna garanzia assoluta

Non affermo che TutorGuard catturi ogni possibile problema. Lo strumento fornisce un supporto decisionale, devi comunque leggere la risposta segnalata e decidere se modificarla, rifiutarla o approvarla.

Non sostituisce la revisione umana

Anche con le impostazioni più stringenti, un caso limite formulato in modo astuto può sfuggire. Tratta l'output come una prima linea di difesa, non come l'autorità finale.

Non blocca tutti i casi limite

Alcuni vettori di attacco nuovi o sfumature molto specifiche del dominio potrebbero non essere coperti dall'attuale set di regole. Mantieni le regole di rilevamento aggiornate e verifica regolarmente i log.

Configurazione dei campi di input

Inserimento della chiave API

Incolla la chiave esattamente come mostrata nella console del tuo fornitore. Non aggiungere spazi extra prima o dopo la stringa. Il campo maschera i caratteri per motivi di privacy, ma puoi cliccare sull'icona dell'occhio per verificare l'inserimento.

Selezione del modello

Scegli il modello che corrisponde alla versione che utilizzi in produzione. Se esegui più modelli, puoi creare profili separati nel menu delle impostazioni e passare tra di essi senza dover reinserire la chiave.

Regolazione della soglia

Ogni controllo di sicurezza ha un cursore che imposta la sensibilità. Inizia con la posizione centrale, esegui alcune risposte demo e osserva il tasso di falsi positivi. Se vedi troppi flag su testo innocuo, abbassa il cursore; se il testo a rischio passa inosservato, alzalo. Registra i valori scelti nella documentazione interna in modo che il team possa riprodurre l'impostazione.

- Contenuto non sicuro: predefinito 0,6, intervallo 0,0-1,0 - Coerenza fattuale: predefinito 0,5, intervallo 0,0-1,0 - Conformità alle politiche: predefinito 0,7, intervallo 0,0-1,0

Interpretazione del report di output

Livelli di rischio spiegati

Il report assegna un livello a ciascun problema rilevato: Basso, Medio o Alto. Basso indica una preoccupazione di stile minore che potrebbe non influire sulla sicurezza. Medio suggerisce un potenziale problema che richiede un'occhiata rapida. Alto significa che la risposta probabilmente viola una regola e non dovrebbe essere mostrata a uno studente senza revisione.

Elenco degli elementi di azione

Sotto il riepilogo si trova una lista di controllo:

- Modificare i segmenti evidenziati per rimuovere il linguaggio non sicuro. - Sostituire gli errori di fatto con informazioni corrette dalla tua fonte. - Aggiungere eventuali avvertenze mancanti richieste dalla tua politica. - Eseguire nuovamente il controllo dopo ogni modifica per confermare che il punteggio scenda.

Opzioni di esportazione

Integrazione con la tua piattaforma di tutoring

Endpoint webhook

TutorGuard può inviare una richiesta POST con un payload JSON a un URL che specifichi ogni volta che una revisione viene completata. Il payload contiene la decisione (consenti, modifica, blocca) e la risposta annotata. Configura un listener sul tuo lato che aggiorna l'interfaccia di tutoring in tempo reale.

Elaborazione batch

Se hai bisogno di verificare un grande pool di risposte generate, carica un file CSV con due colonne: prompt e risposta del tutor. L'applicazione elaborerà ogni riga e restituirà un file di risultato con la stessa struttura più una colonna di sicurezza. Ciò è utile per esecuzioni notturne o per il controllo di un backlog di contenuti.

Registrazione e audit

Ogni richiesta e risposta viene scritta in un file di log locale nella directory .data/. Il log include un timestamp, il modello utilizzato, la risposta grezza e la decisione di sicurezza finale. Mantieni questa cartella di backup e limita l'accesso agli operatori autorizzati solo.

Checklist dell'operatore per l'uso di TutorGuard

Mantengo un elenco scritto accanto a ogni rilascio che tocca questo argomento. L'elenco è noioso di proposito: nominare il proprietario, nominare l'artefatto delle prove e nominare il rollback. Se un passaggio non può produrre un file, un ticket o una riga di log, non è un passaggio - è un desiderio.

Prima di modificare la produzione

- Congelare il ramo o la revisione della configurazione che si misurerà. - Registrare la modalità di errore attuale con un input concreto e un output concreto. - Confermare quale identità esegue il lavoro e se tale identità può accedere a dati che non dovrebbe. - Aprire le principali referenze che si citeranno: https://owasp.org/www-project-top-10-for-large-language-model-applications, https://www.nist.gov/itl/ai-risk-management-framework.

Mentre si esegue il controllo

- Preferire un percorso riproducibile rispetto a dieci screenshot aneddotici. - Scrivere il risultato sicuro atteso prima di attivare lo strumento o la query. - Catturare il comando esatto, il prompt, lo schema o l'espressione regolare sotto test - non un riassunto. - Se il sistema può agire (inviare, scrivere, eliminare, trasferire), richiedere un confine di conferma nello stesso passaggio.

Dopo aver terminato

- Archiviare il rischio residuo con un proprietario e una data, anche quando la scansione è pulita. - Non convertire un controllo verde in un linguaggio di vendita che afferma la completezza. - Eseguire nuovamente la stessa checklist quando il modello, lo schema dello strumento o le regole di convalida cambiano.

Segnale | Cosa registrare | Stop-ship? Scrittura o invio inaspettato | Nome dello strumento, argomenti, identità | Sì fino a quando non è limitato Conferma mancante su azione distruttiva | Percorso di chiamata e bypass | Sì Testo non attendibile trattato come istruzione | Superficie di origine e azione risultante | Sì per la portata dell'agente Scanner pulito, giudizio aperto | Elementi differiti + proprietario | Solo se il percorso principale è sicuro

Come spiego i limiti agli acquirenti

Quando un potenziale acquirente chiede se il prodotto "copre tutto", rispondo con il limite: i controlli automatizzati rilevano modelli noti, ma le nuove catene e il giudizio di politica richiedono ancora una revisione. Quella onestà mantiene il carico di supporto basso e mantiene il blog allineato con ciò che il prodotto effettivamente fa.

Se hai bisogno di un secondo parere, abbina questo testo con i riferimenti qui sotto e con la tua propia riproduzione di staging. Non saltare il passaggio di riproduzione solo perché un modello ha scritto un riassunto fiducioso.

Riferimenti

- https://owasp.org/www-project-top-10-for-large-language-model-applications - https://www.nist.gov/itl/ai-risk-management-framework

Domande frequenti

Cosa è TutorGuard?

Mantieni ogni risposta del tutor AI al sicuro prima che gli studenti la vedano.

Chi dovrebbe utilizzare TutorGuard?

Operatori e costruttori che necessitano di una prima bozza veloce o di una checklist da TutorGuard.

Funziona senza una chiave API?

Sì, in modalità Demo esplicita. L'AI live richiede una chiave configurata.

Garantisce i risultati?

No. Le uscite sono a supporto delle decisioni; si deve ancora revisionare prima di pubblicare o agire.

Include SSO, Slack o bulk CSV?

Solo se queste funzionalità sono implementate in questa build del prodotto — non supporle dalla copia di marketing.

Dove vanno i dati?

Le esecuzioni possono essere archiviate localmente all'interno del confine.data/ del prodotto; trattare le demo come effimere.

Si, TutorGuard è progettato per essere conforme a queste linee guida e normative.