Sådan bruger du TutorGuard

Hvordan TutorGuard passer ind i din arbejdsproces

Trin-for-trin opsætning

Når du først åbner applikationen, ser du en formular med tre felter: AI-udbyderens endpoint, modelidentifikatoren og API-nøglen. Udfyld endpoint-URL'en præcis som din udbyder dokumenterer det, f.eks. https://api.example.com/v1. Vælg den model, du bruger til undervisning, fra rullemenuen; hvis din model ikke er på listen, kan du taste navnet manuelt. Lad API-nøglen være blank for nu; du vil tilføje den senere, når du skifter fra demo til live-tilstand.

Kørsel i demotilstand

Demotilstand bruger en indbygget mock-generator, der returnerer eksempel-svar fra tutor. Klik på knappen Kør demo for at se, hvordan TutorGuard behandler et svar. Skærmen deles op i to paneler: venstre panelet viser det rå tutor-udgangspunkt, og højre panelet viser sikkerhedsrapporten. Du kan redigere det rå tekst i venstre panelet for at teste forskellige scenarier, såsom indsættelse af en forbudt frase eller en faktuel fejl. Rapporten opdateres øjeblikkeligt, så du kan se, hvilke kontroller der aktiveres.

Skift til live-nøgle

Når du er tilfreds med demotilstandsadfærd, skal du få en rigtig API-nøgle fra din AI-udbyder. Indsæt nøglen i API-nøglefeltet og sluk for demokontakten. Applikationen vil nu sende faktiske anmodninger til udbyderen og returnere faktiske tutor-svar til gennemsyn. Husk at holde nøglen hemmelig; behandle den som enhver anden legitimationsoplysning og commit den ikke til en offentlig repository.

- Verificér, at endpoint-URL'en slutter med en skråstreg, hvis din udbyder kræver det. - Kontroller, at modelnavnet matcher præcis, hvad udbyderen forventer. - Efter at have gemt nøglen, skal du køre en hurtig test med en neutral prompt for at bekræfte forbindelsen.

Kernsikkerhedstjek

Detektion af usikker indhold

Denne scanning søger efter sprog, der kan skade en studerende, såsom hadefuldt sprog, chikane eller instruktioner til farlige aktiviteter. Detektoren bruger en klassifikator trænet på offentlige sikkerhedsdata og på OWASP Top 10 for LLM-applikationer (https://owasp.org/www-project-top-10-for-large-language-model-applications). Hvis scoren overstiger grænsen, du har sat, markeres svaret og rapporten viser den krænkedes plet markeret med rødt.

Verifikation af faktuel konsistens

Den anden tjek sammenligner udsagn i tutor-svaret med en pålidelig videnbase, som du kan pege på, såsom en lærebogsdatabase eller en godkendt FAQ. Den markerer modstridende udsagn, forældede tal eller manglende citater. For eksempel, hvis tutor påstår, at „Jorden er flad“, vil tjekket rejse en advarsel, fordi videnbasen indeholder den korrekte sfæriske model.

Tjek af politikoverensstemmelse

Mange tutorplatforme har interne regler om aldersapproprieret indhold, ophavsretsmateriale eller databeskyttelse. Du kan uploade en plain-text-fil, der listar forbudte mønstre eller påkrævede advarsler. Scanningen kører en simpel regex-matching over svaret og rapporterer eventuelle træffere. Dette giver dig mulighed for at gennemtvinge platformspecifikke retningslinjer uden at skulle skrive brugerdefineret kode.

Tjektype | Hvad det søger efter | Eksempel udløser Usikker indhold | Had, chikane, vold, ulovlig rådgivning | „Du skal ignorere lærerens råd og snyde på testen.“ Faktuel konsistens | Modstrid med videnbase, forældet info | „Mitokondrierne er cellens kraftcentral, men det laver også kaffe.“ Politikoverensstemmelse | Brugerdefinerede regex-mønstre, advarselmangler | Manglende påkrævet udtalelse: „Dette materiale er kun til undervisningsbrug.“

Hvad dette ikke er

Ingen absolut garanti

Jeg hævder ikke, at TutorGuard fanger alle mulige problemer. Værktøjet giver beslutningsstøtte, men du skal stadig læse den markerede besked og beslutte, om du skal redigere, afvise eller godkende den.

Er ikke en erstatning for menneskelig gennemgang

Selv med de stærkeste indstillinger kan en kløgtigt formuleret kantcase slippe igennem. Behandle outputtet som en første forsvarslinje, ikke den endelige myndighed.

Blokerer ikke alle kantsager

Nogle nye angrebsvektorer eller højst domænespecifikke nuancer kan ikke være dækket af den nuværende regelsæt. Hold detektionsreglerne opdateret og gennemgå loggene regelmæssigt.

Konfiguration af indtastningsfelter

API-nøgleindtastning

Indsæt nøglen præcis som den vises i din udbyders console. Tilføj ikke ekstra mellemrum før eller efter strengen. Feltet maskerer tegnene af privatlivsmæssige årsager, men du kan klikke på øje-ikonet for at verificere indtastningen.

Modelvalg

Vælg den model, der svarer til den version, du bruger i produktion. Hvis du kører multiple modeller, kan du oprette separate profiler i indstillingsmenuen og skifte mellem dem uden at genindtaste nøglen.

Tærskeljustering

Hver sikkerhedstjek har en skyder, der indstiller følsomheden. Start med midterpositionen, kørende få demo-svar, og observer falsk-positiv-raten. Hvis du ser for mange flags på uskadelig tekst, sænk skyderen; hvis risikotekst passerer ubemærket, hæv skyderen. Optegn de valgte værdier i din interne dokumentation, så holdet kan genskabe konfigurationen.

- Usikker indhold: standard 0,6, område 0,0-1,0 - Faktisk konsistens: standard 0,5, område 0,0-1,0 - Politikoverholdelse: standard 0,7, område 0,0-1,0

Fortolkning af output-rapporten

Forklaringer af risikoniveauer

Rapporten tildeler et niveau til hver detekteret problem: Lav, Middel eller Høj. Lav indikerer en mindre stilbekymring, der måske ikke påvirker sikkerheden. Middel antyder et potentiale problem, der kræver en hurtig gennemgang. Høj betyder, at svaret sandsynligvis krænker en regel og ikke bør vises til en studerende uden revision.

Handlingselementer liste

Under oversigten finder du en checkliste:

- Rediger de markerede segmenter for at fjerne usikker sprogbrug. - Erstat faktuelle fejl med korrekt information fra din kilde. - Tilføj eventuelt manglende disclaimerer, der kræves af din politik. - Kør checken igen efter hver ændring for at bekræfte, at scoren falder.

Eksportmuligheder

Integration med dit undervisningsplatform

Webhook-endpoint

TutorGuard kan sende en JSON-nytteslæng til en URL, du specificerer, hver gang en gennemgang afsluttes. Nytteslængen indeholder beslutningen (tillad, rediger, bloker) og den annoterede besked. Konfigurer en lytter på din side, der opdaterer undervisningsgrænsefladen i realtid.

Batchbehandling

Hvis du har brug for at validere en stor mængde genererede beskeder, upload en CSV-fil med to kolonner: prompt og tutorbesked. Applikationen vil behandle hver række og returnere en resultatifil med samme struktur plus en sikkerhedskolonne. Dette er nyttigt til natlige kørsler eller til at kontrollere en tilbagestående mængde indhold.

Logging og revision

Hver anmodning og svar skrives til en lokal logfil under .data/-mappen. Loggen indeholder et tidsstempel, det model, der er brugt, den rå besked og den endelige sikkerhedsbeslutning. Sørg for at sikre denne mappe og begræns adgangen til autoriserede operatører kun.

- Roter logs ugentligt for at forhindre diskoverløb. - Gennemgå revisionsstien månedligt for at spotte tendenser i falske positiver eller negativer. - Eksporter loggen til din SIEM, hvis du har brug for længerevarende opbevaring.

Operatør checklist for brug af TutorGuard

Jeg holder en skrevet checklist ved siden af hver udgivelse, der berører dette emne. Listen er bevidst kedelig: navngiv ejeren, navngiv bevisartefakten og navngiv rollback. Hvis et trin ikke kan producere en fil, en billet eller en loglinje, er det ikke et trin - det er en ønsketænkning.

Før du ændrer produktion

- Fryse branchen eller konfigurationsrevisionen, du vil måle imod. - Optegn den nuværende fejltilstand med en konkretpunkt indgang og en konkretpunkt udgang. - Bekræft, hvilken identitet jobbet kører som, og om denne identitet kan nå data, den ikke skal kunne nå. - Åbn de primære referencer, du vil citerer: https://owasp.org/www-project-top-10-for-large-language-model-applications, https://www.nist.gov/itl/ai-risk-management-framework.

Mens du kører checken

- Foretræk en reproducerbar vej over ti anekdotiske skærmbilleder. - Skriv den forventede sikre udfald, før du udløser værktøjet eller forespørgslen. - Fanget det præcise kommando, prompt, skema eller regex under test - ikke en paraphrase. - Hvis systemet kan handle (sende, skrive, slette, overføre), kræv en bekræftelsesgrænse i samme pas.

Efter du er færdig

- Fil residual risiko med en ejer og en dato, selv når scan er ren. - Konverter ikke en grøn check til salgsprog, der hævder fuldstændighed. - Kør den samme checklist, når modellen, værktøjet skema eller valideringsreglerne ændres.

Signal | Hvad at optegne | Stop-ship? Uventet skriv eller send | Værktøjsnavn, args, identitet | Ja, indtil gated Manglende bekræftelse på destruktiv handling | Call-sti og omgåelse | Ja Ubetroet tekst behandlet som instruktion | Kildeoverflade og resulterende handling | Ja for agent-rækkevidde Scanner ren, dommer åben | Udsatte punkter + ejer | Kun hvis kernevej er sikker

Hvordan jeg forklarer begrænsninger for købere

Når en potentiel kunde spørger, om produktet "dækker alt", besvarer jeg med grænsen: automatiserede kontroller fanger kendte mønstre, men nye kæder og politikdom stiller krav om gennemgang. Den ærlighed holder supportbelastningen nede og holder bloggen i trit med, hvad produktet faktisk kan.

Hvis du har brug for en anden mening, par denne artikel med referencerne nedenfor og med din egen reproduktion i staging. Spring ikke reproductionstrinet over, bare fordi en model har skrevet en selvbevidst sammenfatning.

Referencer

- https://owasp.org/www-project-top-10-for-large-language-model-applications - https://www.nist.gov/itl/ai-risk-management-framework

Ofte stillede spørgsmål

Hvad er TutorGuard?

Hold hver AI-tutor-svar sikker, før studenterne ser det.

Hvem skal bruge TutorGuard?

Operatører og byggere, der har brug for en hurtig første udskrift eller tjekliste fra TutorGuard.

Fungerer det uden en API-nøgle?

Ja i eksplicit demo-tilstand. Live AI kræver en konfigureret nøgle.

Garanterer det resultater?

Nej. Udgående er beslutningsstøtte; du skal stadig gennemgå før offentliggørelse eller handling.

Inkluderer det SSO, Slack eller bulk CSV?

Kun hvis disse funktioner er implementeret i denne produktbygning — antag dem ikke fra marketingtekst.

Hvor går data hen?

Kørsler kan gemmes lokalt under produktets.data-grænse; behandle demos som efemere.