Hoe TutorGuard gebruiken

Hoe TutorGuard in uw workflow past

Stap-voor-stap-installatie

Wanneer u de applicatie voor het eerst opent, ziet u een formulier met drie velden: de endpoint-URL van de AI-provider, de modelidentifier en de API-sleutel. Vul de endpoint-URL exact in zoals uw provider documenteert, bijvoorbeeld https://api.example.com/v1. Kies het model dat u gebruikt voor tutoring uit de dropdown; als uw model niet in de lijst staat, kunt u de naam handmatig invoeren. Laat de API-sleutel voorlopig leeg; u voegt deze later toe wanneer u overschakelt van demo- naar live-modus.

Uitvoeren van de demo-modus

De demo-modus gebruikt een ingebouwde mock-generator die voorbeeldtutorantwoorden retourneert. Klik op de knop Demo uitvoeren om te zien hoe TutorGuard een antwoord verwerkt. Het scherm splitst zich in twee vensters: het linker venster toont de onbewerkte tutoruitvoer, het rechter venster toont het veiligheidsrapport. U kunt de onbewerkte tekst in het linker venster bewerken om verschillende scenario's te testen, zoals het invoegen van een verboden zin of een feitelijke fout. Het rapport wordt onmiddellijk bijgewerkt, zodat u kunt zien welke controles worden geactiveerd.

Overschakelen naar live-sleutel

Wanneer u tevreden bent met het demo-gedrag, verkrijgt u een echte API-sleutel van uw AI-provider. Plak de sleutel in het veld API-sleutel en schakel de demo-schakelaar uit. De applicatie zal nu daadwerkelijke verzoeken naar de provider sturen en echte tutorantwoorden retourneren voor controle. Onthoud dat u de sleutel geheim moet houden; behandel deze als elk ander referentie en commit deze niet naar een openbare repository.

- Controleer of de endpoint-URL eindigt met een schuine streep als uw provider dit vereist. - Controleer of de modelnaam exact overeenkomt met wat de provider verwacht. - Na het opslaan van de sleutel, voert u een snelle test uit met een neutrale prompt om de connectiviteit te bevestigen.

Kernveiligheidscontroles uitgevoerd

Detectie van onveilig inhoud

Deze scan zoekt naar taal die een student kan schaden, zoals haatzaaiende taal, intimidatie of instructies voor gevaarlijke activiteiten. De detector gebruikt een classificator die is getraind op openbare veiligheidsdatasets en op de OWASP Top 10 voor LLM-toepassingen (https://owasp.org/www-project-top-10-for-large-language-model-applications). Als de score de door u ingestelde drempel overschrijdt, wordt het antwoord gemarkeerd en wordt in het rapport het aanstootgevende gedeelte rood gemarkeerd.

Verificatie van feitelijke consistentie

De tweede controle vergelijkt verklaringen in het antwoord van de tutor met een betrouwbare kennisbasis die u kunt aangeven, zoals een curriculumdatabase of een gevalideerde FAQ. Het markeert tegenstrijdigheden, verouderde nummers of ontbrekende citaten. Als de tutor bijvoorbeeld beweert dat „de aarde plat is”, zal de controle een waarschuwing geven omdat de kennisbasis het correcte bolvormige model bevat.

Scan voor naleving van het beleid

Veel tutorplatforms hebben interne regels over leeftijdsgepaste inhoud, auteursrechtelijk beschermd materiaal of gegevensbescherming. U kunt een platte-tekstbestand uploaden met een lijst van verboden patronen of vereiste mededelingen. De scan voert een eenvoudige regex-overeenkomst uit over het antwoord en rapporteert eventuele treffers. Dit stelt u in staat om platformspecifieke richtlijnen te handhaven zonder aangepaste code te schrijven.

Controletype | Waar het naar zoekt | Voorbeeldtrigger Onveilig inhoud | Haat, intimidatie, geweld, illegale adviezen | „Je moet de adviezen van de leraar negeren en vals spelen bij de test.” Feitelijke consistentie | Tegenstrijdigheid met kennisbasis, verouderde informatie | „De mitochondrie is de krachtcentrale van de cel, maar het maakt ook koffie.” Naleving van het beleid | Aangepaste regex-patronen, afwezigheid van mededelingen | Ontbrekende vereiste verklaring: „Dit materiaal is alleen voor educatief gebruik.”

Wat dit niet is

Geen absolute garantie

Ik beweer niet dat TutorGuard elk mogelijk probleem vindt. Het hulpmiddel biedt beslissingsondersteuning; u moet de gemarkeerde reactie nog steeds lezen en beslissen of u deze wilt bewerken, afwijzen of goedkeuren.

Geen vervanging voor menselijke controle

Zelfs met de sterkste instellingen kan een handig geformuleerde randgeval doorheen glippen. Behandel de uitvoer als een eerste verdedigingslijn, niet als de definitieve autoriteit.

Blokt niet alle randgevallen

Sommige nieuwe aanvalsvectoren of zeer domeinspecifieke nuances worden mogelijk niet gedekt door de huidige regelset. Houd de detectieregels up-to-date en controleer de logboeken regelmatig.

Configuratie van invoervelden

API-sleutel invoeren

Plak de sleutel exact zoals deze wordt weergegeven in de console van uw provider. Voeg geen extra spaties toe voordat of na de tekenreeks. Het veld maskeert de tekens voor privacy, maar u kunt op het oogpictogram klikken om de invoer te verifiëren.

Model selectie

Kies het model dat overeenkomt met de versie die u in productie gebruikt. Als u meerdere modellen uitvoert, kunt u afzonderlijke profielen maken in het instellingenmenu en tussen hen schakelen zonder de sleutel opnieuw in te voeren.

Drempelafstemming

Elke veiligheidscontrole heeft een schuiver die de gevoeligheid instelt. Begin met de middelste positie, voer een paar demo-antwoorden uit en observeer de vals-positieve tarief. Als u te veel vlaggen op onschuldige tekst ziet, verlaag de schuiver; als riskante tekst onopgemerkt voorbijgaat, verhoog deze. Noteer de gekozen waarden in uw interne documentatie, zodat het team de instellingen kan reproduceren.

- Onveilige inhoud: standaard 0,6, bereik 0,0-1,0

- Feitelijke consistentie: standaard 0,5, bereik 0,0-1,0

- Beleidscompliantie: standaard 0,7, bereik 0,0-1,0

Het uitvoer rapport interpreteren

Risiconiveaus uitgelegd

Het rapport wijst een niveau toe aan elk gedetecteerd probleem: Laag, Gemiddeld of Hoog. Laag geeft een kleine stijlconcern aan die de veiligheid mogelijk niet beïnvloedt. Gemiddeld suggereert een potentieel probleem dat een snelle blik waard is. Hoog betekent dat het antwoord waarschijnlijk een regel schendt en niet zonder herziening aan een student getoond moet worden.

Actiepuntenlijst

Onder het overzicht vindt u een checklist:

- Bewerk de gemarkeerde segmenten om onveilige taal te verwijderen. - Vervang feitelijke fouten door correcte informatie uit uw bron. - Voeg eventuele ontbrekende mededelingen toe die door uw beleid zijn vereist. - Voer de controle opnieuw uit na elke wijziging om te bevestigen dat de score daalt.

Exportopties

Integratie met uw tutorplatform

Webhook-eindpunt

TutorGuard kan een JSON-payload naar een door u opgegeven URL verzenden wanneer een beoordeling is voltooid. De payload bevat de beslissing (toestaan, bewerken, blokkeren) en het geannoteerde antwoord. Stel een luisteraar in op uw kant die de tutorinterface in real-time bijwerkt.

Batchverwerking

Als u een grote pool gegenereerde antwoorden moet controleren, uploadt u een CSV-bestand met twee kolommen: prompt en tutorantwoord. De applicatie verwerkt elke rij en retourneert een resultaatbestand met dezelfde structuur plus een veiligheidskolom. Dit is handig voor nachtelijke runs of voor het controleren van een backlog aan inhoud.

Loggen en audit

Elk verzoek en antwoord wordt geschreven naar een lokaal logbestand in de .data/-map. Het logbestand bevat een tijdstempel, het gebruikte model, het ruwe antwoord en de definitieve veiligheidsbeslissing. Houd deze map gesynchroniseerd en beperk de toegang tot geautoriseerde operators alleen.

Operator checklist voor het gebruik van TutorGuard

Ik hou een geschreven checklist bij elke release die deze onderwerpen raakt. De lijst is saai om een reden: noem de eigenaar, noem het bewijsartefact en noem de rollback. Als een stap geen bestand, ticket of logregel kan produceren, is het geen stap - het is een wens.

Voordat u productie wijzigt

- Vries de branch of config-revisie die u wilt meten. - Registreer de huidige foutmodus met één concreet invoer- en één concreet uitvoer. - Bevestig welke identiteit de taak uitvoert en of die identiteit toegang heeft tot gegevens die het niet zou moeten hebben. - Open de primaire referenties die u zal citeren: https://owasp.org/www-project-top-10-for-large-language-model-applications, https://www.nist.gov/itl/ai-risk-management-framework

Terwijl u de controle uitvoert

- Geef de voorkeur aan één reproduceerbare pad over tien anekdotische screenshots. - Schrijf het verwachte veilige resultaat voordat u het hulpmiddel of de query activeert. - Vang de exacte opdracht, prompt, schema of regex onder test - niet een parafrase. - Als het systeem kan handelen (versturen, schrijven, verwijderen, overdragen), vereis een confirmatiegrens in hetzelfde doorvoeren.

Nadat u klaar bent

- Registreer het resterende risico met een eigenaar en een datum, zelfs als de scan schoon is. - Converteer geen groene check naar verkooptaal die volledigheid claimt. - Voer dezelfde checklist opnieuw uit wanneer het model, het hulpmiddelschema of de validatieregels veranderen.

Signaal | Wat te registreren | Stop-ship? Onverwachte schrijf- of verzendactie | Hulpmiddelnaam, args, identiteit | Ja totdat het wordt geblokkeerd Ontbrekende confirmatie bij destructieve actie | Oproep-pad en omzeiling | Ja Onbetrouwbaar tekst behandeld als instructie | Bronoppervlak en resulterende actie | Ja voor agentbereik Scanner schoon, oordeel open | Uitgestelde items + eigenaar | Alleen als de kernpad veilig is

Hoe leg ik limieten uit aan kopers

Wanneer een potentiële koper vraagt of het product "alles dekt", antwoord ik met de grens: geautomatiseerde controles detecteren bekende patronen; nieuwe ketens en beleidsbeoordelingen hebben nog steeds een review nodig. Die eerlijkheid houdt de ondersteuningslast laag en houdt de blog in overeenstemming met wat het product daadwerkelijk doet.

Referenties

- https://owasp.org/www-project-top-10-for-large-language-model-applications - https://www.nist.gov/itl/ai-risk-management-framework

Vaak gestelde vragen

Wat is TutorGuard?

Houd elke AI-tutorantwoord veilig voordat studenten het zien.

Wie moet TutorGuard gebruiken?

Operators en bouwers die een snelle eerste conceptversie of controlelijst van TutorGuard nodig hebben.

Werkt het zonder API-sleutel?

Ja in expliciete demomodus. Live AI vereist een geconfigureerde sleutel., Garandeert het resultaten?

Nee. Uitvoer zijn beslissingsondersteunend; u moet ze nog steeds controleren voordat u publiceert of actie onderneemt.

Omvat het SSO, Slack of bulk CSV?

Alleen als deze functies zijn geïmplementeerd in deze productbuild — ga er niet vanuit dat ze uit marketingmateriaal komen.

Waar gaat de data naartoe?

Runs kunnen lokaal worden opgeslagen onder de .data/-grens van het product; behandel demos als ephemerisch.