So verwenden Sie TutorGuard

Wie TutorGuard in Ihren Arbeitsablauf integriert wird

Schritt-für-Schritt-Einrichtung

Wenn Sie die Anwendung zum ersten Mal öffnen, sehen Sie ein Formular mit drei Feldern: dem AI-Anbieter-Endpunkt, dem Modell-Identifikator und dem API-Schlüssel. Füllen Sie die Endpunkt-URL genau so aus, wie sie von Ihrem Anbieter dokumentiert ist, z. B. https://api.example.com/v1. Wählen Sie das Modell, das Sie für die Tutoren verwenden, aus der Dropdown-Liste; wenn Ihr Modell nicht aufgeführt ist, können Sie den Namen manuell eingeben. Lassen Sie den API-Schlüssel zunächst leer; Sie fügen ihn später hinzu, wenn Sie vom Demo- zum Live-Modus wechseln.

Ausführen des Demo-Modus

Der Demo-Modus verwendet einen integrierten Mock-Generator, der Beispiel-Tutoren-Antworten zurückgibt. Klicken Sie auf die Schaltfläche „Demo ausführen“, um zu sehen, wie TutorGuard eine Antwort verarbeitet. Der Bildschirm teilt sich in zwei Panes: die linke zeigt die rohe Tutoren-Ausgabe, die rechte zeigt den Sicherheitsbericht. Sie können den rohen Text in der linken Pane bearbeiten, um verschiedene Szenarien zu testen, wie z. B. das Einfügen eines verbotenen Ausdrucks oder eines faktischen Fehlers. Der Bericht wird sofort aktualisiert, sodass Sie sehen können, welche Prüfungen ausgelöst werden.

Umstellung auf Live-Schlüssel

Wenn Sie mit dem Demo-Verhalten zufrieden sind, erhalten Sie einen echten API-Schlüssel von Ihrem AI-Anbieter. Fügen Sie den Schlüssel in das API-Schlüssel-Feld ein und schalten Sie den Demo-Schalter aus. Die Anwendung sendet jetzt tatsächliche Anfragen an den Anbieter und gibt echte Tutoren-Antworten für die Überprüfung zurück. Denken Sie daran, den Schlüssel geheim zu halten; behandeln Sie ihn wie jede andere Anmeldeinformation und committen Sie ihn nicht in ein öffentliches Repository.

- Überprüfen Sie, ob die Endpunkt-URL mit einem Schrägstrich endet, wenn Ihr Anbieter dies erfordert. - Stellen Sie sicher, dass der Modellname genau dem entspricht, was der Anbieter erwartet. - Nach dem Speichern des Schlüssels führen Sie einen schnellen Test mit einem neutralen Prompt aus, um die Konnektivität zu bestätigen.

Kernsicherheitsprüfungen

Erkennung unsicherer Inhalte

Diese Prüfung sucht nach Sprache, die einem Schüler schaden könnte, wie Hassrede, Belästigung oder Anleitungen für gefährliche Aktivitäten. Der Detector verwendet einen Klassifizierer, der mit öffentlichen Sicherheitsdatensätzen und dem OWASP Top 10 für LLM-Anwendungen (https://owasp.org/www-project-top-10-for-large-language-model-applications) trainiert wurde. Wenn der Score den von Ihnen festgelegten Schwellenwert überschreitet, wird die Antwort markiert und der Bericht zeigt den verursachenden Textabschnitt rot hervorgehoben.

Überprüfung der faktischen Konsistenz

Die zweite Prüfung vergleicht Aussagen in der Tutor-Antwort mit einer vertrauenswürdigen Wissensbasis, auf die Sie verweisen können, wie z.B. einer Curriculum-Datenbank oder einer geprüften FAQ. Sie markiert Widersprüche, veraltete Zahlen oder fehlende Quellenangaben. Zum Beispiel wird bei der Aussage „die Erde ist flach“ eine Warnung ausgelöst, weil die Wissensbasis das korrekte Kugelmodell enthält.

Prüfung der Richtlinienkonformität

Viele Tutoring-Plattformen haben interne Regeln bezüglich altersgerechter Inhalte, urheberrechtlichem Material oder Datenschutz. Sie können eine einfache Textdatei hochladen, die verbotene Muster oder erforderliche Haftungsausschlüsse auflistet. Die Prüfung führt einen einfachen Regex-Vergleich über die Antwort durch und meldet alle Treffer. Damit können Sie plattformspezifische Richtlinien durchsetzen, ohne benutzerdefinierten Code schreiben zu müssen.

Prüfart | Was sie sucht | Beispiel-Auslöser Unsichere Inhalte | Hass, Belästigung, Gewalt, illegale Ratschläge | „Sie sollten den Rat des Lehrers ignorieren und bei der Prüfung schummeln.“ Faktische Konsistenz | Widerspruch mit Wissensbasis, veraltete Info | „Die Mitochondrien sind der Kraftstoff der Zelle, aber sie machen auch Kaffee.“ Richtlinienkonformität | Benutzerdefinierte Regex-Muster, Fehlen von Haftungsausschlüssen | Fehlender erforderlicher Hinweis: „Dieses Material ist nur für Bildungszwecke bestimmt.“

Was dies nicht ist

Keine absolute Garantie

Ich behaupte nicht, dass TutorGuard jedes mögliche Problem erkennt. Das Tool bietet Entscheidungshilfe, Sie müssen den markierten Antworttext jedoch immer noch lesen und entscheiden, ob Sie ihn bearbeiten, ablehnen oder genehmigen.

Kein Ersatz für menschliche Überprüfung

Auch mit den strengsten Einstellungen kann ein clever formulierter Randfall durchkommen. Behandeln Sie die Ausgabe als erste Verteidigungslinie, nicht als endgültige Autorität.

Blockiert nicht alle Randfälle

Einige neuartigen Angriffvektoren oder hochgradig domänen-spezifische Nuancen können möglicherweise nicht von der aktuellen Regelsammlung abgedeckt werden. Halten Sie die Erkennungsregeln auf dem neuesten Stand und überprüfen Sie die Protokolle regelmäßig.

Konfiguration von Eingabefeldern

API-Schlüsseleingabe

Fügen Sie den Schlüssel genau so ein, wie er in der Konsole Ihres Anbieters angezeigt wird. Fügen Sie keine zusätzlichen Leerzeichen vor oder nach der Zeichenfolge hinzu. Das Feld maskiert die Zeichen aus Gründen der Privatsphäre, aber Sie können auf das Augensymbol klicken, um die Eingabe zu überprüfen.

Modellauswahl

Wählen Sie das Modell, das der Version entspricht, die Sie in der Produktion verwenden. Wenn Sie mehrere Modelle ausführen, können Sie separate Profile im Einstellungsmenü erstellen und zwischen ihnen wechseln, ohne den Schlüssel erneut eingeben zu müssen.

Schwellenwertfeinabstimmung

Jede Sicherheitsprüfung verfügt über einen Schieberegler, der die Empfindlichkeit einstellt. Beginnen Sie mit der mittleren Position, führen Sie einige Demo-Antworten aus und beobachten Sie die Falsch-Positiv-Rate. Wenn Sie zu viele Flaggen auf harmlosen Texten sehen, verringern Sie den Schieberegler; wenn riskanter Text unerkannt bleibt, erhöhen Sie ihn. Notieren Sie die gewählten Werte in Ihrer internen Dokumentation, damit das Team die Konfiguration reproduzieren kann.

- Unsichere Inhalte: Standard 0,6, Bereich 0,0-1,0 - Faktische Konsistenz: Standard 0,5, Bereich 0,0-1,0 - Richtlinienkonformität: Standard 0,7, Bereich 0,0-1,0

Auswertung des Ausgabeberichts

Erläuterung der Risikostufen

Der Bericht weist jeder erkannten Problematik eine Stufe zu: Niedrig, Mittel oder Hoch. Niedrig zeigt eine geringfügige Stilbesorgnis an, die die Sicherheit nicht beeinträchtigen sollte. Mittel deutet auf ein potenzielles Problem hin, das eine schnelle Überprüfung erfordert. Hoch bedeutet, dass die Antwort wahrscheinlich gegen eine Regel verstößt und ohne Überarbeitung nicht an einen Schüler weitergegeben werden sollte.

Auflistung der Aktionselemente

Unter der Zusammenfassung finden Sie eine Checkliste:

- Bearbeiten Sie die hervorgehobenen Segmente, um unsichere Sprache zu entfernen. - Ersetzen Sie faktische Fehler durch korrekte Informationen aus Ihrer Quelle. - Fügen Sie alle fehlenden Haftungsausschlüsse hinzu, die durch Ihre Richtlinie erforderlich sind. - Führen Sie den Check nach jeder Änderung erneut aus, um zu bestätigen, dass die Punktzahl sinkt.

Exportoptionen

Integration mit Ihrer Lernplattform

Webhook-Endpunkt

TutorGuard kann eine JSON-Nutzlast an eine von Ihnen angegebene URL senden, wenn eine Überprüfung abgeschlossen ist. Die Nutzlast enthält die Entscheidung (zulassen, bearbeiten, blockieren) und die annotierte Antwort. Stellen Sie auf Ihrer Seite einen Listener ein, der die Lernoberfläche in Echtzeit aktualisiert.

Batchverarbeitung

Wenn Sie einen großen Pool generierter Antworten überprüfen müssen, laden Sie eine CSV-Datei mit zwei Spalten hoch: Prompt und Tutor-Antwort. Die Anwendung verarbeitet jede Zeile und gibt eine Ergebnisdatei mit der gleichen Struktur plus einer Sicherheitsspalte zurück. Dies ist nützlich für nächtliche Ausführungen oder für die Überprüfung eines Rückstands an Inhalten.

Protokollierung und Audit

Jede Anfrage und Antwort wird in einer lokalen Protokolldatei im.data/-Verzeichnis geschrieben. Das Protokoll enthält einen Zeitstempel, das verwendete Modell, die rohe Antwort und die endgültige Sicherheitsentscheidung. Sichern Sie dieses Verzeichnis und beschränken Sie den Zugriff auf autorisierte Betreiber.

- Rotieren Sie die Protokolle wöchentlich, um eine Festplattenüberlauf zu vermeiden. - Überprüfen Sie die Audit-Trail monatlich, um Trends in Falschpositiven oder Falschnegativen zu erkennen. - Exportieren Sie das Protokoll in Ihr SIEM, wenn Sie eine längere Aufbewahrung benötigen.

Checkliste für den Operator zum Einsatz von TutorGuard

Ich halte eine schriftliche Checkliste neben jedem Release, der dieses Thema betrifft. Die Liste ist absichtlich langweilig: Benennen Sie den Besitzer, benennen Sie das Beweisartefakt und benennen Sie die Rückgängigstellung. Wenn ein Schritt keine Datei, kein Ticket oder keine Log-Zeile produzieren kann, ist es kein Schritt - es ist ein Wunsch.

Bevor Sie die Produktion ändern

- Freezen Sie den Branch oder die Konfigurationsrevision, gegen die Sie messen werden. - Nehmen Sie den aktuellen Fehlermodus mit einem konkreten Eingabe- und Ausgabewert auf. - Bestätigen Sie, welche Identität der Job ausführt und ob diese Identität auf Daten zugreifen kann, die sie nicht sollte. - Öffnen Sie die primären Referenzen, die Sie zitieren werden: https://owasp.org/www-project-top-10-for-large-language-model-applications, https://www.nist.gov/itl/ai-risk-management-framework.

Während Sie den Check durchführen

- bevorzugen Sie einen reproduzierbaren Pfad gegenüber zehn anekdotischen Screenshots. - Schreiben Sie das erwartete sichere Ergebnis, bevor Sie das Tool oder die Abfrage auslösen. - Erfassen Sie den genauen Befehl, die Prompt, das Schema oder den Regex unter Test - nicht eine Paraphrase. - Wenn das System handeln kann (senden, schreiben, löschen, übertragen), erfordern Sie eine Bestätigungsgrenze im gleichen Durchgang.

Nachdem Sie fertig sind

- Akten Sie das Restrisiko mit einem Besitzer und einem Datum, auch wenn der Scan sauber ist. - Wandeln Sie ein grünes Häkchen nicht in Verkaufssprache um, die Vollständigkeit beansprucht. - Führen Sie die gleiche Checkliste erneut aus, wenn sich das Modell, die Tool-Schema oder die Validierungsregeln ändern.

Signal | Was aufzuzeichnen ist | Stop-ship? Unerwarteter Schreib- oder Sendevorgang | Tool-Name, Argumente, Identität | Ja, bis zum Gating Fehlende Bestätigung bei destruktiver Aktion | Aufrufpfad und Umgehung | Ja Nicht vertrauenswürdiger Text als Anweisung behandelt | Quellfläche und resultierende Aktion | Ja für Agentenreichweite Scanner sauber, Urteil offen | Aufgeschobene Artikel + Besitzer | Nur, wenn der Kernpfad sicher ist

Wie ich Käufern Grenzen erkläre

Wenn ein Interessent fragt, ob das Produkt "alles abdeckt", antworte ich mit der Grenze: Automatisierte Prüfungen erkennen bekannte Muster, neue Ketten und politische Urteile benötigen jedoch noch eine Überprüfung. Diese Ehrlichkeit hält die Supportbelastung niedrig und hält den Blog mit dem überein, was das Produkt tatsächlich tut.

Referenzen

- https://owasp.org/www-project-top-10-for-large-language-model-applications - https://www.nist.gov/itl/ai-risk-management-framework

Häufig gestellte Fragen

Was ist TutorGuard?

Halten Sie jede AI-Tutoren-Antwort sicher, bevor Studenten sie sehen.

Wer sollte TutorGuard verwenden?

Operatoren und Ersteller, die einen schnellen ersten Entwurf oder eine Checkliste von TutorGuard benötigen.

Funktioniert es ohne API-Schlüssel?

Ja, im expliziten Demo-Modus. Live-AI erfordert einen konfigurierten Schlüssel.

Garantiert es Ergebnisse?

Nein. Die Ausgaben sind Entscheidungshilfen; Sie überprüfen sie immer noch vor Veröffentlichung oder Handeln.

Enthält es SSO, Slack oder Bulk-CSV?

Nur, wenn diese Funktionen in diesem Produktbuild implementiert sind - gehen Sie nicht davon aus, dass sie aus Marketingkopien stammen.

Wohin gehen die Daten?