Comment utiliser TutorGuard

Comment TutorGuard s'intègre dans votre flux de travail

Configuration étape par étape

Lorsque vous ouvrez l'application pour la première fois, vous voyez un formulaire avec trois champs : le point de terminaison du fournisseur d'IA, l'identifiant de modèle et la clé API. Remplissez l'URL du point de terminaison exactement comme indiqué dans la documentation de votre fournisseur, par exemple https://api.example.com/v1. Choisissez le modèle que vous utilisez pour la tutorielle dans le menu déroulant ; si votre modèle n'est pas répertorié, vous pouvez saisir le nom manuellement. Laissez la clé API vide pour l'instant ; vous l'ajouterez plus tard lorsque vous passerez du mode démo au mode live.

Exécution du mode démo

Le mode démo utilise un générateur mock intégré qui renvoie des réponses d'essai de tuteur. Cliquez sur le bouton Exécuter le démo pour voir comment TutorGuard traite une réponse. L'écran se divise en deux volets : le volet gauche affiche la sortie brute du tuteur, le volet droit affiche le rapport de sécurité. Vous pouvez modifier le texte brut dans le volet gauche pour tester différents scénarios, tels que l'insertion d'une phrase interdite ou d'une erreur factuelle. Le rapport est mis à jour instantanément, vous permettant de voir lesquels des contrôles sont activés.

Commutation vers la clé live

Lorsque vous êtes satisfait du comportement du démo, obtenez une clé API réelle auprès de votre fournisseur d'IA. Collez la clé dans le champ de clé API et désactivez l'interrupteur de démo. L'application enverra désormais des requêtes réelles au fournisseur et renverra des réponses réelles de tuteur pour examen. N'oubliez pas de garder la clé secrète ; traitez-la comme n'importe quel autre identifiant et ne la commitez pas dans un référentiel public.

- Vérifiez que l'URL du point de terminaison se termine par une barre oblique si votre fournisseur l'exige. - Vérifiez que le nom du modèle correspond exactement à ce que le fournisseur attend. - Après avoir enregistré la clé, exécutez un test rapide avec une invite neutre pour confirmer la connectivité.

Vérifications de sécurité de base effectuées

Détection de contenu non sécurisé

Cette analyse recherche des langages qui pourraient nuire à un étudiant, tels que des discours de haine, du harcèlement ou des instructions pour des activités dangereuses. Le détecteur utilise un classificateur formé sur des jeux de données de sécurité publics et sur le OWASP Top 10 pour les applications LLM (https://owasp.org/www-project-top-10-for-large-language-model-applications). Si le score dépasse le seuil que vous avez défini, la réponse est signalée et le rapport montre l'étendue offensive mise en évidence en rouge.

Vérification de la cohérence factuelle

La deuxième vérification compare les déclarations de la réponse du tuteur avec une base de connaissances fiable que vous pouvez spécifier, telle qu'une base de données de curriculum ou un FAQ vérifié. Elle signale les contradictions, les chiffres obsolètes ou les citations manquantes. Par exemple, si le tuteur affirme « la Terre est plate », la vérification élève un avertissement car la base de connaissances contient le modèle sphérique correct.

Analyse de conformité aux politiques

De nombreuses plateformes de tutorat ont des règles internes concernant le contenu adapté à l'âge, le matériel protégé par le droit d'auteur ou la confidentialité des données. Vous pouvez télécharger un fichier texte qui liste les modèles interdits ou les mentions obligatoires. L'analyse exécute une correspondance de regex simple sur la réponse et signale tout résultat. Cela vous permet de faire respecter les directives spécifiques à la plateforme sans écrire de code personnalisé.

Type de vérification | Ce qu'il recherche | Exemple de déclencheur Contenu non sécurisé | Discours de haine, harcèlement, violence, conseils illégaux | « Vous devriez ignorer les conseils de l'enseignant et tricher au test. » Cohérence factuelle | Contradiction avec la base de connaissances, informations obsolètes | « Les mitochondries sont le centre de pouvoir de la cellule, mais elles fabriquent également du café. » Conformité aux politiques | Modèles de regex personnalisés, absence de mention | Énoncé requis manquant : « Ce matériel est à usage éducatif uniquement. »

Ce que ce n'est pas

Aucune garantie absolue

Je ne prétends pas que TutorGuard détecte tous les problèmes possibles. L'outil fournit un soutien décisionnel, vous devez encore lire la réponse signalée et décider si vous devez l'éditer, la rejeter ou l'approuver.

Ne remplace pas l'examen humain

Même avec les paramètres les plus stricts, un cas limite astucieusement formulé peut passer inaperçu. Traitez la sortie comme une première ligne de défense, et non comme l'autorité finale.

Ne bloque pas tous les cas limites

Certains vecteurs d'attaque novateurs ou certaines nuances très spécifiques au domaine peuvent ne pas être couverts par l'ensemble de règles actuel. Gardez les règles de détection à jour et examinez régulièrement les journaux.

Configuration des champs de saisie

Saisie de la clé API

Collez la clé exactement comme elle est affichée dans la console de votre fournisseur. N'ajoutez pas d'espaces supplémentaires avant ou après la chaîne. Le champ masque les caractères pour des raisons de confidentialité, mais vous pouvez cliquer sur l'icône d'œil pour vérifier la saisie.

Sélection du modèle

Choisissez le modèle qui correspond à la version que vous utilisez en production. Si vous exécutez plusieurs modèles, vous pouvez créer des profils séparés dans le menu des paramètres et basculer entre eux sans avoir à ressaisir la clé.

Réglage du seuil

Chaque vérification de sécurité dispose d'un curseur qui définit la sensibilité. Commencez par la position médiane, exécutez quelques réponses de démonstration et observez le taux de faux positifs. Si vous voyez trop de drapeaux sur du texte inoffensif, abaissez le curseur ; si du texte à risque passe inaperçu, augmentez-le. Enregistrez les valeurs choisies dans votre documentation interne afin que l'équipe puisse reproduire la configuration.

- Contenu non sécurisé : valeur par défaut 0,6, plage 0,0-1,0 - Cohérence factuelle : valeur par défaut 0,5, plage 0,0-1,0 - Conformité aux politiques : valeur par défaut 0,7, plage 0,0-1,0

Interprétation du rapport de sortie

Niveaux de risque expliqués

Le rapport attribue un niveau à chaque problème détecté : Faible, Moyen ou Élevé. Faible indique une préoccupation mineure de style qui n'affecte peut-être pas la sécurité. Moyen suggère un problème potentiel qui justifie un examen rapide. Élevé signifie que la réponse viole probablement une règle et ne devrait pas être affichée à un étudiant sans révision.

Liste des éléments d'action

En dessous du résumé, vous trouverez une liste de vérification :

- Éditez les segments mis en évidence pour supprimer le langage non sécurisé. - Remplacez les erreurs factuelles par des informations correctes provenant de votre source. - Ajoutez les avertissements manquants requis par votre politique. - Réexécutez le contrôle après chaque modification pour confirmer que le score diminue.

Options d'exportation

Intégration avec votre plateforme de tutorat

Point de terminaison Webhook

TutorGuard peut envoyer une charge utile JSON à une URL que vous spécifiez chaque fois qu'une révision est terminée. La charge utile contient la décision (autoriser, éditer, bloquer) et la réponse annotée. Configurez un écouteur de votre côté qui met à jour l'interface de tutorat en temps réel.

Traitement par lots

Si vous devez vérifier un grand pool de réponses générées, téléchargez un fichier CSV avec deux colonnes : invite et réponse du tuteur. L'application traitera chaque ligne et renverra un fichier de résultat avec la même structure plus une colonne de sécurité. C'est utile pour les exécutions nocturnes ou pour vérifier un backlog de contenu.

Journalisation et audit

Chaque requête et réponse est écrite dans un fichier journal local sous le répertoire .data/. Le journal inclut une horodatage, le modèle utilisé, la réponse brute et la décision de sécurité finale. Gardez ce dossier sauvegardé et restreignez l'accès aux opérateurs autorisés uniquement.

Liste de vérification de l'opérateur pour l'utilisation de TutorGuard

Je garde une liste de vérification écrite à côté de chaque version qui touche ce sujet. La liste est ennuyeuse par design : nommer le propriétaire, nommer l'artefact de preuve et nommer la restauration. Si une étape ne peut pas produire un fichier, un ticket ou une ligne de journal, ce n'est pas une étape - c'est un vœu.

Avant de modifier la production

- Geler la branche ou la révision de configuration que vous allez mesurer. - Enregistrer le mode d'échec actuel avec une entrée concrète et une sortie concrète. - Confirmer l'identité sous laquelle le travail s'exécute et si cette identité peut accéder à des données qu'elle ne devrait pas. - Ouvrir les références principales que vous allez citer : https://owasp.org/www-project-top-10-for-large-language-model-applications, https://www.nist.gov/itl/ai-risk-management-framework.

Pendant que vous exécutez la vérification

- Préférer un chemin reproductible à dix captures d'écran anecdotiques. - Écrire le résultat sécurisé attendu avant de déclencher l'outil ou la requête. - Capturer la commande exacte, l'invite, le schéma ou l'expression régulière sous test - et non une paraphrase. - Si le système peut agir (envoyer, écrire, supprimer, transférer), exiger une limite de confirmation dans le même passage.

Après avoir terminé

- Enregistrer le risque résiduel avec un propriétaire et une date, même lorsque l'analyse est propre. - Ne pas convertir un contrôle vert en langage de vente qui prétend à l'exhaustivité. - Réexécuter la même liste de vérification lorsque le modèle, le schéma de l'outil ou les règles de validation changent.

Signal | Qu'enregistrer | Arrêter l'expédition? Écriture ou envoi inattendu | Nom de l'outil, arguments, identité | Oui jusqu'à ce que cela soit bloqué Confirmation manquante sur l'action destructive | Chemin d'appel et contournement | Oui Texte non fiable traité comme instruction | Surface source et action résultante | Oui pour la portée de l'agent Analyseur propre, jugement ouvert | Éléments différés + propriétaire | Seulement si le chemin principal est sécurisé

Comment j'explique les limites aux acheteurs

Lorsqu'un prospect demande si le produit "couvre tout", je réponds avec la limite : les vérifications automatisées détectent les modèles connus ; les chaînes nouvelles et le jugement politique nécessitent encore un examen. Cette honnêteté réduit la charge de support et maintient le blog aligné sur ce que le produit fait réellement.

Références

- https://owasp.org/www-project-top-10-for-large-language-model-applications - https://www.nist.gov/itl/ai-risk-management-framework

Questions fréquentes

Qu'est-ce que TutorGuard ?

Gardez chaque réponse du tuteur IA en toute sécurité avant que les étudiants ne la voient.

Qui devrait utiliser TutorGuard ?

Les opérateurs et les concepteurs qui ont besoin d'un premier brouillon rapide ou d'une liste de contrôle à partir de TutorGuard.

Fonctionne-t-il sans clé API ?

Oui en mode démo explicite. L'IA en direct nécessite une clé configurée.

Garantit-il les résultats ?

Non. Les sorties sont des outils de soutien à la décision ; vous devez toujours les examiner avant de publier ou d'agir.

Inclut-il l'authentification unique, Slack ou le CSV en bloc ?

Seulement si ces fonctionnalités sont implémentées dans cette version du produit — ne les supposez pas à partir du texte marketing.

Où vont les données ?

Les exécutions peuvent être stockées localement sous la limite .data/ du produit ; traitez les démos comme éphémères.

Oui, TutorGuard est conçu pour se conformer à ces directives et réglementations.