piighost-chat
Un chatbot de démonstration qui anonymise les messages avant que le LLM ne les voie.
Ce qu'il démontre
piighost-chat est un chatbot de démonstration qui montre une conversation respectueuse de la vie privée de bout en bout. Les messages de l'utilisateur sont anonymisés avant d'atteindre le LLM, et les réponses sont désanonymisées avant d'atteindre l'utilisateur. Les outils reçoivent les vraies valeurs.
La pile technique
- Un frontend React et un backend Litestar exécutant un agent LangChain.
- PIIAnonymizationMiddleware englobant l'agent : anonymisation avant le LLM, désanonymisation après.
- piighost-api pour la détection et la mise en évidence, avec une mémoire à portée de fil pour des jetons cohérents.
- keyshield pour l'authentification par clé d'API.
Le parcours utilisateur
- L'utilisateur saisit un message.
- Le backend appelle piighost-api pour détecter les données personnelles ; le frontend met les entités en évidence.
- L'utilisateur confirme, et le message part vers l'agent.
- Le middleware l'anonymise avant que le modèle ne le voie, et désanonymise la réponse.
Lancez-le
git clone https://github.com/Athroniaeth/piighost-chat
cd piighost-chat
docker compose up