Manque de transparence
Les utilisateurs ne savent pas toujours pourquoi un modèle propose une décision.
Des décisions IA traçables, explicables et responsables
Traçabilité IA centralise la prédiction Machine Learning, les explications SHAP, les recommandations multi-agents, les sources et la validation humaine dans un dossier complet et auditable.
Validation humaine Explicabilité SHAP Audit SHA-256 Multi-agents Groq
Problématique
Pourquoi tracer les décisions assistées par IA ?
Une prédiction seule ne suffit pas. Pour comprendre, contrôler et auditer une décision, il faut conserver le contexte, les données, le modèle, les explications, les sources, les recommandations IA et l'intervention humaine.
Difficulté d'audit
Sans historique et sans intégrité, il devient difficile de reconstruire le dossier d'une décision.
Responsabilité humaine
L'intelligence artificielle doit assister la décision sans remplacer le contrôle humain.
Fonctionnalités
Une traçabilité complète de bout en bout
Une plateforme de traçabilité, d'explicabilité et d'audit des décisions assistées par intelligence artificielle.
Prédiction Machine Learning
Analyse des données métier avec conservation du modèle, de la version et du niveau de confiance.
Explication SHAP
Identification des facteurs qui influencent positivement ou négativement la prédiction.
Agents IA Groq
Consultation de plusieurs modèles IA afin d'obtenir des recommandations complémentaires.
Consensus multi-agents
Calcul du niveau d'accord entre les agents sans modifier la prédiction ML.
Validation humaine
Décision finale réalisée par un validateur à partir du dossier complet.
Audit et intégrité
Historique des événements, correlation ID, hashes SHA-256 et chaînage d'intégrité.
Comment ça marche
Du dossier métier à la validation finale
Un parcours clair, de la saisie des données jusqu'à la décision humaine enregistrée dans le dossier auditable.
01 Saisie du dossier
L'agent de crédit saisit le dossier client (demande et données financières).
02 Analyse ML et SHAP
Le service ML génère une prédiction et explique les facteurs associés.
03 Consultation multi-agents
Trois agents Groq analysent le même dossier et proposent leurs recommandations.
04 Consensus et traçabilité
Le système calcule le consensus, enregistre les sources et génère les hashes.
05 Validation humaine
Le validateur consulte toutes les informations et prend la décision finale.
Technologies
Une architecture moderne et modulaire
Stack réellement utilisée dans le projet, du frontend jusqu'au service ML et aux agents IA.
Frontend
- Angular 21
- PrimeNG
- Sakai / Aura
Backend
- Spring Boot 3.4
- Java 17
Données
- PostgreSQL
Machine Learning
- Python
- Flask
- Scikit-learn
- SHAP
IA générative
- Groq
- OpenRouter (compatibilité historique)
Sécurité & déploiement
- JWT
- Docker Compose
- SHA-256
Sécurité & intégrité
Des décisions vérifiables et auditables
Chaque dossier conserve les événements importants et les empreintes d'intégrité afin de détecter les modifications et de faciliter l'audit. Conçu pour faciliter les démarches de transparence, d'audit et de gouvernance de l'IA.
Authentification JWT
Accès protégé à l’application et aux API.
Gestion des rôles
Agent de crédit, validateur, auditeur et administrateur.
Historique des événements
Chaque étape du dossier est horodatée et consultable.
Chaînage SHA-256
Empreintes d’intégrité pour détecter les modifications.
Cas d'usage
Cas d'usage principal : analyse de demandes de crédit
L'application analyse les informations financières d'une demande de crédit, génère une prédiction ML, explique les facteurs SHAP, consulte les agents Groq, calcule un consensus puis transmet le dossier à un validateur humain.
Analyse du risque
Prédiction ML sur les données financières de la demande, avec score de confiance et niveau de risque.
Explicabilité de la prédiction
Facteurs SHAP pour comprendre ce qui pousse le modèle à accepter ou refuser.
Validation et audit
Consensus multi-agents, sources, historique et décision humaine enregistrée.
Le système est un outil d'aide à la décision et ne remplace pas la décision humaine.
Validation humaine
L'humain reste responsable de la décision finale
Le validateur consulte la prédiction ML, les facteurs SHAP, les réponses des agents, le consensus, les sources et l'intégrité du dossier avant d'enregistrer une décision finale.
Approuver
Confirmer la décision proposée après analyse du dossier.
Rejeter
Refuser la demande et enregistrer la décision humaine.
Modifier
Ajuster la décision humaine tout en conservant la trace.
Review
Demander un nouvel examen tout en gardant le statut en attente.
Groq et le modèle ML assistent l'analyse ; ils ne prennent jamais la décision finale.
Passer à l'action
Découvrez une approche responsable de la décision assistée par IA
Accédez à la plateforme pour créer, analyser, expliquer et auditer un dossier de décision.
Dossier ML + SHAP + agents + consensus Validation humaine finale Historique et intégrité SHA-256
Commencer maintenant
Ouvrez l'application pour créer et auditer vos dossiers de décision.