Article · Cybersécurité
Un agent peut raconter un danger sans savoir le classer
SAFARI teste l'aide des LLM à l'analyse des dangers automobiles et rappelle pourquoi une narration plausible ne vaut pas une classification de risque.
La plausibilité ne suffit pas
Une analyse de danger automobile doit produire un scénario compréhensible, mais aussi une évaluation cohérente avec le référentiel utilisé. Chenxi Wu, Zimu Wang, Haiyang Zhang, Wei Wang et Zhijie Xu présentent SAFARI, un benchmark d'aide par LLM à l'analyse HARA selon ISO 26262.
Le corpus contient 3 000 cas industriels désidentifiés. Le benchmark sépare deux tâches : générer une analyse de danger ouverte, puis classer le risque avec un ancrage dans la norme. Les auteurs proposent aussi un protocole de juge LLM ancré dans des références pour évaluer les artefacts ouverts, avec une corrélation annoncée avec des experts.
Résultats rapportés par SAFARI
Le résumé indique que les modèles produisent souvent des récits de danger plausibles mais restent faibles pour la classification ISO 26262. Le meilleur macro-F1 ASIL atteint 0,261 dans les configurations évaluées. Le chain-of-thought apporte peu et dégrade parfois la classification catégorielle.
L'analyse d'erreurs localise des omissions de contexte critique dans la génération du danger et des erreurs de jugement de contrôlabilité dans l'évaluation du risque. Ces résultats ne disent pas qu'un LLM est inutile ; ils indiquent où une supervision experte doit rester concentrée.
Interprétation éditoriale : séparer narration et décision
Pour un agent utilisé dans une procédure sensible, une sortie bien écrite ne devrait jamais être confondue avec une décision validée. Le workflow peut demander au modèle de proposer un scénario, puis imposer des champs structurés, des règles explicites et une revue humaine pour les niveaux de risque.
Un comparateur transparent est également utile. Le fulltext rapporte qu'une heuristique déterministe bat plusieurs configurations LLM sur certaines dimensions, même si le meilleur LLM dépasse cette base sur d'autres. Un gain moyen ne suffit donc pas : il faut montrer sur quelles composantes et contre quelle référence il est obtenu.
Limites et statut de la source
SAFARI se concentre sur une seule catégorie de dysfonctionnement, la production involontaire de force ou de couple, et reflète la distribution de ses données industrielles. Il ne couvre pas tous les dangers ISO 26262. Le preprint n'est ni une certification ni une autorisation d'automatiser une analyse de sécurité.
Source
Chenxi Wu, Zimu Wang, Haiyang Zhang, Wei Wang et Zhijie Xu, « SAFARI: An Industrial Benchmark for LLM-Assisted Hazard Analysis and Risk Assessment », ArXiv 2609.20584v1 : résumé et preprint, PDF.