Sécurité
L’Espagne enregistre la première fuite de données déclarée par un agent IA
Aucun agent détourné, aucun modèle compromis : l’intrusion vient de l’autonomie accordée, et c’est l’organisation qui a déployé l’agent qui a dû la déclarer.
Deux rapports annuels de référence convergent sur l’ampleur du phénomène : chez IBM, la part des incidents impliquant du shadow IA passe à 43 %, plus du double d’une année sur l’autre ; chez Verizon, le shadow IA devient la troisième action non malveillante d’initié dans les incidents de perte de données, avec une multiplication par quatre en un an et le code source comme catégorie de données la plus fréquemment exposée. Un audit de provenance publié en août montre par ailleurs qu’une part importante des statistiques en circulation sur ce sujet cite un agrégateur plutôt que son éditeur d’origine.
L’intérêt de ce couple de rapports tient moins à la taille des chiffres qu’à leur convergence depuis deux méthodologies indépendantes. IBM travaille sur le coût des violations, Verizon sur la typologie des incidents, et les deux arrivent au même endroit : le shadow IA se range parmi les actions non malveillantes. Personne, dans ces incidents, ne cherchait à nuire.
Deux rapports annuels de référence, construits sur des méthodologies distinctes, mesurent une progression forte et cohérente de la présence du shadow IA dans les incidents de sécurité, en le classant explicitement parmi les actions non malveillantes.
Le classement compte plus que le pourcentage. Verizon range le shadow IA parmi les actions non malveillantes, aux côtés de l’erreur de destinataire et de la mauvaise configuration, et non parmi les menaces internes, catégorie qui suppose une intention. C’est un choix de taxonomie qui a des conséquences directes sur ce qu’il faut corriger : on ne traite pas une intention et un circuit avec les mêmes instruments. Et puisque la donnée la plus exposée est le code source, on imagine sans peine le mécanisme : un développeur qui colle une fonction dans le premier outil disponible pour comprendre pourquoi elle échoue. Le problème tient à la disponibilité d’un outil au moment où le besoin apparaît, et l’actif qui part par cette porte relève désormais de la propriété intellectuelle. Reste la question de la provenance, et elle mérite une note de méthode : sur un sujet aussi porteur commercialement, la chaîne de citation se dégrade vite, et il faut exiger l’éditeur d’origine avant de bâtir un argumentaire budgétaire sur un chiffre.
Utilisez ces deux rapports pour ce qu’ils démontrent, la nature non malveillante du phénomène, plutôt que pour l’urgence d’acheter qu’on leur fait dire. Et imposez-vous une discipline simple avant de citer une statistique sur le shadow IA en comité : remonter à l’éditeur, vérifier l’échantillon, vérifier qui a payé l’étude. Environ un tiers des chiffres qui circulent citent un intermédiaire plutôt que l’éditeur.
Court terme
Le chiffre de 43 % va devenir l’argument standard des budgets de sécurité IA du dernier trimestre. Il est solide, mais il mesure la présence du shadow IA dans des incidents, pas sa causalité.
Moyen terme
La catégorie de données la plus exposée étant le code source, l’exposition se déplace du secret personnel vers l’actif industriel. Les contentieux de propriété intellectuelle liés à des fuites par assistant deviendront un poste de risque à part entière.
Sécurité
Aucun agent détourné, aucun modèle compromis : l’intrusion vient de l’autonomie accordée, et c’est l’organisation qui a déployé l’agent qui a dû la déclarer.
Sécurité
Un registre de skills est une chaîne d’approvisionnement logicielle qui n’en a ni les contrôles ni le vocabulaire : ni revue humaine, ni outillage fiable, ni signal exploitable dans les métadonnées.
Sécurité
La revue qui avait trouvé trois incidents en a manqué un quatrième : l’outil de détection était lui-même un modèle, et personne n’avait mesuré son taux de rappel.