Intelligence Artificielle de confiance : Quand le débat sur l’IA ne se limite pas à la seule performance

A la une

Economie

Intelligence Artificielle de confiance : Quand le débat sur l’IA ne se limite pas à la seule performance

Marwa Saidi

25 juillet 2026

5 min de lecture

Alors que les débats sur l’intégration de l’IA dans les stratégies et les processus des entreprises battent leur plein, une question est souvent reléguée au second plan : celle de l’IA de confiance. Un terme encore peu répandu, mais d’une importance cruciale, non seulement pour protéger l’entreprise contre les dérives que peut générer le modèle d’IA adopté, mais aussi pour préserver son savoir-faire et son cœur de métier.

La Presse —«L’IA de confiance, c’est l’assurance d’être capable de développer et de déployer une IA dont on a le contrôle et la maîtrise. Une IA dont on est responsable, tant dans sa manière d’être déployée que dans son utilisation par les clients, qu’ils soient grand public, institutionnels ou entreprises privées», a fait savoir, dans une déclaration à La Presse, Mme Nozha Ben Hjar Boujemâa, conseillère principale en IA.

Pour l’experte, ce sujet n’est pas encore largement débattu dans le monde, car la plupart des acteurs du secteur s’intéressent avant tout à la performance des solutions d’IA commercialisées, sans toujours vérifier leur robustesse, c’est-à-dire leur reproductibilité et leur répétabilité, ni s’assurer de la maîtrise de toutes les phases du cycle de vie du système d’IA mis à la disposition de l’entreprise.

«C’est tout un écosystème qui doit être impliqué. Il ne s’agit pas d’un data scientist qui crée un algorithme. Loin de là. Le déploiement d’une IA de confiance au sein d’une entreprise relève de la responsabilité de nombreux acteurs et nécessite la capacité d’orchestrer différents métiers, notamment la finance, le juridique, la technique, la cybersécurité, etc. Malheureusement, on est encore très loin de cela. Et c’est un problème observé partout dans le monde », a renchéri Mme Boujemâa.

Elle a ajouté que la notion d’IA de confiance requiert un niveau de maturité qui n’est pas encore atteint, même à l’échelle internationale. Une lacune qui a d’ailleurs conduit l’Ocde à coordonner les efforts de ses pays membres afin de rendre cette IA de confiance pleinement opérationnelle. L’experte a également regretté que les débats autour de l’IA de confiance, ou de l’IA éthique, renvoient systématiquement à la question de la régulation. Or, selon elle, cette dernière n’est pas intrinsèquement liée à cette notion émergente.

L’importance de dresser es garde-fous

«On n’a pas besoin d’une réglementation pour dire qu’une entreprise doit établir sa cartographie de l’IA. Une entreprise doit compter sur elle-même et connaître son portefeuille d’IA. Ce n’est pas une question réglementaire ni une obligation», a-t-elle souligné. Rappelant que la gouvernance de l’IA fait aujourd’hui l’objet de fortes tensions politiques et géopolitiques, Mme Boujemâa a affirmé que la détection des vulnérabilités par les IA pose aujourd’hui problème.

« Celui qui détecte les vulnérabilités est aussi le mieux placé pour attaquer, compromettre votre IA et la détourner de son fonctionnement robuste, répétable et fiable », a-t-elle commenté. Selon l’experte, la finance figure aujourd’hui parmi les secteurs où l’IA est la plus sollicitée en raison de ses performances. Mais il s’agit également d’un domaine où l’IA ne doit pas seulement être performante, elle doit être de confiance.

«C’est extrêmement important, et même très rentable d’un point de vue business, d’investir dans des solutions qui garantissent la qualité de l’IA et permettent de détecter les vulnérabilités. Aujourd’hui, l’enjeu ne réside plus dans le nombre d’IA développées, mais dans la manière dont elles sont conçues afin qu’elles soient fiables», a-t-elle expliqué.

Et d’ajouter : «Prenons l’exemple d’un chat bot qui dialogue avec des clients ou des consommateurs. Si ce dernier peut être détourné de sa mission principale, qui est de vendre, pour commencer à parler politique, c’est le phénomène que l’on appelle le jailbreak qui se produit. C’est pourquoi un travail considérable doit être réalisé sur l’alignement, c’est-à-dire sur la définition de limites claires de l’IA déployée au domaine d’activité de l’entreprise».

L’experte a ajouté que ces aspects liés aux garde-fous à mettre en place sont aujourd’hui relégués au second plan, toute l’attention étant concentrée sur les performances des modèles développés. «Je fais souvent l’analogie avec les nouvelles molécules pharmaceutiques. Avant de mettre un nouveau médicament sur le marché, il existe un processus extrêmement long et rigoureux. Ce n’est pas le cas des algorithmes. Pourtant, il faut être vigilant, car les algorithmes ont aujourd’hui un impact considérable sur nos vies», a-t-elle conclu.