Toute technologie nouvelle soulève certaines préoccupations : l’impact sur le personnel et sur les activités existantes, mais aussi les risques d’utilisation abusive et d’application erronée. Immanquablement, cela conduit les législateurs à définir de nouvelles règles et même parfois de nouveaux organismes et cadres réglementaires. Avec l’émergence de l’IA, cette technologie nouvelle génération qui semble promettre un potentiel illimité, les questions de la gouvernance et de la réglementation alimentent à nouveau les débats. À ceci près que, cette fois, la conversation prend une tournure légèrement différente.
Le potentiel de croissance de l’IA introduit un type de risque très différent de ce que nous avons pu observer auparavant avec d’autres technologies d’entreprise comme les ordinateurs, le cloud et le BYOD. L’avènement du cloud a essentiellement soulevé des inquiétudes sur le plan de la confidentialité et de la sécurité. Avec l’IA, il est avant tout question de développer des solutions qui exécutent des tâches comme le feraient des spécialistes humains du domaine. Une approche qui soulève des préoccupations d’un tout autre ordre pour les législateurs et la société en général. Dans le secteur de la santé, comment réagir face à un assistant IA qui prédit la mort d’un patient dans les 12 mois ? Comment la société doit-elle gérer les véhicules autonomes quand ils sont plus sûrs que les conducteurs humains ? Y aura-t-il vraiment autant de nouveaux emplois que d’emplois remplacés par l’IA ?
Autant de raisons qui justifient pourquoi la gouvernance de l’IA doit devenir une priorité absolue pour les entreprises, en particulier pour celles qui aspirent à exploiter pleinement le potentiel de l’IA. Beaucoup d’entre elles le reconnaissent, mais il semblerait qu’elles aient encore un long chemin à parcourir à cet égard.
Selon une récente étude réalisée par Juniper Networks auprès de 700 responsables de l’IA/ML, il apparaît que, malgré des déploiements en nette progression, une grande majorité des personnes interrogées (63 %) estimant avoir « pratiquement » atteint leurs objectifs en matière d’adoption de l’IA , seuls 9 % des entreprises considèrent comme « mature » leur gouvernance de l’IA.
Cet écart pour le moins inquiétant pourrait ralentir non seulement l’adoption de l’IA par les entreprises, mais également les plans de développement des fournisseurs.
Au vu du rythme actuel de l’innovation dans le domaine de l’IA et de l’incroyable dynamisme des réglementations et législations internationales sur ce sujet, il devient essentiel d’adopter un cadre de gouvernance complet et de s’engager à développer et adopter l’IA selon une bonne approche pour éviter que la croissance de l’IA ne sème le trouble.
Investir dans l’avenir de l’IA
Il faut énormément de temps, de personnes et d’argent pour élaborer de nouvelles réglementations, définir de nouveaux cadres de gouvernance ou exploiter les cadres existants (UL, FDA, CE, etc.) pour des technologies radicalement nouvelles. Et pourtant, l’IA est vraiment une technologie qui mérite des investissements. Quel que soit le montant des dépenses qu’une entreprise choisirait de consacrer aujourd’hui au développement de structures résilientes de gouvernance de l’IA, cet investissement serait tout à fait négligeable par rapport aux fruits qu’elle pourrait en récolter.
Dans notre étude, plus des deux tiers des personnes interrogées ont indiqué vouloir réinvestir les sommes économisées grâce à l’IA dans la croissance de l’entreprise. Et quand on rapproche ces résultats des chiffres observés par McKinsey, qui rapporte que 79 % des entreprises ont réduit leurs coûts de plus de 10 % grâce à l’IA, on comprend aisément que d’énormes capitaux pourraient potentiellement être libérés au profit de la croissance des entreprises.
Anticiper la législation
Près de la moitié des responsables de l’IA que nous avons interrogés voient dans la conformité réglementaire le principal risque dû à l’adoption de l’IA, qu’ils imputent à un manque de supervision. 95 % des personnes interrogées conviennent que les entreprises ont besoin d’une gouvernance de l’IA, non seulement pour minimiser les impacts négatifs de l’IA, mais également pour anticiper les réglementations gouvernementales.
En Europe, l’Union européenne (UE) a entrepris de renforcer rapidement sa réglementation de l’IA et, sous couvert du RGPD, a introduit l’une des toutes premières législations relatives à l’IA. La proposition de Règlement européen sur l’intelligence artificielle, qui devrait être votée en 2023, classe les applications IA en fonction du risque et, selon cette catégorie, applique des normes de conformité strictes. Et ces conditions ne s’appliquent pas uniquement aux entreprises européennes. Les règles s’appliquent à toute entreprise qui opère dans l’UE. Outre-Atlantique, la réglementation de l’IA s’accélère sous l’administration Biden, avec des organismes gouvernementaux comme la FDA et la Federal Trade Commission qui commencent à légiférer contre la discrimination, la fraude et l’utilisation abusive des données associées à l’IA. En parallèle, le White House Office of Science and Technology Policy a engagé des travaux en vue de rédiger une Charte des droits pour l’IA.
Donner aux employés les moyens de s’épanouir (et les inciter à rester)
La gouvernance de l’IA n’est pas une simple question de sécurité et de conformité. Elle entend également permettre aux entreprises d’utiliser efficacement la technologie.
L’un des avantages évidents d’une stratégie IA efficace est de libérer les employés de certaines tâches qui n’ont aucun attrait stratégique, afin de leur permettre de se concentrer davantage sur des activités qui ont un véritable impact (celles-là mêmes qui les ont sans doute motivés à rejoindre l’entreprise). Au cours d’une récente visite chez un client de l’enseignement supérieur, le responsable IT de l’établissement s’est plaint de passer tout son temps à chasser les bugs et à mettre à jour les équipements réseau. Lorsqu’il a demandé plus d’effectifs afin de se concentrer sur l’amélioration du réseau mobile pour les étudiants, on lui a répondu que cette option n’était pas envisageable, ce qui l’a conduit à adopter l’IA/ML pour l’aider à gérer le réseau. Pratiquement toutes les personnes que nous avons interrogées (97 %) ont remarqué une hausse de la satisfaction des employés depuis que leur entreprise a décidé de déployer l’IA pour assurer certaines tâches opérationnelles. Avec un marché du travail hautement concurrentiel et la Grande Démission qui ne montre aucun signe de ralentissement, il devient essentiel de trouver les moyens de retenir les meilleurs employés.
À cet égard, il ne fait aucun doute que l’IT et l’IA peuvent jouer un rôle crucial.
La gouvernance n’est pas un remède miracle capable de libérer automatiquement le pouvoir de l’IA dans l’entreprise, mais elle contribue massivement à éviter des obstacles sur le chemin d’une IA réussie. En amorçant cette transition, les équipes IT ont l’opportunité de jouer un rôle encore plus stratégique au sein de leur entreprise. Et à mesure que nos homologues métier gagneront en aisance avec les stratégies de gouvernance et d’atténuation des risques de l’IA, ils seront sans doute de plus en plus convaincus par cette technologie et commenceront à exploiter plus pleinement le pouvoir de l’IA, que la plupart des entreprises n’ont encore effleuré qu’en surface.
