Salut à tous 👋

Nous sommes arrivés au terme de cette série d’articles sur l’IA et l’IA générative, qui conclu d’une certaine manière cette première introduction. 🎉

La Gouvernance IA, pour ne pas être un doublon d’une gouvernance de données ou d’une gouvernance IT a pour objectif de réduire la frontière entre la technologie, les données et l’éthique.

C’est donc le garde fou qui va assurer que les outils et systèmes IA soient sécurisés et éthiques. La gouvernance établi le framework, règles et standards de développement, déploiement et usages pour s’assurer de la sécurité, la justice et le respect des droits humains.

Dans le scope de la gouvernance IA

La gouvernance IA doit adresser les risques comme les biais, la privacy (respect des données personnelles) et mauvais usages tout en promouvant l’innovation et l’acculturation dans l’entreprise.

Pour y arriver, une approche structurée pour remédier aux risques est indispensable. Cette approche doit aussi prévoir la surveillance, l’évaluation et les mises à jour des modèles, pour empêcher que des décisions, impactant négativement des personnes, soient prises.

Les risques sont adressés à travers:

👉 une forte politique IA,

👉  les régulations (EU AI Act),

👉  la gouvernance de données,

👉  la maintenance des modèles,

👉  des data sets de qualité irréprochables.

Structure de la gouvernance

La Gouvernance IA a une particularité d’être multi-disciplinaire dans son approche. Elle fait intervenir:

✔︎ La Gouvernance de données: pour assurer l’ownership et la qualité des données

✔︎ L’IT: pour assurer l’architecture, l’intégration des systèmes ainsi que ses évolutions

✔︎ Le Juridique : pour la conformité aux règlementations (ainsi que la veille)

✔︎ Les Achats (ou procurement): pour assurer que les partenaires / solutions externes répondent aux principes de l’entreprise

✔︎ Le Risque: pour s’assurer que les nouveau projets IA soient avec un risque connu et maîtrisé

✔︎ Les HR: pour s’assurer que les emplois ne sont pas en périls et que les employés bénéficient du bon niveau d’accompagnement

Ensemble, ils construisent les best-practices et guidelines de l’entreprise concernant l’IA et ses usages.

Certaines grandes entreprises mettent également en place:

• des “Ethics Boards” pour évaluer les projets à risques, s’ils sont contraire ou non aux principes de l’entreprises.
• Des “AI COE”: Centre d’Expertise IA qui va accompagner des projets IA avec des compétences expertes (intégration des modèles, entraînement des modèles, recherches de biais dans les data sets, veille innovation, acculturation etc.).

La fin en quelques mots 

Pour répondre à la question initiale la gouvernance est plus une nécessité qu’une obligation.

Aujourd’hui, il n’y a pas de standards réellement définis car les entreprises sont en “mode découverte”, tout en essayant de déterminer les bénéfices qu’ils peuvent réellement avoir. L’IA, sa gouvernance et ses technologies, est un des plus grands terrains d’expérimentation du XXIe siècle.

Pour sortir son épingle du jeu et s’assurer de ne pas être avalé par ce rouleau compresseur, il faut impérativement se former. C’est pourquoi nous avons lancé cette série d’articles d’introduction co-écrit notamment avec Thomas. J’espère qu’ils vous auront plus!

Have fun!
Laura