L’IA se base sur des données et algorithmes influencés par nos propres biais cognitifs ce qui renforce nos propres biais au fur et à mesure que nous l’utilisons…
… et ainsi de suite.

Un peu comme sur LinkedIn : plus je réagis à un certain type de posts, plus l’algorithme me donne à voir du contenu du même tonneau et plus cela a une influence sur mon point de vue… Et plus je pense que j’ai raison de penser ce que je pense d’autant plus que LinkedIn me permet de le confirmer.

Un vrai cercle vicieux qui nous enferme dans une vision réductrice du monde.

Pour sortir de ce cercle vicieux, les prescripteurs et concepteurs de solutions IA peuvent en premier lieu veiller à :
se baser sur des données plus riches provenant de sources plus diversifiées
mettre au point des algorithmes conçus pour tirer parti de cette richesse.

Encore faut-il qu’ils soient disposé et mandatés pour adresser le problème !

La Solution

Mettre en place des comités pluridisciplinaires entre ceux qui peuvent avoir de l’entendement sur la représentativité des données, ceux qui peuvent évaluer la pertinence des modèles, les utilisateurs, les garants de la confidentialité et de l’éthique, etc…. Reste à déterminer les sujets à traiter, comment cadrer, conduire les débats et en exploiter les conclusions.

Les résultats

Des acteurs clefs impliqués sur les questions de représentativité des données et modèles
Des espaces de travail structurés que l’on peut mobiliser sur de nombreux autres sujets IA
Des IA qui reflètent mieux la complexité de notre monde.

Une fois le dialogue établi, des rencontres régulières et structurées entre ces acteurs favoriseraient l’évolution continue des modèles et des data en :
Ajustant en fonction du contexte business, politique, environnemental ou social
Prenant en compte les avancées technologiques.

Conclusion

Bien avoir en tête ce phénomène de biais et le cercle vicieux qu’il engendre.
La vague de sensibilisation actuelle à l’IA dans les organisations gagnerait à mettre particulièrement l’accent sur ce phénomène.

Des espaces de travail rassemblant les différentes parties-prenantes permettrait de prendre les bonnes options pour limiter ces effets et permettre de disposer d’une IA riche et reflétant davantage la diversité du monde physique.

Cet article Les biais de l’IA sont aussi nos biais (et vice versa) est apparu en premier sur Vesta Team.

Adopter et tirer parti de l’IA mobilise de nombreux acteurs d’origine et de sensibilités différentes. S’ils sont chacun expert en leur domaine, ils ont en même temps besoin de se parler et de s’écouter pour se comprendre. Commanditaires métier, data analysts, data scientists ou experts informatiques, parlent des langages différents et peuvent avoir du mal à se représenter la chaîne de valeur complète d’un projet d’IA exploitant la mine d’information que recèlent les données de l’entreprise dont ils disposent et des « communs » provenant d’une multitude d’autres sources.

Que ce soit pour explorer de nouveaux marchés, créer un avantage concurrentiel ou lancer un nouveau produit ou service, le succès d’un projet IA relève en grande partie de la capacité de ses parties prenantes à travailler en proximité et à créer des modes de fonctionnement efficaces et vertueux.

Aligner la compréhension de ce qu’est l’IA
Créer des espaces pour partager les représentations des principes, du potentiel et des solutions en présence ou en émergence
Elaborer les bonnes pratiques et partager des retours d’expérience pour mieux comprendre ce qui fonctionne
Faire monter en compétence les équipes les moins sachantes sur l’IA notamment dirigeant, métiers et équipes IT

Expliciter collectivement le pourquoi d’un projet d’IA
Construire un nouveau business model
Réduire les coûts
Apporter plus de valeur ajoutée aux clients

Explorer l’espace des possibles et construire une vision
Identifier les perspectives à partir d’analyses des Data et des modèles existants
Effectuer la veille de l’état de l’art et savoir vulgariser pour la communiquer aux parties prenantes dans un langage qu’elles comprennent
Prendre en compte la prospective métier

Coordonner la conception et la mise en œuvre
Structurer la démarche en alliant les vues métier, data et technique
Créer des interfaces efficaces entre les équipes pour fluidifier les travaux conjoints sur design, le développement et le déploiement des projets IA
Donner à voir les résultats de façon régulière à chaque acteur, recueillir leurs retours et fonctionner par itération

Réussir à prendre le tournant de l’IA, c’est contribuer au succès de l’organisation dans un monde incertain où la collaboration, la robustesse et la richesse des relations entre les parties prenantes sont indispensables pour construire des projets qui permettent aux organisations de prosperer.

Cet article La qualité des liens, facteur clef du succès de l’Intelligence Artificielle ? est apparu en premier sur Vesta Team.