Sortir de la « boîte noire » de l'IA

Les outils d'analyse basés sur l'IA permettent plus que jamais de poser des questions dans un langage courant et conversationnel, et d'obtenir des réponses instantanées. Par exemple, demandez pourquoi le chiffre d'affaires a baissé, pourquoi les clients partent, ou quels produits affichent des performances insuffisantes et pourquoi : l'outil vous fournira une réponse en quelques secondes.

Si la rapidité de réponse est impressionnante, elle ne garantit pas pour autant la confiance. De plus en plus, les entreprises se heurtent à un problème majeur lié aux analyses basées sur l'IA et aux interfaces conversationnelles : celles-ci fournissent des réponses sans expliquer comment ces informations ont été obtenues. On parle alors de réponses d'IA de type « boîte noire ».

Le terme peut paraître technique, mais le problème est simple. Les outils d'analyse basés sur l'IA fournissent un résultat, mais pas le raisonnement, le contexte des données ni la logique métier qui le sous-tendent. Pour les organisations amenées à prendre des décisions stratégiques, ce manque de transparence engendre un risque, car les dirigeants ne peuvent pas se fier pleinement aux réponses obtenues.

Le problème du manque de transparence des analyses basées sur l’IA devient de plus en plus difficile à ignorer pour les organisations. Comme l’explique Gartner, « les systèmes de type “boîte noire” — c’est-à-dire les modèles d’IA dont prise de décision sont opaques ou difficiles à interpréter — peuvent se révéler défaillants, en particulier dans des secteurs où les enjeux sont importants, tels que la santé, la finance et la sécurité publique. L’explicabilité, la conception éthique et la qualité des données deviendront des critères incontournables. »

Qu'est-ce qui manque dans les réponses générées par l'IA de type « boîte noire » ?

Une réponse « boîte noire » générée par l'IA est une réponse produite par l'IA que les utilisateurs ne peuvent ni voir ni comprendre clairement :

• Quelles données ont été utilisées ?
• Comment les indicateurs ont été définis.
• Quelles règles métier ont été appliquées ?
• Comment la réponse a été calculée.
• La réponse repose-t-elle sur des données fiables et soumises à un cadre de gouvernance ?

En d'autres termes, l'IA fournit une réponse sans toutefois dévoiler le raisonnement qui la sous-tend. Imaginons, par exemple, qu'un responsable des ventes demande : « Pourquoi y a-t-il un taux de désabonnement élevé au quatrième trimestre ? » L'outil d'analyse basé sur l'IA répond alors : « Le taux de désabonnement a augmenté en raison de l'insatisfaction des clients. »

À première vue, cette réponse semble raisonnable. Le problème, c’est qu’elle n’explique pas :

• Que signifie réellement le terme « churn » ?
• Quels clients ont fait l'objet de l'analyse ?
• Que la réponse reflète le taux de perte de chiffre d'affaires ou le taux de perte de clients.
• Quelle période ou jeux de données utilisés ?
• Si les informations provenaient de sources fiables.
• Comment on est parvenu à cette conclusion.

Sans ce contexte, les utilisateurs ne peuvent que se demander si la réponse est exacte, complète, voire pertinente.

Le problème croissant des réponses générées par l'IA

Les réponses de type « boîte noire » posent un problème croissant à mesure que les outils d’analyse conversationnelle se généralisent. Autrefois, seuls les analystes ou les équipes chargées des données interrogeaient directement les données de l’entreprise. Aujourd’hui, grâce aux outils d’analyse basés sur l’IA, pratiquement n’importe quel collaborateur de l’entreprise peut poser des questions et obtenir des réponses instantanément.

Ce changement modifie considérablement l'ampleur des réponses des boîtes noires.

Si les données sous-jacentes manquent cohérence, gouvernance ou de définitions communes, l'IA peut aggraver la confusion au lieu de la réduire. Différents utilisateurs peuvent poser des questions similaires et obtenir des réponses différentes en raison d'indicateurs incohérents, de sources de données fragmentées ou d'une logique cachée Embarqué tableaux de bord et Embarqué requêtes.

C'est l'une des raisons pour lesquelles de nombreuses organisations peinent à mettre en œuvre avec succès leurs initiatives en matière d'IA. C'est également pourquoi la fiabilité des outils d'analyse basés sur l'IA dépend entièrement de la qualité des données et du contexte métier sur lesquels ils s'appuient.

4 raisons pour lesquelles les réponses générées par l'IA de type « boîte noire » sont dangereuses

S'appuyer sur des informations non validées peut entraîner des problèmes à tous les niveaux de l'entreprise :

1. Cela sape la confiance. Si les utilisateurs ne peuvent pas expliquer comment une réponse a été générée, ils sont moins enclins à s’y fier. Cette incertitude ralentit l’adoption de l’outil et suscite des hésitations quant à l’utilisation de réponses générées par l’IA pour prise de décision. Les utilisateurs, les équipes et les dirigeants d’entreprise commencent à remettre en question les résultats au lieu de s’appuyer sur eux. À terme, les organisations peuvent se retrouver avec des réponses rapides que personne n’utilise. 
2. Cela pose des problèmes de traçabilité. Les décisions commerciales exigent une traçabilité. Les dirigeants doivent comprendre d’où proviennent les données, comment elles ont été transformées, quelles définitions ont été appliquées et si les résultats sont conformes aux gouvernance . Sans transparence, les organisations ne peuvent ni valider les résultats de l’IA ni remettre en question les hypothèses. Cela revêt une importance particulière dans les secteurs réglementés où l’auditabilité et la conformité sont essentielles. 
3. Ceci entraîne un risque opérationnel. Les outils d’analyse basés sur l’IA génèrent souvent des résultats à partir de sources de données déconnectées ou incohérentes. Cela signifie que les organisations peuvent, à leur insu, prendre des décisions fondées sur des données obsolètes ou peu fiables, des indicateurs métier mal définis ou un contexte manquant, car l’outil ne relie pas les relations entre jeux de données. Par exemple, deux utilisateurs peuvent poser des questions similaires sur le chiffre d’affaires ou le taux de désabonnement et obtenir des résultats différents, car l’IA puise ses informations dans des systèmes déconnectés utilisant des définitions métier différentes.
4. Augmente le risque d'« hallucinations » de l'IA. Les hallucinations surviennent lorsque l’IA génère des réponses qui semblent exactes mais qui sont en réalité incorrectes, inventées de toutes pièces ou non étayées par des données. Sans visibilité sur les sources de données, la logique métier ou les calculs sous-jacents à une réponse, les utilisateurs n’ont aucun moyen simple de reconnaître quand l’IA a inventé des conclusions ou des hypothèses. Cela crée un risque sérieux lorsque les organisations s’appuient sur des réponses générées par l’IA pour prendre des décisions commerciales. L’explicabilité et des données fiables et contrôlées permettent de distinguer les véritables informations pertinentes des fausses informations qui semblent crédibles.

Ces problèmes donnent lieu à des situations dans lesquelles l'IA semble intelligente et sûre d'elle, tout en produisant des résultats peu fiables.

À quoi ressemble une IA explicable et sensible au contexte ?

La solution ne consiste pas à renoncer à l'IA. Il s'agit plutôt de rendre l'IA plus transparente, plus contextuelle et davantage fondée sur des données soumises à un cadre de gouvernance.

Au lieu de réponses de type « boîte noire », les organisations ont besoin d'expériences d'IA explicables, dans lesquelles les utilisateurs peuvent voir :

• Indicateurs de performance définis.
• Sources de données fiables.
• Lignée des données.
• Logique métier et calculs.
• Contexte entre les questions et jeux de données associés.

C'est là que la compréhension contextuelle revêt une importance cruciale. Les outils d'analyse basés sur l'IA ne doivent pas se contenter de récupérer des informations. Ils doivent comprendre les relations entre jeux de données, les concepts métier et les interactions antérieures, tout en fondant leurs résultats sur des données contrôlées et fiables.

Lorsque cela se produit, les organisations passent d’une attitude du type : « Nous avons les réponses, mais nous ne leur faisons pas confiance » à une attitude du type : « Nous pouvons faire confiance à ces réponses et agir en conséquence. »

Instaurer la confiance dans l'analyse conversationnelle

À mesure que l'analyse conversationnelle se généralise, les entreprises feront de plus en plus la distinction entre les outils d'analyse basés sur l'IA qui se contentent de générer des réponses et les systèmes d'IA qui fournissent des informations fiables. L'avenir de l'analyse d'entreprise basée sur l'IA ne se résume pas à des réponses plus rapides. Il s'agit plutôt :

• cohérence
• Expliquabilité
• gouvernance
• Fiabilité
• Intelligence contextuelle

Les entreprises qui investissent dans des infrastructures de données fiables et compatibles avec l'IA sont mieux placées pour déployer l'IA en toute confiance à l'échelle de l'entreprise. Ces entreprises disposeront de données gérées et contextualisées, garantissant ainsi des réponses fiables. 

Transformez les requêtes d'IA en informations stratégiques fiables

Actian AI Analyst aide les entreprises à aller au-delà des réponses d'IA de type « boîte noire » en proposant des analyses conversationnelles qui exploitent des données contrôlées et prêtes à l'emploi. Au lieu de générer des résultats déconnectés du contexte, Actian AI Analyst fournit des informations contextuelles fondées sur des définitions fiables, des données dont la traçabilité est assurée et une logique explicable.

Les utilisateurs peuvent poser des questions en langage courant tout en comprenant comment les réponses sont générées et sur quelles données elles s'appuient. À l'avenir, les organisations qui tireront le meilleur parti de l'IA ne seront pas simplement celles qui fourniront les réponses les plus rapides. Ce seront celles dont les réponses inspireront le plus confiance. Découvrez dès maintenant des réponses fiables grâce à un essai gratuit d'Actian AI Analyst.

À propos de l'auteur

À propos de Actian Corporation

Actian permet aux entreprises de gérer et de gouverner leurs données en toute confiance, quelle que soit leur ampleur. Les organisations font confiance aux solutions gestion des données d'intelligence des données d'Actian pour rationaliser leurs environnements de données complexes et accélérer la mise à disposition de données prêtes pour l'IA. Conçues pour être flexibles, les solutions Actian s'intègrent de manière transparente et fonctionnent de manière fiable dans les environnements sur site, dans le cloud et hybrides. Pour en savoir plus sur Actian, la division données et IA de HCL Software, rendez-vous sur actian.com.