Atteindre la confiance numérique dans une économie de l'Intelligence Artificielle

 Atteindre la confiance numérique dans une économie de l'IA.

L'économie de l'IA a introduit une perturbation majeure dans le monde des affaires en raison de la capacité de l'IA à imiter les fonctions cognitives humaines telles que l'apprentissage, le raisonnement et la résolution de problèmes. L'IA est considérée comme un moteur de productivité et de croissance économique, et on estime que l'activité économique générée par l'IA atteindra des milliers de milliards de dollars d'ici 2030.

L'IA a un impact sur les quatre éléments de perturbation numérique : les entreprises, la technologie, l'industrie et la société. Au niveau de l'entreprise, l'IA permet une prise de décision plus rapide et éclairée en analysant de grandes quantités de données. Elle optimise également les opérations de la chaîne d'approvisionnement et améliore la gestion des risques et la détection des fraudes.

Sur le plan technologique, l'IA alimente d'autres tendances telles que les systèmes autonomes, le traitement du langage naturel et l'informatique en périphérie. Dans l'industrie, l'IA permet une analyse plus approfondie des données clients et des comportements d'achat, ce qui conduit à une personnalisation des expériences client à grande échelle. De plus, les outils basés sur l'IA peuvent améliorer les aspects de la tarification et augmenter l'EBITDA des entreprises.

Sur le plan social, l'IA transforme le lieu de travail, créant de nouvelles opportunités d'emploi mais aussi entraînant une suppression d'emplois. L'IA permet également la création de contenus falsifiés, ce qui pose des problèmes de désinformation et d'infodémie.

Pour capitaliser sur l'économie de l'IA, les entreprises doivent cultiver la confiance de leurs parties prenantes. La confiance numérique repose sur six éléments : la gouvernance, les risques, la conformité, la culture organisationnelle, l'éthique et la transparence. Les entreprises doivent mettre en place une stratégie claire en matière d'IA, promouvoir une gouvernance responsable et établir une politique d'éthique codifiée. 

Il est également important d'accorder une attention particulière à l'équité dans les systèmes d'IA, à la confidentialité des données des utilisateurs, à la sécurité des systèmes et des données, ainsi qu'à la surveillance et à la responsabilisation humaines.

Bien que l'IA apporte de nombreux avantages, il est crucial de l'utiliser de manière responsable et de mettre en avant la confiance numérique pour relever les défis éthiques, de confidentialité et d'impact social qu'elle pose.

----------------------------------------------------------------------------------------------

Les entreprises opèrent sur de longues vagues de cycles d'innovation. A chaque cycle, les entreprises doivent compter avec les ruptures induites par les technologies de l'époque.

La perturbation numérique n'est pas nouvelle, alors pourquoi cette fois-ci semble-t-elle différente ?

Le rythme du changement technologique s'est accéléré, entraînant des cycles d'innovation plus courts. La plus grande force de la vague actuelle de perturbations est l'intelligence artificielle (IA).

L'IA est plus perturbatrice que les autres technologies en raison de sa capacité à imiter les fonctions cognitives humaines, telles que l'apprentissage, le raisonnement et la résolution de problèmes. Les algorithmes d'IA peuvent s'adapter à différentes situations et tirer des enseignements de divers ensembles de données. Ils peuvent analyser des modèles de données complexes plus efficacement que les humains et faire des prédictions ou des recommandations basées sur cette analyse. Ces capacités ont révolutionné la prise de décision des entreprises.

L'économie de l'IA

Pour ces raisons, l'IA est largement considérée comme un moteur de productivité et de croissance économique. L'« économie de l'IA » fait référence à l'activité économique générée par le développement et l'utilisation des technologies de l'IA. Selon Forbes, McKinsey (une société de conseil mondiale) s'attend à une activité économique mondiale d'environ 13 000 milliards de dollars d'ici 2030. Pricewaterhouse Cooper adopte une vision plus agressive : 15 700 milliards de dollars d'ici la même année.

La concurrence et la FOMO (fear of missing out) entraînent l'adoption rapide de l'IA par de nombreuses entreprises - souvent sans effectuer une diligence raisonnable complète, ce qui est rendu plus difficile par la nature dynamique du paysage de l'IA.

Gartner identifie quatre éléments de perturbation numérique :

Business : le marché, business models, développement, pricing, delivery

Technology : design, innovation, usage

Industry : processus, normes, méthodes, clients

Society : culture, habitudes, mouvement

Considérez certaines des façons dont l'IA affecte chacun des quatre éléments de perturbation :

Entreprise

L'IA peut analyser de grandes quantités de données qui permettront à l'organisation de prendre de meilleures décisions basées sur les données plus rapidement. Les outils d'analyse de données et les systèmes d'aide à la décision basés sur l'IA peuvent fournir des informations exploitables à partir des données clients, des tendances du marché et d'autres sources pour affiner les stratégies.

Les opérations de la chaîne d'approvisionnement peuvent être optimisées en prévoyant la demande, en améliorant la gestion des stocks, en rationalisant la logistique et en réduisant les coûts.

Dans le domaine de la gestion des risques et de la détection des fraudes, les outils d'analyse de l'IA ingèrent de grands volumes de données pour identifier les modèles d'activités suspectes ou d'anomalies. Les algorithmes peuvent apprendre des incidents passés et s'adapter aux nouvelles menaces à mesure qu'elles émergent.

Technologie

L'IA alimente d'autres tendances technologiques.

L'IA a créé une dynamique derrière les systèmes autonomes, y compris les drones et les voitures autonomes.

Le traitement du langage naturel (NLP) pilote des modèles tels que ChatGPT , qui peuvent générer un texte cohérent et contextuellement pertinent. Le NLP active des applications telles que les chatbots et les assistants virtuels.

L'IA peut s'exécuter sur des appareils en périphérie en raison de la convergence avec l'informatique en périphérie. EdgeAI est utilisé dans l'IoT industriel et les solutions de maison intelligente.

Industrie

Grâce à l'analyse de l'IA, la quantité de données que les entreprises doivent traiter augmente de façon exponentielle.

Le comportement des clients, l'historique d'achat et les préférences peuvent être analysés pour personnaliser les expériences client à grande échelle. Cela peut être fait sur une base multidimensionnelle (par exemple, en croisant les industries).

Les outils basés sur l'IA ont pu augmenter l'EBITDA (bénéfice avant intérêts, impôts, dépréciation et amortissement) de 2 à 5 points de pourcentage lorsque les entreprises B2B et B2C les utilisent pour améliorer certains aspects de la tarification.

Social

L'IA remodèle le lieu de travail. Certains postes sont en cours de transformation et de nouvelles opportunités d'emploi devraient émerger de l'économie de l'IA. Cependant, un certain niveau de suppression d'emplois est inévitable.

Les nouveaux outils d'intelligence artificielle permettent de créer facilement et à peu de frais de faux vidéos, audio et textes convaincants. La désinformation et les infodémies ont un impact négatif sur la santé des individus et sur la société.

Les entreprises qui cherchent à capitaliser sur l'économie de l'IA doivent cultiver la confiance de leurs parties prenantes (consommateurs, employés, investisseurs, membres de la communauté). Dans une étude menée en 2022 par McKinsey, 72 % des répondants du monde entier ont déclaré qu'il était important de connaître les politiques d'IA d'une entreprise avant de faire un achat. Établir la confiance numérique doit être un impératif.

Poursuivre la confiance numérique

Les six éléments de la confiance numérique sont :

Basé sur le rapport 2023 de l'ISACA sur l'état de la confiance numérique

Comme pour toute initiative de transformation numérique, les méthodes fondamentales de gouvernance, de risque et de conformité (GRC) s'appliquent. Votre stratégie commerciale en IA est clairement énoncée et diffusée dans toute l'entreprise. La quantification des risques numériques associés et les approches d'atténuation ont été identifiées et sont en cours de gestion.

La culture organisationnelle et le « ton au sommet » sont toujours essentiels à une gouvernance réussie. Compte tenu de la nature singulière de l'IA, elles prennent un caractère plus urgent. Tous les employés à tous les niveaux de l'organisation doivent accepter la responsabilité personnelle d'assurer l'utilisation responsable de l'IA - cela ne peut pas être limité à un domaine fonctionnel (relevant généralement de l'informatique). Même au sein de l'informatique, il peut y avoir des fonctions qui ne considèrent pas l'IA responsable comme "dans la description de poste".

Pour renforcer l'interrelation entre la stratégie d'IA et le programme GRC de l'entreprise, établir une politique d'éthique codifiée en matière d'IA. Cette politique comprendrait :

Les principes éthiques qui guident l'utilisation de l'IA au sein de l'organisation. Par exemple : transparence, vie privée, droits de l'homme, avantages sociaux

Un engagement à se conformer aux lois, réglementations et normes de l'industrie pertinentes relatives à l'IA

Un accent sur l'importance de l'équité dans les systèmes d'IA et sur la manière dont les préjugés et la discrimination seraient atténués contre des individus ou des groupes en fonction de caractéristiques telles que le sexe, l'âge et le milieu socio-économique

Promotion de la transparence dans les systèmes et algorithmes d'IA

Établissement de lignes directrices pour le traitement responsable des données, y compris la confidentialité des données des utilisateurs et l'obtention d'un consentement éclairé pour le traitement des données

Reconnaissance de l'importance de maintenir la sécurité et la sûreté des systèmes et des données d'IA

La nécessité d'une surveillance et d'une responsabilisation humaines, et comment cela sera réalisé

Engagement à former les employés et à fournir des ressources pour soutenir leur responsabilité dans le respect des normes éthiques en matière d'IA

L'approche pour impliquer d'autres parties prenantes et solliciter des commentaires pour aborder l'utilisation responsable de l'IA par l'organisation

Description du cadre de la manière dont l'organisation abordera l'évaluation, la surveillance et l'amélioration continues des systèmes et des pratiques d'IA.

Bien que l'IA puisse apporter de nombreux avantages, elle pose également des défis liés à l'éthique, à la confidentialité et à l'impact social. Les entreprises doivent s'engager à utiliser l'IA de manière responsable et accorder la priorité à la confiance numérique pour résoudre ces problèmes.

Note de l'éditeur : apprenez-en plus sur l'IA grâce au certificat sur les principes fondamentaux de l'intelligence artificielle de l'ISACA.

Auteur : Caren Shiozaki, CGEIT, CEDS, CDPSE, LPEC

Date de publication : 5 juillet 2023

Source :

Atteindre la confiance numérique dans une économie de l'IA (isaca.org)

Atteindre la confiance numérique dans une économie de l'IA (isaca.org)

ChatGPT’s ‘Perfect Storm’: Managing Risk and Eyeing Transformational Change (isaca.org)

Artificial Intelligence Fundamentals Certificate | ISACA

"Perfect Storm" de ChatGPT : gérer les risques et envisager un changement transformationnel (isaca.org)