Atteindre la confiance numérique dans une économie de l'IA.
Les entreprises opèrent sur de longues vagues de cycles d'innovation. A chaque cycle, les entreprises doivent compter avec les ruptures induites par les technologies de l'époque.
La perturbation numérique n'est pas nouvelle, alors pourquoi cette fois-ci semble-t-elle différente ?
Le rythme du changement technologique s'est accéléré, entraînant des cycles d'innovation plus courts. La plus grande force de la vague actuelle de perturbations est l'intelligence artificielle (IA).
L'IA est plus perturbatrice que les autres technologies en raison de sa capacité à imiter les fonctions cognitives humaines, telles que l'apprentissage, le raisonnement et la résolution de problèmes. Les algorithmes d'IA peuvent s'adapter à différentes situations et tirer des enseignements de divers ensembles de données. Ils peuvent analyser des modèles de données complexes plus efficacement que les humains et faire des prédictions ou des recommandations basées sur cette analyse. Ces capacités ont révolutionné la prise de décision des entreprises.
L'économie de l'IA
Pour ces raisons, l'IA est largement considérée comme un moteur de productivité et de croissance économique. L'« économie de l'IA » fait référence à l'activité économique générée par le développement et l'utilisation des technologies de l'IA. Selon Forbes, McKinsey (une société de conseil mondiale) s'attend à une activité économique mondiale d'environ 13 000 milliards de dollars d'ici 2030. Pricewaterhouse Cooper adopte une vision plus agressive : 15 700 milliards de dollars d'ici la même année.
La concurrence et la FOMO (fear of missing out) entraînent l'adoption rapide de l'IA par de nombreuses entreprises - souvent sans effectuer une diligence raisonnable complète, ce qui est rendu plus difficile par la nature dynamique du paysage de l'IA.
Gartner identifie quatre éléments de perturbation numérique :
Business : le marché, business models, développement, pricing, delivery
Technology : design, innovation, usage
Industry : processus, normes, méthodes, clients
Society : culture, habitudes, mouvement
Considérez certaines des façons dont l'IA affecte chacun des quatre éléments de perturbation :
Entreprise
L'IA peut analyser de grandes quantités de données qui permettront à l'organisation de prendre de meilleures décisions basées sur les données plus rapidement. Les outils d'analyse de données et les systèmes d'aide à la décision basés sur l'IA peuvent fournir des informations exploitables à partir des données clients, des tendances du marché et d'autres sources pour affiner les stratégies.
Les opérations de la chaîne d'approvisionnement peuvent être optimisées en prévoyant la demande, en améliorant la gestion des stocks, en rationalisant la logistique et en réduisant les coûts.
Dans le domaine de la gestion des risques et de la détection des fraudes, les outils d'analyse de l'IA ingèrent de grands volumes de données pour identifier les modèles d'activités suspectes ou d'anomalies. Les algorithmes peuvent apprendre des incidents passés et s'adapter aux nouvelles menaces à mesure qu'elles émergent.
Technologie
L'IA alimente d'autres tendances technologiques.
L'IA a créé une dynamique derrière les systèmes autonomes, y compris les drones et les voitures autonomes.
Le traitement du langage naturel (NLP) pilote des modèles tels que ChatGPT , qui peuvent générer un texte cohérent et contextuellement pertinent. Le NLP active des applications telles que les chatbots et les assistants virtuels.
L'IA peut s'exécuter sur des appareils en périphérie en raison de la convergence avec l'informatique en périphérie. EdgeAI est utilisé dans l'IoT industriel et les solutions de maison intelligente.
Industrie
Grâce à l'analyse de l'IA, la quantité de données que les entreprises doivent traiter augmente de façon exponentielle.
Le comportement des clients, l'historique d'achat et les préférences peuvent être analysés pour personnaliser les expériences client à grande échelle. Cela peut être fait sur une base multidimensionnelle (par exemple, en croisant les industries).
Les outils basés sur l'IA ont pu augmenter l'EBITDA (bénéfice avant intérêts, impôts, dépréciation et amortissement) de 2 à 5 points de pourcentage lorsque les entreprises B2B et B2C les utilisent pour améliorer certains aspects de la tarification.
Social
L'IA remodèle le lieu de travail. Certains postes sont en cours de transformation et de nouvelles opportunités d'emploi devraient émerger de l'économie de l'IA. Cependant, un certain niveau de suppression d'emplois est inévitable.
Les nouveaux outils d'intelligence artificielle permettent de créer facilement et à peu de frais de faux vidéos, audio et textes convaincants. La désinformation et les infodémies ont un impact négatif sur la santé des individus et sur la société.
Les entreprises qui cherchent à capitaliser sur l'économie de l'IA doivent cultiver la confiance de leurs parties prenantes (consommateurs, employés, investisseurs, membres de la communauté). Dans une étude menée en 2022 par McKinsey, 72 % des répondants du monde entier ont déclaré qu'il était important de connaître les politiques d'IA d'une entreprise avant de faire un achat. Établir la confiance numérique doit être un impératif.
Poursuivre la confiance numérique
Les six éléments de la confiance numérique sont :
Basé sur le rapport 2023 de l'ISACA sur l'état de la confiance numérique
Comme pour toute initiative de transformation numérique, les méthodes fondamentales de gouvernance, de risque et de conformité (GRC) s'appliquent. Votre stratégie commerciale en IA est clairement énoncée et diffusée dans toute l'entreprise. La quantification des risques numériques associés et les approches d'atténuation ont été identifiées et sont en cours de gestion.
La culture organisationnelle et le « ton au sommet » sont toujours essentiels à une gouvernance réussie. Compte tenu de la nature singulière de l'IA, elles prennent un caractère plus urgent. Tous les employés à tous les niveaux de l'organisation doivent accepter la responsabilité personnelle d'assurer l'utilisation responsable de l'IA - cela ne peut pas être limité à un domaine fonctionnel (relevant généralement de l'informatique). Même au sein de l'informatique, il peut y avoir des fonctions qui ne considèrent pas l'IA responsable comme "dans la description de poste".
Pour renforcer l'interrelation entre la stratégie d'IA et le programme GRC de l'entreprise, établir une politique d'éthique codifiée en matière d'IA. Cette politique comprendrait :
Les principes éthiques qui guident l'utilisation de l'IA au sein de l'organisation. Par exemple : transparence, vie privée, droits de l'homme, avantages sociaux
Un engagement à se conformer aux lois, réglementations et normes de l'industrie pertinentes relatives à l'IA
Un accent sur l'importance de l'équité dans les systèmes d'IA et sur la manière dont les préjugés et la discrimination seraient atténués contre des individus ou des groupes en fonction de caractéristiques telles que le sexe, l'âge et le milieu socio-économique
Promotion de la transparence dans les systèmes et algorithmes d'IA
Établissement de lignes directrices pour le traitement responsable des données, y compris la confidentialité des données des utilisateurs et l'obtention d'un consentement éclairé pour le traitement des données
Reconnaissance de l'importance de maintenir la sécurité et la sûreté des systèmes et des données d'IA
La nécessité d'une surveillance et d'une responsabilisation humaines, et comment cela sera réalisé
Engagement à former les employés et à fournir des ressources pour soutenir leur responsabilité dans le respect des normes éthiques en matière d'IA
L'approche pour impliquer d'autres parties prenantes et solliciter des commentaires pour aborder l'utilisation responsable de l'IA par l'organisation
Description du cadre de la manière dont l'organisation abordera l'évaluation, la surveillance et l'amélioration continues des systèmes et des pratiques d'IA.
Bien que l'IA puisse apporter de nombreux avantages, elle pose également des défis liés à l'éthique, à la confidentialité et à l'impact social. Les entreprises doivent s'engager à utiliser l'IA de manière responsable et accorder la priorité à la confiance numérique pour résoudre ces problèmes.
Note de l'éditeur : apprenez-en plus sur l'IA grâce au certificat sur les principes fondamentaux de l'intelligence artificielle de l'ISACA.
Auteur : Caren Shiozaki, CGEIT, CEDS, CDPSE, LPEC
Date de publication : 5 juillet 2023
Source :
Atteindre la confiance numérique dans une économie de l'IA (isaca.org)
Atteindre la confiance numérique dans une économie de l'IA (isaca.org)
ChatGPT’s ‘Perfect Storm’: Managing Risk and Eyeing Transformational Change (isaca.org)
Artificial Intelligence Fundamentals Certificate | ISACA
.png)
