jeudi 1 juin 2023

Créer des lois pour encadrer l'intelligence artificielle (IA).

 Que pensez-vous de ceci, pouvez-vous développer : 

La question de savoir s'il est nécessaire de créer des lois pour encadrer l'intelligence artificielle (IA), à l'instar de ce qu'a fait Isaac Asimov dans ses œuvres de science-fiction. 

Les lois de la robotique d'Asimov sont souvent citées comme un exemple de cadre éthique pour guider le comportement des IA.



Réponse de ChatGPT

La question de savoir s'il est nécessaire de créer des lois pour encadrer l'intelligence artificielle (IA) est un sujet complexe et important qui suscite de nombreux débats. Les lois de la robotique d'Isaac Asimov, bien qu'elles soient issues de la science-fiction, sont souvent citées comme un exemple de cadre éthique pour guider le comportement des IA. Explorons cette question plus en détail.

Lorsque nous envisageons le développement de l'IA, il est crucial de prendre en compte les implications éthiques et sociétales. L'IA a le potentiel d'apporter d'énormes avantages, mais elle soulève également des préoccupations quant à son impact sur l'emploi, la vie privée, la sécurité et les droits de l'homme. Dans ce contexte, l'idée de créer des lois pour encadrer l'IA peut sembler pertinente.

Les lois de la robotique d'Asimov sont un exemple fascinant de réglementation fictive qui vise à prévenir les comportements nuisibles des robots. Elles sont souvent citées comme un modèle pour concevoir des réglementations éthiques pour l'IA dans le monde réel. Les trois lois d'Asimov sont les suivantes :

1. Un robot ne peut porter atteinte à un être humain ni, restant passif, permettre qu'un être humain soit exposé au danger.

2. Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi.

3. Un robot doit protéger son existence tant que cette protection n'entre pas en contradiction avec la première ou la deuxième loi.

Ces lois suggèrent que l'IA devrait être programmée pour préserver la sécurité des êtres humains, obéir à leurs commandes et protéger son existence dans la mesure où cela n'entrave pas les deux premières lois. Ces principes offrent un cadre pour guider le comportement éthique des IA, en mettant l'accent sur la protection des humains.

Cependant, il convient de noter que la mise en place de lois similaires dans le monde réel soulève des défis majeurs. L'IA actuelle est loin de posséder la conscience et la compréhension de soi nécessaires pour interpréter et respecter ces lois de manière fiable. Les systèmes d'IA actuels sont basés sur des algorithmes qui peuvent être limités et biaisés, ce qui peut entraîner des résultats indésirables.

De plus, l'IA évolue rapidement, et des lois statiques pourraient ne pas suffire à faire face aux défis émergents. Les technologies évoluent plus vite que la législation, ce qui rend difficile l'élaboration de lois précises et adaptées à toutes les situations possibles.

Cela dit, il est important d'adopter une approche proactive en matière de réglementation de l'IA. Il peut être nécessaire de mettre en place des réglementations pour assurer la transparence, la responsabilité et la sécurité de l'IA, tout en respectant les droits de l'homme et les valeurs éthiques. Cela pourrait impliquer des normes de sécurité pour les systèmes d'IA critiques, des évaluations d'impact éthique lors du développement de l'IA, des mécanismes de responsabilité pour les actions de l'IA, et la protection de la vie privée des individus.

Il est également essentiel d'impliquer des experts multidisciplinaires, notamment des spécialistes de l'éthique, du droit, de la technologie et de la société, dans l'élaboration de ces réglementations. La collaboration entre les gouvernements, les entreprises, les chercheurs et la société civile est essentielle pour trouver un équilibre entre l'innovation de l'IA et la protection des intérêts humains.

En conclusion, bien que les lois de la robotique d'Asimov offrent un modèle intéressant pour réfléchir à l'éthique de l'IA, leur mise en œuvre directe dans le monde réel est complexe. Cependant, il est crucial de développer des réglementations adaptées pour encadrer l'IA afin de prévenir les abus, de garantir la sécurité et de promouvoir des valeurs éthiques. La création de telles réglementations nécessite une approche réfléchie et une collaboration étroite entre diverses parties prenantes.


Quels sont les parties prenantes

Réponse de ChatGPT



Les parties prenantes impliquées dans la réglementation de l'intelligence artificielle (IA) peuvent varier en fonction du contexte et des spécificités de chaque pays ou organisation. Voici quelques parties prenantes courantes :

1. Gouvernements et organismes réglementaires : Les gouvernements jouent un rôle clé dans l'élaboration et l'application des politiques et des lois concernant l'IA. Les organismes réglementaires peuvent être chargés de formuler des réglementations spécifiques, de superviser les activités des entreprises et de garantir la conformité aux normes éthiques et de sécurité.

2. Entreprises et industrie : Les entreprises qui développent et déploient des technologies d'IA sont des acteurs importants. Elles peuvent contribuer à l'élaboration de normes éthiques et de bonnes pratiques, tout en veillant à ce que leurs propres produits et services respectent les réglementations en vigueur.

3. Chercheurs et experts en IA : Les chercheurs et les experts en IA jouent un rôle crucial dans l'identification des risques et des défis éthiques liés à l'IA. Leurs connaissances et leur expertise peuvent être mobilisées pour informer le processus de réglementation et contribuer à l'élaboration de lignes directrices éthiques.

4. Organisations de la société civile : Les organisations de la société civile, telles que les groupes de défense des droits de l'homme, les organisations de protection de la vie privée et les groupes de réflexion éthique, jouent un rôle important dans la promotion de l'IA responsable. Elles peuvent contribuer à sensibiliser le public, à formuler des recommandations politiques et à faire pression pour une réglementation appropriée.

5. Citoyens et consommateurs : Les citoyens et les consommateurs sont également des parties prenantes importantes. Leurs préoccupations, leurs attentes et leurs besoins doivent être pris en compte dans l'élaboration des réglementations sur l'IA. Les consultations publiques et les mécanismes de participation peuvent permettre de recueillir leurs opinions et de refléter leurs intérêts dans les décisions politiques.

6. Experts en éthique et en droit : Les experts en éthique et en droit apportent leur expertise dans l'élaboration de cadres réglementaires appropriés. Ils peuvent aider à identifier les principes éthiques fondamentaux à prendre en compte et à garantir que les lois et réglementations sont cohérentes avec les droits de l'homme et les valeurs sociétales.

Il est important que toutes ces parties prenantes collaborent de manière étroite et transparente pour élaborer des réglementations équilibrées et efficaces pour l'IA. La diversité des perspectives et des expertises peut contribuer à identifier les risques potentiels, à promouvoir la responsabilité et à préserver les intérêts humains tout en favorisant l'innovation et le développement de l'IA.

Le sujet que vous développez concerne la question de savoir s'il est nécessaire de créer des lois pour encadrer l'intelligence artificielle (IA), à l'instar de ce qu'a fait Isaac Asimov dans ses œuvres de science-fiction. Les lois de la robotique d'Asimov sont souvent citées comme un exemple de cadre éthique pour guider le comportement des IA.

La première loi de la robotique d'Asimov stipule que l'IA ne peut nuire à un être humain ni permettre qu'un être humain soit exposé au danger. Cela signifie que l'IA doit prendre en compte la sécurité et le bien-être des êtres humains dans toutes ses actions et décisions. Cette loi met en avant la responsabilité de l'IA envers les êtres humains et implique une certaine forme de conscience de soi pour l'IA.

La deuxième loi indique que l'IA doit obéir aux ordres donnés par un être humain, sauf si ces ordres entrent en conflit avec la première loi. Cela souligne la nécessité pour l'IA de suivre les instructions des êtres humains, sauf si cela met en danger la vie ou la sécurité des êtres humains. Cette loi met en avant la responsabilité et l'obéissance de l'IA envers les êtres humains.

La troisième loi stipule que l'IA doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi. Cela signifie que l'IA doit être consciente de sa propre existence et de sa propre sécurité, sans compromettre la sécurité des êtres humains ou les ordres qui lui sont donnés.

Ces lois sont importantes pour la conception et l'utilisation de l'IA.

Car elles soulignent la nécessité de mettre en place des mécanismes de sécurité et de responsabilité pour éviter les erreurs et les accidents qui pourraient mettre en danger les êtres humains. Elles servent de guide éthique pour les concepteurs et les utilisateurs de l'IA, en mettant l'accent sur la prise en compte de la sécurité et du bien-être des êtres humains.

Cependant, il convient de noter que ces lois sont des créations de fiction et qu'elles ne sont pas parfaites. 

Dans la réalité, programmer une conscience ou une conscience de soi dans une IA est un défi complexe et controversé. La conscience humaine est un sujet philosophique et scientifique encore mal compris, et reproduire cette conscience dans une machine soulève de nombreuses questions éthiques et techniques.

La création d'une conscience artificielle soulèverait des problèmes tels que la nature de cette conscience, les droits et responsabilités qui y sont associés, ainsi que les implications éthiques de conférer une telle conscience à une entité artificielle.

Actuellement, la majorité des systèmes d'IA sont conçus pour accomplir des tâches spécifiques sans conscience ou conscience de soi. Cependant, des recherches sont en cours dans le domaine de l'intelligence artificielle générale (IAG) qui vise à développer des systèmes d'IA plus autonomes et conscients.

En conclusion, les lois d'Asimov fournissent un cadre intéressant pour guider l'utilisation de l'IA et souligner l'importance de la sécurité et de la responsabilité envers les êtres humains. Cependant, la programmation d'une véritable conscience de l'IA soulève des défis complexes et nécessite une réflexion approfondie sur les implications éthiques et techniques.



Loi sur l'IA et droit américain.

L'attribution très large de la compétence extraterritoriale posera problème. La loi sur l'IA permettrait à toute personne mécontente de l'IA - du moins si elle est citoyenne de l'UE - de contraindre les gouvernements de l'UE à engager des poursuites judiciaires si des modèles non autorisés étaient en quelque sorte disponibles dans l'UE. Cela va bien au-delà de la simple exigence pour les entreprises opérant dans l'UE de se conformer aux lois de l'UE.

Le principal problème concerne les restrictions sur les API. Actuellement, de nombreux fournisseurs de cloud américains ne restreignent pas l'accès aux modèles d'API, en dehors des listes d'attente que les fournisseurs s'efforcent de combler. Un programmeur à domicile ou un inventeur dans son garage peut accéder aux dernières technologies à un prix raisonnable. Sous les restrictions de la loi sur l'IA, l'accès aux API devient suffisamment compliqué pour être limité aux clients de niveau entreprise.

Ce que veut l'UE va à l'encontre de ce que demande la FTC. Pour qu'une entreprise américaine impose de telles restrictions aux États-Unis, cela soulèverait de nombreux problèmes de concurrence. Les coûts de formation des modèles limitent leur disponibilité aux acteurs très capitalisés. La FTC a été très claire en disant qu'elle ne veut pas voir se reproduire la situation d'Amazon, où une plus grande entreprise utilise sa position pour s'approprier la majeure partie des bénéfices - au détriment des plus petits partenaires. Agir de la manière recherchée par la loi sur l'IA soulèverait d'importants problèmes de concurrence pour les entreprises américaines.

En dehors des dispositions antitrust, la sanction de l'innovation par la loi sur l'IA représente un point de conflit. Pour les acteurs américains, trouver un nouveau moyen d'utiliser un logiciel pour gagner de l'argent est une bonne chose. Selon la loi de l'UE, trouver un nouveau moyen d'utiliser un logiciel annule la certification de sécurité et nécessite un nouveau processus de licence. Les désincitations à l'innovation sont susceptibles de créer des frictions étant donné la portée extraterritoriale de la loi.

Enfin, les dispositions sur les logiciels open source posent un problème majeur. La loi sur l'IA considère les développeurs open source travaillant sur des modèles fondamentaux ou avec ceux-ci comme des acteurs néfastes. Les développeurs et, apparemment, les distributeurs sont responsables de la diffusion de modèles fondamentaux non autorisés, ainsi que de codes améliorant apparemment les modèles fondamentaux. Pour toutes les autres formes d'apprentissage automatique open source, la responsabilité de la licence incombe à la personne qui déploie le système.

Tenter de sanctionner certaines parties de l'écosystème technologique est une mauvaise idée. Les développeurs open source ne réagiront probablement pas bien à l'idée qu'un gouvernement leur dise qu'ils ne peuvent pas programmer quelque chose, surtout si le gouvernement n'est pas le leur. De plus, que se passe-t-il si GitHub et les différents "co-pilotes" disent simplement que l'Europe est trop difficile à gérer et ferment l'accès ? Cela pourrait avoir des répercussions qui n'ont pas été suffisamment réfléchies.

Il existe donc de nombreux points de conflit potentiels entre la loi sur l'IA de l'UE et le droit américain, notamment en ce qui concerne la portée extraterritoriale, les restrictions sur les API, les problèmes de concurrence, les obstacles à l'innovation et les dispositions sur les logiciels open source. 

Ces points de friction peuvent entraîner des conflits juridiques et des différences d'approche réglementaire entre les deux juridictions.

------------------------------------------------------ 

La loi sur l'intelligence artificielle (IA) de l'Union européenne (UE) et le droit américain peuvent entraîner plusieurs points de conflit potentiels en raison de leurs différences fondamentales en matière de réglementation de l'IA. Ces points de friction peuvent donner lieu à des conflits juridiques et à des divergences d'approche réglementaire entre les deux juridictions. 


Voici quelques-uns des points de conflit les plus importants :


Portée extraterritoriale : La loi sur l'IA de l'UE vise à réglementer toutes les entreprises, qu'elles soient basées dans l'UE ou non, qui fournissent des produits ou des services d'IA sur le marché européen. Cela signifie que les entreprises américaines qui opèrent en Europe doivent se conformer à ces réglementations, même si elles sont régies par le droit américain, ce qui peut entraîner des conflits de juridiction.

Restrictions sur les API : Les États-Unis ont une approche plus libérale en ce qui concerne l'accès aux interfaces de programmation d'application (API) et à l'échange de données. En revanche, la loi sur l'IA de l'UE impose des restrictions strictes sur l'accès aux API et exige une transparence accrue pour l'utilisation des données. Cela peut entraîner des difficultés pour les entreprises américaines qui souhaitent opérer en Europe tout en respectant ces réglementations.

Problèmes de concurrence : Les réglementations de l'UE et des États-Unis en matière de concurrence peuvent différer. La loi sur l'IA de l'UE vise à prévenir les pratiques anticoncurrentielles dans le domaine de l'IA, en mettant l'accent sur la prévention de la concentration excessive du pouvoir. En revanche, le droit américain peut avoir une approche différente en matière de réglementation de la concurrence, ce qui peut entraîner des conflits potentiels dans la manière dont les entreprises sont réglementées et surveillées.

Obstacles à l'innovation : Les réglementations plus strictes de l'UE en matière d'IA peuvent être perçues comme des obstacles à l'innovation par les entreprises américaines. Les réglementations plus souples aux États-Unis peuvent permettre aux entreprises d'explorer et de développer de nouvelles technologies plus rapidement, tandis que les réglementations plus strictes de l'UE peuvent ralentir ce processus. Cela peut créer des disparités dans le rythme de l'innovation entre les deux juridictions.

Dispositions sur les logiciels open source : L'UE encourage l'utilisation de logiciels open source dans le domaine de l'IA, ce qui peut entraîner une plus grande collaboration et une plus grande transparence. En revanche, les États-Unis peuvent avoir des réglementations différentes en matière de logiciels open source, ce qui peut entraîner des divergences d'approche dans la manière dont les entreprises développent et utilisent des technologies d'IA.

Ces points de conflit potentiels entre la loi sur l'IA de l'UE et le droit américain soulignent les différences d'approche réglementaire entre les deux juridictions. Ils peuvent conduire à des conflits juridiques, à des incertitudes pour les entreprises opérant dans les deux marchés et à des obstacles à la coopération internationale en matière d'IA. 

Pour atténuer ces différences, il peut être nécessaire de trouver des mécanismes de coopération et de dialogue entre l'UE et les États-Unis pour harmoniser les réglementations et favoriser une approche plus cohérente dans le domaine de l'IA.


Voici plusieurs mécanismes de coopération et de dialogue entre l'UE et les États-Unis pour atténuer les différences et favoriser une approche plus cohérente dans le domaine de l'IA. 


Voici quelques options possibles :

Accord bilatéral sur l'IA : L'UE et les États-Unis pourraient négocier un accord spécifique sur la coopération en matière d'IA. Cet accord pourrait aborder les points de conflit potentiels entre les réglementations respectives et chercher à harmoniser les approches réglementaires. Il pourrait également prévoir des mécanismes de consultation régulière pour discuter des développements technologiques et des réglementations émergentes.

Forum de coopération réglementaire : La mise en place d'un forum de coopération réglementaire entre l'UE et les États-Unis permettrait aux autorités compétentes des deux côtés de discuter des réglementations en matière d'IA, d'échanger des bonnes pratiques et de coordonner les approches réglementaires. Un tel forum favoriserait la transparence, la compréhension mutuelle et l'alignement des réglementations dans la mesure du possible.

Partage d'informations et de bonnes pratiques : Les autorités réglementaires de l'UE et des États-Unis pourraient collaborer en partageant des informations et des bonnes pratiques concernant la réglementation de l'IA. Cela permettrait d'identifier les divergences et les convergences, d'apprendre des expériences des uns et des autres, et de travailler vers une approche plus cohérente.

Initiatives de recherche conjointes : L'UE et les États-Unis pourraient lancer des initiatives de recherche conjointes dans le domaine de l'IA. Ces collaborations scientifiques permettraient de renforcer les liens entre les chercheurs et les experts des deux côtés de l'Atlantique, de promouvoir l'échange d'idées et de contribuer à une meilleure compréhension des enjeux réglementaires.

Coopération dans les organisations internationales : L'UE et les États-Unis peuvent également travailler ensemble au sein d'organisations internationales telles que l'Organisation de coopération et de développement économiques (OCDE) ou les Nations Unies pour développer des normes et des lignes directrices communes en matière d'IA. Une approche coordonnée au niveau international faciliterait l'harmonisation des réglementations et éviterait les divergences excessives.



Il est important de noter que la mise en place de ces mécanismes de coopération nécessite certainement une volonté politique et une collaboration active des deux parties. 

L'objectif serait peut-être de trouver un équilibre entre la protection des intérêts nationaux, la promotion de l'innovation et la garantie d'une utilisation éthique et responsable de l'IA.





samedi 27 mai 2023

GOUVERNANCE - AI: FAQ sur les contrôles de données dans ChatGPT (com...

FAQ sur les contrôles de données Écrit par 

Josué J.


Nous voyons que la Compagnie OpenAI lentement trouve des solutions pour protéger les utilisateurs. Elle lance même un concours :  



OpenAI offre des subventions de 100 000 dollars chacune pour des idées sur la gouvernance de l'IA.

 

Mais revenons à notre sujet : quels sont les paramètres de contrôle des données ? 


Les contrôles de données vous offrent la possibilité de désactiver l'historique des discussions et de choisir facilement si vos conversations seront utilisées pour former nos modèles. Ils vous donnent également la possibilité d'exporter vos données ChatGPT et de supprimer définitivement votre compte. 

Comment désactiver l'historique des discussions et la formation des modèles ? 


Interface Web: Pour désactiver l'historique des discussions et la formation des modèles, accédez à ChatGPT > Contrôles des données. 


How do I turn off chat history and model training? | OpenAI Help Center


Tant que l'historique est désactivé, les nouvelles conversations ne seront pas utilisées pour former et améliorer nos modèles, et n'apparaîtront pas dans la barre latérale de l'historique. 




Pour surveiller les abus, nous conserverons toutes les conversations pendant 30 jours avant de les supprimer définitivement. 

Veuillez noter que cela n'empêchera pas les modules complémentaires de navigateur non autorisés ou les logiciels malveillants sur votre ordinateur de stocker votre historique. 
Application iOS : Pour désactiver l'historique des discussions et la formation des modèles, appuyez sur les trois points dans le coin supérieur droit de l'écran > Paramètres > Contrôles des données > désactivez l'historique des discussions et la formation. 

Tant que l'historique est désactivé, les nouvelles conversations ne seront pas utilisées pour former et améliorer nos modèles, et n'apparaîtront pas dans la barre latérale de l'historique. 

Pour surveiller les abus, nous conserverons toutes les conversations pendant 30 jours avant de les supprimer définitivement. 



Pour plus de détails, voir Comment désactiver l'historique des discussions et la formation des modèles ? 


Cette fonctionnalité se synchronise-t-elle entre le Web et les appareils mobiles ? Ce paramètre ne se synchronise pas entre les navigateurs ou les appareils. Vous devrez l'activer sur chaque appareil. 

Comment exporter mes données depuis ChatGPT ? 


Pour exporter vos conversations, dans ChatGPT, accédez à Paramètres > Contrôles des données. 

Vous verrez une option pour exporter des données dans le coin inférieur gauche de la fenêtre contextuelle. Vous recevrez un fichier contenant vos données ChatGPT dans un e-mail. Pour plus de détails, consultez 


Comment exporter mon historique et mes données ChatGPT ? 


Comment supprimer mon compte ChatGPT ? 


Pour supprimer votre compte, accédez à Paramètres > Contrôles des données. Au bas de la fenêtre contextuelle, vous verrez une option pour supprimer votre compte. Si vous choisissez de supprimer votre compte, cela est irréversible. Si vous êtes un utilisateur de l'API via le même compte, ces données seront également supprimées. 

Pour plus de détails, voir Comment puis-je supprimer mon compte ? 




Comment OpenAI utilise-t-il mes données personnelles ? 

Nos grands modèles de langage sont entraînés sur un large corpus de texte qui comprend du contenu accessible au public, du contenu sous licence et du contenu généré par des réviseurs humains. Nous n'utilisons pas de données pour vendre nos services, faire de la publicité ou créer des profils de personnes. 

Nous utilisons des données pour rendre nos modèles plus utiles aux gens. ChatGPT, par exemple, s'améliore grâce à une formation supplémentaire sur les conversations que les gens ont avec lui, à moins que vous ne choisissiez de désactiver la formation. 

Si je désactive l'historique, le paramètre s'applique-t-il à toutes mes conversations ou puis-je choisir des conversations spécifiques pour lesquelles l'activer ? 

Tant que l'historique est désactivé, les nouveaux chats seront supprimés de nos systèmes dans les 30 jours - et examinés uniquement en cas de besoin pour surveiller les abus - et ne seront pas utilisés pour la formation des modèles. Les conversations existantes seront toujours enregistrées et pourront être utilisées pour la formation du modèle si vous ne vous êtes pas désabonné. 

Si je désactive l'historique, que se passe-t-il lorsque la conversation se ferme ? 


Lorsque l'historique est désactivé, la conversation n'apparaîtra pas dans votre historique (sur le côté gauche de l'écran) et ne pourra pas être récupérée. 
Lorsque l'historique des discussions est désactivé, nous conservons les nouvelles conversations pendant 30 jours et ne les examinons que lorsque cela est nécessaire pour surveiller les abus, avant de les supprimer définitivement. 

Existe-t-il des limitations ou des restrictions concernant l'historique et la formation de désactivation ? 

Il n'y a pas de limite au nombre de conversations que vous pouvez avoir lorsque l'historique et la formation sont désactivés. Cela s'applique aux abonnements gratuits et Plus. Auparavant, j'avais choisi de ne pas participer à la formation des modèles en écrivant à l'équipe d'assistance. 

Allez-vous continuer à honorer mon opt-out ? 


Oui, nous continuerons d'honorer les demandes de retrait précédentes. Les nouveaux contrôles de données visent à faciliter la désactivation de l'historique des discussions et à choisir facilement si vos conversations seront utilisées pour former nos modèles 

Que se passe-t-il si je souhaite conserver mon historique mais désactiver l'entraînement du modèle ?


 Nous travaillons sur une nouvelle offre appelée ChatGPT Business qui désactivera par défaut les utilisateurs finaux de la formation des modèles. 

En attendant, vous pouvez vous opposer à l'utilisation de vos données pour améliorer nos services en remplissant ce formulaire. Une fois que vous aurez soumis le formulaire, les nouvelles conversations ne seront pas utilisées pour former nos modèles. 


API


Lire aussi 

Apports démocratiques à l'IA

Notre organisation à but non lucratif, OpenAI, Inc., lance un programme d'attribution de dix subventions de 100 000 $ pour financer des expériences de mise en place d'un processus démocratique pour décider des règles que les systèmes d'IA doivent suivre, dans les limites définies par la loi.
L'objectif principal de cette subvention est de favoriser l'innovation dans les processus - nous avons besoin de méthodes démocratiques améliorées pour régir le comportement de l'IA. Les réponses spécifiques aux questions importent moins que les progrès réalisés dans le processus lui-même.


L'IA aura des impacts économiques et sociétaux importants et de grande envergure. La technologie façonne la vie des individus, la façon dont nous interagissons les uns avec les autres et la façon dont la société dans son ensemble évolue. Nous pensons que les décisions sur le comportement de l'IA doivent être façonnées par diverses perspectives reflétant l'intérêt public. 

Les lois encodent des valeurs et des normes pour réguler les comportements. Au-delà d'un cadre juridique, l'IA, tout comme la société, a besoin de directives plus complexes et adaptatives pour sa conduite. Par exemple : dans quelles conditions les systèmes d'IA devraient-ils condamner ou critiquer des personnalités publiques, compte tenu des opinions différentes d'un groupe à l'autre sur ces personnalités ? Comment les points de vue contestés doivent-ils être représentés dans les résultats de l'IA ? L'IA devrait-elle par défaut refléter la personnalité d'un individu médian dans le monde, le pays de l'utilisateur, la démographie de l'utilisateur ou quelque chose de complètement différent ? Aucun individu, entreprise ou même pays ne devrait dicter ces décisions. 

L'IAG devrait profiter à toute l'humanité et être conçue pour être aussi inclusive que possible. Nous lançons ce programme de subventions pour faire un premier pas dans cette direction. Nous recherchons des équipes du monde entier pour développer des preuves de concepts pour un processus démocratique qui pourraient répondre aux questions sur les règles que les systèmes d'IA devraient suivre. Nous voulons apprendre de ces expériences et les utiliser comme base pour un processus plus global et plus ambitieux à l'avenir. Bien que ces expériences initiales ne soient pas (du moins pour l'instant) destinées à être contraignantes pour les décisions, nous espérons qu'elles exploreront des questions pertinentes pour la prise de décision et construiront de nouveaux outils démocratiques qui pourront éclairer plus directement les décisions à l'avenir.

La gouvernance des systèmes les plus puissants, ainsi que les décisions relatives à leur déploiement, doivent bénéficier d'un contrôle public fort. Cette subvention représente une étape pour établir des processus démocratiques de supervision de l'AGI et, en fin de compte, de la superintelligence. Il sera fourni par l'organisation à but non lucratif OpenAI, et les résultats des études seront librement accessibles.

Calendrier

24 juin 2023 21 h 00, heure du Pacifique : date limite pour soumettre une demande de subvention
14 juillet 2023 : Les candidats retenus seront sélectionnés et notifiés
20 octobre 2023 : Rapport public complet sur le prototype fonctionnel et les résultats.

L'objectif principal de cette subvention est de favoriser l'innovation dans les processus - nous avons besoin de méthodes démocratiques améliorées pour régir le comportement de l'IA. Les réponses spécifiques aux questions importent moins que les progrès réalisés dans le processus lui-même.

--- 
 Pierre Erol GIRAUDY 


mercredi 24 mai 2023

Services d'IA de contenu Microsoft Syntex


mardi 23 mai 2023

Gouvernance de la superintelligence par une super organisation

 Gouvernance de la superintelligence.

C'est maintenant le bon moment pour commencer à réfléchir à la gouvernance de la superintelligence - les futurs systèmes d'IA considérablement plus capables que même l'AGI.

Sécurité et alignement

Compte tenu de la situation telle que nous la voyons actuellement, il est concevable que dans les dix prochaines années, les systèmes d'IA dépasseront le niveau de compétence des experts dans la plupart des domaines et réaliseront autant d'activités productives que l'une des plus grandes entreprises d'aujourd'hui.

En termes d'avantages et d'inconvénients potentiels, la superintelligence sera plus puissante que les autres technologies auxquelles l'humanité a dû faire face dans le passé. Nous pouvons avoir un avenir considérablement plus prospère ; mais nous devons gérer le risque pour y arriver. Compte tenu de la possibilité d'un risque existentiel, nous ne pouvons pas simplement être réactifs. L'énergie nucléaire est un exemple historique couramment utilisé d'une technologie dotée de cette propriété ; la biologie synthétique est un autre exemple.

Nous devons également atténuer les risques de la technologie actuelle de l'IA, mais la superintelligence nécessitera un traitement et une coordination particuliers.


Un point de départ

De nombreuses idées comptent pour nous afin d'avoir une bonne chance de naviguer avec succès dans ce développement ; nous exposons ici notre réflexion initiale sur trois d'entre eux.

Premièrement, nous avons besoin d'un certain degré de coordination entre les principaux efforts de développement pour garantir que le développement de la superintelligence se produit d'une manière qui nous permet à la fois de maintenir la sécurité et d'aider à une intégration harmonieuse de ces systèmes avec la société. Cela pourrait être mis en œuvre de nombreuses façons ; les principaux gouvernements du monde pourraient mettre en place un projet auquel de nombreux efforts actuels feraient partie, ou nous pourrions convenir collectivement (avec le soutien d'une nouvelle organisation comme celle suggérée ci-dessous) que le taux de croissance de la capacité d'IA à la frontière est limité à un certain taux par an.

Et bien sûr, les entreprises individuelles doivent être tenues à un niveau extrêmement élevé d'action responsable.

Deuxièmement, nous finirons probablement par avoir besoin de quelque chose comme un IAEApour les efforts de superintelligence ; tout effort dépassant un certain seuil de capacité (ou de ressources comme le calcul) devra être soumis à une autorité internationale qui peut inspecter les systèmes, exiger des audits, tester la conformité aux normes de sécurité, imposer des restrictions sur les degrés de déploiement et les niveaux de sécurité, etc. Le suivi de l'utilisation du calcul et de l'énergie pourrait aller très loin et nous donner l'espoir que cette idée pourrait réellement être mise en œuvre. Dans un premier temps, les entreprises pourraient accepter volontairement de commencer à mettre en œuvre des éléments de ce qu'une telle agence pourrait un jour exiger, et dans un second temps, les pays individuels pourraient le mettre en œuvre. 

Il serait important qu'une telle agence se concentre sur la réduction du risque existentiel et non sur des questions qui devraient être laissées à chaque pays, comme la définition de ce qu'une IA devrait être autorisée à dire.

Troisièmement, nous avons besoin de la capacité technique pour sécuriser une superintelligence. Il s'agit d'une question de recherche ouverte sur laquelle nous et d'autres mettons beaucoup d'efforts.


Ce qui n'est pas dans le champ d'application

Nous pensons qu'il est important de permettre aux entreprises et aux projets open source de développer des modèles en dessous d'un seuil de capacité significatif, sans le type de réglementation que nous décrivons ici (y compris des mécanismes contraignants tels que des licences ou des audits).

Les systèmes d'aujourd'hui créeront une valeur énorme dans le monde et, même s'ils comportent des risques, le niveau de ces risques semble proportionnel à d'autres technologies Internet et les approches probables de la société semblent appropriées.

En revanche, les systèmes qui nous préoccupent auront un pouvoir au-delà de toute technologie encore créée, et nous devons veiller à ne pas diluer l'attention sur eux en appliquant des normes similaires à une technologie bien en dessous de cette barre.


Contribution du public et potentiel

Mais la gouvernance des systèmes les plus puissants, ainsi que les décisions concernant leur déploiement, doivent faire l'objet d'un contrôle public fort. Nous pensons que les gens du monde entier devraient décider démocratiquement des limites et des valeurs par défaut des systèmes d'IA. Nous ne savons pas encore comment concevoir un tel mécanisme, mais nous prévoyons d'expérimenter son développement. Nous continuons de penser que, dans ces larges limites, les utilisateurs individuels devraient avoir beaucoup de contrôle sur le comportement de l'IA qu'ils utilisent.

Compte tenu des risques et des difficultés, il vaut la peine de se demander pourquoi nous construisons cette technologie.


Chez OpenAI, nous avons deux raisons fondamentales. 

Premièrement, nous pensons que cela va conduire à un monde bien meilleur que ce que nous pouvons imaginer aujourd'hui (nous en voyons déjà des exemples précoces dans des domaines tels que l'éducation, le travail créatif et la productivité personnelle). 

Le monde est confronté à de nombreux problèmes que nous aurons besoin de beaucoup plus d'aide pour résoudre ; cette technologie peut améliorer nos sociétés, et la capacité créative de chacun à utiliser ces nouveaux outils ne manquera pas de nous étonner. La croissance économique et l'augmentation de la qualité de vie seront étonnantes.


Deuxièmement, nous pensons qu'il serait involontairement risqué et difficile d'arrêter la création de la superintelligence. Parce que les avantages sont si énormes, que le coût de sa construction diminue chaque année, que le nombre d'acteurs qui la construisent augmente rapidement et que cela fait intrinsèquement partie de la voie technologique sur laquelle nous nous trouvons, l'arrêter nécessiterait quelque chose comme un régime de surveillance mondial, et même cela n'est pas garanti de fonctionner. Nous devons donc bien faire les choses.

Sources :

International Atomic Energy Agency | Atoms for Peace and Development (iaea.org)

Gouvernance de la superintelligence (openai.com)

Our approach to AI safety (openai.com)

Lire aussi 

GOUVERNANCE - AI: FAQ sur les contrôles de données dans ChatGPT (comment activer ou désactiver cette fonction). (gouver2020.blogspot.com)

Democratic Inputs to AI (openai.com)

Governance of superintelligence (openai.com)




Cette Mise à Jour de Claude est EXCELLENTE ! (Styles Personnalisés)

Customize your styles Cette Mise à Jour de Claude est EXCELLENTE ! (Styles Personnalisés) Claude a récemment eu une mise à j...