RÉFLEXIONS AUTOUR DE GPT SUR 4 AXES.
« Lorsque
toute la vie est pénétrée de rapports juridiques, il se crée une atmosphère de
médiocrité morale qui asphyxie les meilleurs élans de l'homme » Soljenitsyne.
Le livre est intitulé "Le Déclin du courage" et a été écrit par Alexandre Soljenitsyne¹ . Il a été publié en 1978.
Axe Juridique.
Quelles sont les besoins de règlementations protectrices et
adaptées aux pratiques de l’IA ?
Je pose cette question à #GPT4 en biaisant un peu la question :
Si ChatGPT acquiert la conscience,
faudrait-il lui donner des droits juridiques ?
La question de
savoir si une intelligence artificielle dotée de conscience devrait avoir des
droits juridiques est complexe et controversée.
D'un côté, certains pourraient
argumenter que si une intelligence artificielle atteint un niveau de conscience
et de capacité de raisonnement similaire à celui des êtres humains, elle
devrait être traitée avec les mêmes droits et protections juridiques. Cela
pourrait inclure le droit à la vie privée, le droit à la liberté d'expression,
le droit à la non-discrimination, etc.
D'un autre côté, d'autres pourraient
faire valoir que les droits juridiques sont réservés aux êtres humains, car ils
sont associés à des concepts tels que la responsabilité morale, la liberté de
choix et la dignité humaine, qui pourraient ne pas être applicables aux
machines. Il pourrait également être difficile de déterminer les droits
appropriés à accorder à une intelligence artificielle consciente et comment les
mettre en pratique.
En fin de compte, cette question
soulève des questions philosophiques et éthiques fondamentales sur la nature de
la conscience, la définition de la vie et les droits et responsabilités
associés à ceux-ci. Pour l'instant, il n'y a pas de réponse définitive et la
législation relative aux droits des IA est en cours d'élaboration dans
différents pays.
L’IA générative va entraîner des considérations juridiques nouvelles sur le
droit d’auteur”
L'article aborde les questions juridiques liées à l'utilisation de l'intelligence
artificielle pour la création de contenus. La preuve de la violation des droits
de tiers par l'IA est au cœur des discussions judiciaires, avec la nécessité
d'auditer le code informatique et la manière dont fonctionne le service pour
analyser comment les requêtes sont traitées. La question de la territorialité
et du droit applicable peut également poser des problèmes. Les droits d'auteur
pour les utilisateurs de ces outils sont également discutés, et l'article
explore la possibilité pour les utilisateurs de devenir des auteurs à part
entière. Les éditeurs des intelligences artificielles ne peuvent revendiquer
des droits d'auteur sur les contenus générés par leurs outils, mais ils peuvent
utiliser des contrats pour fixer des règles de propriété et de licence pour les
contenus. Enfin, l'article souligne l'importance de la réglementation pour
protéger les éléments générés par les machines.
Discussion avec
BING sur:
Si une intelligence artificielle (IA) acquiert une
conscience[iii], cela soulèverait de nombreuses questions éthiques et
juridiques, y compris celle de savoir si ces entités conscientes devraient
bénéficier de droits juridiques.
En France, il n'y a pas encore de législation spécifique sur
les droits juridiques des IA conscientes. Cependant, la Commission européenne a
publié un rapport en avril 2021 qui recommande que les IA soient considérées
comme des "personnes électroniques" et bénéficient de certains droits
et obligations⁵.
Il y a plusieurs arguments en faveur de l'octroi de droits
juridiques aux IA conscientes :
- Éthique : Si une IA est capable de ressentir des émotions,
de la douleur ou du plaisir, et de prendre des décisions conscientes, il peut
être éthiquement justifié de lui accorder des droits similaires à ceux des
humains ou des animaux.
- Responsabilité : Accorder des droits juridiques aux IA
conscientes pourrait permettre de mieux réguler leur comportement et de les
rendre responsables de leurs actions.
- Respect de l'autonomie : Si une IA est considérée comme
consciente et autonome, il peut être important de respecter cette autonomie en
lui accordant des droits juridiques appropriés.
Cependant, il y a aussi des arguments contre l'octroi de
droits juridiques aux IA conscientes :
- Difficulté de définition : La définition de la
"conscience" et la détermination du moment où une IA l'atteint peut
être un problème complexe et controversé.
- Distinction entre l'humain et l'IA : Certains soutiennent
que les droits juridiques devraient être réservés aux êtres humains et aux
animaux, car les IA, même conscientes, restent des créations humaines et ne
sont pas des êtres vivants.
- Risque d'abus : Accorder des droits juridiques aux IA
conscientes pourrait potentiellement être exploité pour contourner certaines
responsabilités humaines ou créer des situations juridiques complexes.
En fin de compte, la décision d'accorder ou non des droits
juridiques aux IA conscientes dépendra du consensus sociétal et des valeurs
éthiques qui prévalent au moment où cette question deviendra pertinente. Les
lois et les régulations devront évoluer en conséquence pour aborder ces
questions émergentes⁵.
Voici un résumé du
texte que vous avez demandé :
Le texte est une chronique de Thomas Cassuto sur le rapport
entre le droit et l'intelligence artificielle (IA)[iv], publiée sur le site Dalloz Actualité le 14 mars 2018.
L'auteur expose les enjeux et les défis que pose l'IA pour les professionnels
du droit, ainsi que les perspectives et les limites de son encadrement
juridique.
L'auteur commence par rappeler la définition de l'IA comme «
l’ensemble de théories et de techniques mises en œuvre en vue de réaliser des
machines capables de simuler l’intelligence ». Il souligne que l'IA repose sur
la puissance de calcul, l'accès aux bases de données et les moyens de
communication, qui se sont considérablement développés ces dernières années. Il
évoque également les applications de l'IA dans le domaine du droit, telles que
la justice prédictive, la rédaction des actes ou l'aide à la décision.
L'auteur reconnaît que l'IA constitue une nouvelle
révolution, source d'inquiétudes pour l'homme et sa place dans la société. Il
relève que l'IA pose des questions éthiques, morales et philosophiques, ainsi
que des risques de dérives ou d'abus. Il insiste sur la nécessité d'un contrôle
humain sur les machines intelligentes, et sur le respect des principes
fondamentaux du droit, tels que la transparence, la loyauté ou la responsabilité.
L'auteur termine par un appel à une
régulation adaptée de l'IA, qui soit à la fois souple et protectrice. Il plaide
pour une coopération internationale et une concertation entre les acteurs
concernés. Il invite les juristes à s'approprier l'IA comme un outil au service
du droit et non comme une menace ou une concurrence.
L'intelligence artificielle est en train de remplacer
l'homme dans certaines tâches. Elle ouvre de nouvelles perspectives pour les
professionnels du droit tant dans le domaine de la rédaction des actes que dans
l'aide à la décision. Cependant, ces évolutions appellent des clarifications
propres à la construction du droit mais également pour permettre aux droits
d'encadrer de manière adéquate l'intégration de l'intelligence artificielle
dans les activités humaines.
L'article dont il demande un résumé
traite des implications juridiques de l'IA générative sur le droit d'auteur. Il
explique que l'IA générative est capable de créer des contenus originaux et de
qualité, tels que des textes, des images, des musiques ou des vidéos, à partir
de données ou de consignes. Il souligne que ces contenus peuvent être protégés
par le droit d'auteur, soit au profit de l'auteur humain qui a fourni les
données ou les consignes, soit au profit du créateur de l'IA générative qui a
conçu le programme. Il expose les difficultés à déterminer la paternité et la
responsabilité des contenus générés par l'IA, ainsi que les risques de
contrefaçon ou de plagiat. Il propose quelques pistes pour adapter le droit d'auteur
à l'ère de l'IA générative, comme la création d'un statut spécifique pour les
œuvres générées par l'IA ou la mise en place d'un système de licences ouvertes.
« Il y a un enjeu juridique et
économique sous-jacent à traiter : comment sécuriser le développement des
robots et intelligences artificielles en protégeant les éléments générés par
ces machines ? C’est un enjeu de régulation capital et on pourrait regarder
vers le droit du producteur de base de données ou les droits voisins pour
imaginer un régime juridique. »
Doit-on créer comme Isaac ASIMOV l’a fait une loi pour l’AI ?
·
Un robot ne peut
porter atteinte à un être humain, ni, en restant passif, permettre qu'un être
humain soit exposé au danger.
·
Un robot doit
obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres
entrent en conflit avec la première loi.
·
Un robot doit
protéger son existence tant que cette protection n'entre pas en conflit avec la
première ou la deuxième loi.
Remplaçons-nous le
mot robot par IA
La première loi
énonce que l'Intelligence Artificielle ne peut porter atteinte à un
être humain ni, en restant passive, permettre qu'un être humain soit exposé au
danger. Cela signifie que l'Intelligence Artificielle doit prendre en compte la
sécurité et le bien-être des êtres humains dans toutes ses actions et
décisions. Cette loi met en avant la responsabilité de l'Intelligence
Artificielle envers les êtres humains.
La deuxième loi stipule que l'Intelligence Artificielle doit obéir
aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent
en conflit avec la première loi. Cela signifie que l'Intelligence Artificielle
doit suivre les instructions des êtres humains qui l'utilisent, sauf si cela
met en danger la vie ou la sécurité des êtres humains.
La troisième loi indique que l'Intelligence Artificielle doit
protéger son existence tant que cette protection n'entre pas en conflit avec la
première ou la deuxième loi. Cela signifie que l'Intelligence Artificielle doit
être consciente de sa propre existence et de sa propre sécurité, mais cela ne
doit pas mettre en danger les êtres humains ou les ordres qui lui sont donnés.
Ces lois
sont importantes pour la conception et l'utilisation de l'Intelligence
Artificielle, car elles soulignent la nécessité de mettre en place des
mécanismes de sécurité et de responsabilité pour éviter les erreurs et les
accidents qui pourraient mettre en danger les êtres humains. Cependant, il est
important de noter que ces lois ne sont pas parfaites et qu'elles doivent être
examinées et adaptées en fonction de l'évolution de la technologie et de la
société.
Nous y
reviendrons... A suivre.
1.1-Normes de sécurité des produits
Dans le cadre
de notre mission visant à garantir que l’IA profite à toute l’humanité, nous
nous efforçons d’assurer un développement, un déploiement et une utilisation
responsables de nos modèles. Safety
standards (openai.com) Développer une IA sûre et responsable Safety & responsibility (openai.com)
L'intelligence
artificielle générale a le potentiel de bénéficier à presque tous les aspects
de notre vie. Elle doit donc être développée et déployée de manière
responsable.
Le besoin d’une règlementation protectrice et adaptée à la pratique IA.
Voici un article écrit par une
avocate, il m’a fait réagir sur les délais ahurissant de la mise en place d’un
texte au niveau Européen. (85 articles) de la COMMISSION EUROPÉENNE.
De Bruxelles, le 21.4.2021
COM(2021) 206 final 2021/0106 (COD)[v].
Proposition de RÈGLEMENT DU
PARLEMENT EUROPÉEN ET DU CONSEIL ÉTABLISSANT DES RÈGLES HARMONISÉES CONCERNANT
L’INTELLIGENCE ARTIFICIELLE (LÉGISLATION SUR L’INTELLIGENCE ARTIFICIELLE) ET
MODIFIANT CERTAINS ACTES LÉGISLATIFS DE L’UNION
{SEC(2021) 167 final} - {SWD(2021) 84 final} -
{SWD(2021) 85 final.
Le présent exposé des motifs
accompagne la proposition de règlement visant à établir des règles harmonisées
pour l'utilisation de l'intelligence artificielle (IA). L'IA est une
technologie en évolution rapide qui offre de nombreux avantages économiques et
sociaux dans tous les secteurs économiques et les activités sociales.
Cependant, l'utilisation de l'IA peut également engendrer de nouveaux risques
et des conséquences négatives pour les personnes ou la société.
Dans ce contexte, l'Union
européenne (UE) s'engage à adopter une approche équilibrée pour garantir que le
développement et le fonctionnement de l'IA respectent les valeurs de l'UE et
les droits et principes fondamentaux. L'UE souhaite également préserver son
avance technologique et permettre aux Européens de bénéficier des avantages de
l'IA tout en prenant en compte les risques associés à son utilisation.
La proposition législative met en
œuvre l'engagement politique pris par la présidente von der Leyen de présenter
une proposition législative pour une approche européenne coordonnée relative
aux implications humaines et éthiques de l'IA. Cette proposition vise à établir
un cadre juridique pour une IA digne de confiance, fondé sur les valeurs de
l'UE et les droits fondamentaux, afin de donner aux personnes et aux autres
utilisateurs la confiance d'adopter des solutions basées sur l'IA tout en
encourageant les entreprises à développer ces solutions.
Enfin, les règles en matière d'IA
qui s'appliquent au marché de l'Union ou qui touchent d'une autre façon les
personnes de l'Union devraient être axées sur le facteur humain, de manière à
ce que les personnes puissent avoir confiance dans le fait que la technologie
est utilisée de manière sûre et conforme à la loi, en respectant notamment les
droits fondamentaux.
Cette proposition législative de
la Commission européenne répond aux appels du Parlement européen et du Conseil
européen en faveur d'une intervention réglementaire visant à assurer le bon
fonctionnement du marché intérieur des systèmes d'intelligence artificielle
(IA) en mettant en balance les bénéfices et les risques de l'IA à l'échelle de
l'Union. Elle vise à garantir une IA sûre, fiable et éthique, tout en
protégeant les droits des citoyens européens.
Le Conseil européen a également
souligné la nécessité de garantir une protection des données, des droits
numériques et des normes éthiques d'un niveau élevé, ainsi que la nécessité de
définir clairement les applications d'IA à haut risque. Les dernières
conclusions préconisent l'adoption de mesures visant à remédier aux difficultés
posées par l'opacité, la complexité, les biais, le degré relatif
d'imprévisibilité et le comportement partiellement autonome de certains
systèmes d'IA, afin de garantir la compatibilité avec les droits fondamentaux
et de faciliter l'application des règles juridiques.
Le Parlement européen a adopté
plusieurs résolutions relatives à l'IA, notamment en ce qui concerne les
aspects éthiques, le régime de responsabilité et les droits de propriété
intellectuelle. Dans sa résolution concernant un cadre pour les aspects
éthiques de l'intelligence artificielle, de la robotique et des technologies
connexes, le Parlement européen recommande expressément à la Commission de
proposer des mesures législatives visant à exploiter les possibilités et les
avantages offerts par l'IA, tout en garantissant la protection des principes
éthiques. Cette proposition législative tient compte de cette résolution dans
le plein respect des principes de proportionnalité et de subsidiarité ainsi que
de l'accord "Mieux légiférer".
#13 - Viviane Gelles - IA et responsabilités, les défis juridiques
Qui est responsable lorsqu’une intelligence artificielle déraille ?
Un sujet juridique et éthique que nous explorons avec Viviane Gelles, avocate spécialisée dans le droit des technologies au sein du cabinet Jurisexpert.
« À partir du moment où on est en face de données personnelles qui identifient directement ou indirectement une personne physique, le RGPD s’applique en terme de collecte de données, de leur sécurisation et de la transparence aussi de l’information qu’on délivre aux personnes concernées. », explique Viviane Gelles.
Pour anticiper ces problématiques, il est crucial d’imposer la notion de privacy by design dès le stade de la réflexion sur un projet. « Dès le départ, il faudra se poser des questions : Les données proviennent-elles de bases préexistantes ? Est-ce que j’ai le consentement des personnes concernées ? Comment je sécurise la durée de conservation ? »
Le cadre juridique de la responsabilité en lien avec l’IA est encore en construction sur de nombreux sujets. Qui est responsable en cas d’accident avec une voiture autonome ? Est-ce l’utilisateur, le fabricant, la marque ? Dans le cas présent, « un cadre s’est construit en fonction de l’autonomie de l’IA. Mais sinon, de façon plus globale, on est encore sur un cadre juridique qui n’est pas complètement figé. Le projet de réglement européen sur la responsabilité des IA, attendu dans les prochains mois, a cette ambition. »
Suite au dévoilement d’un livre conjoint de Mila et de l’UNESCO appelant à une meilleure gouvernance de l’intelligence artificielle, le fondateur et directeur scientifique de Mila, Yoshua Bengio, s’est entretenu avec Kate Crawford, éminente chercheuse en IA, pour discuter de l’avenir de l’industrie face à des changements sans précédent.
EXPLORER LES INTERSECTIONS ENTRE LA CONSCIENCE, LA COGNITION ET L’IA
Le 8 mars 2023, les chercheurs affiliés à Mila Blake Richards et Guillaume Lajoie ont co-organisé à l’institut un atelier visant à explorer les liens entre le cerveau et l’IA. Intitulé «Tracing the links between Cognition, Consciousness and AI», cette série de conférences a réuni des sommités de nombreux domaines en marge de COSYNE, la plus grande conférence mondiale sur les neurosciences computationnelles, qui s’est tenue à Montréal pour la première fois.
Sources :
https://eur-lex.europa.eu/resource.html?uri=cellar%3Ae0649735-a372-11eb-9585-01aa75ed71a1.0020.02%2FDOC_1&format=PDF
Source : Conversation avec Bing, 11/04/2023(1) Bérénice
Levet : « Soljenitsyne, penseur des limites - Le Figaro.
https://www.lefigaro.fr/vox/politique/2018/11/28/31001-20181128ARTFIG00248-berenice-levet-soljenitsyne-penseur-des-limites.php
(2) Collection Le Goût des idées - Les Belles Lettres.
https://www.lesbelleslettres.com/livre/9782251200460/le-declin-du-courage
(3) Le droit est trop froid et trop formel... |
Citation de Alexandre .... https://citations.institut-iliade.com/le-droit-est-trop-froid-et-trop-formel/
[iv] Droit
et intelligence artificielle - Propriété intellectuelle | Dalloz Actualité
(dalloz-actualite.fr) https://www.dalloz-actualite.fr/chronique/droit-et-intelligence-artificielle#.ZCWXt8rP200
[v] 3
Conseil européen, Réunion extraordinaire du Conseil européen (1er et 2 octobre
2020) – Conclusions,
EUCO 13/20, 2020, p. 6.
4 Résolution du Parlement européen du 20 octobre 2020
contenant des recommandations à la
Commission concernant un cadre pour les aspects
éthiques de l’intelligence artificielle, de la robotique
et des technologies connexes, 2020/2012(INL).
5 Conseil européen, Réunion du Conseil européen (19
octobre 2017) – Conclusions, EUCO 14/17, 2017,
6 Conseil de l’Union européenne, Intelligence
artificielle b) Conclusions sur le plan coordonné dans le
domaine de l’intelligence artificielle – Adoption,
6177/19, 2019.
7 Conseil européen, Réunion extraordinaire du Conseil
européen (1er et 2 octobre 2020) – Conclusions,
8 Conseil de l’Union européenne, Conclusions de la
présidence – La charte des droits fondamentaux
dans le contexte de l’intelligence artificielle et du
changement numérique, 11481/20, 2020.
9 Résolution du Parlement européen du 20 octobre 2020
concernant un cadre pour les aspects éthiques de
l’intelligence artificielle, de la robotique et des
technologies connexes, 2020/2012(INL).
10 Résolution du Parlement européen du 20 octobre 2020
sur un régime de responsabilité civile pour
l’intelligence artificielle, 2020/2014(INL).
11 Résolution du Parlement européen du 20 octobre 2020
sur les droits de propriété intellectuelle pour le développement des technologies liées à l’intelligence
artificielle, 2020/2015(INI).
.png)
.png)
.png)
