Intelligence Artificielle : innovations et nouveautés, débat éthique...

[Remundo]

Cette vidéo de Micode explique comment les IA prennent le contrôle de notre vie avec notre consentement car nous déléguons nos décisions à leurs services, nous nous vautrons dans la facilité : ceci casse les processus d'apprentissages naturels, ce qui restreint notre libre arbitre et accroît l'influence des IA dans une boucle auto-amplifiante.

[Macro]

Pas trop besoin de regarder cette video ....Quand on voit la façon dont certains membres de ce forum utilisent les IA pour n'importe quoi .... On comprend vite ou leurs createurs veulent nous mener ...

[Obamot]

Manque de bol, on sait OÙ TES INTENTIONS veulent nous mener, parce que ta logique sophistique récurrente a zappé sur le fait que tes accusations "par la bande" marchent dans les deux sens...

Et c'est un magnifique témoignage d'aveux indirects qui démontre au scalpel qu'exceptée la matière technique que tu connais bien, agir et penser comme tu le fais fort bien en tant qu'autodidacte n'est pas toujours suffisant quand on est dominé par un pareil égo.

donc oui

tu devrais faire un peu de "lâcher prise" en allant consulter, Môssieur le redresseur de "torts"... ça te ferait le plus grand bien. Bisous.

[Remundo]

La vidéo est très intéressante et présente un point de vue tout à fait équilibré.

En résumé, comme Monsieur Macro n'a pas la patience d'écouter la vidéo, la conclusion est que l'IA n'est finalement pas le coeur du problème, c'est davantage l'Humain qui s'affaisse, voire se vautre à son contact, en particulier quand il l'utilise bien trop jeune, au moment de ses apprentissages qui devraient rester naturels, "à l'ancienne, cerveau, papier, crayon, petite calculatrice".

Micode explique que nous avons toujours le choix, soit de s'abstenir de l'IA, soit de contraindre l'IA à jouer le rôle d'un professeur qui ne donne pas les solutions, mais guide l'élève en cas de difficultés, en lui rappelant ses définitions, en rassemblant les idées, laissant le soin à l'élève de trouver le raisonnement, puis de le mener.

Je vois très bien, en tant qu'enseignant, les ravages de "chat gpt", et plus généralement de l'internet papillonnant (réseaux sociaux, scrollage youtube ou facebook).

Mes élèves utilisent majoritairement l'IA pour tricher ou glander, sans efforts intellectuels, et sans connaissances personnelles pour façonner les réponses de l'IA, avoir un sens critique, devoir parfois contredire/recadrer l'IA, et même apprendre, incidemment.

Personnellement j'ai déjà pas mal "de bagages", et pourtant je manque souvent de connaissances spécialisées : j'utilise l'IA pour me renseigner, mais je reste le pilote, c'est moi qui réfléchis et construis les concepts et raisonnement, c'est moi qui prends la décision précisément parce que j'ai eu l'immense chance d'avoir fait (et continué) consciencieusement mes apprentissages naturels (né en 1980 pour ma part).

C'est parce que l'on fait personnellement des efforts intellectuels, des essais, des erreurs, des réussites, que l'on APPREND, il reste quelque chose de positif dans le cerveau : connaissances, capacité de résolution, combinaison d'idées et créativité, seulement par cette méthode.

Dans leur majorité, nos pauvres jeunes rapidement se contentent de recopier des solutions en se débarrassant de leur boulot... et le cercle vicieux s'installe vite : moins ils ont de connaissances et de raisonnements personnels, plus l'IA fait le boulot à leur place, et réciproquement...

[Remundo]

Je ne suis pas un admirateur de Laurent ALEXANDRE, mais je reconnais que sur l'IA et le transhumanisme, il est un client informé et informatif

écoutez cette vidéo facebook

en résumé la robotisation remplace énormément d'emplois (ce n'est pas nouveau)

la nouveauté est la connexion des IA sur des robots qui décuple encore leur efficacité et rend totalement risible les possibilités d'un humain, même de très bonne volonté.

[janic]

L'IA a commencé quand l'humain s'est servi de son "intelligence" pour SE remplacer et c'est devenu plus qu'évident avec la période technologique actuelle ou presque tout est le résultat de NOTRE intelligence au service de l'artificiel.
Le forme actuelle n'est qu'un aboutissement d'un long processus, où l'humain a la vanité de croire qu'il maîtrise son oeuvre comme Frankenstein .
L'humanité a enfanté un monstre quelle chéri et alimente de son sein jusqu'à ce qu'elle en soit dévorée de l'intérieur tel un cancer!

[Jeandebordeaux]

Résumé du message du pape à propos de l'IA:
Encyclique Magnifica humanitas du pape Léon XIV : résumé

Au fil des siècles, le développement technologique a contribué à une amélioration significative des conditions de vie de l’humanité ; en même temps, chaque étape du progrès a également révélé la face ambigüe d’outils susceptibles de causer du tort lorsqu’ils ne sont pas mis au service du bien. Cependant aujourd’hui, nous sommes confrontés à une situation nouvelle, où la puissance et l’omniprésence des technologies émergentes s’inscrivent dans le tissu de la vie quotidienne, façonnent les processus décisionnels et marquent profondément l’imaginaire collectif.
Encyclique Magnifica humanitas, Introduction, 4

Le pape affirme tout d’abord que l’objet de cette encyclique de Leon XIV n’est pas de s’opposer au progrès technologique, mais de s’assurer qu’il est mis au service de la dignité des personnes et du bien commun.

Le pouvoir technologique prend ainsi un visage inédit, essentiellement privé, et donc d’autant plus difficile à cerner, à réguler et à orienter vers le bien commun.
Introduction, 5

Le pape pointe ici le danger de technologies qui ne sont plus contrôlées par les Etats et les citoyens, mais par des structures privées désormais plus puissantes que les états eux-mêmes.

Le page appelle ensuite à un discernement commun, terme qu’il emploie à plusieurs reprises, à une réflexion collective pour répondre à la question : « quelle direction choisir en tant que communauté humaine et en tant que peuples ? »
La référence à la tour de Babel

Pour pointer le danger de l’IA, le pape fait référence à la tour de Babel, œuvre pharaonique créée par les hommes, « conçue sans référence à Dieu, soutenue par une uniformité qui élimine la diversité et, au lieu de la communion, choisit l’homogénéisation. »

Le résultat est le malheur et la dispersion. La référence à Babel pointe le risque de l’orgueil humain et de sa prétention à l’autosuffisance, qui conduit à sacrifier la dignité des personnes et à s’éloigner de Dieu.

A cette image négative, il oppose une image positive issue du livre de Néhémie : suite à l’exil, Néhémie trouve la patience de reconstruire Jérusalem pierre par pierre, en préservant l’humain et le bien commun.

Ainsi, la technologie est utile uniquement si elle est mise au service de la dignité de l’homme, pour « soigner, relier, éduquer, protéger la Maison commune » (Introduction, 9).

La technologie n’est ni bien, ni mal, « elle prend le visage de ceux qui la conçoivent, la financent, la régulent et l’utilisent ».

Le pape appelle alors à ne pas céder refuser « l’idolâtrie du profit qui sacrifie les plus faibles, l’uniformité qui gomme les différences, la prétention d’un langage unique – y compris numérique – capable de tout traduire, même le mystère de la personne, en données et en performances. »

Face au risque de déshumanisation et d’accroissement des inégalités, il appelle à restaurer la valeur du travail partagé, à « bâtir ensemble », à cultiver la diversité, la justice et la fraternité.

En filigrane, on comprend que l’IA, dans son côté négatif, s’oppose au travail, au faire-ensemble et au vivre-ensemble.
L’illusion technologique

Aujourd’hui, le désir de plénitude de l’être humain risque d’être détourné vers des objectifs trompeurs : l’illusion d’une technique promettant de nous libérer de toute fragilité ou des modèles de bien-être qui laissent de côté des peuples entiers.
Encyclique Magnifica humanitas, Introduction, 12

Or, pour le pape, le bonheur ne consiste pas en une surpuissance technologique, mais en une croissance harmonieuse dans la paix, le respect et la solidarité. Cet objectif se fonde sur une responsabilité partagée de tous les acteurs de l’IA.

Ainsi, l’approche de l’IA proposée par le pape est celle du discernement : il s’agit d’adopter « une approche responsable, de procéder à des évaluations d’impact humain et social », d’inclure les plus fragiles, de favoriser l’alphabétisation numérique et de développer une industrie orientée vers la justice et la paix.

Le véritable progrès naît toujours d’un coeur ouvert à l’autre, d’une intelligence disposée à l’écoute, d’une volonté qui cherche ce qui unit plutôt que ce qui sépare.
Introduction, 15

Léon XIV appelle encore une fois au travail sur le chantier de l’humanité :

Alors, les pierres rejetées – les pauvres, les malades, les migrants, les petits – deviendront la pierre angulaire, et sur la terre s’élèvera une demeure commune solide et accueillante, où finalement l’amour et la vérité se rencontrent, la justice et la paix s’embrassent.
Introduction, 15

Et l’introduction de l’encyclique de se refermer sur un vibrant appel du pape :

Je demande à tous d’arrêter le chantier d’une énième Babel et d’unir nos forces pour édifier le bien, afin que l’humanité ne perde jamais sa beauté et que le monde puisse reconnaître une fois encore au coeur de l’être humain, le lieu où Dieu désire habiter.

Chapitre premier de l’encyclique Magnifica humanitas : résumé

Dans le premier chapitre de l’encyclique, le pape retrace le cheminement par lequel la Doctrine sociale de l’Église s’est constituée au cours des dernières décennies, notamment à travers les encycliques des différents papes.

Pour Léon XIV, la question de l’IA ne doit pas être traitée comme une urgence, mais comme une question fondamentale qui s’inscrit dans la Doctrine sociale de l’Eglise. L’Eglise n’est pas coupée du monde mais incluse dans celui-ci : elle s’exprime sur les sujets de société, même si elle ne prétend pas détenir la vérité.

Le pape rappelle que la Doctrine sociale de l’Eglise se veut un chemin de discernement communautaire. Au cœur de cette doctrine, il y a « la primauté du travail humain sur toute logique purement productive ou financière, avec l’attention qui en découle pour les personnes et les familles les plus exposées à l’exploitation » (paragraphe 30).

La doctrine s’oppose en outre à la domination des uns sur les autres, à la concentration du pouvoir économique entre les mains d’une minorité, qu’elle soit capitaliste ou collectiviste, et appelle au contraire à renforcer le tissu associatif, syndical et communautaire. Dans tous les cas, le droit doit passer avant l’intérêt.

Enfin, la Doctrine sociale rappelle que « l’activité économique ne peut prétendre résoudre les problèmes sociaux en élargissant simplement la logique du marché : elle doit être ordonnée au bien commun ».

L’Évangile fournit les critères permettant de reconnaître ce qui humanise ou déshumanise.
Deuxième chapitre de l’encyclique Magnifica humanitas : résumé

Dans le deuxième chapitre de l’encyclique, le pape rappelle les fondements de la Doctrine sociale de l’Eglise.

J’estime qu’aujourd’hui, pour préserver la personne humaine à l’ère de l’intelligence artificielle, nous devons revenir à une réflexion sur le bien commun, la destination universelle des biens, la subsidiarité, la solidarité et la justice sociale.
Encyclique Magnifica humanitas, chapitre 2, 46

Le pape insiste sur le fait que l’homme est créé à l’image et à la ressemblance de Dieu, sur l’égale dignité de tous les êtres humains qui en découle.

Il est important de veiller à ce que cette prise de conscience croissante de la dignité humaine ne soit pas occultée sous la pression de nouvelles idéologies ou de certains intérêts très puissants dans le monde d’aujourd’hui. Parmi ces idéologies, je considère comme particulièrement insidieuse celle qui laisse entendre que chaque personne devrait mériter ou justifier sa propre valeur, au point d’attribuer un plus grand prix à celles qui sont les plus efficaces et les plus performantes.
Chapitre 2, 51

Il s’agit ici d’une dignité ontologique : « la dignité qui appartient à chaque être humain du simple fait qu’il existe, qu’il a été voulu, créé et aimé par Dieu ».

Or, avec le développement du progrès technologique, « les violations de la dignité humaine se répandent ouvertement ou de manière dissimulée » (paragraphe 56).

Les principes de la Doctrine sociale sont rappelés :

la promotion du bien commun, avec le rappel que « la simple somme des intérêts individuels n’est pas capable de créer un monde meilleur pour toute l’humanité ». Le bien commun repose sur l’interdépendance et la coopération des hommes entre eux, au sein de la nation et sur le plan international,
le principe de la destination universelle des biens : « il n’est pas conforme au dessein de Dieu d’utiliser ce don de telle sorte que ses bienfaits ne profitent qu’à quelques-uns ». Le pape rappelle en outre que la tradition chrétienne n’a jamais reconnu comme absolu ou intouchable le droit à la propriété privée, et fait directement allusion aux brevets et droits de propriété intellectuelle (chapitre 66-67),
le principe de subsidiarité, selon lequel ce que les personnes, les familles, les communautés locales et les corps intermédiaires peuvent faire ne doit pas être assumé par des instances supérieures. L’Etat intervient lorsque c’est nécessaire, pour le bien commun, mais ne remplace pas les citoyens dans leurs initiatives et leur organisation. Sur le plan de la technologie et de l’IA, « la subsidiarité exige que ces processus ne soient pas imposés d’en haut de façon opaque et unilatérale, mais qu’ils soient orientés vers le bien commun à travers la transparence, la responsabilité et des formes réelles de participation : contrôles indépendants, transparence sur les algorithmes, accès équitable aux données, dispositifs de recours » (chapitre 71),
le principe de solidarité : « le destin de chacun est lié au destin de tous ». Ce principe de justice sociale implique « des modes de vie sobres et partagés, la capacité à renoncer à des avantages immédiats pour ouvrir des perspectives d’avenir à d’autres, la disponibilité à remettre en question habitudes et privilèges – y compris en matière de consommation numérique et d’utilisation des technologies – lorsqu’ils empêchent les autres de vivre avec dignité. »

À l’ère du numérique, un ordre social juste est celui qui garantit à tous un accès équitable aux opportunités, protège les plus petits et les plus fragiles, lutte contre la haine et la désinformation, et soumet l’utilisation des données et des technologies à un contrôle public, afin que le critère ne soit pas uniquement le profit, mais la dignité de chaque personne et le bien des peuples.
Encyclique Magnifica humanitas, chapitre 2, 80

Les innovations technologiques – notamment l’intelligence artificielle – ne sont pas neutres : elles peuvent favoriser la participation et la justice, ou bien aggraver les inégalités, le contrôle et l’exclusion. C’est pourquoi elles doivent être évaluées à l’aune d’une question décisive : contribuent-elles réellement à faire grandir les personnes et les peuples en humanité et en fraternité, dans le respect de la Maison commune et des générations futures ?
Chapitre 2, 85

Troisième chapitre de l’encyclique de Léon XIV : résumé

Le troisième chapitre de l’encyclique Magnifica humanitas s’intitule « La grandeur de la personne humaine face aux promesses de l’IA ».

Léon XIV commence par décrire le nouveau paradigme technologique :

Il apparaît que la technique n’est pas un simple instrument et que, lorsqu’elle devient un critère, elle finit par déterminer ce qui compte et ce qui peut être écarté, réduisant la création à un objet d’exploitation et les personnes à des rouages d’un système qu’il faut rendre toujours plus performant.
Encyclique Magnifica humanitas, chapitre 3, 92

Or, il apparaît que l’homme moderne n’a pas reçu l’éducation nécessaire pour faire un bon usage de son pouvoir : le danger que l’humanité devienne victime de ses propres conquêtes.

Si le développement technologique se poursuit sans une maturation éthique et sociale adéquate, il peut arriver que les moyens augmentent sans que l’humanité ne croisse dans la même mesure : on “a plus” mais on “n’est pas plus”, et la personne risque d’être évaluée avant tout en fonction des performances qu’elle garantit.
Encyclique Magnifica humanitas, chapitre 3, 94

Et le pape de pointer le fait que les plateformes numériques fixent leurs propres lois sans se préoccuper d’un partage démocratique.

Le pape en vient ensuite plus précisément à l’IA. Il invite d’abord à ne pas comparer intelligence humaine et intelligence artificielle. Cette dernière est sans conscience morale, même si elle peut simuler l’empathie ou la compréhension.

Même lorsque ces outils sont présentés comme capables d’“apprendre”, leur manière de le faire diffère de celle de l’être humain. Il ne s’agit pas de l’expérience de celui qui se laisse façonner par la vie et grandit au fil du temps à travers ses choix, ses erreurs, le pardon et la fidélité ; il s’agit plutôt d’une adaptation statistique à partir de données et de résultats qui peut s’avérer très efficace, mais qui n’implique pas de croissance intérieure.
Chapitre 3, 99

Concernant les performances impressionnantes de l’IA générative, le pape déclare qu’elles peuvent conduire à réduire notre jugement personnel et notre créativité. Elles peuvent aussi finir par nous couper des autres.

L’imitation artificielle d’une communication humaine positive – paroles de conseil, d’empathie, d’amitié, d’amour – peut s’avérer gratifiante et même utile, mais chez des utilisateurs peu avertis, elle peut induire en erreur et donner l’illusion d’être en relation avec un sujet personnel authentique. Lorsque la parole est simulée, elle ne construit pas une relation, mais son apparence. L’imitation artificielle de la relation de soins ou d’accompagnement peut devenir dangereuse lorsqu’elle s’insinue dans un contexte pauvre en relations et en affections réelles : le risque n’est alors pas tant qu’une personne croie parler à une autre personne, mais qu’elle perde le désir même de rechercher véritablement l’autre.
Chapitre 3, 100

Léon XIV insiste aussi sur l’impact environnemental de cette technologie énergivore et grande consommatrice d’eau. Il pointe le risque de manipulation de l’information ou de violation de la vie privée. Par ailleurs, les systèmes d’IA qui se présentent comme neutres et objectifs, reflètent en réalité les stéréotypes ou les positions idéologiques de ceux qui les ont conçus.

Il en découle une conséquence simple mais incontournable : nous ne pouvons pas considérer l’IA comme moralement neutre. Il ne s’agit pas d’un simple instrument “à bien utiliser” ; il introduit déjà un critère qui contredit la dignité inaliénable de la personne.
Chapitre 3, 104

D’où l’intérêt d’établir des responsabilités à chaque étape de la conception et du déploiement de ce type d’outil.

Il faut des cadres juridiques adéquats, une surveillance indépendante, l’éducation des utilisateurs, une politique qui n’abdique pas son devoir.
Chapitre 3, 106

Le pape demande qu’un code éthique de l’IA soit défini, non pas par les créateurs d’outils numériques, mais par les peuples eux-mêmes. Il pointe le danger de l’IA pour la démocratie, et le fait que « de petits groupes très influents puissent orienter l’information et la consommation, conditionner les processus démocratiques et influencer les dynamiques économiques à leur avantage ».

Et le pape de dénoncer « les nouveaux monopoles de l’IA ».

Léon XIV évoque aussi « le travail invisible, souvent exploité, qui alimente les modèles algorithmiques » (chapitre 109).

Je voudrais enfin employer un mot qui me tient à coeur : “désarmer”. Désarmer l’IA, c’est la soustraire à la logique de la compétition armée qui n’est plus aujourd’hui seulement militaire, mais aussi économique et cognitive. C’est la course à l’algorithme le plus performant et à la banque de données la plus vaste dans le but de consolider un avantage géopolitique ou commercial sur tous les autres. Désarmer, c’est rompre cette équivalence entre la puissance technique et le droit de gouverner. Désarmer ne signifie pas renoncer à la technologie, mais l’empêcher de dominer l’humain.
Encyclique Magnifica humanitas, chapitre 3, 110

Il s’agit donc, pour le pape, de désarmer l’IA pour éviter qu’elle ne brise l’harmonie entre les hommes et qu’elle développe une nouvelle forme de pauvreté morale.

La qualité d’une civilisation ne se mesure pas à la puissance de ses moyens, mais à l’attention qu’elle sait offrir, à sa capacité à reconnaître l’autre comme un visage et non comme une fonction.
Chapitre 3, 114

Le pape évoque ensuite les notions de transhumanisme et de posthumanisme et leurs dangers : « lorsque l’être humain est traité comme un matériau à perfectionner ou à surpasser, il devient alors plus facile d’accepter que certains soient considérés comme moins utiles, moins désirables, moins dignes » (chapitre 117).

Au contraire, tout ce qui apparaît comme une limite (incapacité, maladie, vieillesse, souffrance, vulnérabilité) devrait être vu comme un espace où l’humain peut mûrir et s’ouvrir à de nouvelles relations.

C’est précisément dans notre nature limitée que trouvent leur place la compassion, la sincère préoccupation face aux besoins des autres, la générosité qui surprend même au milieu des ténèbres et de l’échec, l’expérience spirituelle et l’adoration de Dieu.
Chapitre 3, 119

Pour le pape, l’être humain ne doit pas renoncer à l’aventure de rencontrer l’autre. Pour lui, l’humain augmenté est l’humain qui réussit à s’ouvrir et à se transcender.

Léon XIV en vient à sa vision fondamentale de l’intelligence artificielle : « le véritable choix ne se situe pas entre l’enthousiasme et la peur, mais entre deux façons de construire : un progrès au service de la personne et des peuples, ou un progrès qui les soumet à des logiques de pouvoir » (chapitre 129).

L’IA présente un intérêt si elle rend la vie sur Terre plus humaine. « Si, au contraire, la puissance grandit tandis que le cœur s’assèche et que les liens se rompent, alors nous sommes face à une nouvelle forme de Babel : une construction grandiose, mais inhumaine » (chapitre 129).
Quatrième chapitre de l’encyclique Magnifica humanitas : « préserver l’humain dans la transformation »

Dans le quatrième chapitre de sa lettre, Léon XIV approfondit les domaines dans lesquels les transformations dues à l’IA ont des répercussions concrètes et parfois dramatiques.

Le premier de ces domaines est celui de l’information, avec la question de la désinformation, dont les effets pourraient être démultipliés par l’IA. Les maîtres de l’IA pourraient arriver à redéfinir la notion même de vérité, contre le Bien et la raison humaine.

D’autre part, les outils d’IA, par leur puissance, pourraient parvenir à influencer la culture et l’imaginaire collectif. Et le pape de prôner une écologie de l’éducation, ainsi qu’une alliance éducative pour l’ère numérique.

L’omniprésence des médias numériques engendre une culture de l’immédiateté et de l’hyperstimulation, qui alimente la fatigue, l’ennui et l’apathie face à l’effort nécessaire pour rechercher la vérité. Au contraire, les processus éducatifs ont besoin de temps de croissance, d’une confrontation avec la réalité au-delà des apparences et d’un cheminement patient. La question est fondamentale, car toute technologie éduque ceux qui l’utilisent. Éduquer à l’utilisation de l’IA implique donc d’éduquer à décider quand et pourquoi ne pas l’utiliser. (…) Nous devons nous éduquer à jeûner de l’IA et protéger nos jeunes de la promesse de la machine parfaite, de cette séduction subtile qui fait paraître inutile la pensée humaine précisément au moment où elle est la plus nécessaire.
Chapitre 4, 139-140

Le pape pointe aussi les dangers de l’IA sur la santé mentale des jeunes et moins jeunes, et le nécessaire rôle des pouvoirs publics et de l’école pour mettre à distance les outils numériques d’une utilisation quotidienne par les jeunes.

Le second domaine de transformation est le travail. Le pape rappelle l’objectif de toute société humaniste : permettre à chacun de vivre dignement grâce à son travail. Or le risque induit par l’IA est de « déqualifier les travailleurs, les soumettre à une surveillance automatisée et les reléguer à des tâches rigides et répétitives ; la nécessité de suivre le rythme de la technologie peut éroder le sentiment d’autonomie des travailleurs et étouffer les compétences innovantes qu’ils sont appelés à apporter à leur travail » (chapitre 150).

Par ailleurs, l’IA redéfinit le travail au niveau mondial, avec des gains de productivité dans les pays riches et l’apparition de tâches sous-payées et de travailleurs exploités dans les pays du Sud. La question du chômage est aussi centrale, puisque l’IA aboutira à la disparition de nombreux postes. La valeur travail s’en trouvera impactée, avec pour conséquence un appauvrissement humain et culturel important. Or chacun doit pouvoir s’épanouir à travers son travail et son rôle social.

Toute mise en place de l’automatisation et de l’IA devrait s’accompagner de mesures vérifiables en matière de protection de l’emploi, de reconversion professionnelle et de participation des travailleurs, afin que la technologie vise à libérer du temps et des capacités humaines, et non à générer de l’exclusion.
Chapitre 4, 156

Le pape évoque aussi l’impact de l’IA sur le système économique et financier international.

A l’ère de l’IA et de la robotique, il n’est plus possible de se fier uniquement à la “main invisible” du marché ; la politique a pour mission d’orienter les dynamiques économico-technologiques vers le bien commun, en favorisant un travail décent, l’inclusion sociale et une égale répartition des bénéfices de l’innovation.
Chapitre 4, 163

Lorsque les données et les algorithmes influencent l’octroi de crédits, la sélection du personnel, l’accès aux services ou aux opportunités, il est nécessaire que les décisions soient compréhensibles, contestables et soumises à un contrôle, afin que la personne ne soit pas réduite à un simple profil.
Chapitre 4, 164

Le troisième thème de ce chapitre s’intitule « préserver la liberté face à la dépendance et à la marchandisation ». Pour le pape, les nouveaux outils numériques sont conçus pour capter le temps et le regard des utilisateurs, en exploitant leurs fragilités et en affaiblissant leur liberté intérieure : se posent alors des problèmes psychologiques et sociaux.

La marchandisation de l’être humain, devenu consommateur de contenus, couplée avec la collecte massive de données et l’utilisation d’algorithmes intrusifs qui orientent la pensée, conduit à la soumission de l’Homme aux puissants. Les plus vulnérables sont particulièrement concernés. On peut parler de véritable dépendance. Le pape parle encore de subordination, d’esclavage ou de colonisation.

Certains courants post-humanistes vont même jusqu’à envisager des êtres humains “de seconde classe”, au service des intérêts d’élites qui se perçoivent comme supérieures.
Encyclique Magnifica humanitas, chapitre 4, 172

En termes d’esclavage, Léon XIV fait aussi allusion à la condition des travailleurs de l’IA :

Une part importante du fonctionnement de l’économie numérique repose sur le travail silencieux de millions d’êtres humains, employés à des activités peu visibles mais essentielles : étiquetage des données, modération des contenus – souvent très mauvais –, apprentissage des modèles. Dans de nombreux cas il s’agit de jeunes, pour la majorité des femmes, qui travaillent laborieusement pour un salaire de misère. À cette fatigue invisible s’ajoute celle, encore plus brutale, de l’extraction des ressources nécessaires à la production des appareils et des microprocesseurs sur lesquels repose l’IA.
Encyclique Magnifica humanitas, chapitre 4, 173

Ainsi, loin d’être un progrès de civilisation, les nouveaux systèmes numériques conduisent à de nouvelles atrocités.

Le colonialisme revêt de nos jours un visage inédit. Il ne domine pas seulement les corps, mais s’approprie les données, transformant les vies personnelles en informations exploitables.
Chapitre 4, 178

Le pape prend l’exemple de la collecte des données de santé au seul profit de l’industrie pharmaceutique. Il appelle à la protection des données, à la transparence, et à leur partage commun au bénéfice de tous.

Face aux dangers pré-cités, chacun doit se sentir concerné et responsable, chacun à son niveau.
Cinquième chapitre de l’encyclique Magnifica humanitas : « La culture du pouvoir et la civilisation de l’amour »

Dans ce cinquième chapitre, Léon XIV s’intéresse à l’intelligence artificielle dans le cadre de la guerre.

Ici, la question ne concerne pas seulement l’efficacité de nouveaux outils, mais le risque que la technique, dissociée de l’éthique et de la responsabilité, rende plus rapide et impersonnelle la décision sur la vie et la mort, et présente le recours à la force comme une option immédiate et réalisable.
Encyclique Magnifica humanitas, chapitre 5, 182

Le pape évoque d’abord les nouvelles techniques de guerre du type cyberattaques ou manipulation de l’information. L’IA risque de faciliter et d’abaisser le seuil du recours aux pratiques de déstabilisation.

Le pape appelle à construire une civilisation de l’amour, caractéristique essentielle de la « magnifique humanité ». Les nouvelles technologies nous rendent plus connectées, mais cette connexion doit se faire au service de la fraternité universelle.

Léon XIV dénonce la culture de la guerre, la banalisation des conflits, la faiblesse du multilatéralisme, le réarmement, la polarisation des sociétés et la peur. A ce titre, il pointe le développement incessant de nouveaux systèmes d’armes, en particulier liés à l’IA.

L’usage de l’IA pour la prise de décision en temps de guerre est immorale :

On parle parfois d’“agents moraux artificiels” comme si une machine pouvait garantir, avec plus de cohérence qu’un être humain, la distinction entre le bien et le mal. Mais le jugement moral ne se réduit pas à un simple calcul : il implique la conscience, la responsabilité personnelle et la reconnaissance de l’autre en tant que personne.
Encyclique Magnifica humanitas, chapitre 5, 198

Toute technologie qui facilite le fait de frapper sans voir le visage de l’autre abaisse le seuil moral du conflit.
Chapitre 5, 199

Et le pape d’appeler à des règles communes pour limiter le recours aux armes ayant recours à l’IA.

Léon XIV appelle ensuite chacun à participer à la construction de la civilisation de l’amour :

La civilisation de l’amour ne naît pas d’un geste unique et spectaculaire, mais d’une somme de petites et tenaces fidélités faisant barrage à la déshumanisation.
Chapitre 5, 213

Il propose cinq pistes de responsabilité quotidienne et publique : désarmer les mots, construire la paix dans la justice, adopter le regard des victimes, cultiver un sain réalisme, et enfin relancer le dialogue et le multilatéralisme dans le cadre de l’ONU.
Conclusion de l’encyclique de Léon XIV sur l’IA : résumé

Le pape conclut son encyclique sur des considérations humanistes :

C’est pourquoi, en tant que croyant parmi les croyants, j’invite à contempler dans le visage du Fils une magnifique humanité qui éclaire également l’ère de l’IA.
Conclusion, 233

Il appelle à la communion de tous dans l’amour, selon le principe de l’Eucharistie.

Restons fidèles à la vérité ! En vivant inondés par un flux incessant d’informations, d’opinions et d’images, nous savons combien il est facile d’orienter les décisions et les préférences à l’aide d’algorithmes toujours plus sophistiqués. Dans ce contexte, il est important de garder un coeur qui aime la vérité et désire ce qui est juste plutôt que les contenus les plus attrayants, un coeur qui recherche la sagesse plutôt que les effets immédiats.
Conclusion, 237

Le pape appelle à investir dans l’éducation, à prendre soin de nos relations, à aimer la justice et la paix. L’industrie de la guerre doit céder la place à l’artisanat de la paix, conclut-il.

Science sans conscience n’est que ruine de l’âme, disait Rabelais. Pour Léon XIV, l’IA doit être un bien collectif, sous la responsabilité de tous, au service de tous. Le pape est certainement dans son rôle en pointant un danger majeur pour l’humanité et la Nature.
https://www.jepense.org/encyclique-pape-ia-resume/

[janic]

Dans l'ensemble c'est pas mal. Ce pape fait preuve d'un optimisme réel concernant l'humanité. malheureusement l'histoire même de celle ci démontre l'inverse et comme le dit un passage de la révélation ou apocalypse" Malheur à la terre et à la mer; le diable est descendu sur terre animé d'une grande colère sachant qu'il lui reste peu de temps"
L'écologie non religieuse est une sorte de prophète des temps actuels, pour alerter sur les dégâts occasionnés sur la terre et la mer dont dépend pourtant l'humanité et plus généralement le vivant sous toutes ses formes avec le développement des diverses technologies destructrices, aggravés par les IA maintenant.

Le pape insiste sur le fait que l’homme est créé à l’image et à la ressemblance de Dieu, sur l’égale dignité de tous les êtres humains qui en découle.

cette lecture quia fait les beaux jours des christianismes et autres, où cette notion de ressemblance à été exagérée. Le sens réel tiré de l'hébreu a une signification plus ambigué et signifierait plutôt que l'humain fut créé selon le reflet de son ombre, voyez ce que votre ombre à de ressemblance avec vous même. Plus encore, il donnerait une dimension plus surprenante car indiquant l'ombre d'elle même.
Loin très loin de ce que la littérature religieuse a véhiculé avec l'abus que cela a donné comme de se prendre, eux mêmes, pour des dieux créateurs dont on voit les effets actuellement et on n'est pas au bout. Comme le dit une maxime 'il faudra boire la coupe jusqu'à la lie" Pas glop!
PS: il est peu probable que cet auteur, JB, soit Guy lui même du fait de sa haine des religions, affirmée. Mais il peut avoir le même discours sur d'autres sujets.

[Jeandebordeaux]

Ce pape, comme le précédent est quelqu'un de bien et de bonne volonté. Autant que le discours, raisonnable, clair et précis, il faut retenir l'influence qu'il peut avoir dans le monde entier, chez les catholiques, les chrétiens ou même chez les autres religions, les laïcs et pourquoi pas les athées. L'intelligence et la clairvoyance ne sont pas l'apanage d'une seule chapelle.

[izentrop]

Le pape pointe ici le danger de technologies qui ne sont plus contrôlées par les Etats et les citoyens, mais par des structures privées désormais plus puissantes que les états eux-mêmes.

Cela fait des décennies que les états laissent les rennes au privé, étranglé qu'ils sont par la dette.

L'IA conversationnelle est disponible à tout le monde, mais on sent bien que quand elles sera bien implantée et bien opérationnelle, ce sera soumis à abonnement comme le reste.

Ce que pointe le Pape c'est que ça renforcera l'individualisme, mais ça peut faire l'effet inverse, en déléguant les taches répétitives aux robots.
Robots qui ne seront accessibles qu'à l'élite, démocratisés par la suite, à condition que l'énergie dont ils ont besoin reste accessible..