Un frère sert de murmure à l’éthique de l’IA pour le Vatican et l’Italie

[ad_1]

Avant l’aube, Paolo Benanti est monté au clocher de son monastère du XVIe siècle, a admiré le lever du soleil sur les ruines du forum romain et a réfléchi sur un monde en mouvement.

“C’était une merveilleuse méditation sur ce qui se passe à l’intérieur”, a-t-il déclaré en sortant dans la rue dans sa robe de frère. “Et dehors aussi.”

Il se passe beaucoup de choses pour le père Benanti, qui, en tant qu’éthicien de référence en matière d’intelligence artificielle au Vatican et au gouvernement italien, passe ses journées à réfléchir au Saint-Esprit et aux fantômes dans les machines.

Ces dernières semaines, le professeur d’éthique, ordonné prêtre et geek autoproclamé, a rejoint Bill Gates lors d’une réunion avec le Premier ministre Giorgia Meloni, a présidé une commission visant à sauver les médias italiens des signatures Chat GBT et de l’oubli général de l’IA, et a rencontré Les responsables du Vatican vont poursuivre l’objectif du pape François de protéger les personnes vulnérables contre la tempête technologique à venir.

Lors d’une conférence organisée par l’ancien Chevaliers de Malte ordre, il a déclaré à une foule d’ambassadeurs que « une gouvernance mondiale est nécessaire, sinon le risque est un effondrement social », et il a vanté les mérites de la gouvernance mondiale. Appel à Romeun effort du Vatican, du gouvernement italien, de la Silicon Valley et des Nations Unies qu’il a contribué à organiser pour sauvegarder un meilleur des mondes doté de tels chatbots.

Auteur de nombreux ouvrages (« Homo Faber : La condition techno-humaine ») et incontournable des panels internationaux sur l’IA, le père Benanti, 50 ans, est professeur à la Grégorienne, l’université pontificale Harvard de Rome, où il enseigne la théologie morale, éthique et un cours intitulé « La Chute de Babel : les enjeux du numérique, des réseaux sociaux et de l’intelligence artificielle ».

Pour une église et un pays qui cherchent à exploiter et à survivre à la révolution à venir de l’IA, son travail consiste à fournir des conseils d’un point de vue éthique et spirituel. Il partage ses idées avec le pape François, qui, dans son message annuel pour la Journée mondiale de la paix, le 1er janvier, a appelé à un traité mondial pour garantir le développement et l’utilisation éthiques de l’IA afin d’éviter un monde sans pitié humaine, où des algorithmes impénétrables décident qui est. qui a obtenu l’asile, qui obtient une hypothèque ou qui, sur le champ de bataille, vit ou meurt.

Ces préoccupations reflètent celles du père Benanti, qui ne croit pas à la capacité de l’industrie à s’autoréguler et pense que certaines règles de conduite sont nécessaires dans un monde où les contrefaçons et la désinformation peuvent éroder la démocratie.

Il craint que les maîtres des univers de l’IA développent des systèmes qui élargiront les gouffres des inégalités. Il craint que la transition vers l’IA ne soit si brutale que des domaines professionnels entiers se retrouvent à occuper des emplois subalternes, voire rien du tout, privant les gens de leur dignité et déclenchant des flots de « désespoir ». Selon lui, cela soulève d’énormes questions sur la redistribution des richesses dans un univers dominé par l’IA.

Mais il voit aussi le potentiel de l’IA

Pour l’Italie, dont la population est l’une des plus âgées et en déclin au monde, le père Benanti réfléchit sérieusement à la manière dont l’IA peut maintenir la productivité à flot. Et tout le temps, il applique son point de vue sur ce que signifie être vivant et être humain, alors que les machines semblent plus vivantes et humaines. “C’est une question spirituelle”, a-t-il déclaré.

Après sa méditation matinale, le Père Benanti s’est rendu au travail, le bas de son jean dépassant sous sa robe noire, à pied. Il passa devant la colonne Trajane du IIe siècle et entra prudemment dans l’une des rues les plus fréquentées de Rome, au niveau du passage pour piétons.

“C’est la pire ville pour les voitures autonomes”, a-t-il déclaré. “C’est trop compliqué. Peut-être en Arizona.

Son bureau au Gregorian est décoré de tirages encadrés de ses propres photographies de rue – des images de Romains déprimés traînant des cigarettes, d’un couple qui s’ennuie préférant leur téléphone portable à leur bébé – et de photos de lui et du pape François se serrant la main. Sa vocation religieuse, explique-t-il, est venue après sa vocation scientifique.

Né à Rome, son père travaillait comme ingénieur en mécanique et sa mère enseignait les sciences au lycée. En grandissant, il aimait « Le Seigneur des Anneaux » et Donjons et Dragons, mais n’était pas un solitaire avec les jeux, car il était également un boy-scout qui collectionnait des badges de photographie, de navigation et de cuisine.

Lorsque sa troupe de jeunes de 12 ans visitait Rome pour faire des œuvres caritatives, il rencontra Mgr. Vincenzo Paglia, qui était alors curé, mais qui, comme lui, allait travailler pour le gouvernement italien – en tant que membre de la commission nationale sur le vieillissement – ​​et pour le Vatican. Aujourd’hui, le cardinal Paglia est le supérieur du père Benanti à l’église. Académie pontificale pour la viequi est chargé de déterminer comment promouvoir l’éthique de vie de l’Église dans un contexte de bouleversements bioéthiques et technologiques.

À l’époque où le père Benanti a rencontré pour la première fois Mgr Paglia, un oncle lui a offert un ordinateur personnel Texas Instruments pour Noël. Il a cherché à le repenser pour jouer à des jeux vidéo. “Cela n’a jamais fonctionné”, a-t-il déclaré.

Il a fréquenté un lycée qui mettait l’accent sur les classiques – pour prouver sa crédibilité dans l’Antiquité, a-t-il éclaté, alors qu’il se rendait au travail, avec l’ouverture de l’Odyssée en grec ancien – et un professeur de philosophie pensait qu’il avait un avenir en réfléchissant au sens des choses. Mais le fonctionnement des choses exerçait un attrait plus grand et il poursuivit des études d’ingénieur à l’Université La Sapienza de Rome. Ce n’était pas suffisant.

«J’ai commencé à sentir qu’il manquait quelque chose», a-t-il déclaré, expliquant que progresser en ingénierie avait effacé le mystère des machines qui lui était réservé. “J’ai simplement brisé la magie.”

En 1999, sa petite amie d’alors pensait qu’il avait besoin de plus de Dieu dans sa vie. Ils se sont rendus dans une église franciscaine de Massa Martana en Ombrie, où son plan a trop bien fonctionné car il s’est alors rendu compte qu’il avait besoin d’un espace sacré où il ne pouvait « cesser de remettre en question la vie ».

À la fin de l’année, il avait abandonné sa petite amie et rejoint l’ordre franciscain, à la consternation de ses parents, qui lui demandaient s’il ne surcompensait pas une mauvaise rupture.

Il a quitté Rome pour étudier à Assise, la maison de Saint François, et au cours de la décennie suivante, a prononcé ses vœux perpétuels en tant que frère, a été ordonné prêtre et a soutenu sa thèse sur l’amélioration humaine et les cyborgs. Il a obtenu son emploi au Grégorien, puis finalement en tant que responsable de l’éthique informatique au Vatican.

“Il est convoqué par de nombreuses institutions”, a déclaré le cardinal Gianfranco Ravasi, ancien directeur du département de la culture du Vatican, où le père Benanti était conseiller scientifique.

En 2017, le cardinal Ravasi a organisé un événement à l’ambassade d’Italie auprès du Saint-Siège au cours duquel le père Benanti a donné une conférence sur l’éthique de l’IA. Les responsables de Microsoft présents ont été impressionnés et invités à rester en contact. La même année, le gouvernement italien lui a demandé de contribuer aux documents politiques sur l’IA et l’année suivante, il a postulé avec succès pour siéger à sa commission chargée d’élaborer une stratégie nationale en matière d’IA.

Puis en 2018, il a repris contact avec l’actuel cardinal Paglia, l’un des favoris de François, et lui a dit “regarde, quelque chose de grand bouge”. Peu de temps après, les contacts du père Benanti chez Microsoft lui ont demandé d’aider à organiser une rencontre entre Francis et le président de Microsoft, Brad Smith.

Le Père Benanti, faisant partie de la délégation du Vatican, a traduit les termes techniques lors de la réunion de 2019. François, a-t-il dit, n’a pas réalisé au début ce que Microsoft faisait réellement, mais il a apprécié que M. Smith sorte de sa poche l’un des discours du pape sur les réseaux sociaux et montre au pontife les préoccupations que le dirigeant d’entreprise avait soulignées et partagées.

François – qui, selon le père Benanti, est devenu plus instruit sur l’IA, surtout après une image du pape arborant un Doudoune blanche conçue par AI est devenu viral – puis est devenu plus animé. Le pape a apprécié que la discussion porte moins sur la technologie, a déclaré le père Benanti, que sur « ce qu’il peut faire » pour protéger les personnes vulnérables.

Le mois dernier, le père Benanti, qui a déclaré ne recevoir aucun paiement de Microsoft, a participé à une réunion entre M. Gates, le co-fondateur de l’entreprise, et Mme Meloni, qui s’inquiète de l’impact de l’IA sur la main-d’œuvre. « Elle doit diriger un pays », a-t-il déclaré.

Elle a maintenant nommé Le père Benanti va remplacer le président de la commission AI sur les médias italiens dont elle était mécontente.

“L’obéissance à l’autorité est l’un des vœux”, a déclaré le père Benanti en jouant avec les nœuds de la ceinture à cordon de sa robe, signifiant la promesse d’obéissance, de pauvreté et de chasteté de son ordre franciscain.

Cette commission étudie les moyens de protéger les écrivains italiens. Le père Benanti estime que les entreprises d’IA devraient être tenues responsables de l’utilisation de sources protégées par le droit d’auteur pour former leurs chatbots, même s’il craint que cela soit difficile à prouver car ces entreprises sont des « boîtes noires ».

Mais ce mystère a aussi, pour le père Benanti, imprégné une fois de plus la technologie de magie, même si elle est sombre. En ce sens, ce n’était pas si nouveau, a-t-il déclaré, affirmant que, alors que les anciens Romains se tournaient vers le vol des oiseaux pour se diriger, l’IA, avec son énorme compréhension de nos données physiques, émotionnelles et préférentielles, pourrait être les nouveaux oracles, déterminer les décisions et remplacer Dieu par de fausses idoles.

“C’est quelque chose de vieux que nous pensons probablement avoir laissé derrière nous”, a déclaré le frère, “mais cela revient”.

[ad_2]

Source link

Scroll to Top