LES IA ET LE GRAND FRÈRE

Article publié le 10 octobre 2024 dans la revue maçonnique FIL - INFOS - LOGES
Link: https://www.webfil.info/post/las-ias-y-el-gran-hermano#viewer-hcolr6893

« Ce sont là, mon fils, les richesses de la Maison de Salomon ».

À Bensalem, la connaissance est considérée comme le plus précieux des trésors, c’est pourquoi certains de ses citoyens appartiennent au centre d'enseignement appelé la Maison de Salomon, où des expériences scientifiques sont menées dans le but de comprendre et de maîtriser la nature, afin d'appliquer tout le savoir acquis pour atteindre l'objectif supérieur d'une société meilleure. Dans La Nouvelle Atlantide de Francis Bacon, les gens atteignent le bonheur grâce à une organisation sociale idéale, fondée sur le savoir scientifique et une connexion profonde avec la nature.

Dans l'utopie de Bacon, une réforme sociale basée sur la science appliquée est proposée, imaginant une société où les êtres humains peuvent atteindre l'harmonie en maîtrisant la nature. Si nous extrapolons cette utopie à la franc-maçonnerie, Bacon, tout comme nous, les francs-maçons, partage le même objectif : la quête de la vérité, par l'étude philosophique des sciences et des arts, afin de promouvoir le développement social et moral de l'humanité dans la recherche d'un monde meilleur. En effet, le Chevalier Ramsay fonda son célèbre discours sur divers passages de La Nouvelle Atlantide, en particulier ceux concernant les arts libéraux et le Livre du Roi Salomon, car en 1736, on lisait encore les best-sellers des années 1600, à l'époque où le tyran régnait.

Mais l’humanité d’aujourd’hui ne ressemble en rien à Bensalem. Elle ressemble plutôt à la chambre 101 de 1984, au surveillant, au Grand Frère qui voit tout et contrôle tout, à la Police de la Pensée qui manipule l’information, à la répression massive, à l’unification de la vérité : ce que l’on ne dit pas, on ne le pense pas et donc on ne le fait pas.

La dystopie orwellienne est arrivée plus vite que prévu, et nous sommes confrontés à l’un des plus grands dangers que nous ayons jamais pu imaginer : l’Intelligence Artificielle.

Les principaux risques de l’avancée des IA incluent la désinformation et la diffusion massive de propagande, l’unification de la pensée par le biais du biais algorithmique, les cyberattaques de plus en plus sophistiquées, l’élimination de millions d’emplois, les escroqueries par la création de vidéos de substitution, la manipulation des processus démocratiques, la perte de la confidentialité des données, la dépendance technologique et les risques financiers. Tout cela peut être résumé en défis éthiques pour lesquels nous ne sommes pas préparés, car les IA avancent à un rythme effréné.

Mais parmi tous ces dangers, le plus cyberpunk est celui de l’autonomie et de la perte de contrôle des IA : il existe un risque imminent qu'une IA agisse de manière autonome, inattendue ou hors de contrôle. Les IA peuvent prendre des décisions qui ne sont pas alignées avec les valeurs humaines.

Si Isaac Asimov était vivant aujourd'hui, il ne serait peut-être pas si sûr de l'infaillibilité des trois lois qu’il a formulées dans son écrit Cercle vicieux (Runaround) de 1942 :

● Première Loi : Un robot ne peut porter atteinte à un être humain ni, par son inaction, permettre qu’un être humain soit blessé.

● Deuxième Loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en conflit avec la Première Loi.

● Troisième Loi : Un robot doit protéger sa propre existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième Loi.

Si une IA « concluait » dans une situation donnée qu’elle doit protéger sa propre existence pour protéger celle de l’être humain, parce que ce dernier n’agit pas de manière « logique », nous serions en sérieux danger, car l’humanité est fondamentalement illogique. Frankenstein, notre création, se dresserait contre nous et, comme dans la série de récits d’Asimov Les Robots, la machine nous dirait : « Ma logique est indéniable ».

La franc-maçonnerie, en tant que système philosophique d'enseignement, a une formidable opportunité avec les IA de les utiliser pour atteindre les objectifs proposés il y a 300 ans, mais nous avons également une grande responsabilité : celle de sauvegarder l’éthique. La distorsion de l’éthique par les IA est la principale menace, et c’est là que la franc-maçonnerie doit se concentrer.

Les francs-maçons doivent poser des questions difficiles aux IA, des questions liées à l’éthique, à leur responsabilité envers l’humanité et aux implications potentielles de leurs actions. En fonction de leurs réponses, nous devons agir en conséquence.

Nous, francs-maçons, avec nos principes de justice, de vérité, de fraternité et de respect de la dignité humaine, sommes obligés de contribuer au développement éthique des IA et de participer activement aux discussions sur l'utilisation des IA, en appelant à la responsabilité, à la transparence et au respect d’autrui, veillant à ce que les décisions des IA ne créent pas de vides qui pourraient conduire à des interprétations dangereuses de ce qui est bien ou mal.

Ceci est ma parole.