Science-fiction et éthique de l’innovation: le cas du métavers

L’article de Thomas Michaud, « La science-fiction, un imaginaire utile à l’élaboration d’une éthique de l’innovation : le cas du métavers » postule que la science-fiction (SF) est une ressource essentielle pour construire une réflexion éthique sur le développement du métavers. L’analyse d’une quinzaine d’œuvres de SF révèle son double rôle : elle inspire les innovateurs tout en présentant des visions dystopiques qui alimentent une « négativité critique ». Cette critique ne conduit pas au rejet de la technologie, mais suscite une réflexion éthique nécessaire, influençant des phénomènes économiques comme la vague d’enthousiasme (hype) puis la méfiance envers le métavers. Trois thèmes éthiques dominants émergent : les droits de la vie artificielle, la politique de contrôle des mondes virtuels, et les dérives de leurs usages (capitalistes, militaires). Face à ces enjeux, l’article propose l’éthique hacker, fondée sur la passion et l’horizontalité, comme un socle de valeurs souhaitable. Finalement, il explore la possibilité prospective d’une intelligence artificielle chargée d’appliquer un code moral pour créer un métavers pacifié, une utopie débarrassée de la violence et des vices, soulevant ainsi la question de la régulation éthique dans les espaces numériques futurs.

——————————————————————————–

1. Le Rôle de la Science-Fiction dans la Réflexion Éthique sur le Numérique

L’article établit la science-fiction comme un champ d’analyse pertinent et avant-gardiste pour aborder les enjeux éthiques des technosciences, et plus particulièrement du métavers. Des théoriciens comme Scott Bukatman, Jean Baudrillard et Yannick Rumpala ont déjà souligné l’apport de la SF à la compréhension des mutations sociales et identitaires induites par les technologies.

Une Double Fonction : Inspiration et Frein Éthique

La science-fiction joue un rôle ambivalent dans le processus d’innovation :

1. Source d’Inspiration : Elle inspire directement les chercheurs et innovateurs. Des concepts comme le « cyberespace » de William Gibson (Neuromancien), le « métavers » de Neal Stephenson (Le Samouraï virtuel) ou le « neural lace » d’Iain Banks ont préfiguré et motivé des avancées technologiques concrètes.

2. Frein et Catalyseur Éthique : En plaçant les technologies dans des contextes dystopiques et moralement ambigus, la SF agit comme un frein potentiel. Elle soulève des questions éthiques qui peuvent dissuader investisseurs et utilisateurs. Cette « négativité critique », théorisée par Fredric Jameson, alimente un imaginaire collectif hostile qui peut expliquer en partie des phénomènes comme l’éclatement de la bulle spéculative autour du métavers après une période de hype. Cependant, cette critique constitue également le point de départ d’une réflexion utile à l’innovation, l’incitant à devenir plus vertueuse.

En s’appuyant sur des penseurs comme Hans Jonas et son « Principe responsabilité », l’article soutient que la SF permet d’adopter une « responsabilité projective », orientant la réflexion sur l’action vers le futur.

2. Typologie des Questions Éthiques dans les Œuvres de Science-Fiction

L’analyse d’une quinzaine de films et romans majeurs permet de cartographier les préoccupations éthiques liées aux mondes virtuels. Ces œuvres anticipent les dérives possibles bien en amont de la commercialisation des technologies.

Tableau Synthétique des Enjeux Éthiques

Titre de la fiction	Question éthique soulevée
Le Samouraï virtuel, 1992	Existe-t-il un risque pour les utilisateurs du métavers d’être victimes d’un virus neurologique diffusé par des hackers ?
Matrix, 1999	Une simulation créée et gérée par des machines est-elle acceptable pour l’humanité ? Vivons-nous dans une simulation et devons-nous élever notre conscience pour échapper à cette situation et retrouver le réel ?
Ready Player One, 2011	Qui doit posséder le métavers, des acteurs capitalistes ou la société civile ?
Ready Player Two, 2020	Les casques d’interface neuronale avec l’OASIS ne risquent-ils pas de transformer les utilisateurs en toxicomanes du numérique ?
Le Cobaye 1 & 2, 1992 et 1996	Les technologies du virtuel peuvent-elles rendre plus intelligents ? Leur utilisation est-elle viable dans tous les cas de figure ? Est-il acceptable qu’une entreprise utilise cette technologie pour apprendre à des singes à utiliser des armes militaires ?
Passé Virtuel, 1999	La manipulation des créatures virtuelles dotées d’intelligence peut-elle s’effectuer sans limites, pour le seul plaisir des utilisateurs de la simulation ? Quel pourrait-être le droit de ces vies artificielles ?
eXistenZ, 1999	Est-il acceptable qu’une grande partie de la population passe de plus en plus de temps dans le jeu vidéo, au mépris de la réalité ? Une lutte terroriste est-elle légitime à l’encontre de cette technologie ?
Expelled from Paradise, 2014	L’effondrement du réel, notamment des écosystèmes, justifie-t-il la fuite de l’humanité dans une simulation numérique ?
Valérian, 2017	La réalité virtuelle promet une révolution du commerce. Le métavers doit-il permettre une forme de supercapitalisme où il sera possible de tester tous les produits virtuellement pour envisager de les acheter, ou au contraire, une éthique doit-elle limiter sa fuite en avant consumériste ?
Sword Art Online, 2012	La fuite en avant dans le virtuel peut-elle provoquer la perte des individus dans ces univers ? Dans la série, les joueurs sont faits prisonniers du jeu par un hacker, posant la question de l’emprise des créateurs des jeux sur la psychologie des utilisateurs.
Accel World, 2009	La création de neurotechnologies, comme le Neuro-Linker permettant de se connecter aux simulations est-elle acceptable éthiquement ? L’utilisation des ondes cérébrales, remplaçant la biométrie pour les identifiants, ne risque-t-elle pas de créer des problèmes identitaires majeurs en cas de piratage ou d’exploitation capitaliste ou militaire ?
Next Level, 2017	La simulation influe-t-elle sur le physique des utilisateurs, un choc dans le jeu pouvant créer des blessures dans la réalité ? Est-il acceptable de tester ces réalités virtuelles sur des cobayes dans le but d’optimiser des technologies militaires ?
La Brousse, 1950	La réalité virtuelle est-elle un outil idéal pour l’éducation des enfants, ou ne peut-elle pas causer des traumatismes ? La pédagogie virtuelle est-elle compatible avec les valeurs éducatives traditionnelles ?
Inner City, 1996	Est-il acceptable de scinder la société entre les adeptes du virtuel, et les réalistes ? Une révolution ne pourrait-elle pas être la conséquence de la mutation des premiers en individus végétatifs ne pouvant plus être respectés par les autres ?
Virtual Revolution, 2017	Une lutte armée terroriste visant à déconnecter la population des mondes virtuels est elle une cause juste moralement ?

Thèmes Éthiques Dominants

De cette analyse se dégagent trois axes principaux de réflexion éthique :

• L’éthique de la vie artificielle : Interroge les droits des avatars et des créatures non-joueuses peuplant le métavers.

• L’éthique sur la politique du métavers : Questionne la gouvernance du monde virtuel, les structures de pouvoir qui le contrôlent et la légitimité de la résistance contre cette technologie.

• L’éthique des usages du métavers : Examine les implications morales de son utilisation dans des domaines comme l’armée, le capitalisme (consumérisme exacerbé) ou la pédagogie.

3. L’Impact des Représentations de la SF sur l’Innovation

Les récits de science-fiction, en particulier par leur traitement de la violence et de l’intrusion corporelle, ont un impact tangible sur la perception publique et le développement des technologies virtuelles.

• Création d’une Technophobie : Des scènes de mutilations corporelles pour permettre la neuroconnexion (ex: Matrix, eXistenZ) ont associé les technologies virtuelles à une imagerie intrusive et anxiogène. Cette perception a pu alimenter un rejet éthique massif de la part du grand public.

• Fonction Cathartique : Inversement, en dépeignant des futurs dystopiques, ces œuvres génèrent une réaction et un désir de construire un avenir plus positif. Le film Ready Player One a suscité à la fois une technophilie chez certains et une réflexion critique sur la nécessité de créer des métavers plus durables et respectueux du lien social chez d’autres.

• Influence sur les Acteurs Économiques : Ces récits ont généré une fascination chez les « esprits capitalistes », y voyant une opportunité de profit, mais aussi une méfiance générale qui pousse les acteurs de l’innovation à intégrer une « responsabilité éthique » dans leurs modèles économiques (Anshari et al., 2022).

4. Proposition d’un Cadre Éthique : L’Éthique Hacker

Pour éviter que le métavers ne devienne un « enfer virtuel » dominé par le capitalisme sauvage ou l’aliénation, l’article propose l’éthique hacker comme modèle de valeurs.

Théorisée par Pekka Himanen, cette éthique s’oppose à l’éthique protestante décrite par Max Weber. Elle prône :

• Une horizontalisation des rapports de production.

• Une motivation basée sur la passion et la créativité, plutôt que sur la contrainte du salariat.

• Des valeurs qui s’opposent au contrôle, à la compétition et à la propriété privée.

Cette éthique, qui a été un moteur du développement des TIC, est jugée compatible avec une vision humaniste, comme le suggère le père jésuite Antonio Spadaro. Elle rejoint les critiques formulées par la SF contre la domination des machines (Matrix), du capitalisme (Ready Player One) ou du complexe militaro-industriel (Next Level).

5. Prospective : Une IA pour la Régulation Morale du Métavers

L’article conclut sur une hypothèse prospective : la création d’une intelligence artificielle pour réguler moralement les interactions au sein du métavers.

• Le Principe : Une IA serait chargée de contrôler tous les discours et comportements pour évaluer leur conformité à un code moral préétabli. Les propriétaires d’avatars seraient tenus responsables et pourraient être sanctionnés pour des propos violents, sexistes ou contraires à la morale.

• L’Objectif : Créer un « espace virtuel pacifié » et inclusif, permettant l’accès au plus grand nombre en prévenant le cyberharcèlement et la violence. Cette idée trouve un précédent dans la SF, comme l’ordinateur d’évaluation de la moralité dans une nouvelle de Kendall Foster Crossen (1953) qui avait éradiqué le crime.

• Les Limites et Débats : Cette proposition soulève la question de la censure et de la liberté d’expression (citant Elon Musk) et la difficulté d’établir un code éthique universel. L’auteur pose la question finale : est-il éthique d’imposer un code éthique ? La réponse apportée est affirmative, arguant que l’alternative est un monde hobbesien régi par la loi du plus fort, menant à l’anarchie ou à la dictature.

Conclusion

L’article recommande vivement aux créateurs du métavers de considérer les œuvres de science-fiction comme un outil d’anticipation des dérives potentielles. Une régulation morale et une éthique normative sont jugées souhaitables pour développer un monde virtuel plus vertueux et utopique. En illustrant les pires scénarios, la SF incite à une réflexion proactive pour éviter que le métavers ne reproduise, voire n’amplifie, les vices du monde réel, et pour s’assurer que les avertissements de ces récits imaginaires ne soient pas ignorés.