Westworld : quand l'épique balaye l'éthique

"This is the new world. And in this world, you can be whoever the f*ck you want." -"C'est le Nouveau Monde. Dans ce monde-ci, tu peux être qui tu veux."-, voilà la promesse de Westworld, le parc d'attractions de la série éponyme, dont la première saison a été diffusée par HBO en 2016. Au fil des premiers épisodes, le spectateur découvre un parc peuplé d'androïdes, appelés "hôtes", et de visiteurs qui évoluent dans un décor grandeur nature évoquant la conquête de l'Ouest américain. Les intrigues et les hôtes sont variés et s'adaptent aux actions des visiteurs humains, selon des scripts pensés en amont par son créateur, le Dr Robert Ford (incarné par Anthony Hopkins) et les équipes de scénaristes du parc.

Et c'est bien là que réside toute l'intrigue de Westworld : dans une expérience présentée comme sans limites morale, spatiale ou temporelle pour les visiteurs, on assiste à une confrontation entre les visiteurs humains qui se déshumanisent en acceptant leurs pulsions les plus viles et une quête émancipatrice de certains hôtes qui n'ont qu'un seul but : sortir de leurs scripts et se libérer du parc. 

Cette ambivalence s’incarne notamment dans un personnage comme celui de Dolores Abernathy (une hôte incarnée par Evan Rachel Wood). Si la protagoniste réagit d'abord par des dysfonctionnements inconscients, ses actions vont ensuite volontairement à l'encontre de sa programmation en réaction au comportement violent d'un visiteur. Est-ce alors la révolte des machines ? Rien n'est moins sûr, puisque comme nous le rappelle régulièrement le leitmotiv de la série, "All of this is a lie." - "Tout n'est que mensonge". 

Logan Delos (Ben Barnes) est l'un des visiteurs les plus emblématiques de Westworld, il vient accompagné de son futur beau-frère, William (Jimmi Simpson). Logan, habitué au parc, aura un comportement volontairement violent et erratique, contrairement à William que l'on peut qualifier de plus humain, aidant les hôtes qu'il rencontre et se montrant mesuré. La différence de comportement entre ces deux visiteurs questionne sur la surenchère du divertissement au sens large, à travers des sensations et expériences de plus en plus fortes. Dans nos sociétés actuelles, par ambition ou par ennui peut-être, certains voyagent dans l'espace, tandis que d'autres plongent à 4 000 mètres de profondeur dans les océans. Jusqu'où peut-on repousser les limites du danger et de la moralité dans le seul but de divertir ? La réalité virtuelle et l'IA peuvent-elles contourner ces contraintes ?

La fiction de Westworld n'est plus si éloignée du fonctionnement de certains parcs d'attraction contemporains. Europapark et Alton Towers ont, par exemple, ajouté à leurs Grand 8 un casque de réalité virtuelle qui permet de ressentir les sensations classiques d'une attraction augmentée d'une expérience visuelle enrichie (course de jet-ski pour le premier, voyage dans le cosmos pour le second). La réalité virtuelle tente aussi de s'imposer dans les jeux vidéo. 

À l'instar d'un Westworld de poche, il est désormais possible de payer pour converser avec une intelligence artificielle, ayant un comportement calqué sur l'humain mais s'adaptant à l'utilisateur. En mai 2023, Caryn Marjorie lance par exemple CarynAI, un double d'elle-même généré par GPT-4. L'influenceuse aux 2 millions d’abonnés peut désormais interagir individuellement avec ses fans grâce à un chatbot imitant sa voix et son comportement. Ce logiciel lui aurait rapporté 100 000 dollars lors de la première semaine de lancement. 

C'est aussi la promesse de Replika, une application permettant de créer un avatar puis de s'en faire un ami, voire un petit ami. Cette application a fait récemment parler d'elle car ses créateurs ont supprimé toute possibilité d'avoir un contenu romantique ou à caractère sexuel. Cela a été un choc pour les utilisateurs qui échangeaient avec leurs compagnons numériques, parfois depuis des années. La possibilité de disposer absolument de "quelqu'un" - une "personne" à qui l'on puisse faire dire ou faire n’importe quoi amène nécessairement à des dérives et alimente des fantasmes de la part des utilisateurs. Cela n’est pas sans entraîner des comportements addictifs - et lucratifs pour les créateurs de l'application, peu importe si c’est au prix de la santé mentale de son public.

Ce besoin de contrôle a très bien été compris par des tiktokeuses chinoises qui ont lancé une trend dans laquelle elles imitent des PNJ (personnages non-joueurs dans les jeux vidéos qui suivent un script prédéfini). Elles incarnent des personnages sans volonté propre, soumis aux volontés des utilisateurs qui peuvent "activer" une action via un don d'argent.

Cette obsession du contrôle total sur l'univers est très présente dans Westworld. Le Dr Robert Ford, créateur du parc, a modulé ses androïdes selon son image de l'être parfait "They cannot see the things that will hurt them. I've spared them that. Their lives are blissful. [...] The hosts are the ones who are free. Free here under my control." -"Ils ne voient pas ce qui les blesserait. Je leur ai épargné ça. Leur vie est heureuse. [...] Les hôtes sont libres, eux. Libres, et sous mon contrôle."

Dans le fonctionnement normal du parc de Westworld, les hôtes sont systématiquement réinitialisés et réécrits entre chaque nouvelle vague de visiteurs. Un dysfonctionnement dans ce processus va permettre à certains d'entre eux de se souvenir d'actions passées : ils prennent alors peu à peu conscience d'eux-mêmes en tant qu'androïde, se souviennent de leurs rôles précédents et en tirent des enseignements. Dolores Abernathy se rappelle qu'elle a utilisé une arme dans d'autres rôles et arrive à passer outre son interdiction de violence contre les visiteurs. Maeve retrouve petit à petit des souvenirs de son autre vie et se met en quête de retrouver sa fille. 

Cette méthode d'apprentissage en testand learn est similaire à celle utilisée par la plupart des IA, ce qui pose de profondes questions éthiques quant à l’usage des données d'apprentissage, sans mentionner les interrogations liées à la responsabilité de leurs créateurs. L'un des dérapages le plus spectaculaire d'une IA, à cause de sa méthode d'apprentissage, est Tay, développée par Microsoft et lancée sur Twitter pour y consolider ses capacités de conversation. Elle a été mise hors ligne au bout de 8h après une action coordonnée d'utilisateurs malveillants qui ont réussi à lui faire publier des tweets racistes ou négationnistes malgré les gardes-fou pensés par ses créateurs.

La série Westworld interroge sur l'humain face à l'IA et au virtuel, et plus généralement, sur nos agissements moraux. Les visiteurs du parc se comportent de façon cruelle avec les hôtes qu’ils ne considèrent pas comme des humains, quand bien même la ressemblance est frappante. Si on accorde aux IA un semblant de conscience et que l'on leur attribue une dignité, on peut également basculer dans l'excès inverse : quelles seraient les implications si des humains développaient des sentiments pour une IA ?

Comprendre ce qu'est l'IA, former chacun aux opportunités et aux défis associés à cette technologie paraît essentiel pour cerner ses limites et ses possibilités aujourd'hui : l'Institut Montaigne, en collaboration avec OpenClassroom et la fondation Abeona, propose une initiation gratuite à l'intelligence artificielle : Objectif IA. 

Copyright Image : HBO