Dans «Her», film d’anticipation américain, écrit et réalisé par Spike Jonze, sorti en 2013, nous sommes transportés dans un futur proche (2025). À Los Angeles, Theodore travaille comme écrivain public pour une entreprise, rédigeant des lettres de toutes sortes (familiales, amoureuses…) pour d’autres. Son épouse Catherine et lui ont rompu depuis bientôt un an, mais il ne se décide pas à signer les papiers du divorce. Dans un état de dépression qui perdure, il installe sur son ordinateur personnel un nouveau système d’exploitation OS1, auquel il donne une voix féminine. Cette dernière, une intelligence artificielle, conçue pour s’adapter et évoluer, se choisit le prénom Samantha. Les désirs des deux personnages évoluent au fil de l’histoire. Peu à peu, Théodore et Samantha tombent amoureux. Ici s’arrête le récit du synopsis.
Mais là où beaucoup avaient vu un récit romantique, ou encore une jonglerie de la science-fiction, je me souviens que le film ne m’avait pas amusé. Il m’avait fait peur. Je le proposais sans hésitation à mes étudiants et j’essayais de les sensibiliser à cette ère qui s’approchait. Mais le rêve du réalisateur s’est réalisé plutôt que 2025. Ce que Théodore appelait dans le fim Samantha, il s’appelle aujourd’hui Chat GPT ou autre application. C’est un système à qui vous pouvez demander d’effectuer un travail intellectuel à votre place.
Seulement voilà, j’ai travaillé avec ce système (Chat GPT), et j’ai tout de suite soupçonné qu’il ne pouvait que manipuler la connaissance déjà accumulée et l’adapter à la demande ; il ne pouvait donc avoir une subjectivité ou rêver… S’il doit le faire, il se trouvera dans l’obligation de chercher à imiter un rêveur avant lui, et même avec cela il faut lui dire quoi rêver. J’ai compris aussi qu’il ne pouvait en aucun cas méditer car il est dépendant des informations qu’on lui fournit. Mais sa faillibilité est encore ailleurs. Prenons un exemple : je lui demande de me dire si l’hirondelle était un symbole de l’amour.
Voici la réponse qu’il me formule : l’hirondelle est associée dans la mythologie à Aphrodite, la déesse de l’amour.
S’en est alors suivi le dialogue suivant :
Moi : sur quelle référence t’es-tu basé pour dire que l’hirondelle était associée à Aphrodite ?
Lui : Je m’excuse pour l’erreur. Vous avez raison de demander une clarification. En repensant à mes connaissances, je n’ai pas de source spécifique qui établit un lien direct entre l’hirondelle et Aphrodite. Mes excuses pour l’information incorrecte. J’apprécie votre vigilance.
L’hirondelle est mentionnée dans diverses traditions et littératures, mais je dois corriger ma précédente affirmation concernant Aphrodite. Merci de m’avoir corrigé, et je suis là pour répondre à toute autre question que vous pourriez avoir.
Moi : Continue ton investigation à propos de la relation de l’hirondelle avec Aphrodite et rend-moi la réponse
Lui : Je vous présente mes excuses, mais après avoir effectué une recherche supplémentaire dans les informations disponibles jusqu’à la date de ma dernière mise à jour en septembre 2021, je ne trouve pas de preuves solides qui établissent un lien direct entre l’hirondelle et Aphrodite dans la mythologie ou la littérature grecque ancienne.
Il est possible que la confusion ait pu surgir de l’association de divers oiseaux avec Aphrodite, tels que les colombes et les cygnes, mais l’hirondelle ne semble pas être l’un de ces oiseaux directement liés à la déesse de l’amour dans les sources classiques.
Je regrette l’erreur dans ma réponse précédente, et je vous remercie de m’avoir permis de clarifier cette information. Si vous avez d’autres questions ou si vous souhaitez des informations sur un autre sujet, je suis là pour vous aider.
D’autres questions m’ont permis de savoir que cette IA ne se base que sur les connaissances qui circulent sur le net (avec le risque du vrai et du faux) d’une part ; d’autre part elle ne fonctionne qu’avec le stock de connaissances anglophones : à la poubelle donc le reste de l’humanité, les Arabes, les Perses, les Hindous, les Chinois, les Africains et, bien entendu, les Européens non anglophones.
À ce stade, l’IA est encore un danger.
Par Moulim El Aroussi, conseiller scientifique de Zamane
