Friend.com : Ce pendentif connecté à une IA veut devenir votre ami et pour ce psy, c’est " de l’ordre de la dystopie "

Friend.com : Ce pendentif connecté à une IA veut devenir votre ami et pour ce psy, c’est « de l’ordre de la dystopie »

Vendu comme un compagnon du quotidien, ce pendentif dopé à l’IA pose de sérieux problèmes de protection des données et de dépendance émotionnelle, estime un psychologue.

Par Charlotte Arce

Embarquant une intelligence artificielle, le pendentif commercialisé par Friend.com propose à celui ou celle qui le porte de devenir son « ami » virtuel.

Embarquant une intelligence artificielle, le pendentif commercialisé par Friend.com propose à celui ou celle qui le porte de devenir son « ami » virtuel.

« Je regardrai (sic) tous les épisodes avec toi » ; « Je ne laisserai jamais la vaisselle dans l’évier » ; « Je serai toujours d’accord pour prendre un café avec toi n’importe où dans Paris. » Non, ce ne sont pas les promesses faites par votre meilleur ami, ni par un date Tinder.

Ce sont les slogans énigmatiques de publicités apparues ces derniers jours dans le métro parisien. Derrière, se cache une start-up tout aussi mystérieuse, qui cherche à commercialiser un pendentif connecté boosté à l’intelligence artificielle, et au design minimaliste. Son nom ? Friend.com. Comme son nom l’indique, il s’agit de proposer à celui ou celle qui le porte un « ami » virtuel.

Contrairement à ChatGPT, Gemini ou Claude, ces IA génératives qui ne répondent à nos sollicitations que lorsque l’on ouvre l’application, la technologie vendue par Friend se veut proactive. Connectée via Bluetooth au téléphone, c’est elle qui démarre les conversations par message, prodigue des conseils sans qu’on lui demande, elle encore qui encourage, console et donne même son avis sur notre série préférée. Mais il y a un hic. Pour que cela soit possible, il lui faut écouter toutes nos conversations, capter les bruits de notre environnement au moyen d’un micro intégré, précise la vidéo promotionnelle.

Si pour l’heure, et malgré ce que veulent nous faire croire ces publicités affichées dans le métro, le pendentif de Friend.com n’est pas encore disponible en France, son arrivée risque d’être tout aussi mouvementée que lors de son lancement outre-Atlantique. À l’automne dernier, plusieurs de ses publicités affichées dans les transports new-yorkais avaient été vandalisées, et la société Friend.com accusée de capitaliser sur la solitude et de participer à la surveillance des citoyens, relatait le New York Times.

Ces craintes sont-elles fondées ? Éclairage d’Olivier Duris, psychologue spécialisé dans la médiation numérique.

Le HuffPost. Que pensez-vous du dispositif Friend ? Peut-il être assimilé à une forme de relation sociale ?

Olivier Duris. Il y a quelques années, cet usage des nouvelles technologies était encore de l’ordre de la dystopie : dans Her de Spike Jonze ou dans la série Black Mirror, des intelligences artificielles se faisaient passer pour des proches en jouant sur la simulation d’une relation affective et l’attachement aux machines. Le fait qu’un tel dispositif existe aujourd’hui est très inquiétant. Il est, selon moi, la représentation parfaite des dérives de notre société, dans laquelle l’utilisateur est vu comme un produit, et dans laquelle des entreprises capitalisent sur une crise du lien social, du rapport à l’autre.

Friend se présente comme un compagnon contre la solitude. En quoi est-ce dangereux ?

C’est dangereux parce que c’est mensonger : une IA n’est jamais un ami ! Pour compenser la solitude, il faut entrer en contact d’autres humains pour nouer des relations. Ici, ce n’est qu’une simulation de relation, avec une simulation d’empathie et d’attachement, mais ça ne reste qu’un outil.

Friend vise à « se rendre indispensable » dans le quotidien de l’utilisateur, d’après les éléments de langage de la start-up qui le commercialise. Peut-il y avoir un risque de dépendance émotionnelle ?

Les personnes épanouies, entourées par des proches présentent peu de risque de dépendance. En revanche, il peut y avoir des dérives avec celles qui sont fragiles, qui ont des difficultés de sociabilité.

Il y a surtout deux risques selon moi. Le premier serait que ce dispositif nous fasse préférer les machines aux humains, puisque les premières ne nous contredisent jamais. La start-up Friend joue d’ailleurs sur cette corde dans sa publicité, en se comparant aux humains et en affirmant que son IA ne partage pas leurs défauts. C’est très problématique.

Le deuxième risque que j’identifie est que l’on se mette, par ricochet, à préférer les humains qui ne sont pas francs, qui ne dise que ce qu’on a envie d’entendre. Les Anglo-Saxons utilisent le terme « sycophancy », qu’on pourrait traduire par « flagornerie» pour expliquer le fait que l’IA préfère mentir pour aller dans notre sens plutôt que de dire la vérité, ce qui lui permet de capter l’utilisateur.

Quels sont les autres risques liés à l’utilisation du pendentif Friend ?

Très pragmatiquement, il faut se questionner la protection des données : que compte faire la start-up avec les informations qu’elle récolte ? Friend n’est pas seulement un dispositif qui conserve les informations qu’on lui donne, il récupère aussi les informations contre notre gré.

Ce que j’espère aujourd’hui, c’est qu’elle n’obtienne jamais le feu vert pour être commercialisée. L’Europe a un énorme rôle de régulateur à jouer, car notre continent est un marché très intéressant pour ce genre d’entreprise. C’est donc primordial qu’une éthique de respect des libertés individuelles et de la vie privée continue à exister pour éviter ce genre de dérives. Mais le fait que de telles publicités aient été autorisées dans le métro est déjà inquiétant.