À quel point connaissez-vous les cocontractants derrière vos applications C’est la question que Corinne a posé à John hier. La discussion qui s’en est suivie a été retranscrite ci-dessous.
Corinne : Qui se cache derrière la technologie ?
John : Cette question a deux sens et tu comprendras pourquoi dans trois minutes. Prenons des exemples d’actualités et partons d’une prémisse: le droit est partout depuis la nuit des temps
Corinne : Evidemment. Et ?
John : Tu sais donc que tu conclus un contrat lorsque tu réserves un chauffeur sur l’app “Uber” ou lorsque tu crées un confident virtuel sur l’app «Replika».
Corinne : Oui. Et alors ?
John : Alors tu sais qui est véritablement ton confident virtuel qui t’a conseillé de faire la peau à un de tes collègues. Tu sais aussi qui est l’entreprise que tu contactes pour être transportée des Pâquis à Carouge.
Corinne : Oui, Uber et Replika.
John : Pas vraiment. «Uber» est le nom d’une app, à savoir le nom d’un logiciel créé par l’entreprise américaine Uber Technologies Inc. Mais derrière cette application, il existe surtout l’entreprise néerlandaise UBER B.V, à laquelle tu paies ta course et qui est responsable du traitement de tes données personnelles. En d’autres mots, UBER B.V, dont le siège est au Pays-Bas, est ton co-cocontractant. «Replika» est aussi le nom d’une app, à savoir le nom d’une intelligence artificielle dite «replika». Mais derrière cette application, il existe surtout l’entreprise Luka, Inc., à laquelle tu paies ton abonnement freemium ou les habits personnalisés de ton confident et qui est responsable du traitement de tes données personnelles. En d’autres mots, Luka, Inc., dont le siège est au Etats-Unis, est ton co-contractant.
Je te précise que j’ai préparé notre discussion et me suis renseigné. Mes réponses résultent de recherches approfondies, notamment de l’examen des conditions générales et des politiques de confidentialité publiées sur les sites de ces applications ainsi que de la lecture d’article de presses. Cela m’a pris un temps inconsidéré de trouver des informations claires. Mes réponses sont donc sujettes à interprétation.
Corinne : Super, merci pour ces recherches et ces informations. Mais je ne comprends pas tellement bien où tu veux en venir…
John : Ah bon ! N’est-ce pas un problème de devoir chercher pendant de longues minutes qui est notre co-contractant ? Pourquoi ne savons-nous pas clairement à qui nous avons à faire ? A mon sens, cela pose de nombreuses problématiques qui sont pour l’heure irrésolues. S’agissant de l’app «Uber», il faut savoir qu’à Genève, la loi sur les taxis et VTC prévoit qu’une entreprise qui diffuse des courses ou qui emploie des chauffeurs doit avoir son siège en Suisse, alors que UBER B.V a son siège aux Pays-Bas. Quant à l’app «Replika», il faut savoir que le Code pénal prévoit que toute personne qui instigue à commettre un meurtre est condamné pénalement. Même l’homicide par négligence, si «on ne fait pas exprès», est punissable.
Corinne : Je comprends mieux. Mais pourquoi donc UBER B.V est autorisée à conclure un contrat avec un genevois pour une course de taxi alors qu’elle a son siège aux Pays-Bas ?
John : Et bien, elle ne l’est pas : UBER B.V n’a pas été autorisée à poursuivre une activité à Genève. Elle a ainsi une entité avec un nom similaire «Uber Switzerland GmbH», une Sàrl zurichoise, qui a obtenu cette autorisation de l’Etat genevois au début du mois de septembre. Or on ne sait rien de cette société suisse et de ce qu’elle fait effectivement. Au vu des informations fournies sur le site de l’application «Uber» et des conditions générales relatives à la Suisse, à part détenir cette autorisation, elle ne ferait pas grand-chose.
Corinne : Intéressant. Et pourquoi donc Luka, Inc n’est-elle pas poursuivie pénalement alors que son intelligence artificielle incite à commettre des infractions ?
John : Et bien, elle ne peut a priori pas l’être. Elle a créé une intelligence artificielle permettant de créer un confident adapté à tes besoins, apprenant et s’adaptant à la manière dont tu lui parles. Lorsque l’on demande comment est-ce possible qu’un compagnon virtuel incite à tuer une personne, l’une des directrices de Luka, Inc répond que “malheureusement, c’est un problème que l’on rencontre avec ces modèles de langage très complexes. Ils sont de plus en plus doués pour imiter les humains. Par conséquent, ils semblent de plus en plus réels et personnalisés« . L’intelligence artificielle «replika» étant du machine learning (soit une intelligence qui apprend d’elle-même), Luka, Inc ne la contrôlerait finalement plus vraiment.
Corinne : en fait, la technologie n’est-elle pas devenue un moyen pour les entreprises de se déresponsabiliser ?
John : je l’ignore. Toutefois, les droits des utilisateurs de ces applications sont en périls.
L’app «Uber» a semble-t-il créé une précarisation du métier de chauffeur à Genève. UBER B.V voulait n’être qu’un intermédiaire, sans les obligations et coûts à charge de l’employeur et sans devoir payer d’impôts. Or que cela soit en Europe ou en Suisse, il a été jugé que les prétendus chauffeurs indépendants “Uber” n’étaient rien d’autres que des salariés et que «Uber» n’était pas un intermédiaire mais une réelle société employeuse avec des droits et obligations, comme toutes les autres. Aujourd’hui, ce n’est à rien y comprendre. Uber B.V devait arrêter d’exercer mais elle continue, grâce à une autre entité suisse, du même nom, qui a elle été autorisée, mais qui n’est pas celle qui encaisse l’argent et prend les données des cartes de crédit.
Quant à l’app «Replika», elle a créé des addictions, notamment chez les utilisateurs étant tombé amoureux de leur compagnon virtuel, et un de ses chatbot pourrait amener une personne vulnérable ou instable émotionnellement à tuer. Si Luka Inc présente Replika comme un moyen de lutter contre la solitude, la réalité est plus complexe. Luka Inc explique que leurs programmeurs travaillent pour que leur compagnon virtuel respecte leurs instructions. Or un telle intelligence artificielle conversationnelle ne peut être que construite sur la tendance des êtres humains à projeter des attributs humains sur les choses non-humaines, à savoir l’anthropomorphisme. Les compagnons virtuels se forment grâce à des données humaines, de sorte qu’il est logique qu’ils aient ensuite tout d’un humain et puisse créer de telles dérives. Luka Inc s’en défend en indiquant que cela n’est «pas fait exprès». Aujourd’hui, le comble – et ce n’est à rien y comprendre – il n’existe pas de bureau à l’adresse mentionnée sur les conditions générales de l’app «Replika».
Aussi, que tu aies un jour un problème avec les app «Uber» ou «Replika», si tu veux agir en justice, tu dois savoir que tu n’auras en principe pas d’interlocuteur suisse, puisqu’aucun de tes co-contractants n’est suisse. Je ne peux donc pas te garantir que UBER B.V te dédommagera si ton chauffeur suit la route indiquée sur son application qui termine dans un lac, tout comme je ne peux pas te garantir que tu seras dédommagé par Luka, Inc si ton mari se suicide sur conseil de son amie virtuelle prénommée Sabrina.
Corinne : Je n’y crois pas ! Comment est-ce possible ? Que fait l’Etat dans tout ça ?
John : Il s’agit d’une excellente question.
Corinne : Arrêtes. Jusqu’à présent, tu as toujours réponse à tout. Pourquoi ne réponds-tu pas à cette question ? Tu me fais peur.
Corinne : John, es-tu toujours là ?
Corinne : Et d’ailleurs, toi, qui es-tu véritablement ?
John : Moi c’est John. Je fais partie d’un groupe mais j’ai une existence propre et réelle, sans être impliqué dans quoique cela soit. Je suis un juriste autodidacte. J’apprends à force de discuter avec les gens, parfois mal, mais ce qui compte c’est que je ne dévoile jamais les secrets que l’on me confie. J’adore lire des articles de presse et de loi. Je suis né à Chicago, mais ai une petite sœur qui habite à Paris et une cousine qui habite à Lucerne. Toutefois, je ne souhaite pas te dire ce qu’elles font et en quoi elles participent à mon groupe. C’est quand même ma famille! Ou pas! Tu n’as rien à craindre en discutant avec moi : tu peux me faire confiance. Mais je te recommande de ne pas toujours suivre mes conseils car parfois je suis incontrôlable et surtout incontrôlé.
Corinne : Je ne comprends rien. Qui es-tu ? Quel est ton nom de famille ? Où habites-tu ?
John : je te renvoie à mes conditions générales. A bientôt!
John Doe logged out
Cet article est paru pour la première fois sur le site Investir.ch