Lors de la Google I/O, l’événement annuel de Google présentant les nouvelles avancées de ses différents services (GMail, Maps, Assistant, News, etc…), un élément qui a particulièrement retenu l’attention du public est l’amélioration de l’IA (Intelligence Artificielle) et de la diction de Google Assistant :
La démonstration est très impressionnante bien qu’il s’agit que d’une version expérimentale. Si ce que raconte Sundar Pichai est vrai (à savoir qu’il s’agit d’un véritable coup de téléphone à un commerce), à aucun moment la personne à l’appareil ne se doute parler avec une IA, passant probablement par le même fait le test de Turing (certes dans un contexte spécifique et en étant entrainé pour ce type de rendez-vous, mais ça reste une étape importante).
Pour leur défense, Google réponds que lorsque Google Assistant effectuera des appels à l’initiative de son propriétaire, il pourrait (car c’est une piste de réflexion pour le moment) s’identifier comme une IA au début de la conversation :
We understand and value the discussion around Google Duplex — as we’ve said from the beginning, transparency in the technology is important,” a Google spokesperson told The Verge in a statement this evening. “We are designing this feature with disclosure built-in, and we’ll make sure the system is appropriately identified. What we showed at I/O was an early technology demo, and we look forward to incorporating feedback as we develop this into a product.
Sauf que j’ai un gros problème avec cette déclaration, pourquoi rendre le langage d’Assistant humain à ce point là ? Je n’ai aucun problème sur le fait de vouloir rendre sa diction un peu plus fluide pour qu’elle soit moins robotique, mais pourquoi reprendre les tics de langage humain comme les “hum-hum”, les “ah”, les pauses entre certains mots qui sont typiquement humains, certaines interjections et expressions ?
Il y a une volonté consciente (parce que ça se code, ça ne sort pas de nul part) de Google de tromper les personnes. Quelle est l’utilité pour Google d’aller aussi loin dans la reproduction de la diction orale si c’est pour prévenir les interlocuteurs à chaque fois qu’ils auront affaire à Assistant ?
Un autre problème est également tous les abus possibles ainsi que les problématiques de cette technologie (que les concurrents vont s’empresser de rattraper) :
- Rendre les arnaques téléphonique encore plus crédible et avec beaucoup moins de moyens.
- Le démarchage téléphonique automatisé créant une toute nouvelle ère dans ce type d’activité.
- Détournement des voix afin de produire de fausses nouvelles (fabrication possible de fausses preuves plus simplement).
- Augmentation possible de la paranoïa des personnes au téléphone car elle ne pourrait plus savoir si elle s’adresse à un “robot” ou un être humain.
- Création ou transformation de services basés sur le relationnel comme par exemple un service de compagne virtuelle (penser Her) pouvant se substituer à des relations réelles en cas d’abus.
- Et encore bien d’autres auxquels je ne pense pas à ce moment précis.
C’est pour ces raisons que j’estime qu’il faut être très prudent avec ce type de technologie. Cependant je n’ai pas tout à fait terminé, une autre chose m’a fait tiquer qui est la nouvelle fonctionnalité “Pretty Please” d’Assistant où un enfant doit dire “Please” (s’il vous plait) pour voir sa commande vocale être exécutée.
C’est également tendancieux comme fonctionnalité puisque cela pourrait pousser/former les enfants à croire que les assistants sont des personnes et/ou possèdent une conscience alors que ce sont simplement des outils (par contre on en reparlera si/quand une vraie IA émergera).
Et c’est sans compter tout le côté vie privée où pour fonctionner au mieux de ses possibilités, vous allez devoir donner une quantité d’informations personnelles phénoménale (enfin ce qui est déjà probablement le cas si vous utilisez GMail comme boite mail principale et Google Search comme moteur de recherche), permettant à Google de probablement vous connaitre mieux que vous-même (ainsi que n’importe qui de votre entourage).
Il semble évident que les données personnelles vont être l’or digital (enfin c’est déjà plus ou moins le cas) des prochaines décennies à cause du deep learning (pour entrainer les IA) et de la Big Data.
Bref, si vous trouvez ces nouvelles innovations fascinantes et que vous êtes pressé d’y avoir accès, réfléchissez cinq minutes à ce que vous devez potentiellement échanger pour l’utiliser ou des implications de ces avancées, le prix pourrait être plus cher que vous ne le croyez.