Apple est visé en France par une action collective. . Au cœur du dossier : des écoutes possiblement abusives réalisées par Apple. Julien Bayou, qui fait partie des avocats qui initient cette démarche, explique les enjeux de cette procédure, les objectifs visés et les perspectives pour les utilisateurs.
❤️ Patreon
💚 Tech Café + (sans Patreon)
💬 Discord
💻 techcafe.fr
📺 YouTube / Twitch
Participants
- Julien Bayou : bayouavocat.fr, X, Bluesky
- Une émission préparée et présentée par Guillaume Vendé
En savoir plus sur Tech Café
Subscribe to get the latest posts sent to your email.
By design: tout dispositif qui répond à un mot (Alexa,Siri..) est obligé d’écouter en permanence avec le micro,sinon comment capter que le mot a été prononcé.
La seule chose à vérifier, c’est que cet enregistrement continue ne persiste pas et soit encore moins envoyé via une API à un service tiers.
Pour le mot magique, il faut en effet que le son enregistré en continue (en mémoire) soit analysé avec un algo local sur le dispositif pour vérifier la présence de ce « mot declencheur » et seulement si celui-ci est trouvé, commence à persister la piste sonore, à partir du mot en question pendant N secondes ?, nombres de mots ?, nombre de silience ?
Et enfin, cette demande/requete/instruction, en fonction de la complexité doit etre analysé via un modèle local, ou soit envoyé à un service tiers pour interpreter ?
Tu soulèves toute la complexité du dispositif.
Le point central sur le plan juridique reste : est-ce que des traitements de données captées ont été faites illégalement ?
normalement pas besoin de service tiers. on fait une transformée de fourier et autres opérations de nettoyage et on compare avec le mot de déclenchement. Ça « écoute » en permanence mais sans écouter, ça n’interprète pas ce qui est dit. Ça ne serait pas assez rapide sinon et surtout ça ne marcherait pas sans Internet, or tout ces dispositifs marchent sans connexion.
Entierement d’accord pour le mot déclencheur, ça ne serait pas assez réactif si il devait en permanence demander si le son en continue contenait le pattern.
C est seulement apres ce mot déclencheur qu’il doit appeler un service tiers pour interpreter/comprendre la demande de l’utilisateur
Dé mémoire, aux débuts de Siri, ils devaient essayer en local d’interpreter les paroles et on se souvient des nombreux déboires…
Depuis, on a vu des modèles plus petits/performants et locaux qui peuvent au moins comprendre la demande énoncé et estimer si le dispositif peut le faire « localement » (créer une alerte, verifier la reception d’un message d’une personne..
Et sinon appeler l’api pour avoir la réponse à la question (quel âge a tel acteur/trice), trouve moi un restaurant dans le coin..
Et la encore, on avait vu qu’il y a quelques années passer des articles qui démontrait que, pour ameliorer son service, ils demandaient à des « humains » d’ecouter/verifier des enregistrement pour verifier que l’IA avait bien compris le son envoyé à l’api
Et ça se comprendre: si on laisse une IA intepreter toutes les demandes orales de ses clients sans aucune verification, on court un risque: celui d’avoir des réponse/interpretation/comportement non prévu
Pour travailler dans l’informatique depuis plus de 20 ans, je suis toujours étonné du process de mise en productino de ces IA.
Personne n’imagine en entreprise faire des mise en production sans grande batterie de test d’une application/produit
Et ici avec ces modèles: les uses cases sont tellement enorme que l’on ne peut pas tout tester.
D’ailleurs, pour information, on sait que ces IA sont faillibles et qu’on peut « hacker » leur garde fou, c ‘est meme l’objet de nombreux bug bounty qui permettent à des entreprises de vivre en les trackant
Source:
Un très bon épisode de _underscore avec des developpeurs qui gagnent leur vie avec les bug bounty
https://www.youtube.com/watch?v=1Zp8MKX82r8
D’ailleurs pour sécuriser ces mises en production , on sait que ces entreprises doivent payer des employes pour ecouter des echantillons afin de verifier l’interpretation de ces IA
souvenez vous
https://www.phonandroid.com/echo-milliers-employes-amazon-ecoutent-dites-alexa.html