Juridique

La CNIL inflige une amende de 32 millions d'euros à Amazon

Soumis par fredericmazue le

La CNIL vient d'infliger une amende de 32 millions d'euros à Amazon France Logistique, estilmant que les employés y sont soumis à une surveillance informatique excessive en même temps qu'à une pression continue. Pour expliquer le pourquoi de cette sanction, la CNIL explique :

AMAZON FRANCE LOGISTIQUE gère les grands entrepôts du groupe AMAZON en France, où elle réceptionne et stocke les articles puis prépare les colis pour la livraison aux clients. Dans le cadre de ses activités, chaque employé de l'entrepôt se voit remettre un scanner pour documenter en temps réel l'exécution de certaines tâches qui lui sont confiées (stockage ou retrait d'un article en rayon, rangement ou emballage, etc.).

Chaque scan réalisé par les collaborateurs donne lieu à un enregistrement de données, qui sont stockées et utilisées pour calculer des indicateurs renseignant sur la qualité, la productivité et les périodes d'inactivité de chaque collaborateur.

Suite à des articles de presse sur les pratiques de l'entreprise dans ses entrepôts, la CNIL a mené plusieurs enquêtes. Elle a également reçu plusieurs plaintes de salariés.

La CNIL a considéré que le dispositif de suivi de l’activité et des performances des salariés était excessif, notamment pour les raisons suivantes :

  • Des indicateurs traçant le temps d'inactivité des scanners des collaborateurs ont été mis en place. La CNIL a jugé qu'il était illégal de mettre en place un système mesurant les interruptions de travail avec une telle précision, pouvant obliger les salariés à justifier chaque interruption ou interruption.
  • La CNIL a jugé excessif le système de mesure de la vitesse de numérisation des documents. Partant du principe que les éléments scannés très rapidement augmentaient le risque d'erreur, un indicateur mesurait si un élément avait été scanné en moins de 1,25 seconde après le précédent.
  • Plus généralement, la CNIL a jugé excessif de conserver l'ensemble des données collectées par le système, ainsi que les indicateurs statistiques qui en résultent, pour l'ensemble des salariés et intérimaires, pendant une durée de 31 jours.

La CNIL reconnaît que des contraintes très lourdes pèsent sur Amazon en raison de ses objectifs de performance élevés, mais estime toutefois que le système de surveillance des employés mis en place en conséquence est disproportionné, notamment en ce qui concerne la conservation de l'ensemble des données collectées.

Plus d'informations ici : cnil.fr/en/employee-monitoring-cnil-fined-amazon-france-logistique-eu32-million

Projet Nessie : un algorithme de manipulation des prix qui aurait rapporté 1 milliard de dollars à Amazon

Soumis par fredericmazue le

Lu sur The Verge. La Federal Trade Commission américaine (FTC) poursuit Amazon pour exploitation illégale de son monopole. Le document de plainte révèle de nombreuses pratiques déloyales comme le fait d'enterrer les offres proposées à des prix inférieurs par d'autres détaillants et facturer des frais élevés aux vendeurs afin de gonfler les prix des produits. 

Pour ce qui est de gonfler les prix, le document de plainte révèle l'existence d'un algorithme secret nommé en interne par Amazon « Projet Nessie » Cet algorithme ayant pour rôle d'identifier des produits spécifiques pour lesquels il est probable que d'autres boutiques en ligne suivront une augmentation de prix faite par Amazon. L"algorithme augmente alors les prix de ces produits et, surveillle si d'autres magasins emboîtent le pas. Si c'est le cas, algorithme maintient le prix plus élevé,ou, sinon, le rebaisse. Selon le document de plainte, Amazon a considéré le projet Nessie comme « un succès incroyable » ayant généré plus d'un milliard de dollars de profit excédentaire pour l'entreprise. Toutefois, consciente des retombées qu'elle risque, la société Amazon aurait désactivé le projet Nessie pendant des périodes de surveillance extérieure accrue, pour le réactiver aux moments où 'personne ne regarde'.

En plus de ce gonflage des prix, et toujours selon le document de plainte, Amazon dégrade volontairement les services qu'elle propose. Ainsi la vitrine en ligne d’Amazon donnait autrefois la priorité aux résultats de recherche pertinents et organiques. Suivant les instructions de son fondateur et alors PDG Jeff Bezos, Amazon a changé de vitesse pour remplir désormais sa vitrine de publicités payantes. Les dirigeants d’Amazon reconnaissent en interne que cela crée un « préjudice aux consommateurs » en rendant « presque impossible la conquête d’un contenu organique utile et de haute qualité par un contenu sponsorisé à peine pertinent ». Cette pratique nuit également aux vendeurs et aux acheteurs. La plupart des vendeurs doivent désormais payer pour la publicité afin d’atteindre la base massive d’acheteurs en ligne d’Amazon, tandis que les acheteurs sont par conséquent confrontés à des résultats de recherche moins pertinents et sont orientés vers des produits plus chers. Notamment, Amazon a augmenté non seulement le nombre de publicités diffusées, mais également le nombre de publicités indésirables non pertinentes, appelées en interne « défauts ». M. Bezos a demandé à ses dirigeants d'« accepter davantage de défauts », car Amazon peut extraire des milliards de dollars grâce à une publicité accrue, malgré la dégradation de ses services aux clients.

Hallucinations de ChatGPT : deux avocats condamnés à 5000 dollars d'amende

Soumis par fredericmazue le

Fin mai nous vous rapportions que ChatGPT, qui a de lourdes tendances aux hallucinations, avait inventé de toutes pièces des cas de jurisprudences, bernant ainsi deux avocats américains qui étaient de bonne foi, mais pas assez méfiants.

Le juge qui avait découvert que les jurisprudences exposées par les deux avocats étaient totalement bidon avait promis de sévir. C'est chose faite selon The Guardian.

Le juge a déclaré que les progrès technologiques sont monnaie courante et il n'y a rien de fondamentalement inapproprié à utiliser un outil d'intelligence artificielle fiable pour l'assistance. Mais les règles existantes imposent un rôle de contrôle aux avocats pour garantir l'exactitude de leurs documents. Pour ce juge les avocats et leur cabinet ont abandonné leurs responsabilités lorsqu'ils ont soumis des avis judiciaires inexistants avec de fausses citations et citations créées par l'outil d'intelligence artificielle ChatGPT, puis ont continué à respecter les faux avis après que des ordonnances judiciaires ont remis leur existence en question.

En conséquence de quoi les avocats ont été condamnés à 5000 dollars d'amende.

OpenAI poursuivie en diffamation en raison des hallucinations de ChatGPT

Soumis par fredericmazue le

Car oui ChatGPT a des hallucinations. Qui peuvent servir de vecteurs pour des cyberattaques, ou dans le cas présent peuvent amener la société créatrice OpenAI devant les tribunaux.

A lire sur Gizmodo. Mark Walters, un animateur radio américain, a porté plainte contre OpenAI car ChatGPT a fourni à un journaliste, qui avait demandé un résumé de l'affaire The Second Amendment Foundation contre Robert Ferguson, une réponse déclarant que Walters détournait des fonds de The Second Amendment Foundation (SAF), une association de défense du port d’armes.

ChatGPT a identifié Walters comme le trésorier et directeur financier de SAF. Walters, selon ChatGPT, "a détourné des fonds pour des dépenses personnelles sans autorisation ni remboursement, a manipulé des dossiers financiers et des relevés bancaires pour dissimuler ses activités et n'a pas fourni de rapports financiers précis et opportuns".

Mais Walters prétend qu'il n'aurait pas pu détourner ces fonds parce qu'il n'est pas et n'a jamais été le trésorier ou le directeur financier de SAF. En fait, il ne travaille pas du tout pour la fondation. Une lecture attentive de la plainte SAF contre Ferguson ne montre aucun signe du nom de Walters dans ses 30 pages. Cette plainte n'a rien à voir avec les revendications comptables financières du tout. ChatGPT a halluciné le nom de Walters dans son récit d'un véritable document juridique, rapporte Gizmodo.

L'avocat de Walters a déposé une plainte en diffamation devant la Cour supérieure du comté de Gwinnett. la plainte dit en substance : "Chaque déclaration de fait dans le résumé concernant Walters est fausse".

Gizmodo s'est entretenu avec un expert juridique au sujet de cette plainte en diffamation contre OpenAI. Selon cet expert, la plainte de Walters représente probablement la première de ce qui pourrait être une litanie de poursuites judiciaires visant à poursuivre les sociétés d'intelligence artificielle en justice.

Incendie de Strasbourg : OVH écope d'une première condamnation

Soumis par fredericmazue le

Le 10 mars 2021, un incendie s'est déclaré sur le campus OVH de Strasbourg. Un site en deux parties comprenant chacune deux centres de données. L'incendie a touché la première partie, détruisant totalement le centre de données SBG2, et 4 salles dans le centre de données SGB1 qui en comptait 12. Des sociétés clientes d'OVH ont totalement perdu leurs données dans cet incendie, car les sauvegardes étaient stockées sur la même partie du site.

C'est notamment le cas pour la société Bati Courtage qui a porté plainte contre OVH. Bati Courtage avait explicitement souscrit à une offre de sauvegarde d'OVH. OVH définissant elle même la sauvegarde comme une "opération qui consiste à dupliquer et à mettre en sécurité les données contenus dans un système informatique" Le jugement vient d'être rendu : la société OVH est condamnée à verser 100 000 à la société plaignante pour la dédommager de la perte de données. OVH a la possibilité de faire appel de ce jugement.

Lors du procès, OVH a voulu faire jouer l'article 7.7 stipulant que l'incendie était un cas de force majeure. Mais le juge n'a pas entendu les choses de cette oreille. Ainsi peut-on lire dans le jugement : Cette disposition contredit l'essence même de l'obligation qui est justement de pouvoir se reposer sur les données en cas de sinistre. Avec une telle clause, en cas de sinistre, la SAS OVH n'est donc jamais tenue de réaliser sa mission au moment où, pourtant, celle-ci est nécessaire. Les copies de sauvegarde n'ont pas d'intérêt en l'absence de sinistre et elles ne sont d'ailleurs pas utilisées. Les copies de sauvegarde ne sont utiles qu'en cas de sinistre.

Pour le juge, par cette clause, OVH vide le contrat de sa principale obligation et se libère de ses engagements dans des circonstances où justement ils sont nécessaires. L'article 1 170 du Code civil dispose que "Toute clause qui prive de sa substance l'obligation essentielle du débiteur est réputée non écrite." En l'espèce, réaliser les copies de sauvegarde et les mettre en sécurité, en particulier en cas de sinistre ou d'incendie, est une obligation essentielle du contrat. La clause 7.7 du contrat OVH prive donc de sa substance l'obligation essentielle de la SAS OVH et doit donc être réputée non écrite. En conséquence, le Tribunal déclare non écrite la clause 7.7 « Force majeure » du contrat liant la SAS FRANCE BATI COURTAGE à la SAS OVH.

En outre le jugement pointe le fait que le contrat stipulait que "L'espace de stockage alloué à l'option Backup est physiquement isolé de l'infrastructure dans laquelle est mis en place le Serveur Privé Virtuel du Client."

OVH est donc condamnée et d'autres décisions de justice similaires pourraient suivre. En effet, notamment, 140 entreprises ont formé un recours collectif. Le cabinet qui représente ces entreprise évalue le préjudice total à 10 millions d’euros.

Cookies : Microsoft mise à l'amende à hauteur de 60 millions d'euros par la CNIL

Soumis par fredericmazue le

Une plainte ayant été déposée auprès de la CNIL au sujet du dépôt de cookie sur les navigateur des visiteur par le moteur de recherche Bing appartenant à Microsoft, l'organisme a enquêté.

L'enquête a montré que "lorsqu’un utilisateur se rendait sur ce site, des cookies étaient déposés sur son terminal sans consentement de sa part alors qu’ils poursuivaient, notamment, un objectif publicitaire".

La CNIL a également constaté l’absence d’un bouton "permettant de refuser le dépôt de cookies aussi facilement que de l’accepter". Deux clics étaient nécessaires pour refuser tous les cookies, un seul pour les accepter, est-il précisé dans le communiqué de la CNIL.

En conséquence la CNIL a sanctionné la société Microsoft Ireland Operations Limited d’une amende de 60 millions d’euros. Le montant de cette sanction ayant été évalué en fonction du nombre de personnes concernés et par les revenu publicitaires tirés indirectement des données collectées via ces cookies.

IBM porte plainte contre Micro Focus

Soumis par fredericmazue le

IBM a intenté, devant le tribunal de district fédéral de New York, une action civile contre la société Micro Focus, société pourtant partenaire de Big Blue.

Au coeur de la plainte, le format de fichier WSBING d'IBM. Un fichier qui comme son nom le suggère, est un fichier de déclaration de liaisons (bindings) pour Web Service. 

IBM écrit dans sa plainte : L'une des nombreuses façons dont les offres mainframe d'IBM excellent consiste à proposer un serveur d'applications à usage général et un sous-système de traitement des transactions appelé le CICS Transaction Server pour z/OS, ou « CICS TS », pour son système d'exploitation z/OS environnement.

CICS TS est protégé par un copyright et le format de WSBIND faisant partie de cette technologie est également protégé.  IBM précise dans sa plainte : CICS TS Web Services utilise un "fichier de liaison de service Web", appelé WSBIND, pour exposer les programmes CICS TS en tant que services Web et cartographier les données reçues ou envoyées par le périphérique en réseau aux structures de données d'application qui résident sur l'ordinateur central. Tout simplement, Le fichier WSBIND d'IBM permet l'accès au service d'application CICS TS via un réseau. Le fichier WSBIND d'IBM contient des conceptions et des caractéristiques architecturales uniques ainsi que des structures internes d'IBM pour activer cette importante et innovante solution de mappage de données.

Pour IBM, la violation de copyright est claire : Ces similitudes frappantes indiquent que Micro Focus a copié des éléments des œuvres protégées par le droit d'auteur d'IBM pour créer une œuvre dérivée dans au moins Micro Focus Enterprise Developer et Micro Focus Serveur d'entreprise. Il n'y a aucun moyen qu'une similitude aussi étendue puisse résulter de tentatives de mettre en oeuvre des exigences fonctionnelles similaires, ou à la suite d'une coïncidence. Ces similitudes indiquent également que Micro Focus a procédé à la rétro-ingénierie d'au moins une partie du logiciel CICS TS en violation de diverses obligations contractuelles de Micro Focus envers IBM.

IBM indique que Micro Focus avait acquis son code via un programme partenaire qui permettait une utilisation limitée de la propriété intellectuelle d'IBM.

Pour Micro Focus, les affirmations d'IBM sont  "totalement sans fondement".

HackerOne annonce l’initiative Gold Standard Safe Harbor pour protéger juridiquement les activités des hackers éthiques

Soumis par fredericmazue le

HackerOne présente son initiative Gold Standard Safe Harbor (GSSH) auprès des entreprises, dégageant les hackers de toute responsabilité lorsqu'ils exercent leur activité de manière éthique. Cette annonce est l'aboutissement des efforts déployés par HackerOne pour valoriser les hackers tout au long du mois de la sensibilisation à la cybersécurité. 

Par défaut, toute politique de divulgation de vulnérabilités, y compris les programmes de bug bounty, devrait inclure une clause qui décrit les protections juridiques auxquelles les hackers peuvent s’attendre. Le GSSH est une déclaration courte et efficace, que les entreprises peuvent facilement adopter pour standardiser l’approche et éviter aux hackers de naviguer entre les règles des différents programmes sur lesquels ils collaborent. Grâce à cette initiative, les organisations peuvent désormais démontrer leur engagement à protéger les recherches de sécurité de bonne foi, ainsi que stimuler l’engagement des hackers à améliorer leur résistance aux attaques. Kayak, GitLab Inc., et Yahoo sont parmi les premiers clients de HackerOne à adhérer à cette initiative.

“Avec l’augmentation des surfaces d’attaque, un engagement solide des hackers n’a jamais été aussi essentiel pour réduire les risques”, a déclaré Chris Evans, CISO et Chief Hacking Officer chez HackerOne. “Nous souhaitons montrer notre soutien à la communauté des hackers en établissant un standard d’excellence auquel nos clients peuvent adhérer, qui aide les hackers à se sentir protégés et valorisés au cours de leur collaboration avec les clients. Lorsque les hackers sont sereins et engagés, les organisations obtiennent une meilleure résistance aux attaques.”

Les premières conclusions du rapport mondial HackerOne sur le hacking éthique, qui sera publié dans quelques semaines, révèlent que plus de la moitié des hackers n’ont pas signalé une vulnérabilité qu’ils ont découverte. Les raisons sont variées : 20 % ont fait ce choix après une première expérience difficile avec la même organisation, 12 % parce qu’ils ont senti une forme de menace juridique de la part de l’organisation. Aux Etats-Unis, deux hackers sur trois anticipent que les récents changements du Computer Fraud and Abuse Act (CFAA) du Département de la Justice (DOJ) vont améliorer leur protection. 

« Le Gold Standard Safe Harbor nous aide à nous différencier plus clairement en tant que programme avancé de bug bounty », a déclaré Matthias Keller, Chief Scientist chez Kayak. « Cela s’aligne avec d’autres meilleures pratiques que nous suivons, comme le paiement sur le triage et le paiement pour la valeur, afin de garantir que nous travaillons avec les meilleurs hackers qui s’engagent à protéger la société. » 

Adopter le GSSH démontre l’engagement des organisations pour étendre ces derniers développements juridiques et réglementaires. Les organisations exerçant GSSH autorisent également la recherche de sécurité de bonne foi, ce qui peut aider à clarifier la distinction entre la dernière et une violation de données.

“GitLab est ravi d'adopter l'initiative Gold Standard Safe Harbor", a déclaré Dominic Couture, Staff Security Engineer, Application Security chez GitLab. “Nous espérons que cela réduira la charge informationnelle pour des hackers et rendra leur expérience de bug bounty plus transparente, soutenant notre mission à laquelle tout le monde peut contribuer.”

Les organisations qui s’engagent à respecter le GSSH remplaceront leur déclaration de Safe Harbor existante par la GSSH sur leur page de programme et recevront un badge numérique correspondant. Les hackers pourront également rechercher des programmes sur la plateforme HackerOne en fonction de leur adhésion au GSSH.

GSSH marque le début d’une initiative plus large visant à codifier et à promouvoir les meilleures pratiques pour faire engager des hackers et réduire le risque cyber. Les hackers ont également eu l’occasion d’apprendre davantage sur les programmes de HackerOne en participant à GSSH. Le GSSH est le début d'une initiative plus large visant à codifier et à promouvoir les meilleures pratiques pour les entreprises afin d'engager les hackers et de réduire le risque de cybersécurité. Pour en savoir plus sur l'initiative plus large de HackerOne et le GSSH, cliquez ici.

GitHub Copilot visé par un recours collectif

Soumis par fredericmazue le

Mi-octobre 2022, nous vous rapportions que Matthew Butterick, développeur et avocat envisageait très sérieusement de porter plainte contre GitHub Copilot, l'outil d'assistance au codage de GitHub, à base d'intelligence artificielle. Matthew Butterick reprochant entre autres à GitHib Copilto de violer les licences open source.

C'est aujourd'hui chose faite. En collaboration avec plusieurs avocats, Matthew Butterick a déposé un recours collectif devant le tribunal fédéral américain de San Francisco, en Californie, au nom d'un groupe proposé de millions d'utilisateurs de GitHub. Ce recours conteste la légalité de GitHub Copilot (et d'un produit connexe, OpenAI Codex, qui alimente Copilot). La poursuite a été déposée contre un ensemble de défendeurs qui comprend GitHub, Microsoft (propriétaire de GitHub) et OpenAI. Selon ce recours, 11 licences open source sont violées par GitHib Copilot, y compris la très permissive licence MIT.

Ce n'est pas tout. En plus d'avoir enfreint les exigences d'attribution de ces licences, les attaquants soutiennent que les défendeurs ont enfreint :

Si pour les plaignants, il s'agit du premier cas de recours collectif aux États-Unis contestant la formation et les résultats des systèmes d'IA, ce ne sera sans doute pas le dernier. Les plaignants estiment que mes systèmes d'IA ne sont pas exemptés de la loi, et que ceux qui créent et exploitent ces systèmes doivent rester responsables.

Clearview condamnée à 20 millions d'euros d'amende par la CNIL

Soumis par fredericmazue le

Clearview AI est une société américaine spécialisée dans la reconnaissance faciale et l’intelligence artificielle. Clearview AI vend ses solutions de reconnaissance faciale aux forces de l’ordre de nombreux pays. Des solutions qui ont besoin de gros volumes de données pour alimenter leurs modèles d'intelligence artificielle.

Clearview AI ne fait pas dans la dentelle et collecte pour cela toutes les photographies qu'elle peut sur les sites Web, réseaux sociaux inclus. Selon la CNIL, Clearview AI a ainsi collecté plus de 20 milliards de photos, sans demander de permission à qui que ce soit pour ce faire. La CNIL y voit une violation du RGPD, ainsi qu'elle l'écrit dans le billet annonçant sa sanction :

Les investigations menées par la CNIL ont permis de constater plusieurs manquements au RGPD :

  • un traitement illicite de données personnelles (manquement à l’article 6 du RGPD) car la collecte et l’utilisation des données biométriques s’effectue sans base légale ;
  • l’absence de prise en compte satisfaisante et effective des droits des personnes (articles 12, 15 et 17 du RGPD).

En 2021, la CNIL avait mis la société Clearview AI en demeure de cesser ces pratiques, et lui avait accordé un délai de deux mois pour respecter les injonctions formulées dans la mise en demeure. Mise en demeure restée sans réponse.

Le couperet est donc tombé : La présidente de la CNIL a, par conséquent, décidé de saisir la formation restreinte, en charge de prononcer des sanctions. Sur la base des éléments portés à sa connaissance, la formation restreinte a décidé de prononcer une sanction pécuniaire maximale en application de l’article 83 du RGPD, soit 20 millions d’euros.

Au regard des risques très importants pour les droits fondamentaux des personnes concernées qui résultent du traitement mis en œuvre par la société, la formation restreinte a décidé d’enjoindre à CLEARVIEW AI de ne pas procéder, sans base légale, à la collecte et au traitement de données des personnes se trouvant en France et de supprimer les données de ces personnes qu’elle a déjà collectées, dans un délai de deux mois. La formation restreinte a assorti cette injonction d’une astreinte de 100 000 euros par jour de retard au-delà de ces deux mois.