Un juge du Nouveau-Mexique impose des obligations relatives aux produits à Meta après une décision sur la sécurité des enfants

Un juge d'un tribunal d'État du Nouveau-Mexique a émis des directives détaillées visant à superviser les choix de conception de produits et d'ingénierie chez Meta Platforms Inc., à la suite d'une décision de justice antérieure ayant conclu que l'entreprise de médias sociaux avait causé du tort à des enfants à travers des fonctionnalités de sa plateforme, notamment le chiffrement de la messagerie, selon un article de Mike Masnick. Cette décision judiciaire constitue un exemple rare et significatif de tentative par un tribunal d'État d'intervenir directement dans la stratégie interne de développement logiciel et l'architecture technique d'une grande entreprise technologique mondiale.

## Ce qui s'est passé L'État du Nouveau-Mexique avait auparavant engagé une action civile contre Meta, soutenant que la société n'avait pas suffisamment protégé les utilisateurs mineurs sur l'ensemble de ses applications de réseaux sociaux, notamment Instagram et Facebook. Les procureurs de l'État ont spécifiquement contesté plusieurs décisions relatives aux produits prises par les dirigeants de Meta, désignant le déploiement par défaut du chiffrement de bout en bout des messages comme un mécanisme principal ayant présumément facilité des interactions préjudiciables impliquant des mineurs. À la suite d'un premier verdict rendu plus tôt cette année en faveur des demandes de l'État, le juge président a rendu une ordonnance imposant des modifications directement supervisées par le tribunal aux fonctionnalités des produits et aux protocoles de sécurité de Meta. La portée des directives du juge a ainsi placé la gestion interne des produits et les décisions d'ingénierie logicielle de Meta sous contrôle judiciaire, selon les informations de Mike Masnick.

## Griefs juridiques et chiffrement de la plateforme L'action en justice intentée par les procureurs du Nouveau-Mexique était axée sur l'affirmation selon laquelle Meta avait créé des risques évitables pour les jeunes utilisateurs en donnant la priorité au chiffrement de bout en bout des messages par rapport à la modération interne des contenus et aux outils de protection de l'enfance. Les responsables juridiques de l'État ont fait valoir que le chiffrement par défaut empêche les opérateurs de plateformes, les systèmes de détection automatisés et les forces de l'ordre d'identifier l'exploitation en ligne potentielle, le cyberdéveloppement ou les communications abusives se déroulant dans les canaux de messagerie privée. Pour sa part, Meta a constamment défendu la mise en œuvre du chiffrement de bout en bout sur ses plateformes, soutenant qu'une sécurité cryptographique solide est essentielle pour protéger la vie privée des utilisateurs contre les acteurs malveillants, le vol de données commerciales et la surveillance non autorisée. Cependant, les procureurs de l'État ont maintenu que le déploiement d'un chiffrement complet sur des plateformes grand public, sans la mise en place de mécanismes de sécurité compensatoires complets, constituait une négligence donnant lieu à des poursuites, laissant les utilisateurs mineurs exposés à des menaces en ligne au sein d'environnements numériques non surveillés.

## Le défi réglementaire des obligations relatives aux produits Les tentatives de la justice d'imposer des modifications techniques dans la conception des logiciels mettent en lumière les tensions juridiques et techniques croissantes entre les recours judiciaires et les processus modernes d'ingénierie logicielle. Lorsqu'un tribunal rend une ordonnance exigeant des modifications spécifiques apportées à un produit, les entreprises technologiques sont contraintes de traduire des directives juridiques en code source fonctionnel, en architecture système, en structures de bases de données et en cartes d'interface utilisateur. Les critiques d'une intervention judiciaire directe dans la gestion des logiciels soutiennent que les tribunaux sont mal équipés pour gouverner des plateformes technologiques complexes, dans la mesure où les juges et les praticiens du droit manquent généralement de l'expertise technique nécessaire pour évaluer le code logiciel, gérer des arbitrages complexes en matière de cybersécurité ou anticiper des vulnérabilités opérationnelles secondaires. De plus, les critiques font valoir que des fonctionnalités imposées par décision de justice peuvent entraver la capacité d'une entreprise à répondre de manière dynamique à l'évolution des cybermenaces. À l'inverse, les juristes favorables à une intervention judiciaire ferme soutiennent que les sanctions civiles traditionnelles, les accords financiers ou les amendes réglementaires sont insuffisants pour contraindre les grandes entreprises technologiques à modifier leurs modèles économiques fondamentaux et la conception de leurs produits, qui privilégient l'engagement des utilisateurs au détriment de leur sécurité.

## Actions des États contre les plateformes technologiques Les poursuites engagées au Nouveau-Mexique reflètent un changement stratégique croissant parmi les procureurs généraux d'État à travers les États-Unis, qui cherchent à tenir les plateformes en ligne responsables de la sécurité des utilisateurs. Plutôt que de s'en remettre uniquement aux organismes de réglementation fédéraux ou à la législation fédérale, les procureurs des États ont de plus en plus recours aux lois locales sur la protection des consommateurs, à la doctrine des troubles à l'ordre public et aux théories juridiques de la responsabilité du fait des produits pour contester les mécanismes fondamentaux des plateformes. Ces poursuites au niveau des États ont ciblé un large éventail de fonctionnalités de produits, notamment les systèmes algorithmiques de recommandation de contenu, le défilement infini des interfaces utilisateur, les notifications push automatisées et les configurations de confidentialité par défaut. En recherchant des injonctions structurelles obligeant les plateformes à modifier le comportement de leurs logiciels, le contentieux engagé par les États vise à restructurer fondamentalement les environnements numériques. Cependant, comme les plateformes numériques exploitent généralement des bases de code logiciel unifiées pour l'ensemble de leurs utilisateurs nationaux et mondiaux, les ordonnances judiciaires locales rendues par des juges d'États individuels peuvent créer de sévères complexités opérationnelles pour les entreprises technologiques qui tentent de satisfaire à des obligations juridiques contradictoires selon les juridictions.

## Tensions entre sécurité et protection La bataille juridique au Nouveau-Mexique met en évidence un conflit politique durable concernant le rôle du chiffrement de la messagerie dans les communications numériques modernes. Les experts en cybersécurité, les groupes de défense des droits numériques et les défenseurs de la vie privée soutiennent fermement le chiffrement universel de bout en bout, soulignant que des canaux sécurisés protègent le grand public contre les violations de données, l'usurpation d'identité, les cyberattaques commanditées par des États et la surveillance illégale. Ils font valoir que la création de portes dérobées techniques ou l'affaiblissement des protocoles de chiffrement dégrade intrinsèquement la sécurité globale d'Internet et rend l'ensemble des utilisateurs plus vulnérables. À l'inverse, les services d'application de la loi, les organisations de protection de l'enfance et les procureurs des États soutiennent que les services de messagerie impossibles à intercepter entravent gravement les enquêtes criminelles sur l'exploitation des enfants, la traite des êtres humains et les abus en ligne. Ce désaccord fondamental place les entreprises technologiques face à des exigences contradictoires de la part des régulateurs de la vie privée, qui exigent une sécurité rigoureuse des données, et des autorités de sécurité publique, qui cherchent à accéder aux preuves numériques.

## Retombées pour l'industrie et prochaines étapes L'ordonnance judiciaire au Nouveau-Mexique soulève de majeures questions juridiques concernant la frontière opérationnelle entre l'autorité des tribunaux d'État et la gouvernance d'entreprise dans le secteur technologique. Il est largement pressenti que Meta contestera la décision devant les cours d'appel, remettant en cause à la fois les conclusions juridiques tirées lors du procès initial et l'étendue des recours judiciaires imposés par le juge. Si des juridictions supérieures confirment le pouvoir du juge de dicter des choix d'ingénierie de produits, l'affaire pourrait poser un précédent juridique important permettant aux juges d'État d'agir en tant que régulateurs actifs d'applications logicielles en ligne. Un tel résultat pourrait conduire à un cadre réglementaire fragmenté, contraignant les développeurs de logiciels soit à concevoir des variantes de logiciels géographiquement restreintes, soit à repenser leurs produits mondiaux pour se conformer aux décrets judiciaires les plus stricts au niveau des États.

Les informations de cet article ont été initialement publiées par Mike Masnick.