La Californie adopte des lois pour protéger les enfants des risques liés aux réseaux sociaux et à l’IA

Ce qui a changé

Selon le reportage d’AP News, le gouverneur de Californie Gavin Newsom a promulgué jeudi des lois qui interdisent aux entreprises technologiques de proposer des fils d’actualité addictifs aux moins de 16 ans, autorisent des amendes pouvant atteindre 1 million de dollars par enfant lorsqu’il est établi que de grandes plateformes sociales ont fait preuve de négligence en portant préjudice à des enfants, et imposent aux opérateurs de chatbots d’IA de réaliser des évaluations des risques avant leur lancement.

Cet ensemble de mesures fait suite à l’accord conclu par Meta, qui prévoit le versement de jusqu’à 18 milliards de dollars et le renforcement des mesures de protection des enfants après une plainte déposée en 2023 par la Californie et 28 autres États. Des lois distinctes établiront également des règles pour les évaluations indépendantes de la sécurité des modèles d’IA ainsi qu’un registre d’auditeurs financièrement indépendants.

Pourquoi c’est important

La Californie a transformé une vaste mise en garde contre les préjudices en ligne en exigence applicable aux produits. Les plateformes ont désormais intérêt à modifier la manière dont les fils sont classés, dont l’âge est vérifié et dont les décisions en matière de sécurité sont consignées.

Cela compte surtout au moment où un enfant ouvre une application ou un chatbot. L’expérience pourrait devenir moins fluide: moins de recommandations optimisées pour susciter l’engagement, davantage de vérifications d’âge et plus de limites à ce que les entreprises peuvent lancer sans examen préalable. Meta affirme que la personnalisation aide les adolescents à trouver des contenus pertinents et adaptés à leur âge; le débat portera donc sur la question de savoir si la sécurité exige moins de personnalisation ou simplement de meilleurs contrôles.

Les détails restent à préciser. Le reportage ne précise pas comment la Californie définira un « fil d’actualité addictif », fera appliquer les amendes ou évaluera les analyses de risques des chatbots. Ces définitions détermineront si les entreprises procèdent à des changements ciblés ou se retirent de certains services.

Comment les effets pourraient se propager

Si les plateformes sont soumises à une application réellement contraignante, elles pourraient mettre en place des paramètres de fil spécifiques à la Californie, renforcer la vérification de l’âge et étoffer leurs dossiers de conformité. Cela pourrait réduire l’engagement des adolescents généré par les recommandations.

Si l’engagement ou la précision du ciblage diminuent, les annonceurs qui cherchent à atteindre les adolescents californiens pourraient transférer une partie de leurs dépenses vers la publicité contextuelle, les placements menés par des créateurs ou des canaux extérieurs aux fils des réseaux sociaux. Cette évolution rendrait les campagnes destinées aux jeunes moins dépendantes de la capacité des plateformes à personnaliser chaque impression publicitaire.

Les développeurs d’IA sont confrontés à un processus de lancement plus lent et plus coûteux. Les grandes entreprises pourraient absorber plus facilement ces examens supplémentaires, tandis que les petits développeurs pourraient retarder leurs sorties ou éviter la Californie. Le nouveau registre d’auditeurs pourrait créer du travail pour les sociétés indépendantes spécialisées dans la sécurité, à condition que les règles de l’État laissent suffisamment d’évaluateurs qualifiés sur le marché.

Évaluation de l’impact

• Grandes plateformes sociales: davantage exposées à la responsabilité juridique. L’amende potentielle par enfant accroît l’intérêt de changements prudents des produits et de garanties de sécurité documentées.
• Mineurs californiens et familles: effets contrastés. Des protections renforcées pourraient s’accompagner de davantage de vérifications d’âge, de moins de fonctionnalités personnalisées et d’un accès inégal selon les services.
• Petits développeurs d’IA: désavantagés si les évaluations préalables au lancement deviennent coûteuses ou longues.
• Auditeurs indépendants de l’IA: potentiels gagnants si la Californie crée un registre opérationnel et une demande d’évaluations.
• Annonceurs: situation incertaine. Un engagement adolescent moins personnalisé pourrait affaiblir le ciblage, mais l’effet dépendra de l’ampleur des changements apportés aux fils par les plateformes.

Scénarios

Le plus probable

Notre perspective (spéculation éclairée): les plateformes mettent en place des contrôles d’âge, des ajustements des fils et une documentation de conformité propres à la Californie, tout en maintenant la plupart de leurs services accessibles. Les développeurs d’IA ajoutent des examens de la sécurité des enfants avant les lancements, ce qui favorise les entreprises disposant déjà d’équipes chargées de la conformité.

Ce scénario est plus probable si la Californie établit des règles d’application opérationnelles et si les entreprises peuvent réduire leur responsabilité juridique grâce à des garanties documentées sans supprimer les fonctionnalités essentielles.

Scénario favorable

Si la vérification de l’âge fonctionne de manière fiable et que des auditeurs indépendants sont disponibles, les plateformes pourraient réduire les mécanismes d’engagement nuisibles sans limiter largement les communications ordinaires. Les audits pourraient repérer les risques des chatbots avant leur lancement, et d’autres autorités pourraient adopter des exigences similaires.

Scénario défavorable

Si l’application des règles reste vague et que les amendes paraissent financièrement lourdes, les plateformes pourraient retirer ou fragmenter leurs services destinés aux adolescents en Californie. Les petits développeurs de chatbots pourraient retarder leurs lancements ou exclure l’État, tandis que les annonceurs bénéficieraient d’un accès moins prévisible aux jeunes publics.

Les prochains éléments à surveiller

• Les directives californiennes définissant les pratiques couvertes liées aux fils addictifs et les évaluations des risques des chatbots.
• Les annonces de Meta et d’autres plateformes concernant les changements apportés aux fils destinés aux adolescents, à la vérification de l’âge ou à la disponibilité en Californie.
• L’apparition de nouveaux chatbots accompagnés d’évaluations documentées des risques pour la sécurité des enfants.
• La création par la Californie de son registre d’auditeurs de l’IA financièrement indépendants.