Kalifornien unterzeichnet Gesetze zum Schutz von Kindern vor Risiken durch soziale Medien und KI

Was sich geändert hat

Nach Angaben von AP News hat der Gouverneur von Kalifornien, Gavin Newsom, am Donnerstag Gesetze unterzeichnet, die es Technologieunternehmen verbieten, Personen unter 16 Jahren süchtig machende Feeds anzubieten, Geldstrafen von bis zu 1 Million US-Dollar pro Kind ermöglichen, wenn großen sozialen Plattformen Fahrlässigkeit bei der Schädigung von Kindern nachgewiesen wird, und Betreiber von KI-Chatbots verpflichten, vor deren Einführung Risikobewertungen durchzuführen.

Das Gesetzespaket folgt auf Metas Vereinbarung, bis zu 18 Milliarden US-Dollar zu zahlen und die Maßnahmen zum Schutz von Kindern zu verstärken, nachdem Kalifornien und 28 weitere Bundesstaaten 2023 Klage eingereicht hatten. Weitere Gesetze sollen außerdem Regeln für unabhängige Sicherheitsbewertungen von KI-Modellen und ein Verzeichnis finanziell unabhängiger Prüfer schaffen.

Warum das wichtig ist

Kalifornien hat eine breit formulierte Warnung vor Schäden im Internet in eine Produktanforderung verwandelt. Plattformen haben nun einen Anreiz, die Rangfolge von Feeds, die Altersprüfung und die Dokumentation von Sicherheitsentscheidungen zu ändern.

Am wichtigsten ist das in dem Moment, in dem ein Kind eine App oder einen Chatbot öffnet. Die Nutzung könnte weniger reibungslos werden: weniger auf Interaktion optimierte Empfehlungen, mehr Altersprüfungen und strengere Grenzen dafür, was Unternehmen ohne vorherige Prüfung veröffentlichen dürfen. Meta erklärt, Personalisierung helfe Jugendlichen dabei, relevante und altersgerechte Inhalte zu finden. Daher wird es darum gehen, ob Sicherheit weniger Personalisierung oder lediglich bessere Kontrollmechanismen erfordert.

Die Einzelheiten sind weiterhin offen. Aus dem Bericht geht nicht hervor, wie Kalifornien einen „süchtig machenden Feed“ definieren, die Strafen durchsetzen oder Risikobewertungen von Chatbots beurteilen will. Diese Definitionen werden darüber entscheiden, ob Unternehmen gezielte Änderungen vornehmen oder sich aus bestimmten Diensten zurückziehen.

Wie sich die Auswirkungen ausbreiten könnten

Wenn Plattformen mit einer wirksamen Durchsetzung rechnen müssen, könnten sie kalifornienspezifische Feedeinstellungen, eine strengere Altersfeststellung und umfassendere Compliance-Dokumentationen einführen. Das könnte die durch Empfehlungen gesteuerte Interaktion von Jugendlichen verringern.

Wenn Interaktion oder Zielgenauigkeit sinken, könnten Werbetreibende, die kalifornische Jugendliche erreichen wollen, einen Teil ihrer Ausgaben in kontextbezogene Werbung, Platzierungen bei Creators oder Kanäle außerhalb sozialer Feeds verlagern. Dadurch wären Kampagnen für junge Zielgruppen weniger davon abhängig, dass die Plattformen jeden einzelnen Werbekontakt personalisieren können.

Für KI-Entwickler wird der Einführungsprozess langsamer und teurer. Größere Unternehmen können die zusätzlichen Prüfungen möglicherweise leichter auffangen, während kleinere Entwickler Veröffentlichungen verschieben oder Kalifornien meiden könnten. Das neue Prüferverzeichnis könnte unabhängigen Sicherheitsunternehmen Aufträge verschaffen, sofern die Regeln des Bundesstaats genügend qualifizierte Prüfer auf dem Markt vorsehen.

Folgenabschätzung

• Große soziale Plattformen: Sie sind stärker haftungsgefährdet. Die mögliche Strafe pro Kind erhöht den Wert vorsichtiger Produktänderungen und dokumentierter Schutzmaßnahmen.
• Minderjährige und Familien in Kalifornien: Gemischte Auswirkungen. Ein stärkerer Schutz könnte mit mehr Altersprüfungen, weniger personalisierten Funktionen und einem uneinheitlichen Zugang zu verschiedenen Diensten einhergehen.
• Kleinere KI-Entwickler: Im Nachteil, wenn Bewertungen vor der Einführung teuer oder zeitaufwendig werden.

-Unabhängige KI-Prüfer: Potenzielle Gewinner, wenn Kalifornien ein praktikables Verzeichnis und eine ausreichende Nachfrage nach Bewertungen schafft.

• Werbetreibende: Ihre Lage ist ungewiss. Eine weniger personalisierte Interaktion mit Jugendlichen könnte die Zielgruppenansprache schwächen, doch die Auswirkungen hängen davon ab, wie stark die Plattformen ihre Feeds verändern.

Szenarien

Am wahrscheinlichsten

Unsere Einschätzung (informierte Spekulation): Plattformen führen kalifornienspezifische Alterskontrollen, Anpassungen der Feeds und Compliance-Dokumentationen ein, halten die meisten Dienste aber weiterhin verfügbar. KI-Entwickler ergänzen vor der Einführung Prüfungen zum Schutz von Kindern, was Unternehmen mit bereits vorhandenen Compliance-Teams begünstigt.

Das ist wahrscheinlicher, wenn Kalifornien praktikable Regeln für die Durchsetzung erlässt und Unternehmen ihre Haftung durch dokumentierte Schutzmaßnahmen verringern können, ohne zentrale Funktionen zu entfernen.

Positives Szenario

Wenn die Altersfeststellung zuverlässig funktioniert und unabhängige Prüfer verfügbar sind, könnten Plattformen schädliche Interaktionsmuster verringern, ohne die normale Kommunikation umfassend einzuschränken. Prüfungen könnten Risiken von Chatbots vor deren Veröffentlichung erkennen, und andere Rechtsordnungen könnten ähnliche Anforderungen übernehmen.

Negatives Szenario

Wenn die Durchsetzung unklar bleibt und die Strafen als finanziell sehr schwerwiegend erscheinen, könnten Plattformen Dienste für Jugendliche in Kalifornien einstellen oder aufspalten. Kleinere Chatbot-Entwickler könnten Einführungen verschieben oder den Bundesstaat ausschließen, während Werbetreibende einen weniger verlässlichen Zugang zu jungen Zielgruppen hätten.

Worauf als Nächstes zu achten ist

• Leitlinien aus Kalifornien zur Definition des erfassten Verhaltens bei süchtig machenden Feeds und zu Risikobewertungen von Chatbots.
• Ankündigungen von Meta und anderen Plattformen zu Änderungen an Feeds für Jugendliche, zur Altersfeststellung oder zur Verfügbarkeit in Kalifornien.
• Neue Chatbots mit dokumentierten Risikobewertungen zum Schutz von Kindern.
• Die Einrichtung des Verzeichnisses finanziell unabhängiger KI-Prüfer durch Kalifornien.