Kalifornië onderteken wette om kinders teen sosiale media- en KI-risiko’s te beskerm

Wat het verander

Volgens AP News se beriggewing het Gavin Newsom, goewerneur van Kalifornië, Donderdag wette onderteken wat tegnologiemaatskappye verbied om feeds wat verslawend ontwerp is aan enigiemand jonger as 16 te bied, boetes van tot $1 miljoen per kind toelaat wanneer groot sosialemediaplatforms nalatig bevind word en kinders skade berokken, en KI-kletsbotoperateurs verplig om risiko-evaluerings te doen voordat hulle bekendgestel word.

Die pakket volg op Meta se ooreenkoms om tot $18 miljard te betaal en maatreëls vir kinderveiligheid te versterk ná ’n regsgeding wat Kalifornië en 28 ander state in 2023 aanhangig gemaak het. Afsonderlike wette sal ook reëls instel vir onafhanklike veiligheidsevaluerings van KI-modelle en ’n register van finansieel onafhanklike ouditeure skep.

Waarom dit saak maak

Kalifornië het ’n breë waarskuwing oor aanlynskade in ’n produkvereiste omskep. Platforms het nou rede om te verander hoe feeds gerangskik word, hoe ouderdomme nagegaan word en hoe veiligheidsbesluite gedokumenteer word.

Dit is veral belangrik wanneer ’n kind ’n toepassing of kletsbot oopmaak. Die ervaring kan minder vlot wees: minder aanbevelings wat op gebruikersbetrokkenheid gemik is, meer ouderdomsverifikasie en meer beperkings op wat maatskappye sonder hersiening kan vrystel. Meta sê verpersoonliking help tieners om relevante inhoud wat by hul ouderdom pas, te vind. Die stryd sal dus gaan oor die vraag of veiligheid minder verpersoonliking vereis, of bloot beter beheermaatreëls.

Die besonderhede is nog nie uitgeklaar nie. Die verslag spesifiseer nie hoe Kalifornië ’n “verslawende feed” sal definieer, die boetes sal afdwing of kletsbot-risiko-evaluerings sal beoordeel nie. Daardie definisies sal bepaal of maatskappye geteikende veranderinge aanbring of van sekere dienste onttrek.

Hoe die uitwerking kan versprei

As platforms betekenisvolle afdwinging in die gesig staar, kan hulle feed-instellings spesifiek vir Kalifornië, sterker ouderdomsverifikasie en meer omvattende nakomingsrekords instel. Dit kan tienerbetrokkenheid wat deur aanbevelings aangevuur word, verminder.

As betrokkenheid of die akkuraatheid van teikening afneem, kan adverteerders wat Kaliforniese tieners wil bereik, ’n deel van hul besteding na kontekstuele advertensies, plasings deur inhoudskeppers of kanale buite sosiale feeds verskuif. Dié skuif sal jeugveldtogte minder afhanklik maak van platforms se vermoë om elke advertensievertoning te verpersoonlik.

KI-ontwikkelaars staan ’n stadiger en duurder bekendstellingsproses in die gesig. Groter maatskappye kan die ekstra hersienings dalk makliker absorbeer, terwyl kleiner ontwikkelaars bekendstellings kan uitstel of Kalifornië vermy. Die nuwe register van ouditeure kan werk vir onafhanklike veiligheidsfirmas skep, mits die staat se reëls genoeg gekwalifiseerde evalueerders in die mark laat.

Impakbeoordeling

• Groot sosialemediaplatforms: Meer blootgestel aan aanspreeklikheid. Die moontlike boete per kind verhoog die waarde van konserwatiewe produkveranderings en gedokumenteerde veiligheidsmaatreëls.
• Kaliforniese minderjariges en gesinne: Gemengde uitwerking. Sterker beskerming kan met meer ouderdomsverifikasie, minder verpersoonlikte funksies en wisselvallige toegang tot verskillende dienste gepaardgaan.
• Kleiner KI-ontwikkelaars: Benadeel indien voorbekendstellingsevaluerings duur of stadig word.
• Onafhanklike KI-ouditeure: Potensiële wenners indien Kalifornië ’n werkbare register en vraag na evaluerings skep.
• Adverteerders: Onsekere posisie. Minder verpersoonlikte tienerbetrokkenheid kan teikening verswak, maar die uitwerking hang daarvan af hoeveel platforms hul feeds verander.

Scenario’s

Mees waarskynlik

Ons vooruitsig (ingeligte bespiegeling): Platforms stel ouderdomsbeheer, feed-aanpassings en nakomingsdokumentasie spesifiek vir Kalifornië in, terwyl die meeste dienste beskikbaar bly. KI-ontwikkelaars voeg kinderveiligheidshersienings voor bekendstellings by, wat maatskappye met bestaande nakomingspanne bevoordeel.

Dit is meer waarskynlik indien Kalifornië werkbare afdwingingsreëls verskaf en maatskappye aanspreeklikheid kan beperk deur gedokumenteerde veiligheidsmaatreëls sonder om kernfunksies te verwyder.

Gunstige scenario

As ouderdomsverifikasie betroubaar werk en onafhanklike ouditeure beskikbaar is, kan platforms skadelike betrokkenheidspatrone verminder sonder om gewone kommunikasie breedweg te beperk. Oudits kan kletsbotrisiko’s voor vrystelling identifiseer, en ander jurisdiksies kan soortgelyke vereistes aanvaar.

Ongunstige scenario

As afdwinging vaag bly en boetes finansieel buitensporig voorkom, kan platforms tienerdienste in Kalifornië onttrek of versplinter. Kleiner kletsbotontwikkelaars kan bekendstellings uitstel of die staat uitsluit, terwyl adverteerders minder voorspelbare toegang tot jong gehore het.

Waarna om volgende op te let

• Riglyne van Kalifornië wat bepaal watter gedrag onder die reëls val en hoe verslawende feeds en kletsbot-risiko-evaluerings gedefinieer word.
• Aankondigings deur Meta en ander platforms oor veranderinge aan tienerfeeds, ouderdomsverifikasie of beskikbaarheid in Kalifornië.
• Nuwe kletsbotte wat verskyn met gedokumenteerde risiko-evaluerings vir kinderveiligheid.
• Kalifornië se skepping van ’n register van finansieel onafhanklike KI-ouditeure.