California aprueba leyes para proteger a los menores de los riesgos de las redes sociales y la IA

Qué cambió

Según informó AP News, el gobernador de California, Gavin Newsom, promulgó el jueves leyes que prohíben a las empresas tecnológicas ofrecer feeds adictivos a menores de 16 años, permiten imponer multas de hasta 1 millón de dólares por cada menor cuando se determine que las grandes plataformas sociales actuaron con negligencia y causaron daños a niños, y obligan a los operadores de chatbots de IA a realizar evaluaciones de riesgos antes de su lanzamiento.

El paquete legislativo se aprueba después de que Meta acordara pagar hasta 18.000 millones de dólares y reforzar las medidas de seguridad infantil tras una demanda presentada en 2023 por California y otros 28 estados. Otras leyes establecerán normas para evaluaciones independientes de la seguridad de los modelos de IA y crearán un registro de auditores financieramente independientes.

Por qué importa

California ha convertido una advertencia general sobre los daños en internet en un requisito para los productos. Ahora las plataformas tienen motivos para modificar la forma en que clasifican los feeds, verifican las edades y documentan sus decisiones de seguridad.

Esto importa sobre todo cuando un menor abre una aplicación o un chatbot. La experiencia podría volverse menos fluida: menos recomendaciones optimizadas para fomentar la interacción, más verificaciones de edad y más límites a lo que las empresas pueden lanzar sin una revisión. Meta sostiene que la personalización ayuda a los adolescentes a encontrar contenido pertinente y adecuado para su edad, por lo que la disputa girará en torno a si la seguridad exige menos personalización o simplemente mejores controles.

Los detalles siguen sin resolverse. El informe no especifica cómo definirá California un «feed adictivo», cómo hará cumplir las multas ni cómo evaluará las valoraciones de riesgos de los chatbots. Esas definiciones determinarán si las empresas introducen cambios específicos o abandonan ciertos servicios.

Cómo podrían extenderse los efectos

Si las plataformas se enfrentan a una aplicación significativa de la ley, podrían introducir configuraciones de feed específicas para California, sistemas más estrictos de verificación de edad y registros de cumplimiento más detallados. Eso podría reducir la interacción de los adolescentes impulsada por las recomendaciones.

Si disminuyen la interacción o la precisión de la segmentación, los anunciantes que buscan llegar a adolescentes californianos podrían trasladar parte de su inversión hacia la publicidad contextual, las inserciones de creadores o canales ajenos a los feeds sociales. Ese cambio haría que las campañas dirigidas a jóvenes dependieran menos de la capacidad de las plataformas para personalizar cada impresión.

Los desarrolladores de IA se enfrentan a un proceso de lanzamiento más lento y costoso. Las empresas grandes podrían asumir las revisiones adicionales con mayor facilidad, mientras que los desarrolladores pequeños podrían retrasar sus lanzamientos o evitar California. El nuevo registro de auditores podría generar trabajo para las empresas independientes de seguridad, siempre que las normas estatales dejen suficientes evaluadores cualificados en el mercado.

Evaluación del impacto

• Grandes plataformas sociales: Más expuestas a responsabilidades legales. La posible multa por cada menor aumenta el valor de introducir cambios prudentes en los productos y de documentar las medidas de protección.
• Menores y familias de California: Efectos mixtos. Una mayor protección podría ir acompañada de más verificaciones de edad, menos funciones personalizadas y un acceso desigual entre servicios.
• Desarrolladores pequeños de IA: En desventaja si las evaluaciones previas al lanzamiento se vuelven costosas o lentas.
• Auditores independientes de IA: Posibles beneficiarios si California crea un registro viable y aumenta la demanda de evaluaciones.
• Anunciantes: Situación incierta. Una menor interacción personalizada de los adolescentes podría debilitar la segmentación, pero el efecto dependerá de cuánto modifiquen las plataformas sus feeds.

Escenarios

Más probable

Nuestra previsión (especulación fundamentada): Las plataformas introducen controles de edad, ajustes del feed y documentación de cumplimiento específicos para California, al tiempo que mantienen disponibles la mayoría de sus servicios. Los desarrolladores de IA incorporan revisiones de seguridad infantil antes de los lanzamientos, lo que favorece a las empresas que ya cuentan con equipos de cumplimiento.

Esto es más probable si California establece normas de aplicación viables y las empresas pueden reducir su responsabilidad mediante medidas de protección documentadas sin eliminar funciones esenciales.

Al alza

Si la verificación de edad funciona de forma fiable y hay auditores independientes disponibles, las plataformas podrían reducir los patrones de interacción perjudiciales sin limitar ampliamente la comunicación cotidiana. Las auditorías podrían identificar los riesgos de los chatbots antes de su lanzamiento, y otras jurisdicciones podrían adoptar requisitos similares.

A la baja

Si la aplicación de la ley sigue siendo ambigua y las multas parecen financieramente muy severas, las plataformas podrían retirar o fragmentar los servicios para adolescentes en California. Los desarrolladores pequeños de chatbots podrían retrasar sus lanzamientos o excluir al estado, mientras que los anunciantes tendrían un acceso menos predecible a las audiencias jóvenes.

Qué observar a continuación

• Las directrices de California que definan las conductas comprendidas como feeds adictivos y las evaluaciones de riesgos de los chatbots.
• Los anuncios de Meta y otras plataformas sobre cambios en los feeds para adolescentes, la verificación de edad o la disponibilidad en California.
• La aparición de nuevos chatbots con evaluaciones documentadas de riesgos para la seguridad infantil.
• La creación por parte de California de su registro de auditores de IA financieramente independientes.