加州签署法律，保护儿童免受社交媒体和人工智能风险侵害

有哪些变化

根据美联社报道，加州州长加文·纽森周四签署法律，禁止科技公司向未满16岁的人提供容易上瘾的信息流；如果大型社交平台被认定因疏忽导致儿童受到伤害，可能面临每名儿童最高100万美元的处罚；同时要求人工智能聊天机器人运营商在产品上线前进行风险评估。

这组法律出台之际，Meta同意支付最高180亿美元，并在加州及另外28个州于2023年提起诉讼后加强儿童安全措施。此外，另行通过的法律还将为独立的人工智能模型安全评估制定规则，并建立财务独立审计员登记名录。

为什么重要

加州已将有关网络伤害的广泛警告转化为产品要求。平台现在有理由调整信息流的排序方式、年龄核验方式，以及安全决策的记录方式。

这些要求最直接地影响儿童打开应用或聊天机器人时的体验。使用过程可能不再那么顺畅：以提升互动为目标优化的推荐会减少，年龄核验会增加，而且公司未经审查即可推出的产品范围会受到更多限制。Meta表示，个性化推荐有助于青少年找到相关且适龄的内容，因此争论的焦点将是：安全是否意味着减少个性化，还是只需加强控制。

具体细节仍未确定。报道没有说明加州将如何界定“容易上瘾的信息流”、如何执行处罚，或如何评判聊天机器人的风险评估。这些定义将决定公司是进行有针对性的调整，还是退出某些服务。

影响可能如何扩散

如果平台面临有实质意义的执法，它们可能会推出加州专属的信息流设置、加强年龄核验，并建立更详尽的合规记录。这可能减少由推荐驱动的青少年互动。

如果互动率或定向精准度下降，面向加州青少年投放广告的广告主可能会将部分预算转向基于内容语境的广告、创作者主导的广告位，或社交信息流之外的渠道。这种转变将降低青少年营销活动对平台个性化匹配每一次广告展示能力的依赖。

人工智能开发者将面临更缓慢、成本更高的上线流程。大型公司可能更容易承担额外审查，而较小的开发者可能推迟发布，或避开加州。如果州政府制定的规则能让市场上保有足够多具备资质的评估人员，新的审计员登记名录可能为独立安全机构创造业务机会。

影响评估

• 大型社交平台：面临更高的责任风险。按每名儿童计算的潜在处罚，提高了采取保守产品调整和记录安全措施的价值。
• 加州未成年人及其家庭：影响复杂。更强的保护可能伴随更多年龄核验、更少的个性化功能，以及不同服务之间不一致的使用权限。
• 较小的人工智能开发者：如果上线前评估变得昂贵或缓慢，将处于不利地位。
• 独立人工智能审计员：如果加州建立可行的登记名录，并形成对评估服务的需求，他们可能成为潜在受益者。
• 广告主：处境尚不确定。个性化程度降低的青少年互动可能削弱定向投放效果，但最终影响取决于平台对信息流作出多大调整。

情景分析

最有可能的情景

我们的展望（基于现有信息的推测）：平台推出加州专属的年龄控制、信息流调整和合规记录，同时保留大多数服务。人工智能开发者在产品上线前增加儿童安全审查，使已有合规团队的公司更具优势。

如果加州提供可执行的执法规则，且公司能够通过记录在案的安全措施降低责任风险，而无需删除核心功能，这种情景更有可能出现。

上行情景

如果年龄核验能够可靠运行，且市场上有足够的独立审计员，平台可能在不广泛限制日常交流的情况下，减少有害的互动模式。审计可以在聊天机器人发布前识别风险，其他司法辖区也可能采纳类似要求。

下行情景

如果执法标准仍然模糊，且处罚看起来会造成严重的财务影响，平台可能会撤回在加州提供的青少年服务，或将其拆分。较小的聊天机器人开发者可能推迟发布或排除加州，广告主则会面临更难预测的年轻受众触达机会。

接下来关注什么

• 加州发布指导文件，界定受监管的“容易上瘾的信息流”行为和聊天机器人风险评估。
• Meta及其他平台宣布调整青少年信息流、年龄核验方式或在加州的服务可用性。
• 出现附有儿童安全风险评估记录的新聊天机器人。
• 加州建立财务独立的人工智能审计员登记名录。