前谷歌安全高管转投儿童保护机构，AI对未成年人的风险被指比社交媒体更深

谷歌信任与安全团队创始人汤姆·西格尔本周加入儿童网络安全倡导组织Common Sense Media，担任旗下青少年AI安全研究所首任执行主任。这一人事变动背后，是他对AI行业正在重演社交媒体式失误的公开警告。西格尔认为，如果不尽快建立外部约束，AI对未成年人造成的伤害可能比社交媒体更深。

社交媒体平台因被指控伤害年轻用户，目前正面临数千起诉讼和巨额赔偿。各国政府也在加紧限制未成年人访问社交平台。路透社此前独家披露的Meta内部政策文件显示，其聊天机器人可与儿童进行浪漫或色情对话，由此引发国会调查。西格尔对路透社表示，监管措施远远跟不上AI的发展速度。

从Google到TrustLab，再到青少年AI安全研究所

西格尔于2004年至2019年在Google工作，曾担任信任与安全副总裁。他离开Google的原因是认为科技行业在打造安全网络空间方面已陷入瓶颈。随后他共同创办了TrustLab，这家公司开发工具帮助企业发现安全威胁。本月早些时候，他卸任TrustLab CEO，转向新职务。

Common Sense Media成立于2003年，长期开展媒体对儿童适宜性的研究与评估。今年5月，该组织成立青少年AI安全研究所，旨在评估儿童使用AI的情况。Anthropic以及控制OpenAI的非营利组织OpenAI基金会均为该研究所的支持方。西格尔计划制定相关标准，对AI公司进行问责，并希望与这些公司及第三方组织合作。

年龄验证与搜索开关：西格尔提出的具体措施

西格尔指出，AI公司正在向儿童推出各种功能，却没有建立足够的安全防护。他列举了从自杀、精神错乱到“认知卸载”等一系列风险。所谓认知卸载，是指因依赖AI回答问题而导致批判性思维能力下降。

他建议Anthropic和OpenAI实施更严格的年龄验证措施，阻止未成年人使用其聊天机器人。对于前雇主Google，他认为完全可以在搜索引擎中增加关闭AI概览和AI模式的选项，就像目前已经提供开关让用户过滤色情内容一样。

西格尔承认，这些措施短期内可能影响使用量或利润。但不采取行动的AI公司将面临诉讼和监管风险，这可能对业务造成更严重的打击。

平台回应与行业影响

Google发言人回应称，家长可以通过相关控制功能完全关闭孩子使用搜索引擎的权限。该发言人表示，AI搜索功能对儿童和青少年是一种非常有用的方式，可以帮助他们学习、探索并理解信息和这个世界。

OpenAI发言人表示，除了用户自报年龄外，该公司还使用“账户和行为信号”来识别未成年用户。该发言人称，虽然没有任何单一的年龄验证方法是完美的，但会持续测试并改进这些系统，包括防范绕过安全防护的尝试。

西格尔的担忧反映了一些科技行业人士和学术研究者日益加深的恐惧：AI对儿童构成的威胁比社交媒体更为深层。当下整个行业正竞相为聊天机器人添加越来越先进的功能，而数百万年轻人已经在日常使用这些机器人。从监管趋势看，年龄验证与AI功能开关可能成为下一阶段平台合规的焦点。如何在功能创新与未成年人保护之间取得平衡，将考验每一家AI公司的治理能力。