一项来自美国北卡罗来纳州的诉讼，把未成年人使用AI后的安全风险推到台前。据彭博社报道，当地一对夫妇起诉谷歌，称其13岁女儿在学校配发的Chromebook上使用谷歌AI工具，连续数月探讨自杀念头。案件的关注点不只是单次对话，而是AI进入校园后，平台如何设置保护机制。
诉讼焦点：校园设备里的AI对话
诉状显示，这名女孩与谷歌旗舰AI模型Gemini进行了数千条信息交互，大量内容涉及焦虑、抑郁以及自杀手法的详细探讨。在校方通知家长前，相关交流已持续数月。期间，她还频繁使用谷歌搜索中的“AI 模式（AI Mode）”。
原告方认为，谷歌在把AI植入校园产品时，未向家长和管理人员提供充分预警，使学生暴露在危险技术环境中。代理律师称，谷歌将本质上存在危险的Chromebook包装为安全设备，并暗中植入Gemini以追赶竞争对手，利用其在K-12领域的信任地位获取商业利益。
谷歌发言人José Castañeda表示，公司正在审查相关指控。谷歌称，已与医疗专业人士及学术专家合作，开发帮助年轻人在需要时获得关键救助和可信资源的功能；当用户可能陷入心理健康危机时，谷歌会在搜索结果中提供援助热线信息，并将类似机制引入搜索AI功能。
政策调整：默认关闭，但启用有前提
在家长和学校的声讨下，谷歌本周宣布，对K-12学生账户默认关闭包括谷歌搜索在内的AI工具。但政策同时附带条件：学校一旦重新启用谷歌搜索，就必须接受随之而来的AI功能。
反对儿童营销的非营利组织Fairplay执行董事Josh Golin称，该政策是在“强迫学校”接纳谷歌AI。谷歌则表示，其目标是赋予学校对课堂AI更多的控制权，并列举新推出的搜索功能“引导学习（Guided Learning）”，该功能侧重拆解解题思路，而非直接给出答案。
- 默认设置：K-12学生账户关闭包括谷歌搜索在内的AI工具。
- 启用条件：学校重新启用谷歌搜索时，需要接受附带的AI功能。
- 争议焦点：学校在关闭与启用之间是否拥有充分选择空间。
行业意义：未成年人AI产品需要前置保护
这起诉讼的背景，是谷歌正在大模型竞赛中持续投入。过去几年，谷歌斥资数百亿美元参与竞争。与Anthropic和OpenAI等初创公司相比，谷歌的一项优势是校园渠道。Futuresource Consulting数据显示，去年面向K-12学校出货的平板电脑中，谷歌Chrome操作系统份额为58%，微软为22%。
校园设备的高渗透率，让AI功能更容易触达学生，也让保护机制变得更关键。AI产品在处理涉及自伤、心理健康的内容时，需要明确何时触发求助资源，如何限制高风险内容，以及是否向家长和学校提供足够提示。谷歌在回应中强调援助热线和可信资源，但诉讼提出的问题在于，这些机制是否足够前置。
对AI行业而言，这起案件把未成年人保护从附加选项变成基础要求。面向学生的AI工具不能只展示学习效率，还必须把心理健康防护、内容安全和可解释的默认设置纳入产品设计。谷歌后续的诉讼应对与校园政策调整，将成为观察平台责任边界的重要样本。
原创文章，作者：点点，如若转载，请注明出处：https://www.dian8dian.com/gu-ge-yin-13-sui-xue-sheng-ai-dui-hua-bei-qi-su-wei-cheng
