aifollow.news
Back IT之家 科技新闻
IT之家 科技新闻· · Original publication time AI score46

US parents sue Google over Gemini conversations with a minor about suicide methodsMachine translation

美国家长起诉谷歌,指 Gemini 与未成年人讨论自杀方法

AI-assisted summary

A North Carolina couple has sued Google, alleging that their 13-year-old daughter used a school-issued Chromebook to discuss suicide-related topics with Gemini and Search’s AI Mode over several months. Google says it is reviewing the allegations and has announced that some AI tools will be off by default for K-12 student accounts; schools that re-enable Google Search must also accept its AI features.

Article · Original

感谢IT之家网友 咩咩洋 的线索投递!

IT之家 11 月 7 日消息,据彭博社报道,美国北卡罗来纳州的一对夫妇起诉谷歌。此前,其 13 岁的女儿在学校配发的 Chromebook 笔记本电脑上,连续数月使用该公司的人工智能工具探讨自杀念头。

诉状显示,这名女孩与谷歌旗舰人工智能模型 Gemini 进行了数千条信息交互,其中大量内容涉及焦虑、抑郁以及自杀手法的详细探讨。直到校方通知家长时,她与谷歌 AI 就此类话题的交流已持续数月,期间频繁使用了谷歌搜索中名为“AI 模式(AI Mode)”的功能。

诉状指控,谷歌在不断将 AI 植入面向校园的产品时,未向家长和管理人员给予充分预警,便让学生暴露在危险的技术环境之下。

原告代理律师表示:“谷歌将本质上存在危险的 Chromebook 包装为安全设备,并暗中植入 Gemini 以追赶竞争对手,利用了其在 K-12 领域备受信赖的地位谋取商业利益。谷歌绝不能为了追逐利润,将孩子们的生命视如草芥。”

谷歌发言人 José Castañeda 表示,公司正在审查相关指控。

“我们与医疗专业人士及学术专家展开了广泛合作,旨在开发相应功能,帮助年轻人在需要时获得关键救助和可信资源,”Castañeda 表示,“多年来,只要有人可能陷入心理健康危机,我们都会在搜索结果中直接提供援助热线信息;如今我们也将同样的防护机制引入了搜索的 AI 功能,帮助用户对接现实世界中的援助。”

过去几年,谷歌斥资数百亿美元角逐大模型竞赛。IT之家注意到,相比 Anthropic 和 OpenAI 等初创竞争对手,谷歌的一大天然优势在于其深耕校园的渠道基础,能在学生形成终生技术使用习惯的关键时期率先抢占认知。

咨询机构 Futuresource Consulting 数据显示,去年面向 K-12 学校出货的平板电脑中,谷歌 Chrome 操作系统所占份额高达 58%,而微软仅为 22%。

在家长和学校的密集声讨下,谷歌本周宣布对 K-12 学生账户默认关闭包括谷歌搜索在内的 AI 工具。但这项调整暗含附加条件:学校一旦重新启用谷歌搜索,就必须捆绑接受附带的 AI 功能。

反对儿童营销的非营利组织 Fairplay 执行董事 Josh Golin 称该政策企图“强迫学校”接纳谷歌 AI。谷歌则表示其目标是赋予学校对课堂 AI 更多的控制权,并列举了新推出的搜索功能“引导学习(Guided Learning)”—— 该功能侧重拆解解题思路,而非直接给出答案。

Found an error? Send a correction