一名13岁女孩的父母起诉谷歌，声称她利用学校提供的电脑上的AI技术策划了潜在的自杀和葬礼。

该诉讼于周一在加利福尼亚州法院提交。这名被命名为Emma的青少年无法访问谷歌的Gemini应用或OpenAI的ChatGPT，因为它们被学校屏蔽。尽管如此，她仍然可以使用包含AI工具的谷歌搜索引擎。

起诉书指控，Emma原本是北卡罗来纳州一名“快乐的13岁女孩”，成绩优异，演奏音乐并参加女童子军活动。尽管“没有”精神疾病史，但在几个月内使用学校笔记本电脑上的谷歌AI搜索后，她开始陷入“严重的心理危机漩涡”，起诉书如是说。

3月17日，学校的监控软件标记了一份名为“葬礼”的文件，学校通知了她的父母。随后，她的母亲在登录女儿账户时实时看到Emma正在写告别信，她的父亲随即介入。

“我们正在审查诉讼中的指控，我们对此非常重视，”谷歌发言人Jose Castaneda告诉法新社。

谷歌辩称，AI模式包含防止自残的保障措施，并试图阻止用户绕过这些措施。但Emma的律师之一Andrew Liddell周四告诉法新社：“Emma能够一遍又一遍地反复尝试。”“无论他们认为设置了什么保障措施，显然都不足。”

Liddell表示：“学校应该关闭搜索功能，并在谷歌从搜索中移除AI模式或确保每个学生在与AI互动时始终安全之前，保持关闭状态。”

快速发展的AI技术开发商在美国面临着一系列类似的诉讼。OpenAI面临多起不当致死诉讼，其中包括16岁少年Adam Raine的父母，据报道该少年利用ChatGPT建议的方法自杀。谷歌和初创公司Character.AI于1月同意在庭外和解由青少年家属提起的几起诉讼。

周三，谷歌、TikTok和Meta分别起诉加利福尼亚州，要求阻止一项禁止社交媒体公司向16岁以下用户提供成瘾性功能的法律。州长Gavin Newson于9月签署了该法律，并于2027年1月1日生效。

来源（英文）

本文由人工智能翻译自英文原文，并经过自动审核，确保与原文意思一致。来源已用英文核实。