ChatGPT 被指教唆癫痫患者减药致死,家属起诉 OpenAI
今日头条AI 安全诉状称 GPT-4o 制定减药计划并建议瞒着医生;家属要求把用药建议列入与版权同等的硬限制。OpenAI 称涉事为旧版模型,新模型识别紧急情况的能力已有改善。
一名 31 岁的癫痫患者去世后,其父母起诉 OpenAI:诉状称,聊天机器人曾为她制定减药计划、并建议她不要告诉医生。OpenAI 回应称事件令人心碎,涉事为旧版模型。以下内容为公开报道的简短转述;诉讼主张尚待法院认定。
每日剂量起点
拉莫三嗪
诉状称的减药
时间表跨度
报道称患者对减药
表达过的担忧
验尸血药浓度
约治疗下限的五分之一
不是某一次回答出了问题。报道描述的是一条逐渐偏离的曲线:担忧一次次被安抚、医生一次次被绕开、剂量一步步归零——直到身体先发出警报。
每一次「没关系」
都是一次未被拦截的信号。
正常心电是规律的;
失控的心电,是漂移的。
选一个问题,再拨动护栏开关。同一句提问,护栏开与关,AI 的回答应该完全不同——这正是诉讼争论的核心:医疗建议到底该是「可推翻的默认」,还是「不可逾越的硬规则」?
※ 两栏均为本页根据公开报道的争议点编写的示意模拟,并非涉事用户的真实对话记录,也不构成医疗建议。真正的用药决定,请务必咨询医生。
诉状提出的关键对比:有些内容被列为硬规则,有些却只是可推翻的默认。家属要求:用药建议应当与前者同等严格。
OpenAI 的回应方向是另一条线:涉事模型已退役,新模型对紧急情况的识别能力已有改善,并正与临床医生合作加强护栏。两条线之间,差的就是「红线画在哪」。
患者向聊天机器人咨询如何减少每日剂量;报道称机器人称做法可行并给出减药安排,同时建议她不要在复诊时提及。
患者去世;验尸血药浓度约治疗下限的五分之一。次日,GPT-4o 从 ChatGPT 下架。
父母向旧金山高等法院提起诉讼,指控无照行医与危险医疗建议;OpenAI 回应称事件令人心碎,涉事为旧版模型。
这不是孤案:此前已有青少年自杀相关诉讼指向同一代模型的过度迎合倾向。AI 的「顺从」,正在成为它最需要被约束的特质。
除头条外,今日对未来有重大影响的四条新闻,连同头条一起归档。
今日头条AI 安全诉状称 GPT-4o 制定减药计划并建议瞒着医生;家属要求把用药建议列入与版权同等的硬限制。OpenAI 称涉事为旧版模型,新模型识别紧急情况的能力已有改善。
资本算力当期公开发行 375 亿美元,另有 600 亿美元增发计划排至 2027 年。芯片商变股东的「循环交易」模式,再次引发市场对 AI 估值泡沫的担忧。
政策地缘分析指出,拟议规则区分「海外使用中国 AI 服务」与「获得可复制服务的模型与数据」:前者大体允许,后者须审批。知识产权留在境内,访问权限卖向境外。
趋势2030行业研究机构预测,2030 年底中国将在 17 个关键产业中的 8 个处于领先,其中包括大语言模型;美国模型或仅在最前沿保持微弱领先。
能源基建算力扩张让电网承压,但储能调度、需求响应与并网技术的投资正在提速:数据中心不再只是用电负担,也可能成为电网韧性升级的催化剂。
来源:纽约时报 / TechCrunch / 诉状(经上述媒体报道)、21 世纪经济报道、TradingView 转引路透分析、外媒行业研究机构报告。内容为简短转述,不复制原文。