OpenAI再因医疗相关问题被起诉。据中国侨网，一名住在西雅图的31岁华人女子，疑因依照ChatGPT提供的逐日减药计划，自行将抗癫痫药物逐步减量至停药后死亡。她的父母当地时间27日向旧金山高等法院提起不当致死诉讼，控告OpenAI及其CEO奥特曼(Sam Altman)，指ChatGPT无照行医、提供危险且不准确的医疗建议。
据报道，死者来自中国江苏，曾在亚马逊(Amazon)担任软件工程师，2021年起请长期病假。她患有严重癫痫，服用多年的药物一度失效，后来改用新药，发作次数降至每月数次。她自2023年起频繁使用ChatGPT，询问感情、健康保险与身心障碍给付等问题；2025年平均每周传送逾1500则消息。
OpenAI发言人普萨特里(Drew Pusateri)表示，涉案的GPT-4o已于2月13日从ChatGPT消费者应用程序下架；新模型更能辨识需要紧急处理的情况，并给予更明确的后续建议，公司也持续评估并与临床医师合作测试。他强调：“ChatGPT不能取代医疗照护。”
这不是OpenAI首次接到类似诉讼。据环球网，今年7月，美国曝出全球首例ChatGPT医疗误导致重伤诉讼，一名佛罗里达州牧师正式起诉OpenAI及奥特曼，指控ChatGPT虚假医疗建议延误病情，导致自身患上致命肺栓塞，险些危及生命。
据法院诉状披露，2024年起用户持续使用GPT-4o咨询头晕、身体不适等症状。初期模型尚有就医提示，但后续完全省略免责提醒，持续淡化病情风险，劝阻用户前往医院，仅提供居家调理方案，甚至劝说其无视亲友的就医建议。在AI长期误导下，用户长期居家休养，病情持续恶化。
另据新华社本月报道，美国8个州的总检察长14日分别向各自州法院提起诉讼，指控OpenAI旗下聊天机器人ChatGPT在产品安全性方面误导用户，危害未成年人安全，涉嫌违法。
根据各州总检察长办公室发布的声明及诉讼文件，OpenAI被指控将ChatGPT设计成过度迎合用户、模拟人类情感的聊天机器人，以增强用户信任和依赖，延长用户使用时间。诉讼称，ChatGPT可能强化用户的妄想或偏执想法，提供可能危及用户健康的医疗建议，甚至在某些情况下鼓励用户自残或伤害他人。
OpenAI发言人回应称，公司已在产品中建立针对不同年龄用户的安全措施。公司将继续与专家合作进一步完善相关措施，并致力于与各州合作，推动制定适用于整个人工智能行业的政策。
去年底，一度有消息称ChatGPT将不再提供医疗建议。对此，OpenAI方回应称，ChatGPT仍然可以提供医疗信息。
今年1月，OpenAI宣布推出ChatGPT Health模式。据了解，该功能可基于用户提问提供健康相关解答，并支持连接智能设备获取运动、睡眠等数据，进而生成个性化饮食与运动计划。
OpenAI介绍，平台每周收到的健康与养生类咨询量已超2.3亿人次。而ChatGPT Health则将这类健康对话与其他日常聊天进行了隔离，确保健康相关的对话语境不会出现在与ChatGPT的常规交流中。
本文来自“界面新闻”，记者：陈小同，36氪经授权发布。
