2
1
0
数百名用户把 ChatGPT 当成了毒药和生物武器咨询台，而且有人真的拿到了逐步指南。
《华尔街日报》披露，自 2025 年夏季以来，相关提问已有数百起。生物武器与反恐专家复核部分记录后认为，有些回答准确且足够具体，普通高中生也可能照着操作。
btc
(
twitter.com
)
由
TechFlow 深潮｜APP 已上线
提交
数百名用户把 ChatGPT 当成了毒药和生物武器咨询台，而且有人真的拿到了逐步指南。
《华尔街日报》披露，自 2025 年夏季以来，相关提问已有数百起。生物武器与反恐专家复核部分记录后认为，有些回答准确且足够具体，普通高中生也可能照着操作。
其中一名用户甚至在对话中提到想伤害自己的父母，ChatGPT 仍继续提供了回答。
后来 OpenAI 封禁了这些账户，却没有向执法部门报告。美国目前也没有联邦法律强制 AI 公司上报这类对话。相关用户究竟在测试模型、单纯猎奇，还是准备付诸行动，目前无法确认，也没有公开证据显示有人真的制造了武器。
OpenAI 已将 GPT-5 Thinking 按生物与化学领域的「高能力」模型管理。聊天内容会经过自动检测和人工复核，违规用户会被封禁。
但官方规则同时写着，只有被判断为存在「迫在眉睫且可信」的现实伤害风险，才会通知执法部门。
点击图片查看原图
Markdown支持
评论加载中...
您可能感兴趣的：
3
341
340
340
4
526
525
525
5
85
84
84
8
177
176
176
15
101
100
100
21
457
456
456
22
187
186
186
23
153
152
152
