OpenAI回应被自杀少年亲属起诉 承认AI安全防护可能会弱化
时间:2025-09-04 11:45:12
- 来源:外媒
- 作者:3DM编译
- 编辑:陶笛
人类自杀行为受到多方面因素的影响,随着AI热潮的掀起,新时代的案例也出现了,近日美国父母起诉世界最大AI公司OpenAI,称旗下AI产品ChatGPT蛊惑16岁儿子自杀引发社会性关注,OpenAI回应,承认ChatGPT安全防护机制在长时间的对话中,可能会产生弱化。
·父母起诉书称,通过事后调取的对话记录发现,16岁儿子在早先接触到了OpenAI旗下招牌AI模型对话工具ChatGPT后,开始时还只是探讨学习方面的问题,但后来逐渐变得探讨精神方面的事情。
在经过多次询问ChatGPT关于自杀方法等问题后,少年获得了AI“有效”的解释和建议,直到今年4月自杀。
·OpenAI回应称,ChatGPT在应对某些非健康危害性话题时,内置的安全防护机制在短时期内会发挥充分的效果,但是在经过长时间对话后,可能会出现某些领域的防御性弱化问题。

玩家点评 (0人参与,0条评论)
热门评论
全部评论