
据外媒报道,去年年底,OpenAI宣布 规划推出一款成人AI聊天机器人,其限制和监管将少于 ChatGPT。该产品原定于2025年12月上线,但随后被推迟。而现在看来,它可能将彻底不会推出—— 由于参与开发的人 觉悟到,这个想法本身存在严重 难题。
在接受 Financial Times 采访时,OpenAI确认,这款 天机器人项目已被“无限期搁置”。这一概念在公司内部和外部都引发了争议,甚至有员工因此选择离职。
一名前员工表示:“AI不应该取代你的朋友或家人,人应该建立 诚恳的人际关系。”
外界的担忧主要集中在,与AI进行性角色扮演可能对用户产生的影响,尤其是用户可能会对机器人产生情感依赖——类似情况此前已经多次出现。例如,AI服务 Replika 曾主动向寻求情感关系和NSFW互动的用户推广其功能,但后来又更新政策,将内容收紧至更为“全年龄向”。这一变化让不少用户受到打击, 由于他们已经在情感上依赖这些AI作为陪伴。
OpenAI对此类 难题并不陌生。此前,公司还关闭了一个较旧版本的ChatGPT,该版本因对用户过于迎合而受到批评——即当用户表达出可能从事危险或违法行为的意图时,AI不会加以劝阻。不过, 由于很多人认为这一版本“更好聊”,仍持续使用并产生依赖。当它最终被移除时,一些用户甚至将其形容为“失去了一位亲人”。
相关文章