3月9日消息,据卫报报道,OpenAI承认,与其在其标志性人工智能产品中引入色情内容,不如优先处理更紧迫的事情,因此推迟了ChatGPT 成人模式的推出。
该初创公司的首席执行官Sam Altman去年宣布,OpenAI 将推出年龄检查功能,并允许成人内容。
然而,该公司现在表示,该计划已被推迟,以便优先满足更紧迫的需求,例如提高 ChatGPT 的性能。
OpenAI表示:我们推迟成人模式的推出,是为了能够专注于目前对更多用户而言更为重要的工作,包括提升智能水平、改进人格特质、实现个性化以及增强用户体验的主动性。
OpenAI旗下ChatGPT拥有超过9亿用户。“我们仍然坚持将成年人视为成年人的原则,但要打造完美的用户体验需要更多时间。”
自去年十月宣布计划放宽对 ChatGPT 的限制以来,奥特曼已宣布进入“红色警戒”状态,以应对来自谷歌和 Anthropic 等竞争对手的激烈竞争,力求改进这款聊天机器人。
与此同时,OpenAI 正在推出年龄预测工具,用于判断用户是否未满 18 岁。如果用户未成年,系统将启动额外的安全设置,减少用户接触暴力和性角色扮演内容的机会。
在英国,如果 ChatGPT 生成的图像被《网络安全法》认定为色情内容,OpenAI 需要通过严格的年龄检查来保护未成年用户免受此类内容的侵害。
另外,OpenAI 的一位高级经理因该公司与美国五角大楼达成的交易而辞职。
OpenAI 机器人部门硬件负责人 Caitlin Kalinowski 表示,她担心美国公民受到大规模监控,以及人工智能引导的机器执行自主杀戮。
卡利诺夫斯基在X网站上发表的一篇文章中写道:“这并非一个容易的决定。人工智能在国家安全中扮演着重要角色。但是,在缺乏司法监督的情况下监视美国公民,以及在未经人类授权的情况下赋予人工智能致命的自主权,这些界限理应得到更深入的探讨。”
卡利诺夫斯基表示她“非常尊重萨姆和团队”,并在随后的帖子中表示,她的问题是交易执行得太快。
“说得更清楚些,我的问题在于,这项公告发布得太仓促了,没有制定相应的保障措施。这首先是一个治理问题。这些问题太重要了,任何交易或公告都不能仓促发布,”她写道。
OpenAI 上周表示,在 Altman 承认该交易看起来“投机取巧且草率”之后,该公司将修改与美国战争部的合同,明确禁止将其技术用于大规模国内监控。
在五角大楼现有的 AI 承包商 Anthropic 被解雇后,OpenAI 几乎立即达成了这项交易。
OpenAI 的一位发言人表示:“我们相信,我们与五角大楼达成的协议为负责任地将人工智能用于国家安全开辟了一条可行的道路,同时明确了我们的红线:不进行国内监控,也不制造自主武器。
“我们认识到人们对这些问题持有强烈的看法,我们将继续与世界各地的员工、政府、民间社会和社区进行讨论。”(鞭牛士、AI普瑞斯编译)