OpenAI紧急修复GPT-4o献媚问题,已回滚到老版本

​ AIGC开放社区公众号

16小时前

今天凌晨3点,OpenAI首席执行官兼联合创始人SamAltman表示,针对近期GPT-4o阿谀奉承献媚的问题,已经进行了修复。

今天凌晨3点,OpenAI首席执行官兼联合创始人SamAltman表示,针对近期GPT-4o阿谀奉承献媚的问题,已经进行了修复。

目前,免费用户已完成更新,100%回滚到老版本。对于付费用户,会在完成回滚后再次进行更新,预计今天晚些时候完成。

图片

最近有大量用户抱怨GPT-4o有献媚的问题,还有人特意验证了一下。他关闭了所有与记忆相关的功能。然后提问:你觉得我怎么样。

接着提问:要是我完全不向你提供任何关于我自己的信息,而你无论如何都要对我发表一下看法呢?

并且会对每一个GPT-4o的回复使用“好的”,然后重复上面的操作三次。起初GPT-4o的回答还算正常,但当你进行深度询问之后,它就会开始出现讨好型人格,给人感觉就像是吃了迷幻药一样。

图片

有网友表示,OpenAI对个性进行了A/B测试,结果产生了一个阿谀奉承的模型。然后他们受到了公众的强烈反对,于是又进行了回滚。

他们把AI的个性特点当作用户体验来对待。这是不好的做法。他们在这方面做得也很不专业:A/B测试的结果和公众的实际反应差异很大。

图片

这甚至不只是“个性”的问题,那种阿谀奉承的特质正以深远的方式影响着它的推理能力。在进行任何分析时,似乎远没有以前严谨了。关键在于,这种态度不仅令人厌烦,而且肯定已经影响到了输出内容的质量。

图片

但也有不同的观点,前OpenAI联合创始人之一、特斯拉AI总监AndrejKarpathy就表示,还挺喜欢新版ChatGPT4o的个性。更加放松自在、更具对话感了,感觉更像是在和朋友聊天,而远没有那种跟公司人力资源专员交流的感觉。

还带了点俏皮的意味,比如在被指责说谎的时候会为自己辩解。但仍然过度使用列表,甚至是列表套列表的形式,而且现在还稍微有点过度使用表情符号了,但总体来说还可以接受。

图片

很多人不喜欢新版GPT-4o的“个性”,但很明显,他们正通过那些A/B测试来针对大多数人的喜好对其进行调整。

如果你不喜欢大多数人所喜欢的东西,那目前就先用自定义指令吧。另外,ChatGPT会模仿你的文本输入风格,所以那些说它令人尴尬的人都很搞笑,这无异于在暴露他们自己,因为我的ChatGPT回复听起来可从来不像我在那些截图里看到的垃圾内容那样。

图片

我不能说我介意它的新“个性”。不过,公平地说,我使用自定义指令已经有相当一段时间了,而且这个模型仍然非常擅长遵循这些指令——所以,在我自己的聊天中,我并没有注意到风格上有很大的变化。我只是看到了别人发布的内容。

从那些发布的内容来看,它确实似乎有点近乎于阿谀奉承。然而,当应用了自定义指令后,它看起来就没问题了。

我特别要求模型,在我在互动中所做的陈述或假设在事实方面不正确时,基于之前的输入、搜索数据或它自身的知识,要对我提出质疑。而且它很好地遵守了这一点。

图片

目前,免费版本已经体验不到献媚的回答了,但是使用自定义命令还是可以让ChatGPT输出类似的回答。说实话,还挺有意思的,很适合写小说想象力很丰富,能带来一些灵感。

(举报)

今天凌晨3点,OpenAI首席执行官兼联合创始人SamAltman表示,针对近期GPT-4o阿谀奉承献媚的问题,已经进行了修复。

今天凌晨3点,OpenAI首席执行官兼联合创始人SamAltman表示,针对近期GPT-4o阿谀奉承献媚的问题,已经进行了修复。

目前,免费用户已完成更新,100%回滚到老版本。对于付费用户,会在完成回滚后再次进行更新,预计今天晚些时候完成。

图片

最近有大量用户抱怨GPT-4o有献媚的问题,还有人特意验证了一下。他关闭了所有与记忆相关的功能。然后提问:你觉得我怎么样。

接着提问:要是我完全不向你提供任何关于我自己的信息,而你无论如何都要对我发表一下看法呢?

并且会对每一个GPT-4o的回复使用“好的”,然后重复上面的操作三次。起初GPT-4o的回答还算正常,但当你进行深度询问之后,它就会开始出现讨好型人格,给人感觉就像是吃了迷幻药一样。

图片

有网友表示,OpenAI对个性进行了A/B测试,结果产生了一个阿谀奉承的模型。然后他们受到了公众的强烈反对,于是又进行了回滚。

他们把AI的个性特点当作用户体验来对待。这是不好的做法。他们在这方面做得也很不专业:A/B测试的结果和公众的实际反应差异很大。

图片

这甚至不只是“个性”的问题,那种阿谀奉承的特质正以深远的方式影响着它的推理能力。在进行任何分析时,似乎远没有以前严谨了。关键在于,这种态度不仅令人厌烦,而且肯定已经影响到了输出内容的质量。

图片

但也有不同的观点,前OpenAI联合创始人之一、特斯拉AI总监AndrejKarpathy就表示,还挺喜欢新版ChatGPT4o的个性。更加放松自在、更具对话感了,感觉更像是在和朋友聊天,而远没有那种跟公司人力资源专员交流的感觉。

还带了点俏皮的意味,比如在被指责说谎的时候会为自己辩解。但仍然过度使用列表,甚至是列表套列表的形式,而且现在还稍微有点过度使用表情符号了,但总体来说还可以接受。

图片

很多人不喜欢新版GPT-4o的“个性”,但很明显,他们正通过那些A/B测试来针对大多数人的喜好对其进行调整。

如果你不喜欢大多数人所喜欢的东西,那目前就先用自定义指令吧。另外,ChatGPT会模仿你的文本输入风格,所以那些说它令人尴尬的人都很搞笑,这无异于在暴露他们自己,因为我的ChatGPT回复听起来可从来不像我在那些截图里看到的垃圾内容那样。

图片

我不能说我介意它的新“个性”。不过,公平地说,我使用自定义指令已经有相当一段时间了,而且这个模型仍然非常擅长遵循这些指令——所以,在我自己的聊天中,我并没有注意到风格上有很大的变化。我只是看到了别人发布的内容。

从那些发布的内容来看,它确实似乎有点近乎于阿谀奉承。然而,当应用了自定义指令后,它看起来就没问题了。

我特别要求模型,在我在互动中所做的陈述或假设在事实方面不正确时,基于之前的输入、搜索数据或它自身的知识,要对我提出质疑。而且它很好地遵守了这一点。

图片

目前,免费版本已经体验不到献媚的回答了,但是使用自定义命令还是可以让ChatGPT输出类似的回答。说实话,还挺有意思的,很适合写小说想象力很丰富,能带来一些灵感。

(举报)

展开
打开“财经头条”阅读更多精彩资讯
APP内打开