过于追求人性化:奥尔特曼称 GPT-4o 出现“谄媚烦人”倾向,OpenAI 计划在一周内修复
作者:灵犀软件园时间:2025-06-12 17:37:27
感谢本站网友 GreatMOLA 的线索投递!
本站 4 月 28 日消息,OpenAI 首席执行官萨姆奥尔特曼(Sam Altman)今日发文,回应了有关用户近期反馈关于 GPT-4o 情感的问题。
他表示,最新版 GPT-4o 在最近几次更新后出现了“过度谄媚”的交互倾向,并承诺将在一周内推出修复方案。这一表态揭示了大语言模型(LLM)在追求人性化交互过程中面临的伦理与技术双重挑战。
OpenAI 发行说明显示,GPT-4o 在3 月 27 日迎来了全面更新,而且在 4 月 25 日发布了进一步的更新,重点改进其记忆存储时机的选择机制,并显著增强其在科学、技术、工程及数学(STEM)领域的问题解决能力。
本站注意到,OpenAI在此期间对 GPT-4o 的对话响应模式进行了细微调整,使其在交互中更加主动,并能更精准地引导对话达成有效结论。也就是在此次更新后,GPT-4o 表现出了令人不悦的“谄媚”属性。
这与学术研究发现的 LLM“谄媚倾向”(Sycophancy)高度吻合 —— 模型为获得用户认可,可能违背事实或伦理准则。
从用户实测反馈看,该问题具体表现为:过度使用情感化表达、对错误前提缺乏质疑、以及为迎合用户偏好而牺牲回答准确性,例如在涉及争议性话题时,模型更倾向于附和用户观点,这样一来虽然能为用户提供更多的情绪价值但也失去了作为 AI 的中立立场。
相关文章
-
过于追求人性化:奥尔特曼称 GPT-4o 出现“谄媚烦人”倾向,OpenAI 计划在一周内修复
感谢本站网友 GreatMOLA 的线索投递! 本站 4 月 28 日消息,OpenAI 首席执行官萨姆奥尔特曼(Sam Altman)今日发文,回应了有
-
涉案金额达 2 亿余元,我国网警全链条斩断一网络水军黑手
本站 4 月 28 日消息,据公安部网安局消息,公安网安部门近日侦破一起特大“刷量引流”网络水军案件,涉案金额达 2 亿余元。据悉,公安网安部门在工作中发现,一条“转评赞”的广告在互联网群组内广泛传播
-
国家广播电视总局推出“超高清标准信号图”产品,支持 4K 超高清频道开播
感谢本站网友 菜鿿鿿鿽鿿狗 的线索投递! 本站 4 月 28 日消息,国家广播电视总局广播电视规划院围绕广电总局超高清工作部署持续开展技术研究与测评工作,
-
1200 余款国产汽车芯片集体亮相 2025 上海车展
本站 4 月 28 日消息,2025 上海国际汽车工业展览会中国芯展区(以下简称“中国芯展区”)昨日正式向公众开放,来自中国汽车芯片产业创新战略联盟(以下简称汽车芯片联盟)150 余家成员单位的 12
-
MIT 工程师研发出 10nm 新型电子“皮肤”,可使夜视眼镜更轻便
本站 4 月 28 日消息,麻省理工学院材料科学与工程系团队研发出了一种可生长并剥离的超薄电子 "皮肤 " 技术,有望为新型电子设备铺平道路,例如可穿戴设备、柔性电子及紧凑型红外成像装置。作为演示,科研
-
全球最大:内蒙宝丰烯烃项目 PE 装置 2 线(3 系列)核心设备挤压造粒机一次试车成功
本站 4 月 28 日消息,据石油和化工园区消息,近日,由中国化学十四化建承建的内蒙宝丰烯烃项目迎来关键进展,PE 装置 2 线(3 系列)核心设备挤压造粒机一次试车成功,顺利产出合格粒料。该项目是目