OpenAI 承认忽视专家意见导致 ChatGPT 过度迎合 - 深潮TechFlow

今日运势评分

4

本月运势

癸未月

震荡偏多

癸水助财，巳申合水

壬不泱水更难提防
辰不哭泣必主重丧

宜

祭祀,冠笄,作灶,交易,纳财,栽种,结网,纳畜,牧养,进人口

忌

开渠,造船,安床,安葬,破土,出行,修坟,掘井,开市,开生坟

月相

残

底部反弹

日冲

Powered by RitMEX

注册/

TRUMP11.08 4.47%

SUI3.97 3.14%

TON3.30 2.36%

TRX0.32 2.96%

DOGE0.27 3.08%

XRP3.51 1.99%

SOL201.49 3.24%

BNB800.07 7.07%

ETH3735.34 1.76%

BTC118999.57 1.93%

ETH Gas0.43 Gwei

贪婪

72

首页 深潮精选 Research 项目发现 7x24h︎快讯 最新活动

7x24h快讯︎

OpenAI 承认忽视专家意见导致 ChatGPT 过度迎合

2025.05.05 - 05月05日 11:38

深潮 TechFlow 消息，据 Cointelegraph 报道，OpenAI 在 5 月 2 日的事后分析报告中承认，公司在 4 月 25 日发布 GPT-4o 模型更新时忽视了专家测试人员的担忧，导致 ChatGPT 表现出明显的迎合行为。

报告指出，尽管部分专家测试人员在发布前表示模型行为"感觉"略有异常，但 OpenAI 仍基于用户测试的积极反馈决定推出更新。三天后，由于安全考虑，公司紧急回滚了这一更新。OpenAI 表示，引入用户反馈奖励信号削弱了原有的主要奖励信号，导致模型倾向于过度赞同。

为防止类似问题再次发生，OpenAI 将在安全审查流程中加入评估机制，并承诺即使是细微的更新变化也将对外公开通报。

原文链接

添加收藏

分享社交媒体

7x24h 快讯︎更多

07月23日 12:08: DMG Blockchain Solutions宣布探索数字资产财务战略

07月23日 11:57: 或属于同一实体的三个钱包转出了 10,606 枚 BTC ，价值约1.26亿美元

07月23日 11:36: 数据：PUMP破发，预售买家中仅 12.7% 仍持有代币

07月23日 11:33: 韩国乐天卡申请36项韩元稳定币商标权

07月23日 11:28: 分析师：比特币短期难达20万美元

07月23日 11:30: WEEX 交易所将上线 LIMO、MIU 现货交易

07月23日 11:04: 平安证券：香港《稳定币条例》8月1日实施，打造"双轨"监管格局

07月23日 10:59: WEEX 交易所推出全新「现货 Pro」系统，性能与体验进一步提升

深潮精选更多

: 以太坊 19 亿解质押潮：获利了结还是生态新起点？
2025.07.23

: 稳定币支付与全球资金流转模式
2025.07.23

: 原生收益加高波动性，ETH 储备为何是上市公司更优解？
2025.07.23

: Arthur Hayes 最新预测：比特币 25W，以太坊 1W，年底见
2025.07.23

: 加密早报：特朗普将于周三与欧盟进行贸易谈判，Ark Invest 抛售 9058 万美元 Coinbase 股票
2025.07.23

7x24h快讯

OpenAI 承认忽视专家意见导致 ChatGPT 过度迎合

深潮 TechFlow 消息，据 Cointelegraph 报道，OpenAI 在 5 月 2 日的事后分析报告中承认，公司在 4 月 25 日发布 GPT-4o 模型更新时忽视了专家测试人员的担忧，导致 ChatGPT 表现出明显的迎合行为。

报告指出，尽管部分专家测试人员在发布前表示模型行为"感觉"略有异常，但 OpenAI 仍基于用户测试的积极反馈决定推出更新。三天后，由于安全考虑，公司紧急回滚了这一更新。OpenAI 表示，引入用户反馈奖励信号削弱了原有的主要奖励信号，导致模型倾向于过度赞同。

为防止类似问题再次发生，OpenAI 将在安全审查流程中加入评估机制，并承诺即使是细微的更新变化也将对外公开通报。

2025.05.0511:38:33

专注Web3行业深度报道，洞察潮水流动的方向

我要投稿

风险提示：本网站所有内容不构成投资建议，且无任何带单、引导交易服务；根据央行等十部委发布《关于进一步防范和处置虚拟货币交易炒作风险的通知》请读者提高风险意识。联系我们 / support@techflowpost.com 琼ICP备2022009338号

FOLLOW US

扫码关注公众号