关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家4395人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

已攻入24球,广西恒宸费尔南多打破中乙球员单赛季进球纪录

懂球帝 浏览 3625

超3100家退出!保险分支机构加速“瘦身”

国际金融报 浏览 2670

网友过完春节返程 "一辆车就把外婆的菜园打包了"

极目新闻 浏览 18310

美拉德失宠了?今年冬天最流行的3个颜色,谁穿谁好看!

LinkFashion 浏览 2849

华为跟广汽搞了个启境,它跟界字辈有啥区别?

差评XPIN 浏览 3798

特朗普称美将管理委直至安全过渡

新华社 浏览 2151

小鹏汽车CEO何小鹏:所有核心产品线都要走向全球市场

IT之家 浏览 2725

台学者:台当局不办光复节活动 人民无法接受

环球时报新闻 浏览 9104

员工超长时间如厕被开除 单次最长4小时辩称护理痔疮

环球网资讯 浏览 7007

女孩性侵的案子你都敢盖?!

电影最TOP 浏览 3033

美国将向中东增派航母 伊朗:将坚决回应任何侵略行为

环球网资讯 浏览 2540

国信策略:抢占科技发展制高点

网易财经 浏览 3637

足球报:海牛资金有困难,但追加奖金第一时间就发到球队手中

懂球帝 浏览 3427

盐湖提锂的高原神话

诗与星空 浏览 488

女星陈匡怡怒斥台媒毁人名节,自曝写了遗书,拒绝富商追求遭抹黑

萌神木木 浏览 2368

中国AI半导体加速“脱英伟达”,半导体国内自给率到2026年将提高至8成

财闻 浏览 2438

Meta收购曾火爆一时的AI智能体社交网络Moltbook

IT之家 浏览 1728

22个州经济正在萎缩,消费者信心持续下跌,多家机构警告美国经济衰退

环球网资讯 浏览 3750

资源品价值重估,“新周期”启幕

智谷趋势 浏览 2861

刘亦菲早年 告白遭考古,老己竟是全网粉丝?

山野卢员外 浏览 2971

媒体:中方反制日自卫队前高官 令人想起"白团"终失败

新民周刊 浏览 18317
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1