关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者2563人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

德媒:德总理拟动用俄央行在德冻结资产援乌

新华社 浏览 2958

都有哪些业绩稳健的基金?

阿尔法工场 浏览 2902

迪亚曼蒂:在广州有卖鳄鱼肉和鳄鱼皮的,简直不可思议

懂球帝 浏览 4234

女人会不会穿衣区别很大,记住这“三要三不”原则,得体大方

静儿时尚达人 浏览 261

带伤作战,王哲林:手指的伤势又严重了,吃了止痛药才能好点

懂球帝 浏览 2683

豆包手机最高被炒至1.29万元 日租费高达1600元

极目新闻 浏览 33343

全国人大代表梁伟:用AI打通中国芯片弯道超车的 “任督二脉” | 代表在这里

封面新闻 浏览 1780

涉结束俄乌冲突 美媒披露"12点方案"

环球网资讯 浏览 12175

《求是》杂志特约评论员:改善和稳定房地产市场预期

365财经plus 浏览 2749

蔚来火速回应指控

华尔街见闻官方 浏览 3772

特朗普得罪全球美国急告中国别捅刀 中方沉默震耳欲聋

梁讯 浏览 38586

从0到171亿!一座制造名城的“追星”金融账本

贝壳财经 浏览 2546

空乘穿毛衣上班被吐槽“很土” 山东航空回应

大风新闻 浏览 9636

遭美国施压 卡尼:加拿大无意与中国达成自由贸易协定

环球网资讯 浏览 6498

孙怡董子健,离婚散场的恋爱脑总裁与明星娇妻

火姐娱乐trend 浏览 2488

高市早苗曾主张修改日本宪法 企图让日本重获宣战权

上游新闻 浏览 8646

香港科技大学发现图片压缩优化AI内存效率

科技行者 浏览 3368

冲刺双重上市,潮宏基还有多少隐忧待解

铑财 浏览 3026

拒绝悬浮!6部扎心又治愈的“都市家庭剧”

木木汐影视剪辑 浏览 2625

美媒询问缅甸大选后中国会否同缅甸深化关系 中方回应

外交部网站 浏览 7096

小米SU7换代,或涨价2万元,都会有哪些升级?

正在说车 浏览 2900
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1