关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12756人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

湖北U20 1-0山东U20,范绪林点射制胜

懂球帝 浏览 630

拼多多第四季度营收398亿,同比增长46%

网易科技报道 浏览 18788

瓦格纳总部大楼照常运营 在俄两地招募中心恢复工作

界面新闻 浏览 87149

西班牙诞生世界首个带新冠病毒抗体的婴儿,医生是这样说的

趣看热点 浏览 969418

海口紧急提醒:所有出岛小车暂勿到港 待渡车场已饱和

上观新闻 浏览 80428

李佳琦遭上海反垄断办调查!官方回应:正在核实

萌神木木 浏览 13706

郭可颂表白熊黛林庆祝结婚7年,手捧玫瑰晒亲吻照

素素娱乐 浏览 14028

郑丽文上任3天《人民日报》发文促统 郑丽文判断没错

时时有聊 浏览 6254

扎克伯格称赞马斯克:推特大裁员是行业榜样

界面新闻 浏览 16291

直击“长空之王”实弹射击现场

环球网资讯 浏览 16259

闹大了!荣梓杉被女友控诉出轨家暴,回应否认,评论区沦陷了

娱乐圈笔娱君 浏览 980

里瓦尔多:巴萨需认真考虑签尼科-威廉斯,他的价格非常合理

懂球帝 浏览 10917

任正非最新讲话:没有网络的算力是信息孤岛

澎湃新闻 浏览 221

足球报:原资方给三镇发了1个月工资,内援可能还有新人

懂球帝 浏览 12837

广州一变电站迎来全球首发机器人:可全向移动、双臂协作

南方都市报 浏览 374

寒武纪业绩“惊雷”:环比数据全线下滑,却意外点燃AI行情!

君临财富 浏览 878

字节CEO梁汝波内部讲话:多次提及危机感,2024年要始终创业

鞭牛士 浏览 12495

乌高官声称“已将英国导弹用于打击俄腹地目标”

参考消息 浏览 10754

俄乌导弹互攻进入战术新阶段

环球网资讯 浏览 12881

车市价格战背后,真正的厮杀才刚刚开始

深蓝财经 浏览 19295

男子入职2小时猝死,家属向公司索赔140万

趣看热点 浏览 120485
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1