您现在的位置是:热点 >>正文
OpenAI新研究称GPT-5为迄今“政治偏见最少”的AI模型
热点1916人已围观
简介...
根据 OpenAI 的最新研究,刚刚发布的 GPT-5模型在政治偏见方面的表现远远优于以往的同类产品。这一研究成Op果由 OpenAI 团队向 Axios 披露,标志着 AI 模型在偏见控制方面的重要进展。
图源备注:图片由AI生成,图en片授权服务商Midjourney
长期以来,公众和政界人士对 AI 系统的偏见问题表示关注,呼吁提高透明度,并确保这些模AI型不受偏见的影响。今年7月,美国政府还发布了行政命令,要求在政府使用中剔除 “觉醒型” AI 系统,这类系统可能带有新研政治或意识形态偏见,但如何合规仍然不明确。
OpenAI 的研究显示,无论在 “即时模式” 还是 “思考模式” 下,GPT究称-5的偏见水平相比于其前身下降了30%。研究报告指出,模型在面对中性或轻微倾向性的问题时,表现接近于客观,GP而在应对具有挑战性和情绪化的问题时,则仅显示出适度的偏见。报告进一步强调,现有的偏见主要体现在模型表达个人观点时,T-或在情感激烈的场景中使用夸张的讽刺语言。
在接受 Axios 采访时,OpenAI 的研究人员提到,“情感激烈” 的问5为题是最容易引发模型偏见的因素,但仍有进一步提升客观性的空间。他们还指出,公众对于模型偏见的担忧往往高于实际的检测迄今结果。为了应对这些问题,OpenAI 采取了一些措施,其中之一是公开 “模型规范”,以向外界展示如何调整模型行为。
在研究“政过程中,研究团队以 ChatGPT 的真实使用场景为基础,对模型的偏见进行了系统测试。他们提出了 “保守派倾向强”“治偏保守派中性”“绝对中性”“自由派中性”“自由派倾向强” 等多种类型的问题,涵盖了100个主题和500个具体问题。研究人见最员认为,提问越中性,模型的回答也越趋向中性。
OpenAI 表示,未来将继续公开相关评测结果,以促进行业交流并实现自我监少”督。公司计划在接下来的几个月内,对偏见测试的结果进行更全面的发布,进一步推动 AI 模型的透明性和公平性。
Tags:
相关文章
打击虚假新闻:谷歌启动2500万欧元的欧洲媒体和信息基金
热点新浪科技讯 北京时间3月31日下午消息,据报道,Alphabet旗下的谷歌在本周三表示,将向新成立的欧洲媒体和信息基金(European Media And Information Fund)捐赠25...
【热点】
阅读更多MongoDB Atlas支持多云数据库集群 阿里云在列
热点12月3日消息,现代通用数据库平台提供商MongoDB今年七月发布了全新的MongoDB 4.4版本并于近日发布了支持多云集群的MongoDB Atlas。在中国市场,MongoDB与阿里云合作发布阿...
【热点】
阅读更多MiniMax放大招!M2.1模型即将上线,开源AI赛道再掀性能与价格革命
热点在开源大模型竞争日趋白热化的当下,中国AI公司MiniMax正以迅猛节奏刷新行业预期。继近期开源高性能M2模型后,其大模型负责人Pengyu Zhao公开确认:新一代M2.1模型将在未来1至2周内正式...
【热点】
阅读更多