AI大模型无法摆脱政治偏见

2023-08-10 11:59:44 来源:DeepTech 分享到:

人工智能语言模型最近成为了美国文化战争的最新前沿。右翼评论员指责 ChatGPT 存在所谓的“觉醒偏见”,保守派团体已经开始开发自己“阵营”的人工智能聊天机器人。

与此同时,埃隆·马斯克(Elon Musk)表示,他正在开发“TruthGPT”,这是一种“最大限度寻求真相”的语言模型,与 OpenAI 和谷歌创建的“政治正确”聊天机器人既然不同。

一个公正、纯粹基于事实的人工智能聊天机器人是一个可爱的想法,但从技术上讲是不可能的。马斯克尚未透露他的 TruthGPT 会包含什么样的细节,可能是因为他忙于思考 X(原推特公司)和与马克·扎克伯格(Mark Zuckerberg)的八角笼之战。


(资料图片仅供参考)

我们最近的一篇报道揭示了政治偏见是如何进入人工智能语言系统的。研究人员对 14 个大型语言模型进行了测试,发现 OpenAI 的 ChatGPT 和 GPT-4 是最左翼的自由主义者,而 Meta 的 LLaMA 是最右翼的威权主义者。

卡内基梅隆大学的博士研究员帕克·陈(Chan Park)参与了这项研究,他告诉我:“我们相信没有一种语言模型可以完全摆脱政治偏见。”

关于人工智能最广为流传的一个说法是,该技术是中立和公正的。这是一个危险的叙事,它只会加剧人类信任计算机的倾向,即使计算机是错误的。事实上,人工智能语言模型不仅反映了其训练数据中的偏见,还反映了创建和训练这些模型的人的偏见。

美国达特茅斯学院计算机科学助理教索鲁什·沃苏吉(Soroush Vosoughi)表示,众所周知,用于训练人工智能模型的数据是这些偏见的主要来源,但是我的研究表明偏见蔓延于模型开发的几乎每个阶段。

人工智能语言模型中的偏见是一个特别难以解决的问题,因为我们并不真正了解它们是如何产生结果的,而且我们减轻偏见的过程也不完美。这在一定程度上是因为偏见是复杂的社会问题,没有简单的技术解决方案。

这就是为什么我坚信,诚实是最好的政策。这样的研究可以鼓励公司跟踪和绘制模型中的政治偏见,并对客户更加直率。例如,他们可以明确说明已知的偏见,这样用户就可以对模型的输出持保留态度。

(来源:STEPHANIE ARNETT/MITTR | MIDJOURNEY (SUITS))

本着这种精神,今年早些时候 OpenAI 告诉我,它正在开发能够代表不同政治和世界观的定制聊天机器人。一种方法是允许人们对他们的人工智能聊天机器人进行个性化设置。这也是沃苏吉的研究重点。

正如一篇经过同行评审论文中所述,沃苏吉和他的同事创建了一种类似于 YouTube 推荐算法的方法,但用于生成式模型。他们使用强化学习来指导人工智能语言模型的输出,从而生成某些政治意识形态或消除仇恨言论。

OpenAI 使用一种名为“通过人类反馈强化学习”的技术,在人工智能模型上线之前对其进行微调。沃苏吉的方法可以使用强化学习来改进模型发布后生成的内容。

但在一个日益两极分化的世界里,这种程度的定制可能会带来好的和坏的结果。虽然它可以用来消除人工智能模型中的糟糕或错误信息,但它也可以用来产生更多的错误信息。

“这是一把双刃剑,”沃苏吉承认。

作者简介:梅丽莎·海基莱(Melissa Heikkilä)是《麻省理工科技评论》的资深记者,她着重报道人工智能及其如何改变我们的社会。此前,她曾在 POLITICO 撰写有关人工智能政策和政治的文章。她还曾在《经济学人》工作,并曾担任新闻主播。

支持:Ren

标签:

AI大模型无法摆脱政治偏见

来源:DeepTech 2023-08-10 11:59:44

很有梗!哈登中国行获赠头盔:全场高呼MVP 对球迷有求必应

来源:体育大生意 2023-08-10 11:34:25

成都买房条件最新政策(成都买房条件)

来源:互联网 2023-08-10 10:56:00

禹洲集团公布境外债务重组初步方案 “仍在与债权人小组磋商”,落地存变数

来源:华夏时报 2023-08-10 11:01:07

怎么样才能唱好歌词(怎么样才能唱好歌)

来源:城市网 2023-08-10 09:59:48

一拳超人235话:S级童帝退出协会,埼玉登顶,幕后黑手龙门登场

来源:陌蚁动漫 2023-08-10 10:00:52

重磅!Salesforce推出面向中小型企业的CRM套件!

来源:软服之家 2023-08-10 09:35:08

出境游运营商概念上市公司有哪些?你看懂了吗?(2023/8/10)

来源:南方财富网 2023-08-10 09:00:41

末伏暑未消!全国末伏中暑指数地图出炉 河南湖北等8省份易中暑

来源:南方网 2023-08-10 08:30:36

旺能环境08月09日被深股通减持4.81万股

来源:东方财富Choice数据 2023-08-10 07:57:24

美股三大指数集体收跌 大型科技股全线下跌

来源:证券时报·e公司 2023-08-10 06:35:50

美股三大指数集体收跌Roblox创2022年2月份以来最大单日跌幅

来源:和讯 2023-08-10 05:25:38

没有货运资格证驾驶货车怎么处罚

来源:法务网 2023-08-10 02:43:27

才涌江海竞未来|徐海胜:做微小型智能传感器引领者

来源:南通广播电视台 2023-08-09 22:50:52

跟着诗词游齐鲁丨珍珠泉:泉从沙出 如珠如玑

来源:海报新闻 2023-08-09 22:02:35

新疆昌吉市产业发展“蹚出新路子”为乡村振兴增添“新活力”

来源:中国新闻网 2023-08-09 20:49:28

7月我国中小企业发展指数继续回升 专家解读

来源:中国青年网 2023-08-09 20:00:58

4平方铜线电流

来源:互联网 2023-08-09 19:01:37

苹果将 Vision Pro 头显的外接电池称为“Magic Battery”

来源:腾讯网 2023-08-09 18:37:40

绘王Kamvas Studio 24一体绘图电脑国内上市

来源:搜狐数码 2023-08-09 17:54:41

沈萌:资本扎堆的“宠物经济”仍面临研发创新与品牌价值考验

来源:中新经纬 2023-08-09 17:15:21

男人的责任经典语录英文怎么说(男人的责任经典语)

来源:互联网 2023-08-09 16:54:00

江西省新余市市场监管局“四个强化”抓实创文创卫工作

来源:中国质量新闻网 2023-08-09 16:27:47

英特尔与联想在上海成立“先进系统创新实验室”,已开始模拟Lunar Lake处理器平台

来源:凤凰网 2023-08-09 16:04:10

河北邱县总工会举办育婴员培训班

来源:腾讯网 2023-08-09 15:06:18

2023年全国跆拳道俱乐部联赛大区赛(中部)长沙开赛

来源:中国新闻网 2023-08-09 14:59:25

真挚的祝福!祝湖人五冠功勋费舍尔49岁生日快乐!

来源:直播吧 2023-08-09 14:06:17

应急管理部督导核查西藏危化品重大危险源企业:部分人员无证上岗,特种作业管理不规范

来源:21世纪经济报道 2023-08-09 13:49:21

小米note7pro(小米note天然竹)

来源:互联网 2023-08-09 12:55:24

UPS预计2023年综合收入930亿美元 全年计划资本支出53亿美元

来源:电商报 2023-08-09 11:55:16

Copyright   2015-2022 起点知识产权网 版权所有  备案号:皖ICP备2022009963号-12   联系邮箱: 39 60 29 14 2@qq.com