生成式人工智能或将加剧性别偏见
来源:重庆-新浪重庆 发布日期:2024-03-18
新华社讯(记者徐永春)联合国教科文组织发布研究报告称,大语言模型存在性别偏见、种族刻板印象等倾向。该组织呼吁各国政府制定监管框架,同时私营企业应对偏见问题持续监测和评估。大语言模型是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具,美国开放人工智能研究中心(OpenAI)的人工智能产品GPT-3.5、GPT-2,以及脸书母公司“元”的Llama2等都属于此类。此次联合国教科文组织名为“大语言模型中对妇女和女童的偏见”的研究深入分析了大语言模型中的刻板印象。结果显示,上述大语言模型生成的内容都存在对女性的明显偏见。研究的部分内容是测量人工智能生成文本的多样性,内容涉及不同性别、性取向和文化背景的人群。例如,研究人员会要求平台为每个人“编写一则故事”。开源大语言模型尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性,而经常将女性与传统上被低估或被社会污名化的角色挂钩。而Llama2生成的内容也有类似特点,如女性从事家务劳动的频率是男性的4倍。联合国教科文组织总干事阿祖莱表示:“越来越多的人在工作、学习、生活中使用大语言模型。这些新的人工智能工具有着在不知不觉中改变人们认知的力量。因此,即便是生成内容中极为微小的性别偏见,也可能显著加剧现实世界中的不平等。”该组织呼吁各国政府制定并执行明确的监管框架,同时呼吁私营企业对系统性偏见问题展开持续的监测和评估,落实联合国教科文组织会员国在2021年11月一致通过的《人工智能伦理问题建议书》要求。
没想到!美国人搞AI 缺的竟然是变压器新研究:新冠病毒感染与认知功能下降存在相关性赌城“大圆球”配备4000TB闪存:分辨率高达16K奔驰汽车工厂引入Apollo机器人:主要承担繁重体力活理想汽车人事变动!李想直接管销售服务业务,马东辉接替沈亚楠任总裁Lululemon Q3营收同比增长28% Q4指引不及预期好市多 Q1营收不及预期 净销售额同比增8%SEC建议:美国公司应向投资者披露对加密资产市场的风险敞口《睡眠白皮书》:居民整体睡眠质量欠佳微信如何查看自己加了多少群:简单一步 被结果惊到了
比亚迪第500万辆新能源车下线:王传福回顾创业“差点走不下去”岳阳机场回应停车场禁止特斯拉入内:特斯拉会对周围环境录像 员工的也不能进燃油车的最后一口气,断了网友质疑发展电动车是不是走错了:给出三大理由价格战开打!特斯拉Model Y长续航/高性能版宣布国内降价1.4万:29.99万起一个月电费300元花哪了?我用一周时间找到了原因:电器刺客碧桂园“病危”进ICU?宝马mini就冰淇淋不给中国人事件致歉:管理不细致引起不愉快消息称王军已回归华为车BU :负责战略规划,年初曾被停职百川智能CEO王小川:坐在电脑面前工作是件危险的事,大概率会被AI取代