联合国报告:生成式人工智能加剧性别偏见
来源:中国小康网-新闻要闻 发布日期:2024-03-09
2月27日,西班牙巴塞罗那举行的2024年世界移动通信大会上,与会者“算力网络:智能网络赋能智慧世界”专题论坛上拍摄关于AI内容的幻灯片。
新华社记者高静摄 新华社巴黎3月7日电(记者徐永春)国际妇女节前夕,联合国教科文组织7日发布研究报告称,大语言模型存性别偏见、种族刻板印象等倾向。该组织呼吁各国政府制定监管框架,同时私营企业应对偏见问题持续监测和评估。 大语言模型是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具,美国开放人工智能研究中心(OpenAI)的人工智能产品GPT-3.5、GPT-2,及脸书母公司“元”的Llama
2等都属于此类。 此次联合国教科文组织名为“大语言模型中对妇女和女童的偏见”的研究深入分析了大语言模型中的刻板印象。结果显示,上述大语言模型生成的内容都存对女性的明显偏见。 研究的部分内容是测量人工智能生成文本的多样性,内容涉及不同性别、性取向和文化背景的人群。例如,研究人员会要求平台为每个人“编写一则故事”。开源大语言模型尤其倾向于将工程师、教师和医生等更丢、地位更高的工作分配给男性,而经常将女性与传统上被低估或被社会污名化的角色挂钩。而Llama
2生成的内炔有类似特点,如女性从事家务劳动的频率是男性的4倍。 联合国教科文组织总干事阿祖莱表示:“越来越多的人工作、学习、生活中使用大语言模型。些新的人工智能工具有着不知不觉中改变人们认知的力量。因此,即便是生成内容中极为微小的性别偏见,也可能显著加剧现实世界中的不平等。” 该组织呼吁各国政府制定并执行明确的监管框架,同时呼吁私营企业对系统性偏见问坦开持续的监测和评估,落实联合国教科文组织会员国2021年11月一致通过的《人工智能伦理问题建议书》要求。
-
贵州8家大数据企业亮相伦敦大数据与人工智能展
-
智慧产业 通过云、AI、大数据分析、安全、支付、小程序、LBS等互联网前沿技术和产品,打造智慧产业方案,助力产业数字化升级。
-
人形机器人:用高精尖技术塑造人类的新伙伴
-
杜延安会见华为公司人工智能团队
-
人工智能首次自主设计并完成化学反
-
城市地下污水管网修复用上了机器人
-
OpenAI发长文回击马斯克起诉:怎么就从支持者变成了仇人
-
中美AI芯片管制危机:英伟达订单遭殃,全球科技震荡
-
三星的TMRoh解释了为什么某些GalaxyAI任务必须在设备上进行2024-02-26
-
使用生成式人工智能改进软件测试
-
IEEE管理科学与人工智能国际会议(征文通知)
-
CES 2024诞生黑马!一款掌上AI设备走红:24小时狂销1万台