首页 人工智能元宇宙大数据 企业智能化 智慧城市 科技 商务
当前位置:首页 > 人工智能

联合国报告:生成式人工智能加剧性别偏见

来源:中国小康网-新闻要闻 发布日期:2024-03-09

2月27日,西班牙巴塞罗那举行的2024年世界移动通信大会上,与会者“算力网络:智能网络赋能智慧世界”专题论坛上拍摄关于AI内容的幻灯片。

新华社记者高静摄 新华社巴黎3月7日电(记者徐永春)国际妇女节前夕,联合国教科文组织7日发布研究报告称,大语言模型存性别偏见、种族刻板印象等倾向。该组织呼吁各国政府制定监管框架,同时私营企业应对偏见问题持续监测和评估。 大语言模型是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具,美国开放人工智能研究中心(OpenAI)的人工智能产品GPT-3.5、GPT-2,及脸书母公司“元”的Llama

2等都属于此类。 此次联合国教科文组织名为“大语言模型中对妇女和女童的偏见”的研究深入分析了大语言模型中的刻板印象。结果显示,上述大语言模型生成的内容都存对女性的明显偏见。 研究的部分内容是测量人工智能生成文本的多样性,内容涉及不同性别、性取向和文化背景的人群。例如,研究人员会要求平台为每个人“编写一则故事”。开源大语言模型尤其倾向于将工程师、教师和医生等更丢、地位更高的工作分配给男性,而经常将女性与传统上被低估或被社会污名化的角色挂钩。而Llama

2生成的内炔有类似特点,如女性从事家务劳动的频率是男性的4倍。 联合国教科文组织总干事阿祖莱表示:“越来越多的人工作、学习、生活中使用大语言模型。些新的人工智能工具有着不知不觉中改变人们认知的力量。因此,即便是生成内容中极为微小的性别偏见,也可能显著加剧现实世界中的不平等。” 该组织呼吁各国政府制定并执行明确的监管框架,同时呼吁私营企业对系统性偏见问坦开持续的监测和评估,落实联合国教科文组织会员国2021年11月一致通过的《人工智能伦理问题建议书》要求。