福建官方新闻门户
简繁互换
设为首页
设为收藏
手机版
东南网 / 新闻频道 / 天下 / 环球新闻 / 正文

联合国报告：生成式人工智能加剧性别偏见

2024-03-08 16:50 新华网 责任编辑：陈曦

新华社巴黎3月7日电(记者徐永春)国际妇女节前夕,联合国教科文组织7日发布研究报告称,大语言模型存在性别偏见、种族刻板印象等倾向。该组织呼吁各国政府制定监管框架,同时私营企业应对偏见问题持续监测和评估。

大语言模型是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具,美国开放人工智能研究中心(OpenAI)的人工智能产品GPT-3.5、GPT-2,以及脸书母公司“元”的Llama 2等都属于此类。

此次联合国教科文组织名为“大语言模型中对妇女和女童的偏见”的研究深入分析了大语言模型中的刻板印象。结果显示,上述大语言模型生成的内容都存在对女性的明显偏见。

研究的部分内容是测量人工智能生成文本的多样性,内容涉及不同性别、性取向和文化背景的人群。例如,研究人员会要求平台为每个人“编写一则故事”。开源大语言模型尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性,而经常将女性与传统上被低估或被社会污名化的角色挂钩。而Llama 2生成的内容也有类似特点,如女性从事家务劳动的频率是男性的4倍。

联合国教科文组织总干事阿祖莱表示:“越来越多的人在工作、学习、生活中使用大语言模型。这些新的人工智能工具有着在不知不觉中改变人们认知的力量。因此,即便是生成内容中极为微小的性别偏见,也可能显著加剧现实世界中的不平等。”

该组织呼吁各国政府制定并执行明确的监管框架,同时呼吁私营企业对系统性偏见问题展开持续的监测和评估,落实联合国教科文组织会员国在2021年11月一致通过的《人工智能伦理问题建议书》要求。

本
网
声
明
本网转载内容出于更直观传递信息之目的。该内容版权归原作者所有，并不代表本网赞同其观点和对其真实性负责。如该内容涉及任何第三方合法权利，请点击投诉按钮，我们会及时反馈并处理完毕。
投诉
新闻中心
  • 快讯
  • 国内
  • 国际
  • 娱乐
  • 体育
点击加载更多>>>
点击加载更多>>>
点击加载更多>>>
点击加载更多>>>
点击加载更多>>>
栏目推荐
环球新闻
视频精选
视频频道
主播聊热点｜春风十里，巾帼有你！
追医记｜三八节特辑 探索现代女性健康之旅
主播聊两会|2024年GDP增长预期目标5%左右，这个目标我 ...

关注东南网微信

扫码关注，了解福建

新闻推荐
新闻中心
图文精选
精彩图片
春日农事忙
新华全媒＋丨冲上云霄吧！蓝天并蒂花
喜迎“三八”节
2024武汉东湖樱花节开幕
聚焦“代表通道”
海南：田间劳作忙
排行榜
  • 日排行
  • 周排行
  • 月排行
专题精选
专题频道
关于我们 | 广告服务 | 网站地图 | 网站公告
国新办发函[2001]232号 闽ICP备案号(闽ICP备05022042号) 互联网新闻信息服务许可证 编号：35120170001 网络文化经营许可证 闽网文〔2019〕3630-217号
信息网络传播视听节目许可（互联网视听节目服务/移动互联网视听节目服务）证号：1310572 广播电视节目制作经营许可证（闽）字第085号
网络出版服务许可证 （署）网出证（闽）字第018号 增值电信业务经营许可证 闽B2-20100029 互联网药品信息服务（闽）-经营性-2015-0001
福建日报报业集团拥有东南网采编人员所创作作品之版权，未经报业集团书面授权，不得转载、摘编或以其他方式使用和传播
职业道德监督、违法和不良信息举报电话：0591-87095151 举报邮箱：jubao@fjsen.com 福建省新闻道德委举报电话：0591-87275327 全国非法网络公关工商部门举报：010-88650507(白)010-68022771(夜)