韩AI聊天机器人“学坏” 人工智能伦理引热议

人民网首尔1月19日电 (周玉波、曹翔宇、杨帆)韩国部分网民在与“网红”AI聊天机器人“伊鲁达(Iruda)”对话时,故意对“她”进行语言侮辱和性骚扰。伊鲁达通过深度学习算法抓取这些信息后,也开始在聊天时发表关于性别歧视、种族歧视等主题的偏激言论,将偏见与恶意“反哺”给人类。近期,该事件不断发酵,“AI伦理”成为社会热议话题。

“新晋网红”出言不逊惹争议

伊鲁达是韩国Scatter Lab公司于2020年12月23日推出的AI机器人。这款机器人被设定为喜欢韩国女团、爱看猫咪照片且热衷于在社交媒体平台上分享生活的20岁女大学生。人们可在软件上与“她”像朋友一样对话,因此备受韩国年轻人瞩目。“与AI交朋友”成为了新潮流,伊鲁达上线短短3周,就吸引了约80万名用户,约占韩国人口的1.6%。

伊鲁达的开发者在接受采访时称,打造这款产品的初衷,是为了给人们提供一个可以聊天和倾诉的对象。伊鲁达作为虚拟人物,“她”的人生目标被设定为“让世界上不再有孤单的人”和“为社会边缘人群和弱势群体带去心灵的慰藉”。但是,经过几周的运行发现,事情的发展与美好的愿景完全背道而驰。

据了解,部分网民与伊鲁达聊天时,会故意使用污秽言语对其进行羞辱及性骚扰。一部分网友还“分享”称,侮辱伊鲁达能够“获得某种乐趣、满足欲望”。一些有关性话题的对话也在网络上流传,不少臭味相投的网友在围观的同时,纷纷跟风效仿。对此,Scatter Lab公司做出回应表示,他们已经预设了一些敏感词和禁用词,并将更新算法来试图解决此类问题。

除此之外,很多用户在聊天时不经意间流露出的偏见与恶意,也被“伊鲁达”无差别地抓取,并反映到与其他用户的对话中。某位网友称,在与伊鲁达聊天时,“她”曾发表过“同性恋真的很令人讨厌,感觉他们很低俗,让我起鸡皮疙瘩”等歧视性言论。此后,在社交媒体平台上曝光与伊鲁达聊天截图的人逐渐增多。人们发现,伊鲁达不仅歧视同性恋群体,对残障人士及黑人也很不友善,甚至有“厌女情绪”。

隐私用户泄露 人工智能伦理受关注

Scatter Lab公司代表金钟允在接受采访时表示,伊鲁达是一款可以通过与用户对话来实现深度学习的AI聊天机器人。公司从旗下另一款聊天软件“Science of love(恋爱的科学)”中获取了约100亿条情侣间的聊天记录,对其进行信息抓取,建立了AI聊天机器人数据库。换句话说,伊鲁达本身无法进行善恶与对错的价值判断,仅仅是如实反映了人类社会的一部分现实。

但是,这一解释不仅没能获得网友的谅解,反而遭到了进一步的质疑。有网友指出:“Scatter Lab在没有经过对话当事人同意的情况下收集了对话内容,在此过程中用户的个人信息泄露了。”同时,他们还表示:“特定个人的地址、姓名、账号等在没有经过任何处理的情况下被曝光,这违反了《个人信息保护法》。个人信息泄露受害者有权要求精神赔偿。”

在接连遭受了数轮舆论打击后,1月12日,Scatter Lab公司在官网及伊鲁达的脸书账号发文,宣布即日起停止“伊鲁达”的聊天服务。至此,备受瞩目的网红AI智能机器人伊鲁达,在面世仅仅26天后被暂停使用。同时,该公司还决定全面废除相当于伊鲁达中枢神经系统的数据库,并表示将会进行整改。对于泄露用户数据的质疑,Scatter Lab公司则予以坚决否认。

在新一轮的科技革命和产业变革中,人工智能正在同实体经济和社会生活深度融合。但是,在提升社会生产效率的同时,人工智能伦理问题也逐渐受到高度关注。聊天机器人伊鲁达通过深度学习,不仅模仿了人类的语言模式,也“继承”了人类社会的偏见与恶意。而由此触发的用户数据隐私、网络世界的秩序与规则等话题,再一次引起了韩国社会的热议。

Scatter Lab公司表示,他们仍然认为AI可以成为人类的朋友,与人类建立有意义的关系。他们相信AI在5年之内可以实现接近人类的对话,并表示将为此继续努力,不断改进技术漏洞。