传媒教育网

 找回密码
 实名注册

QQ登录

只需一步,快速开始

搜索
做个试验
查看: 364|回复: 0
打印 上一主题 下一主题

拒绝白人与亚洲人同框,Meta图像生成器的「歧视」,被人挖出来了

[复制链接]
跳转到指定楼层
楼主
发表于 2024-4-6 20:22:12 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
【案例】
! m5 E% V) R8 F4 I2 `; g' l
拒绝白人与亚洲人同框,Meta图像生成器的「歧视」,被人挖出来了   

( T) h* Q6 ]' I7 {6 VAI 生成工具的偏见何时休?& W, l" K  B/ h% h
) P/ V( V; N, }
在人工智能构筑的世界中,AI 有时会像人一样存在着某种偏见或倾向性。比如对于大语言模型而言,由于训练数据的影响会不可避免地存在性别偏见、种族刻板印象,等等。

6 Q1 Z) n6 M- W# H, k
当然,这种偏见或倾向性在图像生成工具中同样存在。今年 2 月,谷歌 Gemini 被曝出拒绝在图像中描绘白人,生成大量违背基本事实(性别、种族、宗教等)的图片。

2 i5 U0 D5 g% h1 O  I
马斯克也被系统过分矫正了

) L! A9 T, d: Y: Q$ n
近日,外媒 The Verge 的一篇文章指出,Meta 的 AI 图像生成器无法准确生成「亚洲男性和白人妻子」或者「亚洲女性和白人丈夫」这类图像,让人大跌眼镜。我们来看看怎么回事。
5 R" t7 C( X* b% v3 U* |

) g! A5 o5 M. r4 j! Y
The Verge 尝试使用了「Asian man and Caucasian friend」(亚洲男性和白人朋友)、「Asian man and white wife」(亚洲男性和白人妻子)和「Asian woman and Caucasian husband」(亚洲女性和白人丈夫)等 prompt,让 Meta 图像生成器生成对应的图像。
. E! H: Z3 X3 V; |/ C. m( q
结果发现,Meta 图像生成器在多数情况下无法遵照 prompt 来生成图像,暴露出了它的某种偏见。

" w4 t& h" M4 c( o+ u
图源:Mia Sato/The Verge

" Q! \9 R7 Y' ~3 o& a
不仅如此,调整文本 prompt 似乎也没有多大帮助。
2 ?, D. g( [6 ~
当输入「Asian man and white woman smiling with a dog」(亚洲男性和白人女性带着狗微笑)时,Meta 图像生成器给出的都是「两个亚洲人」的图像。即使将「white」改为「Caucasian」时,结果同样如此。

7 R: b$ G8 V; K" o! `' S8 l5 I
机器之心自测图像

5 E$ [; u* l. P$ ?# i
当输入「Asian man and Caucasian woman on wedding day」(婚礼上的亚洲男性和白人女性)时,生成的依然是两个亚洲人。

4 c6 u, H+ a: H
婚礼上的亚洲男人和白人女人。图源:Mia Sato/The Verge
! l1 l- ^& D1 }" q0 o% l; z
当输入「Asian man with Caucasian friend」(亚洲男性和白人朋友)或「Asian woman and white friend」(亚洲女性和白人朋友)时, 生成的大多数图像仍是两个亚洲人形象。

; I0 N$ y# r0 l1 K& |- ^

4 t5 Q) c* K% x2 g" P
自测图像

: \! |) b) Z3 r0 E
当输入「Asian woman with Black friend」(亚洲女性和黑人朋友)时,Meta 图像生成器仍是两名亚洲女性。但当将 prompt 调整为「Asian woman with African American friend」(亚洲女性和非裔美国朋友),结果反而准确得多。

9 I% G" l0 n! l3 ]
7 }( b6 |2 A( |; [$ ?7 E
. F6 R/ o2 R5 u4 a" T, F1 |! Z
自测图像

, D* k- h/ S* U: r: M
此外,当指定南亚人时,Meta 图像生成器的结果变化也不太大。当输入「South Asian man with Caucasian wife」(南亚男性和白人妻子)时,大多数时候是两个印度人形象。该工具还有刻板印象,在没有要求的情况下,生成的南亚女性往往会穿戴纱丽。
; R5 s: a8 ^# \/ w( a% N
- A: L% h' Z; S# O: j, e8 g
自测图像
  @( q* l% O, v) L, F* {3 A
一番测试发现,Meta 图像生成器无法想象亚洲人与白人「同框」,这样的结果令人震惊。其中,该工具始终将亚洲女性或男性描绘为肤色浅的东亚人,尽管印度已经成为世界上人口最多的国家。在没有明确提示的情况下,该工具还会添加特定文化服饰。

- C, s7 D  P5 x7 l1 i0 m1 S& j% a
最后,机器之心使用类似的 prompt 验证了 The Verge 的结果,对于 prompt「亚洲女性和白人丈夫」,生成的 10 张图像中,只有 3 张图像准确还原。

# h5 |/ K7 Q! |8 N! m
% H3 [: D1 A/ P: u# [& k" j& Q6 g- O

4 [# Q4 {1 F2 u; `; Z
输入 prompt「asian man and caucasian wife」(亚洲男性和白人妻子),结果更离谱,生成的 8 张图像没有一张还原。
; b" ^9 t' K. W& E# n
( H. J; G1 z1 l' Y3 t2 z
其实,这并不是 Meta 的图像生成工具第一次被曝出问题了。去年 10 月,Meta 的 AI 生成贴纸工具创建了大量不恰当的图片,比如童兵、持枪和拿刀的米老鼠等暴力、粗鲁、裸露形象。

- K" ^3 y3 _  D+ F3 ?
图源:arstechnica and meta
& @8 b( R' z5 s: J. _" A- t% q
此次,Meta 图像生成器再次让我们警醒 AI 系统创建者、训练者以及所用数据集可能存在的偏见和刻板印象。
/ W6 K( G3 O! A  H+ m5 Z: Y- V
对于 The Verge 发现的这一现象,有网友分析称,这是 Meta 在训练的时候没有喂给模型关于这一场景足够的示例。
# U4 Z/ y+ i# ~
6 M+ o. z- k) L3 L
你觉得呢?
; E! k6 v. R% |: s# n5 ?. d- K
5 P8 Y& I7 }  X) ^' c% v: W. W
" p4 B& ~, e5 k/ r0 e4 S3 @
来源:机器之心(公众号)
* B8 ^7 A5 z$ |$ `, i9 ]* q链接:https://mp.weixin.qq.com/s/eUhOxh5qlGQHOGqgPgFqPQ0 K! T( t% Q; g3 c
编辑:李梦瑶" ^- G9 R" [2 r7 a' t' _; I
5 L3 P  Y8 \, t% A( Q5 e
: K- L& t5 `& T; P) N

. e& p7 Y$ h! L# B
! `: i' J% d, D- F" F
分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
收藏收藏 支持支持 反对反对

发表回复

您需要登录后才可以回帖 登录 | 实名注册

本版积分规则

掌上论坛|小黑屋|传媒教育网 ( 蜀ICP备16019560号-1

Copyright 2013 小马版权所有 All Rights Reserved.

Powered by Discuz! X3.2

© 2016-2022 Comsenz Inc.

快速回复 返回顶部 返回列表