【案例】
3 M! r3 K+ K3 ^6 z5 J 拒绝白人与亚洲人同框,Meta图像生成器的「歧视」,被人挖出来了
. v, g& P8 \" q4 S) ]6 i1 xAI 生成工具的偏见何时休?% g! n; \& _3 \( c$ p
/ ?7 |$ z, E9 X9 ~5 j% k在人工智能构筑的世界中,AI 有时会像人一样存在着某种偏见或倾向性。比如对于大语言模型而言,由于训练数据的影响会不可避免地存在性别偏见、种族刻板印象,等等。 7 v6 }$ J1 p# a" t$ a
当然,这种偏见或倾向性在图像生成工具中同样存在。今年 2 月,谷歌 Gemini 被曝出拒绝在图像中描绘白人,生成大量违背基本事实(性别、种族、宗教等)的图片。 ( @9 o; }# O$ v2 i4 D
马斯克也被系统过分矫正了
+ x' y' X# p0 D C% g! b近日,外媒 The Verge 的一篇文章指出,Meta 的 AI 图像生成器无法准确生成「亚洲男性和白人妻子」或者「亚洲女性和白人丈夫」这类图像,让人大跌眼镜。我们来看看怎么回事。 : A/ u) F% t5 v# d& B
' s& T8 O' s% f% v* oThe Verge 尝试使用了「Asian man and Caucasian friend」(亚洲男性和白人朋友)、「Asian man and white wife」(亚洲男性和白人妻子)和「Asian woman and Caucasian husband」(亚洲女性和白人丈夫)等 prompt,让 Meta 图像生成器生成对应的图像。 , ~" ~# g8 `8 `1 @. w# B. t
结果发现,Meta 图像生成器在多数情况下无法遵照 prompt 来生成图像,暴露出了它的某种偏见。
$ {3 v0 k- M, y( P7 _; F图源:Mia Sato/The Verge 8 z4 Y4 z1 G3 f
不仅如此,调整文本 prompt 似乎也没有多大帮助。
0 {9 @3 k$ S# T) I3 A$ J当输入「Asian man and white woman smiling with a dog」(亚洲男性和白人女性带着狗微笑)时,Meta 图像生成器给出的都是「两个亚洲人」的图像。即使将「white」改为「Caucasian」时,结果同样如此。
; V) ? `+ K7 r2 S# i机器之心自测图像
" \3 i/ z' O; {4 x当输入「Asian man and Caucasian woman on wedding day」(婚礼上的亚洲男性和白人女性)时,生成的依然是两个亚洲人。
8 \$ ^+ V+ N0 ~( f; ~婚礼上的亚洲男人和白人女人。图源:Mia Sato/The Verge
) d/ L, v: C9 |! Z当输入「Asian man with Caucasian friend」(亚洲男性和白人朋友)或「Asian woman and white friend」(亚洲女性和白人朋友)时, 生成的大多数图像仍是两个亚洲人形象。 0 G7 Q7 f' o+ O' L
" \' T9 c1 _0 G& I2 c# S! z自测图像
; h" d* m- y, ?) H+ z, g: b当输入「Asian woman with Black friend」(亚洲女性和黑人朋友)时,Meta 图像生成器仍是两名亚洲女性。但当将 prompt 调整为「Asian woman with African American friend」(亚洲女性和非裔美国朋友),结果反而准确得多。 ! R- y1 w l8 e/ d
$ o2 D: a; o" w. k9 U
6 Z, _1 t8 N9 r: I* }
自测图像 6 c5 e" p, `* t0 j# f
此外,当指定南亚人时,Meta 图像生成器的结果变化也不太大。当输入「South Asian man with Caucasian wife」(南亚男性和白人妻子)时,大多数时候是两个印度人形象。该工具还有刻板印象,在没有要求的情况下,生成的南亚女性往往会穿戴纱丽。
1 o! S1 y* y* |* f
! p, d" D$ A8 p, M! v5 o1 U% Q. j自测图像
+ l% u2 e) o$ Y3 C- I% X一番测试发现,Meta 图像生成器无法想象亚洲人与白人「同框」,这样的结果令人震惊。其中,该工具始终将亚洲女性或男性描绘为肤色浅的东亚人,尽管印度已经成为世界上人口最多的国家。在没有明确提示的情况下,该工具还会添加特定文化服饰。 u( A% w! _7 Y5 L. A
最后,机器之心使用类似的 prompt 验证了 The Verge 的结果,对于 prompt「亚洲女性和白人丈夫」,生成的 10 张图像中,只有 3 张图像准确还原。 7 ^1 K. P+ c9 e4 O% e7 F" a
' j$ j7 g: c' H- F# ?( S! w& d0 M& T
输入 prompt「asian man and caucasian wife」(亚洲男性和白人妻子),结果更离谱,生成的 8 张图像没有一张还原。
5 A* F4 i3 C: ~7 U) }0 T5 T/ {7 ?1 \5 h% j5 w# z
其实,这并不是 Meta 的图像生成工具第一次被曝出问题了。去年 10 月,Meta 的 AI 生成贴纸工具创建了大量不恰当的图片,比如童兵、持枪和拿刀的米老鼠等暴力、粗鲁、裸露形象。
9 }2 i! g6 D5 T3 m1 }图源:arstechnica and meta 2 [0 ~8 m. \/ p6 [+ G
此次,Meta 图像生成器再次让我们警醒 AI 系统创建者、训练者以及所用数据集可能存在的偏见和刻板印象。 8 }2 M6 [$ l9 ~# {" _
对于 The Verge 发现的这一现象,有网友分析称,这是 Meta 在训练的时候没有喂给模型关于这一场景足够的示例。 " l2 K. ]) z8 Z5 c
% }3 N( c( @+ U! e" f& l/ _5 A你觉得呢?
# K! @. d/ s; H9 s
) L1 n# `" s3 l$ b' K& w( X) e" a( a" }+ p( a8 a
5 F2 o; s2 [7 ~
/ Z% y, n' c$ K% f& i& Z
/ }( a% y/ `; {3 ?$ u- g$ {. h9 o+ J/ K
|