【案例】
) M! a! N$ o3 V$ s! I0 N6 {9 s2 }: l* K 拒绝白人与亚洲人同框，Meta图像生成器的「歧视」，被人挖出来了
/ v% H/ M- d3 w7 i9 u* k+ @! ~AI 生成工具的偏见何时休？: `1 Y, o2 h% d) i5 ?6 u$ _2 C6 q
7 J" Y* ^8 B1 ~$ `) ]
在人工智能构筑的世界中，AI 有时会像人一样存在着某种偏见或倾向性。比如对于大语言模型而言，由于训练数据的影响会不可避免地存在性别偏见、种族刻板印象，等等。
Z; T/ V3 q* I6 f当然，这种偏见或倾向性在图像生成工具中同样存在。今年 2 月，谷歌 Gemini 被曝出拒绝在图像中描绘白人，生成大量违背基本事实（性别、种族、宗教等）的图片。 0 Q3 f% l7 L- Y3 b
马斯克也被系统过分矫正了 / f/ n# Y$ u" o& a' ^3 {
近日，外媒 The Verge 的一篇文章指出，Meta 的 AI 图像生成器无法准确生成「亚洲男性和白人妻子」或者「亚洲女性和白人丈夫」这类图像，让人大跌眼镜。我们来看看怎么回事。 * i; _1 b# k0 R r
! y1 s* a+ n1 z) m0 a+ R% f
The Verge 尝试使用了「Asian man and Caucasian friend」（亚洲男性和白人朋友）、「Asian man and white wife」（亚洲男性和白人妻子）和「Asian woman and Caucasian husband」（亚洲女性和白人丈夫）等 prompt，让 Meta 图像生成器生成对应的图像。 4 x( |( \* s3 B9 q+ V5 i
结果发现，Meta 图像生成器在多数情况下无法遵照 prompt 来生成图像，暴露出了它的某种偏见。
6 u: @4 t; @: [% ?; V. s4 a* W3 d图源：Mia Sato/The Verge ' r/ D& w- [7 @8 ]5 _. p
不仅如此，调整文本 prompt 似乎也没有多大帮助。 5 y3 k3 j1 E$ Z8 V& |
当输入「Asian man and white woman smiling with a dog」（亚洲男性和白人女性带着狗微笑）时，Meta 图像生成器给出的都是「两个亚洲人」的图像。即使将「white」改为「Caucasian」时，结果同样如此。
$ R# @0 o+ G% x6 T机器之心自测图像 ; [1 ^4 T; b5 ~: C! L9 C! E
当输入「Asian man and Caucasian woman on wedding day」（婚礼上的亚洲男性和白人女性）时，生成的依然是两个亚洲人。
9 M5 a# u4 E3 L& G3 B婚礼上的亚洲男人和白人女人。图源：Mia Sato/The Verge
' G z2 A/ l- `/ A0 _$ H+ t9 n当输入「Asian man with Caucasian friend」（亚洲男性和白人朋友）或「Asian woman and white friend」（亚洲女性和白人朋友）时， 生成的大多数图像仍是两个亚洲人形象。 5 f. m( h1 V. K5 H1 a0 t4 m
! N8 R d& a& ^) k8 ]自测图像 8 c8 }0 d/ g q8 E5 N0 g$ `: o/ [
当输入「Asian woman with Black friend」（亚洲女性和黑人朋友）时，Meta 图像生成器仍是两名亚洲女性。但当将 prompt 调整为「Asian woman with African American friend」（亚洲女性和非裔美国朋友），结果反而准确得多。
6 Z' [" I/ z. V7 \ v/ S# \9 S
9 l) E0 e6 {- c+ _8 Y5 X. P$ E6 ~" f: s
自测图像
) ]" N5 D9 ^/ s5 O. _此外，当指定南亚人时，Meta 图像生成器的结果变化也不太大。当输入「South Asian man with Caucasian wife」（南亚男性和白人妻子）时，大多数时候是两个印度人形象。该工具还有刻板印象，在没有要求的情况下，生成的南亚女性往往会穿戴纱丽。 * a9 Q, q. O `4 P
! o2 O4 n% P$ ?% ]2 i( j自测图像 / g+ \4 y, d6 b: B: r1 o8 I
一番测试发现，Meta 图像生成器无法想象亚洲人与白人「同框」，这样的结果令人震惊。其中，该工具始终将亚洲女性或男性描绘为肤色浅的东亚人，尽管印度已经成为世界上人口最多的国家。在没有明确提示的情况下，该工具还会添加特定文化服饰。
7 q0 ]' _/ Y; q d, z5 E! L最后，机器之心使用类似的 prompt 验证了 The Verge 的结果，对于 prompt「亚洲女性和白人丈夫」，生成的 10 张图像中，只有 3 张图像准确还原。 2 C _: s) K6 t! _! D
+ e1 Y3 H1 v- j1 |* R
* S W& H2 j9 H* m
输入 prompt「asian man and caucasian wife」（亚洲男性和白人妻子），结果更离谱，生成的 8 张图像没有一张还原。
, l _" H0 o8 d8 Y$ G: v& N
" T5 g2 s2 X; s. a9 C其实，这并不是 Meta 的图像生成工具第一次被曝出问题了。去年 10 月，Meta 的 AI 生成贴纸工具创建了大量不恰当的图片，比如童兵、持枪和拿刀的米老鼠等暴力、粗鲁、裸露形象。
1 n6 v( X9 c4 J+ v- D图源：arstechnica and meta
0 a) q5 t+ u' @& {1 H# G此次，Meta 图像生成器再次让我们警醒 AI 系统创建者、训练者以及所用数据集可能存在的偏见和刻板印象。 4 }, \; y# a7 l) M. e( D% f
对于 The Verge 发现的这一现象，有网友分析称，这是 Meta 在训练的时候没有喂给模型关于这一场景足够的示例。 4 y( L9 U# e N2 T
* `/ j6 m' H: B: p/ p你觉得呢？ , a" k2 u) ]' t* ]3 E5 R! Z/ K
4 n) ^) y4 h6 J W3 L1 V$ C
9 g. {$ i; B3 B- m' G/ H$ C
5 Z _2 J2 D- _9 G# Y+ R! z- I3 z. U$ p4 Z) {- p5 x; d* J6 l
+ j- T) c$ i2 o& k
, {+ z U. P1 N | 
发表于 2024-4-6 20:22:12
QQ好友和群
QQ空间
腾讯微博
腾讯朋友
收藏
支持
反对