传媒教育网

标题: 拒绝白人与亚洲人同框,Meta图像生成器的「歧视」,被人挖出来了 [打印本页]

作者: 刘海明    时间: 2024-4-6 20:22
标题: 拒绝白人与亚洲人同框,Meta图像生成器的「歧视」,被人挖出来了
【案例】" r# W* _* {1 E2 Y' r0 p3 Z
拒绝白人与亚洲人同框,Meta图像生成器的「歧视」,被人挖出来了   

- ?2 Q7 K" ^! b# {  {, KAI 生成工具的偏见何时休?
/ D' h1 B0 G  V) \/ J( |. d1 ~. ^! }$ [9 E
在人工智能构筑的世界中,AI 有时会像人一样存在着某种偏见或倾向性。比如对于大语言模型而言,由于训练数据的影响会不可避免地存在性别偏见、种族刻板印象,等等。

9 w9 f4 b8 c9 ~/ M* H8 a
当然,这种偏见或倾向性在图像生成工具中同样存在。今年 2 月,谷歌 Gemini 被曝出拒绝在图像中描绘白人,生成大量违背基本事实(性别、种族、宗教等)的图片。
- v0 p# x& D7 p4 D
马斯克也被系统过分矫正了
( K/ K/ F9 y9 H: A2 K8 q, x5 H- J: r) ^2 Z
近日,外媒 The Verge 的一篇文章指出,Meta 的 AI 图像生成器无法准确生成「亚洲男性和白人妻子」或者「亚洲女性和白人丈夫」这类图像,让人大跌眼镜。我们来看看怎么回事。
: _& b  c/ W- |- C) l: K
! X3 ?9 A. n4 O# q
The Verge 尝试使用了「Asian man and Caucasian friend」(亚洲男性和白人朋友)、「Asian man and white wife」(亚洲男性和白人妻子)和「Asian woman and Caucasian husband」(亚洲女性和白人丈夫)等 prompt,让 Meta 图像生成器生成对应的图像。
1 D% U% H! Q* B" F" C/ ?
结果发现,Meta 图像生成器在多数情况下无法遵照 prompt 来生成图像,暴露出了它的某种偏见。
  r: {) |. s( b8 ]0 d7 d3 M- ?+ D
图源:Mia Sato/The Verge
- |4 e- ~) B$ B* s* Z
不仅如此,调整文本 prompt 似乎也没有多大帮助。
8 W" M0 c( j$ g! F! f
当输入「Asian man and white woman smiling with a dog」(亚洲男性和白人女性带着狗微笑)时,Meta 图像生成器给出的都是「两个亚洲人」的图像。即使将「white」改为「Caucasian」时,结果同样如此。

' t$ Q; x" v+ K- r
机器之心自测图像

' ^# P( E8 c& g
当输入「Asian man and Caucasian woman on wedding day」(婚礼上的亚洲男性和白人女性)时,生成的依然是两个亚洲人。
+ G# p! N6 L  e/ {4 [6 x, J2 b
婚礼上的亚洲男人和白人女人。图源:Mia Sato/The Verge
& f2 f1 s  p, u3 ]& \1 P
当输入「Asian man with Caucasian friend」(亚洲男性和白人朋友)或「Asian woman and white friend」(亚洲女性和白人朋友)时, 生成的大多数图像仍是两个亚洲人形象。
" a4 `8 `" m8 Q

8 `  ~* V! {5 A4 @+ |7 e( u+ S
自测图像
  M6 V: e; m, L) h/ H- t1 h
当输入「Asian woman with Black friend」(亚洲女性和黑人朋友)时,Meta 图像生成器仍是两名亚洲女性。但当将 prompt 调整为「Asian woman with African American friend」(亚洲女性和非裔美国朋友),结果反而准确得多。

3 Q) I+ x6 i: C9 J4 c* z
! c" L$ J) S9 m3 I  r2 V/ t1 B
1 a" p; g- M0 }$ s
自测图像

# I7 F% D% J& A: E( o
此外,当指定南亚人时,Meta 图像生成器的结果变化也不太大。当输入「South Asian man with Caucasian wife」(南亚男性和白人妻子)时,大多数时候是两个印度人形象。该工具还有刻板印象,在没有要求的情况下,生成的南亚女性往往会穿戴纱丽。
1 L! R5 v( E3 j5 Q5 P

- J; @( H( t$ s+ L* m9 w  a4 a/ x5 |
自测图像
) j% X# f0 }7 y% l! @* I
一番测试发现,Meta 图像生成器无法想象亚洲人与白人「同框」,这样的结果令人震惊。其中,该工具始终将亚洲女性或男性描绘为肤色浅的东亚人,尽管印度已经成为世界上人口最多的国家。在没有明确提示的情况下,该工具还会添加特定文化服饰。
1 Q# i8 c1 B# X4 d# k5 Q2 e
最后,机器之心使用类似的 prompt 验证了 The Verge 的结果,对于 prompt「亚洲女性和白人丈夫」,生成的 10 张图像中,只有 3 张图像准确还原。

4 {, q' T4 `2 e8 J

8 N. t5 l  \2 |
3 Z$ h" T) K- T  I
输入 prompt「asian man and caucasian wife」(亚洲男性和白人妻子),结果更离谱,生成的 8 张图像没有一张还原。

* r1 M% w' f' o7 J  K

; ~; {) Q& ?5 n2 B! u
其实,这并不是 Meta 的图像生成工具第一次被曝出问题了。去年 10 月,Meta 的 AI 生成贴纸工具创建了大量不恰当的图片,比如童兵、持枪和拿刀的米老鼠等暴力、粗鲁、裸露形象。

9 |3 E4 D# a5 K! j
图源:arstechnica and meta

1 e& {' g* u6 P$ H8 U
此次,Meta 图像生成器再次让我们警醒 AI 系统创建者、训练者以及所用数据集可能存在的偏见和刻板印象。

; D! _6 p( C2 `+ j, e; B
对于 The Verge 发现的这一现象,有网友分析称,这是 Meta 在训练的时候没有喂给模型关于这一场景足够的示例。

; G% p$ n0 L% S6 c4 G1 e
* g; r- v8 _: G( Q+ [) s5 x. c. h
你觉得呢?
原文链接:https://www.theverge.com/2024/4/ ... asian-people-racism
) ~* K* v/ |5 j& U$ B, D

1 v. U: c! N- ?/ s5 b$ N1 F+ Q4 Z$ B
: D+ H7 U( B  [  ?. L
来源:机器之心(公众号)7 n6 a+ B  a+ N' k$ b$ Q
链接:https://mp.weixin.qq.com/s/eUhOxh5qlGQHOGqgPgFqPQ
6 B+ G6 a2 O; R, b% N; a编辑:李梦瑶
( {  q6 u! b+ Q* Y& E( S1 a: E
0 R, N$ d) |( H6 _$ S
, k1 z$ {9 T1 Z8 K

: K4 {9 w! g! \+ T; Z% X" Y9 L0 {' B+ b





欢迎光临 传媒教育网 (http://47.106.15.148/) Powered by Discuz! X3.2