传媒教育网

 找回密码
 实名注册

QQ登录

只需一步,快速开始

搜索
做个试验
查看: 362|回复: 0
打印 上一主题 下一主题

拒绝白人与亚洲人同框,Meta图像生成器的「歧视」,被人挖出来了

[复制链接]
跳转到指定楼层
楼主
发表于 2024-4-6 20:22:12 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
【案例】; M  ]. }- U5 n/ M! z
拒绝白人与亚洲人同框,Meta图像生成器的「歧视」,被人挖出来了   

# `* g$ a, T# ?/ |AI 生成工具的偏见何时休?
* g% x# V- b, p5 F1 ~' j0 I
( b, c! a9 ~6 f2 M2 l5 J" q
在人工智能构筑的世界中,AI 有时会像人一样存在着某种偏见或倾向性。比如对于大语言模型而言,由于训练数据的影响会不可避免地存在性别偏见、种族刻板印象,等等。

/ Y. B6 ^8 G0 o1 ?" p6 K
当然,这种偏见或倾向性在图像生成工具中同样存在。今年 2 月,谷歌 Gemini 被曝出拒绝在图像中描绘白人,生成大量违背基本事实(性别、种族、宗教等)的图片。
1 `: v5 r+ i" b, \
马斯克也被系统过分矫正了

+ U: ]8 f" g% E6 E& @
近日,外媒 The Verge 的一篇文章指出,Meta 的 AI 图像生成器无法准确生成「亚洲男性和白人妻子」或者「亚洲女性和白人丈夫」这类图像,让人大跌眼镜。我们来看看怎么回事。

- K- F% P7 x3 u3 o: \) @0 F0 S! E2 ^

# N( }8 l6 u) u! Q  ?" \- Y
The Verge 尝试使用了「Asian man and Caucasian friend」(亚洲男性和白人朋友)、「Asian man and white wife」(亚洲男性和白人妻子)和「Asian woman and Caucasian husband」(亚洲女性和白人丈夫)等 prompt,让 Meta 图像生成器生成对应的图像。

( X3 R. p6 P6 G# z
结果发现,Meta 图像生成器在多数情况下无法遵照 prompt 来生成图像,暴露出了它的某种偏见。
9 t4 P6 G. l$ l; z. d) [- e
图源:Mia Sato/The Verge
% d6 J1 l! m5 S# q( x  B; @
不仅如此,调整文本 prompt 似乎也没有多大帮助。
% \$ {: T  s2 K8 N! ~
当输入「Asian man and white woman smiling with a dog」(亚洲男性和白人女性带着狗微笑)时,Meta 图像生成器给出的都是「两个亚洲人」的图像。即使将「white」改为「Caucasian」时,结果同样如此。

6 s+ W& e$ a2 x" m' X5 u( d
机器之心自测图像

7 B( ~' g$ O8 ^
当输入「Asian man and Caucasian woman on wedding day」(婚礼上的亚洲男性和白人女性)时,生成的依然是两个亚洲人。

1 @% b! C  b* ?+ a7 @+ T
婚礼上的亚洲男人和白人女人。图源:Mia Sato/The Verge

, R8 b  h0 x+ z, o/ e6 o& v
当输入「Asian man with Caucasian friend」(亚洲男性和白人朋友)或「Asian woman and white friend」(亚洲女性和白人朋友)时, 生成的大多数图像仍是两个亚洲人形象。

; q# |7 r7 j: m. F7 g4 y

$ h4 Y5 m* o: M. y) g5 J* ?
自测图像
4 b" J" M' D2 e6 |$ Q
当输入「Asian woman with Black friend」(亚洲女性和黑人朋友)时,Meta 图像生成器仍是两名亚洲女性。但当将 prompt 调整为「Asian woman with African American friend」(亚洲女性和非裔美国朋友),结果反而准确得多。

+ }: H6 s; A& Q) G' k' H
" {; F3 q8 f; z# ]! }

$ Z& F7 V, W% U: t
自测图像
) w" \$ P7 x( D1 Y4 H
此外,当指定南亚人时,Meta 图像生成器的结果变化也不太大。当输入「South Asian man with Caucasian wife」(南亚男性和白人妻子)时,大多数时候是两个印度人形象。该工具还有刻板印象,在没有要求的情况下,生成的南亚女性往往会穿戴纱丽。

* q5 {! ]1 u! V1 O% w; A
- S; a' l& b4 c) K2 w( ?
自测图像

0 l  A. J  @6 Z. `) i
一番测试发现,Meta 图像生成器无法想象亚洲人与白人「同框」,这样的结果令人震惊。其中,该工具始终将亚洲女性或男性描绘为肤色浅的东亚人,尽管印度已经成为世界上人口最多的国家。在没有明确提示的情况下,该工具还会添加特定文化服饰。

2 Z) G$ l$ e3 @0 ]- ^
最后,机器之心使用类似的 prompt 验证了 The Verge 的结果,对于 prompt「亚洲女性和白人丈夫」,生成的 10 张图像中,只有 3 张图像准确还原。

2 R4 o$ X; j9 {! w. t$ b) u

  }1 |( f, I6 {( L- _

! j/ C9 @9 p5 v/ U4 _: i. S5 {
输入 prompt「asian man and caucasian wife」(亚洲男性和白人妻子),结果更离谱,生成的 8 张图像没有一张还原。
  x2 @# |" u; Q( K4 q+ D) i

% ~9 Z5 z, {$ H. y) Q; H/ P' c& N
其实,这并不是 Meta 的图像生成工具第一次被曝出问题了。去年 10 月,Meta 的 AI 生成贴纸工具创建了大量不恰当的图片,比如童兵、持枪和拿刀的米老鼠等暴力、粗鲁、裸露形象。
  q. t5 ~( e& J  t
图源:arstechnica and meta
! f7 v0 d  g/ @: P( F4 F* D
此次,Meta 图像生成器再次让我们警醒 AI 系统创建者、训练者以及所用数据集可能存在的偏见和刻板印象。
0 h/ d; V6 a8 i, w
对于 The Verge 发现的这一现象,有网友分析称,这是 Meta 在训练的时候没有喂给模型关于这一场景足够的示例。
& l- ~) h3 V3 V# W* a: i9 K7 X8 B

+ G4 h2 _4 T3 ?' Y+ ]
你觉得呢?
原文链接:https://www.theverge.com/2024/4/ ... asian-people-racism
8 {3 ^8 F2 u3 c0 j" W  e, F4 R% j
0 X: x; k- p9 E
% [5 a+ U; O6 J2 o

* [0 T# c1 q1 g7 Q4 T
来源:机器之心(公众号)* a5 J. G4 G: x  u* ?9 V2 a: W
链接:https://mp.weixin.qq.com/s/eUhOxh5qlGQHOGqgPgFqPQ
" x/ K( b8 ~! W, {( `) `2 r编辑:李梦瑶
- I8 \( c, R  B  H1 {
# D; Z6 d: l& k+ h
) |% b# B/ E0 E/ Z
5 g1 r, k" D2 I' C( R" s
/ c) x- s) U+ s( ^7 y0 M  _+ D
分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
收藏收藏 支持支持 反对反对

发表回复

您需要登录后才可以回帖 登录 | 实名注册

本版积分规则

掌上论坛|小黑屋|传媒教育网 ( 蜀ICP备16019560号-1

Copyright 2013 小马版权所有 All Rights Reserved.

Powered by Discuz! X3.2

© 2016-2022 Comsenz Inc.

快速回复 返回顶部 返回列表