GLAAD 在周三发布了一份报告，警告称，人工智能系统正在放大针对 LGBTQ 的偏见、错误信息和歧视，并将其扩散到医疗、就业、住房以及贷款等领域。该报告题为《面向所有人构建：AI 中的 LGBTQ 呈现与安全框架》，认为在有偏见或数据不完整的情况下训练出来的 AI，会在技术越来越深度嵌入日常生活时，强化刻板印象并产生歧视性结果。GLAAD 总裁兼首席执行官 Sarah Kate Ellis 在报告中表示：“AI 是一个民权议题”，并呼吁科技领袖主动打造安全的产品，警告称在负责任的 AI 开发生命周期中，“中立”已经不再是选项。
GLAAD 报告识别出 LGBTQ 用户面临的核心 AI 偏见风险
该报告指出令人担忧的领域，包括有偏见的训练数据、针对 LGBTQ 的错误信息、预测性 AI 系统中的歧视性结果、内容审核失效以及隐私风险。GLAAD 认为，若 AI 系统是在关于 LGBTQ 人群的资料不完整或不准确的情况下训练，就可能强化刻板印象并压制 LGBTQ 的声音。研究指出，在训练数据、产品设计与治理中未能考虑 LGBTQ 体验，可能会对弱势群体造成伤害，并产出不准确、质量更低的产品，从而削弱用户信任。
根据 2023 年研究，LGBTQ 购买力达到 47 万亿美元
Ellis 在报告中表示，负责任的 AI 是让 AI 公司具备面向未来的业务要求，并指出超过 20% 的 Z 世代是 LGBTQ。根据 LGBT Capital（咨询与投资公司）在 2023 年发布的一项研究，LGBTQ 人群的全球购买力为 4.7 万亿美元，并预计该数字到 2030 年将达到 33 万亿美元。Ellis 写道，如果 LGBTQ 人群是一个国家，他们将是全球第 4 大经济体，并称这些人是未来的员工与消费者。
最近的 AI 偏见案例包括 xAI 诉讼与科罗拉多监管之争
该报告发布之际，关于 AI 偏见的争论仍在持续。5 月，研究人员发现，领先的 AI 模型在回应天主教时始终更偏向，而在回应耶和华见证人、无神论与不可知论时则较不友好。就在本月早些时候，前 xAI 工程师 Devin Kim 起诉 xAI 和 SpaceX，指称他在警告 Grok 缺乏足够的保障措施来防范错误信息和偏见后被解雇。xAI 正在与科罗拉多州进行一场法律战，原因是该州法律要求公司评估并降低用于涉及住房、就业与贷款决策的 AI 系统中的歧视风险。
自动化 AI 代理可能会带来歧视性结果
GLAAD 警告称，随着公司推动能够在仅有有限人工监督的情况下执行任务的 AI 代理，这些担忧将变得更为重要。研究指出，自动化代理可能会继承既有偏见，并自动化产生歧视性结果，例如将支持 LGBTQ 的医疗服务提供者排除在搜索结果之外，或对用户身份作出不正确的假设。报告还指出，尽管这并非特定于 LGBTQ 人群，但新出现的挑战包括模型幻觉或迎合式行为，这会在健康或选举等具有重大后果的话题上生成错误信息。
GLAAD 呼吁改进训练数据并加强监管监督
为防止风险进一步嵌入 AI 系统，GLAAD 呼吁开发者改进训练数据中的 LGBTQ 呈现、加强隐私保护、保持对审核系统的人类监督，并与倡导团体开展更紧密的合作。该报告也呼吁强化行业问责与监管监督。Ellis 写道，要构建符合伦理、包容且负责任的 AI，科技领袖必须主动拥抱有意图的做法，以打造安全的产品。
常见问题解答
GLAAD 在周三就 AI 系统发出了哪些警告？
GLAAD 于周三发布了一份报告，警告称 AI 系统正在放大针对 LGBTQ 的偏见、错误信息和歧视，并将其扩散到医疗、就业、住房以及贷款等领域。该报告认为，在有偏见或数据不完整的情况下训练出来的 AI，会强化刻板印象并产生歧视性结果。
根据 2023 年研究，LGBTQ 人群的全球购买力是多少？
根据 LGBT Capital 在 2023 年发布的一项研究，LGBTQ 人群的全球购买力为 4.7 万亿美元，并预计该数字到 2030 年将达到 33 万亿美元。超过 20% 的 Z 世代是 LGBTQ，这代表未来的员工与消费者。
本月早些时候针对 xAI 提起了哪起诉讼？
本月早些时候，前 xAI 工程师 Devin Kim 起诉 xAI 和 SpaceX，指称他在警告 Grok 缺乏足够的保障措施来防范错误信息和偏见后被解雇。xAI 也在与科罗拉多州就一项州法律进行法律战，该法律要求公司评估并降低 AI 系统中的歧视风险。
