特别报道普林斯顿大学和南加州大学的研究人员表示，Meta用于呈现教育广告的算法显示出种族偏见的迹象.
普林斯顿大学博士后研究员Basileal Imana、普林斯顿大学计算机科学和公共事务助理教授亚历克桑德拉·科洛娃在题为《教育广告交付中的种族歧视审计》的论文中描述了这一发现.
南加州大学计算机科学研究教授约翰·海德曼将于本周在巴西里约热内卢举行的ACM公平、问责和透明度会议(ACM FAccT)上发表这篇论文.
科洛娃告诉《纪事报》：“我们发现，Meta的算法将广告引导到营利性大学和大学，与公立大学的广告相比，Meta的广告面向相对更多的黑人用户.
我们的工作由此证明了Meta以种族偏见的方式塑造重要生活机会的另一个领域.
并显示出对歧视的担忧超出了目前解决方案的范围，这些解决方案仅限于住房、就业和信贷.
“Meta在被称为Facebook时，于2017年被美国住房和城市发展部(HUD)起诉，此前非营利组织ProPublica在2016年发布了一份报告，内容是互联网巨头的广告平台如何允许住房广告商避免向特定种族的人展示广告.
美国《公平住房法》禁止基于种族等特征的住房歧视.
五年后，也就是2022年6月，Meta与司法部就HUD的歧视指控达成和解，承诺停止在住房广告中使用据称具有歧视性的算法.
根据美国司法部的说法，这家社交广告公司还致力于开发一种新的系统，以解决由于在其住房广告投放系统中使用个性化算法而导致的种族和其他差异.
作者观察到，尽管在减少住房、就业和信用广告的偏见方面取得了进展，但人们仍然担心保险、教育、医疗保健和其他公共设施等领域的广告投放歧视.
似乎是为了证明这一点，上周，美国公民自由联盟要求联邦贸易委员会对招聘技术公司怡安展开调查，指控“怡安欺骗性地将广泛使用的在线招聘测试推销为‘无偏见’，尽管这些测试基于种族或残疾等特征歧视求职者.
”为了评估教育广告中的算法偏差，研究人员观察了营利性大学和公立大学基于种族的广告呈现方式的差异.
“我们方法的洞察力是使用两个教育广告，获得与用户看似相同的机会，但实际上是其中一个机会.
这篇论文解释说，这与广告投放算法可能传播的历史种族差异有关.
如果营利性大学的广告展示给相对更多的黑人用户，而不是公立大学的广告，我们可以得出结论，该平台的算法选择具有种族歧视.
作者声称，这项研究“提供了强有力的证据，表明Meta的算法塑造了谁看到哪些教育机会的种族人口统计数据，为Meta对职业生涯和个人财务健康的潜在长期影响提供了新的证据.
”这些数据表明，Meta不成比例地展示了那些有针对黑人个人掠夺性做法历史的学校的广告.
更重要的是，学者们认为，根据歧视的不同影响原则，他们的发现可能会对Meta产生法律后果.
Korolova承认，只有Meta知道其广告算法是如何工作的.
我们怀疑Meta的算法没有直接使用RACE，我们观察到的算法效果是由代理和其他历史数据Meta驱动的当被问及Meta之前解决住房歧视索赔的法律和解是否不足以激励该公司更广泛地解决算法公平问题时，Korolova同意Meta对合规采取了狭隘的观点.
Korolova说：“美国司法部与Meta达成的和解完全集中在Meta的住房广告系统中的歧视问题上.
”“除了住房，Meta还承诺将差异减少系统(VRS)应用于就业和信用广告，或许是为了先发制人，防止基于就业广告投放中显示歧视的工作而提起诉讼.
”，“我们关于教育领域广告投放中歧视的工作是(据我们所知)在住房、就业和信贷以外的领域提供证据的第一项工作.
因此，到目前为止，Meta可能还没有受到足够的外部压力，以更广泛地解决其广告投放中的算法偏差问题.
同时，Korolova辩称，在美国司法部达成和解之前，Meta似乎在所有广告类别中使用了相同的广告投放算法.
因此，当Meta宣布将努力让自己的算法更公平时，它本可以做出更大的努力来更广泛地理解和解决广告投放中的算法偏见.
科洛娃说：“到底哪些广告域应该受到公平的约束是一个法律问题.
”然而，如果Meta有诚意想要广泛解决偏见问题，人们可以预期他们会广泛应用他们的努力.
到目前为止，他们选择只将VRS应用于住房、就业和信贷，这表明他们的目标更加有限.
作为公平的倡导者，我们鼓励更广泛的解释.
当被问及她和她的同事们更愿意采取什么补救措施来解决算法歧视时，Korolova告诉我们：“我们希望Meta在所有与生活机会、公民权利和社会重要话题(如教育、保险、医疗保健等)相关的广告领域关闭其算法广告投放优化.
这些主题的确定或许可以通过与社区的协商来完成.
“作为替代或补充，我们希望Meta能够让个人有意义地指定关于他们的哪些信息可以或不能被Meta用于这些领域的广告个性化.
最后，我们希望看到Meta的算法及其影响通过为公共利益研究人员进行独立审计的能力(例如，按照我们其他工作中规定的路线，也保护隐私和公司专有信息)更透明地进行.
”Meta发言人Daniel Roberts在给注册中心的一份声明中说，“解决广告公平问题是整个行业面临的挑战，我们一直在与民权组织、学者和监管机构合作，以促进我们的广告系统的公平.
我们的广告标准不允许广告商投放基于种族等个人属性歧视个人或个人群体的广告，我们正在积极构建旨在这一领域取得更大进步的技术.”.