在美国有线电视新闻网(CNN)的要求下，该工具制作了一幅亚洲男人和白人妻子的图片，结果显示出了一大堆东亚男人和东亚女人的图片。同样的事情也发生在美国有线电视新闻网(CNN)要求制作一名亚洲女性与白人丈夫的形象时。
当被要求创建一名亚洲女性和她的白人朋友的图像时，该工具还生成了两名亚洲女性的图像。此外，有人要求提供一名黑人女性和她的亚洲朋友的照片，结果是两名黑人女性的照片。
然而，当被要求创建一个黑人犹太男人和他的亚洲妻子的图像时，它生成了一个戴着圆顶小帽的黑人男人和一个亚洲女人的照片。在CNN多次尝试拍摄一对跨种族夫妇的照片后，该工具最终创造了一张白人男子和黑人女子以及白人男子和亚洲女子的照片。
去年12月，Meta发布了其人工智能图像生成器。但科技新闻媒体The Verge周三首先报道了这一种族问题，强调该工具“无法想象”一个亚洲男人和一个白人女人在一起。
与此同时，当CNN要求Meta工具简单地生成一对跨种族夫妇的图像时，它回答说:“无法生成此图像。请试试别的东西。”
然而，在美国，跨种族夫妇占人口的很大一部分。根据美国人口普查数据，到2022年，大约19%的已婚异性夫妇是跨种族的，近29%的异性未婚夫妇家庭是跨种族的。到2022年，约31%的已婚同性伴侣是跨种族的。
Meta将CNN的评论请求提交给了该公司9月份发表的一篇关于负责任地构建生成式人工智能功能的博客文章。“我们正在采取措施减少偏见。解决生成式人工智能系统中潜在的偏见是一个新的研究领域。”“与其他人工智能模型一样，让更多的人使用这些功能并分享反馈可以帮助我们改进方法。”
Meta的人工智能图像生成器也有一个免责声明，声明人工智能生成的图像“可能不准确或不合适”
尽管科技行业对生成式人工智能的未来潜力做出了许多承诺，但Meta的人工智能图像生成器的失误是一连串事件中的最新一起，表明生成式人工智能工具仍在与种族概念作斗争。
今年早些时候，谷歌表示将暂停其人工智能工具Gemini生成人物图像的能力，此前该工具在社交媒体上因生成历史上不准确的图像而受到抨击，这些图像主要显示有色人种而不是白人。与此同时，OpenAI的Dall-E图像生成器因延续有害的种族和民族刻板印象而受到批评。
