Meta 开源 FACET工具用来评估AI模型中的种族和性别偏见

发布时间：2023-09-02 11:51:50 所属栏目：外闻来源：

导读：为应对现今许多计算机视觉模型所面临的固有性别偏见的难题，Google旗下的 Meta 公司正在进行尝试，近日推出了名为 FACET 的全新 AI 工具，用于识别计算机视觉系统中的种族和性别偏见。

FACET 工具目前经过 3 万张

为应对现今许多计算机视觉模型所面临的固有性别偏见的难题，Google旗下的 Meta 公司正在进行尝试，近日推出了名为 FACET 的全新 AI 工具，用于识别计算机视觉系统中的种族和性别偏见。

FACET 工具目前经过 3 万张图片、含 5 万人图像的训练，特别增强了性别和肤色方面的感知，可以用于评估计算机视觉模型在各种特征。

FACET 工具在经过训练之后可以回答复杂问题，特别是例如可以被识别出对象为健身房的男性之后，可以进一步有利地识别出滑板运动员，以及其他人的浅色、深色皮肤。

Meta 以 FACET 来评测该公司所开发的 DINOv2 模型与 SEERv2 模型，以及 OpenAI 的 OpenCLIP 模型，整体而言，OpenCLIP 在性别上的表现优于其它模型，而 DINOv 则在年龄与肤色上有较佳的判断力。

FACET 的开源将有助于研究人员执行类似的标竿测试，以理解自己的模型中所存在的偏见，亦可用来监控为了解决公平问题而采取的缓解措施所造成的影响。这些研究结果表明，如果我们能够更好地了解这些偏见，就可以避免一些不必要的冲突。”他说。

（编辑：聊城站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!