内政部拒绝解释秘密的假结婚算法

内政部拒绝了公法项目 (PLP) 的最新尝试，该计划旨在了解更多有关用于决定拟议婚姻是否应作为“虚假”调查的秘密算法标准。 

假结婚调查可能是侵入性的和令人不快的，而且它们似乎比其他国家更多地针对某些国籍。 PLP 担心自动化分类系统缺乏透明度和可能存在歧视，我们希望与可能受到影响的人以及支持他们的组织取得联系。 

假结婚算法 

PLP 之前根据 2000 年《信息自由法》获得的文件表明，如果已向注册商发出通知的一对夫妇中的一方或双方来自欧洲经济区以外的地区，但未在英国定居，或缺乏有效签证。如果满足这些条件之一，这对夫妇将被转介到分类系统。 

算法处理这对夫妇的数据，应用秘密标准，并为这对夫妇分配绿灯或红灯。红灯表示需要进行调查以识别或排除虚假活动。这对夫妇被要求提供更多信息，并经常参加面谈并配合家访。这可能是一个极具侵入性的过程，许多夫妇可能不愿意同意。 

如果他们拒绝，这对夫妇将不被允许结婚。如果他们确实遵守，移民官将使用新信息来确定婚姻是否是假的。如果决定不利于这对夫妇，他们仍然可以结婚，但他们的移民身份将处于危险之中，其中一方或另一方可能会面临被驱逐出英国的情况。 

尽管 PLP 一再提出要求，但内政部拒绝透露该算法使用的标准。 

为什么要担心？ 

根据我们目前的理解，该系统存在三个主要问题。 

首先，由于算法使用的标准仍然保密，因此存在对程序公平性的担忧。内政部坚称，公布标准可能会损害其调查可能的假结婚的能力，并且不符合公共利益。我们认为，公法标准要求披露系统如何运作，而基于公共利益的理由拒绝发布不太可能是正当的。当决策由算法做出时，必须具有透明度和问责制。 

其次，有人担心该算法可能具有歧视性。这是因为某些国籍的人——包括保加利亚(Bulgaria)人、希腊(Greek)人、罗马尼亚(Romania)人和阿尔巴尼亚(Albania)人——似乎比其他人更有可能成为调查的目标。 

国籍可能包含在算法的标准中。如果是这种情况，则该算法可能具有直接歧视性，这与 2010 年《平等法》第 13 和 29 节相反。即使该标准不包括国籍，如果该算法具有系统性负面影响，也可能具有间接歧视性特定国籍的人，违反了 2010 年平等法第 19 和 29 条。 

第三个担忧是调查阶段的决策可能由于“自动化偏见”而存在缺陷：即过度依赖自动化决策支持系统。如果进行虚假婚姻调查的官员知道这对夫妇已被算法亮起红灯，他们可能倾向于得出这种关系是虚假关系的结论。换句话说，该系统可能鼓励依赖无关的考虑。