Home Office отказывается объяснить алгоритм для определения фиктивного брака

Министерство внутренних дел отвергло последнюю попытку проекта Public Law Project (PLP) узнать больше о секретных алгоритмических критериях, используемых для принятия решения о том, следует ли расследовать предполагаемый брак как «фиктивный».

Расследование фиктивных браков может быть инвазивным и неприятным, и похоже, что они нацелены на одни национальности больше, чем на другие.

PLP обеспокоен отсутствием прозрачности и возможной дискриминацией в автоматизированной системе сортировки, и мы хотели бы установить контакт с людьми, которые могут быть затронуты, а также с организациями, которые их поддерживают.  

Алгоритм фиктивного брака

Документы, ранее полученные PLP в соответствии с Законом о свободе информации 2000 г., указывают на то, что система сортировки вступает в действие, если один или оба супруга, подавшие уведомление регистратору, прибывают из-за пределов Европейской экономической зоны, не проживают в Великобритании, или  нет действующей английской визы.

Если одно из этих условий выполнено, пара попадает в систему сортировки.

Алгоритм обрабатывает данные пары, применяет секретные критерии и выделяет паре зеленый или красный свет.

Красный свет означает, что требуется расследование для выявления или исключения фиктивной деятельности.  Пару просят предоставить дополнительную информацию и, часто, присутствовать на собеседовании и сотрудничать с визитами в их жилье проживания.  

Это может быть очень навязчивым процессом, с которым многие пары могут неохотно соглашаться.

Если они откажутся, пара не сможет зарегистрировать брак.

Если они все же подчинятся, сотрудники иммиграционной службы будут использовать новую информацию, чтобы определить, является ли брак фиктивным.

Если решение будет выдано против пары, они все равно могут вступить в брак, но их иммиграционный статус будет под угрозой, и той или иной стороне может грозить высылка из Великобритании.

Несмотря на неоднократные запросы PLP, Министерство внутренних дел отказалось раскрыть критерии, используемые алгоритмом.

Из-за чего переживать?

Как мы сейчас понимаем, система вызывает три основных опасения.

Во-первых, поскольку критерии, используемые алгоритмом, остаются в секрете, существуют опасения по поводу процедурной справедливости.

Министерство внутренних дел настаивает на том, что публикация критериев может нанести ущерб его способности расследовать возможные фиктивные браки и не будет отвечать интересам общества.  

Мы считаем, что стандарты публичного права требуют раскрытия информации о том, как работает система, и отказ в публикации вряд ли будет оправдан соображениями общественного интереса.  Когда решения принимаются алгоритмом, должны быть прозрачность и подотчетность.

Во-вторых, есть опасения, что алгоритм может быть дискриминационным.  Это связано с тем, что некоторые национальности, включая болгар, греков, румын и албанцев, с большей вероятностью станут объектами расследования, чем другие.

Возможно, национальность включена в критерии алгоритма.  В этом случае алгоритм может быть прямо дискриминационным, что противоречит разделам 13 и 29 Закона о равенстве 2010 года. 

Даже если критерии не включают гражданство, алгоритм, тем не менее, может быть косвенно дискриминационным, если он оказывает системное негативное влияние на людей определенной национальности, в нарушение статей 19 и 29 Закона о равенстве 2010 года.

Третья проблема заключается в том, что принятие решений на стадии расследования может быть некорректным из-за «предвзятости автоматизации», то есть чрезмерной зависимости от автоматизированных систем поддержки принятия решений.  

Если должностное лицо, проводящее расследование фиктивного брака, знает, что алгоритм дал паре красный свет, он может быть предрасположен сделать вывод, что отношения являются фиктивными.  

Другими словами, система может поощрять полагаться на не относящиеся к делу соображения.