Book Chapter
The Legal Control of Algorithms
Original title (French): Le contrôle juridique des algorithmes
Written in French — title, summary and keywords translated
Keywords
This page is a translation. Read this work in its original language (French) →
Abstract
Benoit Frydman examines the legal control of automated administrative decisions under the guarantees of the rule of law, identifying two key dimensions: verifying that algorithmic systems pursue legitimate objectives and employ proportionate means to achieve them, and ensuring compliance with essential procedural and substantive safeguards. The paper analyzes the specific challenges posed by algorithmic opacity (explainability, access to data, parameters, and processing operations), direct and indirect discrimination, notably through algorithmic bias, and the problem that optimization criteria, which are often utilitarian, remain implicit and uncontrollable. Benoit Frydman examines the applicable legal frameworks (Article 22 of the GDPR, French legislation on algorithmic transparency, Dutch case law on the SyRI system) and proposes a mapping of possible defects and remedies, notably mandatory human review and access to effective appeal mechanisms.
Read the summary in the original language (French)
Benoit Frydman examine le contrôle juridique des décisions administratives automatisées en vertu des garanties de l'état de droit, en identifiant deux dimensions clés : vérifier que les systèmes algorithmiques poursuivent des objectifs légitimes et emploient des moyens proportionnés pour les atteindre, et assurer le respect des garanties procédurales et substantielles essentielles. Le document analyse les défis spécifiques posés par l'opacité algorithmique (explicabilité, accès aux données, paramètres et opérations de traitement), la discrimination directe et indirecte notamment par les biais algorithmiques, et le problème que les critères d'optimisation, souvent utilitaristes, demeurent implicites et incontrôlables. Benoit Frydman examine les cadres juridiques applicables (article 22 du RGPD, législation française sur la transparence algorithmique, jurisprudence néerlandaise sur le système SyRI) et propose une cartographie des vices possibles et remèdes, notamment l'examen humain obligatoire et l'accès à des mécanismes de recours effectifs.
Full text
Cite this work
« Le contrôle juridique des algorithmes », in Liber Amicorum Xavier Dieux, Larcier, vol. I, p. 727-757.
@incollection{frydman_2021_controle_juridique_algorithmes,
author = {Frydman, Benoit},
title = {Le contrôle juridique des algorithmes},
booktitle = {Liber Amicorum Xavier Dieux, volume 1},
publisher = {Larcier},
year = {2022},
pages = {727--757}
}
TY - CHAP AU - Frydman, Benoit TI - Le contrôle juridique des algorithmes BT - Liber Amicorum Xavier Dieux, volume 1 PB - Larcier PY - 2022 SP - 727 EP - 757 ER -
Click a format to copy it to your clipboard.
https://benoitfrydman.com/en/book-chapter/2022-the-legal-control-of-algorithms/