Automated Decisions and Article No. 22 GDPR of the European Union: An Analysis of the Right to an ‘Explanation’

Published on SSRN: 15.1.2020

The aim of this proposal is to analyze the use of algorithms in automated decision procedures concerning subjective positions having legal relevance. In this regard, the first paragraph of Article No. 22 GDPR, entitled “Automated decision-making relating to natural persons, including profiling” establishes that: “The data subject has the right not to be subjected to a decision based solely on automated processing, including profiling, which produces legal effects that concern him or that significantly affects his person”. This norm gives rise to important questions concerning the very nature of decision formulation through algorithms. In hypothesis, the juridical nature or juridical effect of the concept of “decision” could be restricted to circumstances such as financial solvency, predictability of motor vehicle accidents. In these cases, the “Right to explanation” refers to the algorithmic decision obtained. For the purposes of this abstract, the most interesting element, which could give rise to a comparative judicial dispute, given the validity of the GDPR in all the countries of the European Union, concerns the provision of par. 2 of Article No. 22, letters a) and c) which refers to the implementation of “appropriate measures” to protect “the rights, freedoms and legitimate interests of the interested party”. What is the “appropriate” counterpart used for implementing such measures? It would seem unquestionable that the only element that can satisfy this “appropriateness” is human intervention, i.e. someone who has the necessary authority, ability and competence to modify or revise the decision disputed by the user. Another authoritative source claims that such appropriate measures may also consist of automated systems that control the algorithms, i.e. periodic reviews, introduction of procedures that verify the accuracy of the decision-making process or correct errors, discrimination issues, or inaccuracies from an outdated database in order to avoid the self-learning algorithm based on wrong data and processes. Nevertheless, there are those who express perplexity about the effectiveness of the right to explanation, especially in relation to the difficulty in interpreting the legislative passages that envisage it within the GDPR itself, together with doubts about the mandatory nature of this explanatory right.

This paper focuses on the meaning of right to the explanation of the decision pursuant to Article No. 22 GDPR in order to allow the interested parties to understand the reasons for the decision and possibly to dispute it.

 

Hong Kong e India: il retaggio di Common Law nelle ex colonie britanniche

Pubblicato sul Quotidiano Giuridico del 31 dicembre 2019

L’interesse delle decisioni analizzate riguarda l’influenza del retaggio del Common Law inglese, formatosi in secoli in un ordinamento legato alla Tradizione Giuridica Occidentale, sul diritto localmente in vigore in due ordinamenti giuridici assai distanti tra loro, ma accomunati dall’essere ex colonie dell’Impero britannico. Da un lato si presenta la vertenza giudiziaria sulla contrarietà alla Basic Law di una normativa che impedisce ai manifestanti di coprirsi il volto, in corso ad Hong Kong, il cui ordinamento è legato al modello di transizione “Un Paese – due sistemi” con la Cina; mentre, dall’altro lato, su una vicenda legata al contenzioso relativo alla proprietà di un terreno (e al diritto di costruire il relativo edificio religioso), in India, dove il diritto nazionale è indiscutibilmente influenzato sia dal Common Law sia dagli elementi religiosi di induismo e islamismo.
Il 19 novembre 2019, la High Court of the Hong Kong Special Administrative Region, Court of First Instance ha stabilito che la Emergency Regulations Ordinance (Cap 241) (d’ora in poi “ERO”) e la Prohibition on Face Covering Regulation (Cap 241K) (d’ora in poi “PFCR”) sono incompatibili con la Basic Law (Legge Fondamentale), di Hong Kong in quanto tali norme sono in contrasto con il principio di ragionevolezza. Preliminarmente va evidenziato che la ERO venne emanata nel 1922, quando Hong Kong era ancora sotto il dominio britannico. Tale normativa conferiva al Chief Executive in Council (d’ora in poi CEiC) dell’allora colonia il potere di considerare quale pericolo pubblico ogni occasione di manifesta emergenza e quindi di emanare disposizioni normative appropriate nell’interesse pubblico. I fatti che hanno scaturito l’esercizio dei suddetti poteri e l’emanazione della PFCR sono ormai noti e riguardano le proteste pubbliche contro il disegno di legge sull’estradizione in Cina promosso dal governo locale. Dopo mesi di scontri, il 4 ottobre il CEiC ha emanato, ai sensi dell’ERO, il PFCR che introduce la proibizione di indossare maschere che celino il volto in presenza di un pericolo pubblico, senza riferimenti ai casi di emergenza, ai fini di facilitare le indagini di polizia e al contempo fungere da deterrente contro gli atti violenti da parte di manifestanti mascherati.
La Court of First Instance ha affermato che il potere di emanare una normativa così pervasiva è in capo al solo Consiglio legislativo di Hong Kong. Inoltre, l’ERO ha un campo di applicazione così vasto, il conferimento di poteri all’autorità esecutiva è così completo e le sue condizioni per l’applicazione sono così incerte e soggettive da non essere compatibile con la Legge fondamentale perché supera il ruolo gerarchico del Consiglio legislativo e il suo potere di controllo. L’analisi della Corte riguarda l’applicazione del principio di proporzionalità sulla base di quattro parametri decisionali, cioè: 1. se la normativa adottata persegua un obiettivo legittimo; 2. in tal caso, se essa sia razionalmente collegata all’ottenimento di tale obiettivo; 3. se la normativa sia ragionevolmente necessaria a tale scopo; 4. se sia stato raggiunto un ragionevole equilibrio tra i benefici per la società promossi sull’effettività dei diritti protetti. In conclusione, la Court of First Instance ha ritenuto che il PFCR sia inconciliabile con il test di ragionevolezza e proporzionalità. Tuttavia, il Dipartimento di Giustizia di Hong Kong ha comunicato che presenterà appello.
L’aspetto interessante di questa decisione riguarda la comparazione giuridica effettuata dalla Court of First Instance all’interno del Common Law, del quale i giudici di Hong Kong rivendicano l’efficacia e l’applicabilità. Seppure sia difficile fare una raffronto puro e semplice tra l’ordinamento di Hong Kong e gli altri ordinamenti, soprattutto per quel che concerne il principio di separazione di poteri, i giudici fanno riferimento sia alla dottrina britannica (cioè ai Commentaries on the Laws of England di Blackstone pubblicati tra il 1765 e il 1770 e al The Law of the Constitution del 1885, di Dicey) sia a una serie di casi giurisprudenziali di Common Law. In particolare, a precedenti del Regno Unito con riferimenti alle decisioni del Privy Council (che tra le diverse funzioni, si occupa dei casi giudiziari provenienti dalle corti d’appello delle giurisdizioni del Commonwealth e dei Territori d’oltremare britannici), poi sia alle corti supreme (sia della House of Lord sia della Supreme Court of United Kingdom) sia delle corti inferiori inglesi; inoltre la corte ragiona su casi provenienti dalle giurisdizioni di Australia, Sudafrica e Canada. Ulteriormente, la Court of First Instance utilizza in senso argomentativo decisioni della Corte europea dei diritti umani, quali Malone contro Regno Unito, James contro Regno Unito, SAS contro Francia, Kudrevičius contro Lituania, nonché la decisione del Comitato per i diritti umani delle Nazioni Unite, Yaker contro Francia. Dal punto di vista legislativo, la Court of First Instance fa una comparazione diretta con la normativa del Regno Unito, precisamente con la Sect. 60(4A) del Criminal Justice and Public Order Act 1994.
In India, la Supreme Court of India ha deciso una complessa e delicata questione sull’attribuzione della proprietà di un sito violentemente conteso tra le comunità religiose indù e islamica. Si tratta di un terreno di circa 1500 metri quadrati nella città di Ayodhya, nello stato indiano settentrionale dell’Uttar Pradesh. Tale luogo è tradizionalmente considerato dagli indù come il luogo di nascita del dio Rāma. Questo posto è anche venerato dai musulmani perché sorgeva una moschea costruita nel XVI secolo dal primo imperatore Bābur, discendente diretto di Tamerlano e fondatore dell’impero Moghul. Entrambe le comunità religiose hanno combattuto per la proprietà dei terreni sin dall’inizio del Raj britannico nel 1857. La decisione in commento scaturisce dagli appelli di quattro diverse cause presentate dal 1950 al 1989. Il conflitto tra le comunità religiose su tale proprietà è diventato spesso violento ed è esploso il 6 dicembre 1992, quando migliaia di pellegrini indù distrussero la moschea e al suo posto costruirono un tempio indù, scatenando rivolte in tutta l’India.
La Corte suprema ha esaminato ampie prove storiche e archeologiche e ha stabilito che la maggioranza di queste propende a favore delle rivendicazioni indù. La sentenza della Corte Suprema prevede che il governo centrale formi un trust per la gestione del terreno e l’eventuale costruzione di un tempio a Rāma. Altresì la Corte suprema ha stabilito che un terreno di cinque acri sito in un’altra parte di Ayodhya debba essere concesso ai musulmani per la ricostruzione della moschea distrutta. I riferimenti al Common Law riguardano precedenti del Privy Council sull’attribuzione della proprietà secondo “justice, equity and good conscience” già emanati sotto la dominazione britannica e citati quali riferimento nel corposissimo testo di 1045 pagine della decisione della Corte suprema indiana.