| Yassir BOUGHRARA Docteur chercheur en Droit des Affaires, Université Mohamed V, Rabat, Maroc |
RESUME
L’intégration de l’intelligence artificielle dans les systèmes judiciaires transforme les modes de traitement des affaires et repose sur l’exploitation de données personnelles sensibles, notamment les décisions de justice, les données de santé, les antécédents judiciaires et les informations socio-économiques des justiciables. Cette évolution soulève une difficulté majeure : concilier l’innovation numérique avec la protection de la vie privée, le procès équitable et la souveraineté juridictionnelle. L’objectif de cette étude est d’analyser les conditions juridiques permettant d’encadrer l’usage des données personnelles dans les systèmes d’IA appliqués à la justice. La recherche adopte une approche juridique qualitative, fondée sur l’analyse normative, doctrinale et comparative. Le corpus mobilisé comprend la loi marocaine n° 09-08, le RGPD, la Convention 108+, l’AI Act européen, ainsi que des instruments internationaux relatifs à l’éthique de l’intelligence artificielle. L’étude montre que le cadre marocain offre des garanties générales en matière de protection des données, mais demeure insuffisant face aux exigences spécifiques de l’IA judiciaire, notamment l’explicabilité, la traçabilité, la supervision humaine et la responsabilité des acteurs. Elle propose, en conséquence, les bases d’une gouvernance algorithmique responsable, articulée autour du contrôle humain, de l’auditabilité des systèmes et de la protection renforcée des droits fondamentaux. L’apport principal de l’article réside dans la formulation d’un cadre juridique adapté au contexte marocain, conciliant modernisation judiciaire et garanties de l’État de droit.
Mots clés : Données personnelles, Intelligence artificielle, Justice numérique, Gouvernance algorithmique, Protection des données.
TOWARDS RESPONSIBLE ALGORITHMIC JUSTICE: LEGAL FRAMEWORK FOR PERSONAL DATA IN JUDICIAL ARTIFICIAL INTELLIGENCE SYSTEMS
ABSTRACT
| Yassir BOUGHRARA PhD, Researcher in Business Law Mohammed V University, Rabat, Morocco |
The integration of artificial intelligence into judicial systems is transforming the processing of legal cases through the extensive use of sensitive personal data, including court decisions, health records, criminal histories, and socio-economic information. This evolution raises a fundamental challenge: reconciling digital innovation with the protection of privacy, fair trial guarantees, and judicial sovereignty. The objective of this study is to examine the legal conditions required to regulate the use of personal data in AI-based judicial systems. The research adopts a qualitative legal approach based on normative, doctrinal, and comparative analysis. The corpus includes Moroccan Law No. 09-08, the General Data Protection Regulation (GDPR), Convention 108+, the European AI Act, and major international instruments relating to the ethics and governance of artificial intelligence. The findings reveal that the Moroccan legal framework provides general safeguards for personal data protection but remains insufficient to address the specific challenges raised by judicial AI, particularly regarding explainability, traceability, human oversight, and accountability. The study therefore proposes the foundations of a responsible algorithmic governance framework built on effective human control, system auditability, and enhanced protection of fundamental rights. Its main contribution lies in proposing a legal framework adapted to the Moroccan context, capable of reconciling judicial modernization with the principles of the rule of law.
Keywords:Personal Data, Artificial Intelligence, Digital Justice, Algorithmic Governance, Data Protection.
Bibliographie :
Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (23 mai 2016). Machine Bias: There’s software used across the country to predict future criminals. And it’s biased against blacks. ProPublica. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
Chambers and Partners. (2025). Artificial Intelligence 2025 – South Korea: Trends and Developments. https://practiceguides.chambers.com/practice-guides/artificial-intelligence-2025/south-korea
Cherkaoui Smouni, K. (1998). L’expertise judiciaire à la lumière du code de procédure civile et de la jurisprudence. REMALD, Manuels et Travaux Universitaires, n° 7.
Comité européen de la protection des données (EDPB). (24 septembre 2021). Avis 32/2021 concernant le projet de décision d’exécution de la Commission européenne conformément au règlement (UE) 2016/679 sur le niveau de protection adéquat des données à caractère personnel en République de Corée. https://edpb.europa.eu/system/files/2022-02/edpb_opinion322021_republicofkoreaadequacy_fr.pdf
Comité européen de la protection des données (EDPB) et Contrôleur européen de la protection des données (CEPD). (18 juin 2021). Avis conjoint 05/2021 de l’EDPB et du CEPD sur la proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle (législation sur l’intelligence artificielle). https://www.edpb.europa.eu/our-work-tools/our-documents/edpbedps-joint-opinion/edpb-edps-joint-opinion-52021-proposal_fr
Conseil d’État (France). (2014). Le numérique et les droits fondamentaux – Étude annuelle 2014. La Documentation française. https://www.conseil-etat.fr/publications-colloques/etudes/etudes-annuelles/le-numerique-et-les-droits-fondamentaux
Conseil de l’Europe. (1981). Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel (STE n° 108). Strasbourg. https://www.coe.int/fr/web/data-protection/convention108-and-protocol
Conseil de l’Europe, Commission européenne pour l’efficacité de la justice (CEPEJ). (2018). Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciaires. CEPEJ, Conseil de l’Europe. https://rm.coe.int/charte-ethique-de-l-utilisation-de-l-intelligence-artificielle-dans-les/16808b68ba
Conseil de l’Europe. (2018). Protocole d’amendement à la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel (Convention 108+). Strasbourg. https://www.coe.int/fr/web/data-protection/convention108-and-protocol
Conseil supérieur du pouvoir judiciaire (CSPJ). (2024). Rapport annuel 2023. Bulletin officiel n° 7360 bis, 13 décembre 2024. https://www.cspj.ma/fr
Cour de cassation (France). (6 février 2024). Séminaire avec la Cour suprême de Singapour. https://www.courdecassation.fr/toutes-les-actualites-internationales/asie/2024/02/06/seminaire-avec-la-cour-supreme-de-singapour
Cour de justice de l’Union européenne (CJUE). (2020). Arrêt Data Protection Commissioner v. Facebook Ireland et Maximillian Schrems (Schrems II), Affaire C-311/18. https://curia.europa.eu/juris/document/document.jsf?docid=228677
Cour de justice de l’Union européenne (CJUE). (27 février 2025). Arrêt CK c. Dun & Bradstreet Austria GmbH, Affaire C‑203/22.
Conseil de l’Europe. (1950). Convention de sauvegarde des droits de l’homme et des libertés fondamentales. https://www.echr.coe.int/
Delmas-Marty, M. (2016). Aux quatre vents du monde : Petit guide de navigation sur l’océan de la mondialisation. Seuil.
Government of Singapore, Personal Data Protection Commission (PDPC). (2020). Model AI Governance Framework (2nd ed.). https://www.pdpc.gov.sg/-/media/Files/PDPC/PDF-Files/Resource-for-Organisation/AI/SGModelAIGovFramework2.pdf
Loi n° 09-08 relative à la protection des personnes physiques à l’égard du traitement des données à caractère personnel, Dahir n° 1-09-15 du 18 février 2009, BO n° 5714 – 7 rabii I 1430 (5 mars 2009).
Loi n° 2019-222 du 23 mars 2019 de programmation 2018-2022 et de réforme pour la justice (France). https://www.legifrance.gouv.fr/loda/id/JORFTEXT000038261631
Ministère de la Justice du Royaume du Maroc. (2020). Schéma directeur de la transformation digitale du système judiciaire au Maroc 2021-2025.
Ministère de la Justice d’Estonie. (16 février 2022). Estonia does not develop AI Judge. https://www.justdigi.ee/en/news/estonia-does-not-develop-ai-judge
Narayanan, A., & Shmatikov, V. (2008). Robust de-anonymization of large sparse datasets. In Proceedings of the 2008 IEEE Symposium on Security and Privacy. https://ieeexplore.ieee.org/document/4531148
Organisation de coopération et de développement économiques (OCDE). (2019). Recommandation du Conseil sur l’intelligence artificielle. https://legalinstruments.oecd.org/fr/instruments/OECD-LEGAL-0449
Parlement européen et Conseil de l’Union européenne. (13 juin 2024). Règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle (règlement sur l’intelligence artificielle). JO L, 2024/1689, 12 juillet 2024. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
Parlement européen et Conseil de l’Union européenne. (8 juillet 2026). Règlement (UE) 2026/1744 modifiant notamment le règlement (UE) 2024/1689 en ce qui concerne la mise en œuvre des règles harmonisées concernant l’intelligence artificielle. Journal officiel de l’Union européenne, 2026/1744, 24 juillet 2026. https://eur-lex.europa.eu/eli/reg/2026/1744/oj
Peng, J., & Xiang, W. (2019). The rise of smart courts in China: Opportunities and challenges to the judiciary in a digital age. Nordic Journal of Law and Social Research, (9)
Règlement (UE) 2016/679 du Parlement européen et du Conseil. (27 avril 2016). Règlement général sur la protection des données (RGPD). https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=CELEX%3A32016R0679
Sannerholm, R. (mars 2022). Responsibility and Accountability: AI, Governance and the Rule of Law. Folke Bernadotte Academy. https://www.researchgate.net/publication/360674689_Responsibility_and_Accountability_AI_Governance_and_the_Rule_of_Law
Secrétariat du Conseil du Trésor du Canada. (1er avril 2020). Directive sur la prise de décisions automatisée. Gouvernement du Canada. https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592
Supreme Court of Korea. (28 avril 2025). Establishment of the Judicial Artificial Intelligence Committee [Press release]. Digital Policy Alert. https://digitalpolicyalert.org/event/29535-supreme-court-of-korea-established-judicial-artificial-intelligence-committee
Sweeney, L. (2000). Simple demographics often identify people uniquely (Working Paper). Carnegie Mellon University. https://dataprivacylab.org/projects/identifiability/paper1.pdf
UNESCO. (2021). Recommandation sur l’éthique de l’intelligence artificielle. https://unesdoc.unesco.org/ark:/48223/pf0000381137
Comments are closed, but trackbacks and pingbacks are open.