Artificial intelligence algorithms in legal practice: Legal boundaries, socio-legal implications and liability

Abstract

The relevance of this study stems from the rapid digitalisation of legal practice and the growing role of artificial intelligence algorithms in legal decision-making processes, which gives rise to new legal and ethical challenges. The aim of the study was to examine the intersection of legal, ethical and institutional aspects of the application of artificial intelligence in the legal sphere, as well as to define the limits of permissible use of algorithmic systems and approaches to the allocation of liability. The study employed systematic, comparative legal and formal legal methods, as well as an analysis of judicial practice. The risks of automated decision-making were examined: algorithmic bias, the “black box” problem, the reproduction of discrimination and threats to judicial independence. These risks are confirmed by empirical research in the field of algorithmic justice and an analysis of the practice of using risk prediction systems in criminal proceedings (e.g., COMPAS in the US). The regulation of AI is analysed using the example of the EU Artificial Intelligence Act and the GDPR, as well as the ECHR’s approaches to ensuring transparency and procedural safeguards. Approaches to the allocation of responsibility between developers, suppliers, users and the state are summarised, and a model of algorithmic transparency with human oversight and the parties’ right to be informed is proposed. International experience from the US, France, Singapore and China is examined, as well as the prospects for implementing AI in Ukraine within the framework of the EU-ITC and case law analysis systems. Particular attention is paid to the concept of distributed algorithmic liability and the application of the analogy of liability for a source of increased danger to high-risk AI systems. A model of algorithmic transparency is proposed, incorporating the parties’ right to be notified of AI use, algorithmic expertise, and the court’s obligation to justify its consideration of AI recommendations. The principle of “human error” is outlined as a guarantee of judicial discretion and the independence of the judge. The results of the study can be used to improve national legislation in the field of digital justice and to implement standards of algorithmic transparency. Актуальність дослідження зумовлена стрімкою цифровізацією правничої діяльності та зростанням ролі алгоритмів штучного інтелекту у процесах ухвалення юридичних рішень, що породжує нові правові та етичні виклики. Метою роботи було вивчення перетину правових, етичних та інституційних аспектів застосування штучного інтелекту в правничій сфері, а також визначення меж допустимого використання алгоритмічних систем і підходів до розподілу відповідальності. У дослідженні використано системний, порівняльно-правовий, формально-юридичний методи, а також аналіз судової практики. Досліджено ризики автоматизованого ухвалення рішень: алгоритмічну упередженість, проблему «чорної скриньки», відтворення дискримінації та загрози незалежності судді. Ці ризики підтверджуються емпіричними дослідженнями у сфері алгоритмічного правосуддя та аналізом практики використання систем прогнозування ризиків у кримінальному судочинстві (наприклад, COMPAS у США). Проаналізовано регулювання ШІ на прикладі Закону ЄС про штучний інтелект і GDPR, а також підходи ЄСПЛ до забезпечення прозорості та процесуальних гарантій. Узагальнено підходи до розподілу відповідальності між розробниками, постачальниками, користувачами й державою та запропоновано модель алгоритмічної прозорості з людським контролем і правом сторін на поінформованість. Розглянуто міжнародний досвід США, Франції, Сінгапуру та Китаю, а також перспективи впровадження ШІ в Україні в межах ЄСІТС і систем аналізу судової практики. Особливу увагу приділено концепції розподіленої алгоритмічної відповідальності та застосуванню аналогії з відповідальністю за джерело підвищеної небезпеки до високоризикових систем ШІ. Запропоновано модель алгоритмічної прозорості з правом сторін на повідомлення про використання ШІ, алгоритмічну експертизу та обов’язком суду мотивувати врахування рекомендацій ШІ. Окреслено принцип «людської помилки» як гарантію збереження судового розсуду й незалежності судді. Результати дослідження можуть бути використані для вдосконалення національного законодавства у сфері цифрового правосуддя та впровадження стандартів алгоритмічної прозорості.