Застосування штучного інтелекту для протидії злочинам у сфері сексуальної експлуатації дітей у мережі Інтернет

Abstract

У статті досліджено можливості використання технологій штучного інтелекту для проти- дії злочинам у сфері сексуальної експлуатації дітей у мережі Інтернет. У сучасному цифровому середовищі зростає кількість злочинів, що скоюються з використанням мережі Інтернет, зокрема у сфері сексуальної експлуатації дітей. Анонімність, глобальність, висока мобільність користувачів, а також низький рівень контролю за цифровими платформами в окремих країнах створюють сприятливі умови для поширення злочинної діяльності, пов’язаної з виготовленням, зберіганням та розповсюдженням матеріалів, що зображують сексуальне насильство над дітьми (CSAM), грумінгом, сексторшном, трансляціями сексуального насильства в режимі реального часу та використанням онлайн-платформ для торгівлі дітьми. У статті наголошується на високому рівні вразливості дітей до подібних загроз, зокрема, через тривале перебування в інтернеті, легковажне ставлення до онлайн-знайомств та недостатній рівень цифрової обізнаності. З огляду на значне зростання кількості таких злочинів, а також розвиток цифрових технологій, досліджено потенціал застосування штучного інтелекту (ШІ) як інструменту для протидії сексуальній експлуатації дітей в Інтернеті. Проаналізовано конкретні технологічні рішення, які вже використовуються у світовій практиці: PhotoDNA від Microsoft, Google Content Safety API, а також інструменти PDQ та TMK+PDQF, створені Facebook для аналізу зображень та відео. Водночас розглянуто ризики, пов’язані з використанням злочинцями генеративних моделей штучного інтелекту для створення фальшивих інтимних матеріалів із метою шантажу дітей. Значну увагу приділено проблемі відсутності нормативно-правового регулювання застосування ШІ в правоохоронній діяльності в Україні. Проаналізовано законодавчі ініціативи щодо регулювання використання штучного інтелекту, зокрема в Україні та ЄС, а також вказано на необхідність правового врегулювання застосування таких технологій у правоохоронній діяльності. Запропоновано доповнення до Закону України «Про протидію торгівлі людьми» для легалізації використання ШІ у виявленні та блокуванні шкідливого контенту. The article explores the potential of using artificial intelligence (AI) technologies to combat crimes related to the sexual exploitation of children on the Internet. In today’s digital environment, the number of crimes committed online is steadily increasing, particularly those involving child sexual exploitation. Anonymity, global reach, high user mobility, and the low level of control over digital platforms in some countries create favorable conditions for criminal activities such as the production, storage, and distribution of child sexual abuse material (CSAM), grooming, sextortion, live-streamed sexual abuse, and the use of online platforms for child trafficking. The article highlights the high level of children’s vulnerability to such threats, due in part to prolonged time spent online, a careless approach to online communication, and a low level of digital literacy. Given the rapid advancement of digital technologies and the growing number of related crimes, the article examines the potential of AI as a tool for preventing and investigating these offenses. It analyzes specific technological solutions already in use globally, including Microsoft’s PhotoDNA, Google’s Content Safety API, and Facebook’s tools PDQ and TMK+PDQF, which are design to detect and analyze visual content. At the same time, the article considers the risks associated with the misuse of generative AI by offenders to create fake intimate content for blackmailing children. Special attention paid to the lack of regulatory and legal frameworks governing the use of AI in law enforcement in Ukraine. Legislative initiatives in both Ukraine and the European Union are examine, and the necessity of introducing legal norms to regulate the application of AI technologies in this domain emphasized. The article proposes an amendment to the Law of Ukraine “On Combating Human Trafficking” to legalize the use of AI for detecting and blocking harmful content.