Legal Challenges in Judicial Proceedings for Addressing Crimes Committed Using Deepfake Technology

Hoseinpouri, Mona

doi:10.22034/judg.2026.2059297.1448

Legal Challenges in Judicial Proceedings for Addressing Crimes Committed Using Deepfake Technology

Document Type : Scientific

Author

Mona Hoseinpouri

Assistant Professor, Department of Law, Kermanshah Branch, Islamic Azad University, Kermanshah, Iran. hosseinpouri.m.1366@iau.ac.ir

10.22034/judg.2026.2059297.1448

Abstract

Deepfake refers to technologies that, using deep learning and neural networks, manipulate audio, visual, or video content in a way that appears real but is entirely fabricated. This study, employing a descriptive-analytical method, examines the legal challenges of judicial proceedings in cases arising from crimes committed through deepfakes. The necessity of this research stems from the unprecedented challenges faced by judicial systems in determining criminal liability, proving the mental element, and validating evidence, where traditional approaches in criminal law are insufficient to address these complexities. Findings indicate that confronting these challenges requires the development of novel legal-technical frameworks. These frameworks should include drafting specialized laws for deepfake-related crimes, applying strict liability for producers, enhancing transparency of system operations through techniques such as digital watermarking, and providing judicial training and expertise in the field of deepfakes. The present study emphasizes that an intelligent integration of legal principles, advanced monitoring technologies, and ethical frameworks can create a safer and more equitable digital ecosystem. This integrated approach not only protects individual rights but also provides the necessary space for the growth of transformative technologies and can serve as a model for addressing future challenges posed by emerging technologies.

Keywords

Crime commission

legal challenges

deepfake

judicial process

Subjects

Criminal law

1. ابراهیمی، علیرضا. (1402). کاربرد هوش مصنوعی در امور حقوقی: فرصت‌ها و چالش‌ها، مطالعات حقوق، دورۀ 35، 23-34.

2. پارسا، ناهید. (1402). مسئولیت مدنی در خودروهای تمام‌خودران در حقوق ایران و آلمان با نگاهی به قانون خودروهای خودران ۲۰۲۱ آلمان، حقوق خصوصی، شمارۀ 43، 348-368.

3. جزایری، سیدعباس و عظیمی، مینا. (1399). بررسی مسئولیت کیفری هوش مصنوعی در حقوق کیفری ایران، ششمین کنفرانس ملی علوم انسانی و مطالعات مدیریت، تهران.

4. حاجی اسماعیلی، میلاد. (1403). چالش‌های مسئولیت مدنی هوش مصنوعی در نظام حقوقی ایران؛ با نگاهی به مقررات‌گذاری در اتحادیۀ اروپا، فصلنامه دولت و حقوق، دورۀ 5، شمارۀ 1، 81-98.

5. رحیمی قدیم، علیرضا و طبسی، بهاره. (1403). تطبیق قوانین حقوقی با پیشرفت‌های فناوری در صنعت مهندسی، اولین همایش ملی تأثیر متقابل حقوق بین‌الملل و حقوق داخلی در توسعۀ قوانین.

6. رضایی، سارا و امینی، محمد. (1403). مسئولیت کیفری در دیپ‌فیک و جعل هویت تصویری، مجله حقوق سایبری، دورۀ 1، شمارۀ 2، 1-20.

7. سی. کینگستون، جی. کی؛ صلح‌چی، سارا و بیگلربیگی، کیان. (1402). هوش مصنوعی و مسئولیت قانونی، تمدن حقوقی، دورۀ 6، شمارۀ 18، 103-120.

8. علی‌ین، آرش. (1400). جرم‌انگاری دیپ‌فیک‌ها از منظر تعهدات حقوق بشری دولت‌ها، دوفصلنامه تحقیقات حقوق قضایی، دورۀ 2، شمارۀ 3، 1-18.

9. فاخری، سهیل؛ نوربخش، اعظم‌السادات و یمقانی، محمدرضا. (1403). مدل‌ها و روش‌های تشخیص دیپ‌فیک در هوش مصنوعی و تأثیر این پدیده بر فرهنگ اجتماعی از منظر رسانه، فصلنامه مدیریت نوآوری و راهبردهای عملیاتی، دورۀ 5، شمارۀ 3، 1-22.

10. فرزین، امید و سمیعی، روح‌الله. (1402). چالش‌های اخلاقی و حقوقی استفاده از هوش مصنوعی در کسب‌وکارهای دیجیتال، تکنولوژی در کارآفرینی و مدیریت استراتژیک، دورۀ 2، شمارۀ 2، 17-27.

11. فلاح تفتی، فاطمه و عبدخدایی، زهره. (1404). تنظیم‌گری دیپ‌فیک در پرتو فقه حکومتی: الگوی فقهی ــ حقوقی برای حکمرانی بر این فناوری، دوفصلنامه حقوق فناوری‌های نوین، دورۀ 6، شمارۀ 12، 1-25.

12. میرکمالی، سیدعلیرضا، حیدرپور، حمیدرضا و مهرآرا، ژیلا . (1405). تحلیل ضرورت جرم انگاری افتراقی جعل عمیق در نظام کیفری ایران (در پرتو مطالعه رویکرد حقوق کیفری آمریکا و چین) . فصلنامه قضاوت، 26(125)، 104-125.. doi: 10.22034/judg.2026.2066883.1540

13. ناصری، جمال الدین و آهنگران، محمدرسول . (1405). هوش مصنوعی به مثابه کارشناس رسمی دادگستری. فصلنامه قضاوت، 26(126)، 171-191.. doi: 10.22034/judg.2025.2055221.1390

14. نوری میکائیل آباد، امیرمهدی. (1403). نقش هوش مصنوعی در فرایندهای تصمیم‌گیری، مطالعات کاربردی در علوم مدیریت و توسعه، شمارۀ 54، 65-72.

15. Ahmed, S. R.; Sonuç, E.; Ahmed, M. R. and Duru, A. D. (2022). “Analysis survey on deepfake detection and recognition with convolutional neural networks”, Int. Congr. Hum. -Comput. Interact., Optim. Robot. Appl. (HORA), pp. 1-7.

16. Binns, R. and Veale, M. (2021). “Fairness in Machine Learning: Lessons from Political Philosophy”, In Proceedings of the 38th International Conference on Machine Learning, PMLR.

17. Chac, Y. (2020). “U.S. AI Regulation Guide: Legislative Overview and Practical Considerations”, The Journal of Robotics, Artificial Intelligence & Law, Vol. 3, No. 1, pp. 17-40.

18. Garvey, J. B. (2022). “Let's Get Real: Weak Artificial Intelligence Has Free Speech Rights”, Fordham L. Rev., No. 91.

19. Gong, L. Y. and Li, X. J. (2024). “A contemporary survey on deepfake detection: datasets, algorithms, and challenges”, Electronics, No. 13.

20. Helm, J. M., et al. (2020). “Machine Learning and Artificial Intelligence: Definitions, Applications, and Future Directions”, The Use of Technology in Orthopaedic Surgery Intraoperative and Post-Operative Management (C Krueger and S Bini, Section Editors), Vol. 13, 69-76.

21. Korshunov, P. and Marcel, S. (2019). “Vulnerability assessment and detection of deepfake videos”, In 2019 International Conference on Biometrics (ICB), IEEE (2019, June), pp. 1-6.

22. Marr, B. and Ward, M. (2019). Artificial Intelligence in Practice, United Kingdom: John Wiley and Sons Ltd.

23. Nayak, J.; Naik, B.; Vimal, S. and Favorskaya, M. (2024). Machine Learning for Cyber Physical System: Advances and Challenges, Germany: Springer.

24. O'Keefe, C.; Ramakrishnan, K.; Tay, J. and Winter, C. (2025). “Law-Following AI: designing AI agents to obey human laws”, Forthcoming in the 94th volume of the Fordham Law Review.

25. Schuett, J. (2019). “A Legal Definition of AI”, arXiv preprint arXiv:1909.01095, 1-14.

26. Wachter, S. (2024). “Limitations and Loopholes in the EU AI Act and AI Liability Directives: What This Means for the European Union, the United States, and Beyond”, Yale Journal of Law & Technology, Vol. 26, No. 3, pp. 671-718.

27. Walters, R. and Novak, M. (2021). Cyber Security, Artificial Intelligence, Data Protection & the Law, Germany: Springer.