Tamne strane dipfejk tehnologije
Sažetak
Uvod/cilj: Poslednjih godina upotreba dipfejk tehnologije privlači ogromnu pažnju. Njome se mogu kreirati lažni likovi kao i događaji koji se nikada nisu desili. Ranijih godina bila je prepoznatljiva, ali je u poslednje vreme toliko napredovala da je danas nemoguće proceniti da li je neki sadržaj lažan ili ne. Rezultat toga jeste nedostatak poverenja u medije i političke institucije, mogućnost manipulisanja javnim diskursom, kao i širenje dezinformacija i lažnih vesti. Cilj ovog rada jeste ispitivanje načina kreiranja dipfejk sadržaja, kao i istraživanje mogućnosti za njegovo otkrivanje. Posebno su istraživane mogućnosti zloupotrebe dipfejk tehnologije.
Metode: Posredstvom korišćenja literature i analize sadržaja, u radu su sistematizovana znanja o dipfejk tehnologiji i analizirani relevantni podaci u ovoj oblasti u vezi sa mogućnostima zloupotrebe. Dipfejk tehnologija i njena upotreba sagledane su i sa bezbednosnog aspekta, odnosno pokazano je na koji način ona može predstavljati društvenu opasnost. Preporuka je da buduća istraživanja budu multidisciplinarna – da integrišu znanja društvenih nauka (bezbednost, sociologija, psihologija) i tehničkih nauka (informacione tehnologije).
Rezultati: Rezultati ovog istraživanja pokazuju da se dipfejk tehnologija primenjujeu medicini, filmskoj industriji, zabavi i kreativnom stvaralaštvu. Međutim, neretko se koristi kako bi se kreirali pornografski sadržaji, lažne vesti i izvele određene vrste prevara.
Zaključak: Dipfejk tehnologija jeste neutralna, što znači da svrha njene upotrebe zavisi od pojedinca koji kreira određeni sadržaj. Upotreba kako veštačke inteligencije, tako i dipfejk tehnologijenameće složena pravna i etička pitanja. Iako je uočljiv potencijal koji ove tehnologije pružaju unapređenju društva, dipfejk tehnologija istovremeno predstavlja ozbiljan rizik po ljudska prava, demokratiju i nacionalnu bezbednost država. Posebno ugroženu kategoriju stanovništva predstavljaju žene zbog mogućnosti kreiranja pornografskih sadržaja i osvetničke pornografije upotrebom dipfejk tehnologije, iako žrtve mogu biti i muškarci.
Reference
Albahar, M. & Almalki, J. 2019. Deepfakes: Threats and countermeasures systematic review. Journal of Theoretical and Applied Information Technology, 97(22), pp.3242-3250 [online]. Available at: https://www.jatit.org/volumes/Vol97No22/7Vol97No22.pdf [Accessed: 02 March 2024].
Bateman, J. 2020. Deepfakes and synthetic media in the financial system: Assessing threat scenarios [e-book]. Washington: Carnegie Endowment for International Peace. Available at: https://carnegieendowment.org/files/Bateman_FinCyber_Deepfakes_final.pdf [Accessed: 21 January 2024].
Botha, J. & Pieterse, H. 2020. Fake News and Deepfakes: A Dangerous Threat for 21st Century Information Security. In: Proceedings of the 15th International Conference on Cyber Warfare and Security, Norfolk, Virginia, USA, pp.57-67, March 12-13.
Byman, D.L., Gao, C., Meserole, C. & Subrahmanian, V.S. 2023. Deepfakes and international conflict [e-book]. Washington: Brookings Institution. Available at: https://www.brookings.edu/wp-content/uploads/2023/01/FP_20230105_deepfakes_international_conflict.pdf [Accessed: 21 January 2024].
Firc, A., Malinka, K. & Hanáček, P. 2023. Deepfakes as a threat to a speaker and facial recognition: An overview of tools and attack vectors. Heliyon, 9(4), e15090. Available at: https://doi.org/10.1016/j.heliyon.2023.e15090.
Grothaus, M. 2021. Trust No One: Inside the World of Deepfakes. London, UK: Hodder Studio. ISBN: 9781529347982.
Köbis, N.C., Doležalová, B. & Soraperra, I. 2021. Fooled twice: People cannot detect deepfakes but think they can. iScience, 24(11), art.number:103364. Available at: https://doi.org/10.1016/j.isci.2021.103364.
Kshetri, N. 2023. The Economics of Deepfakes. Computer, 56(8), pp.89-94. Available at: https://doi.org/10.1109/MC.2023.3276068.
Kugler, M.B. & Pace, C. 2021. Deepfake Privacy: Attitudes and Regulation. Northwestern University Law Review 611, Northwestern Public Law Research Paper No. 21-04. Available at: https://doi.org/10.2139/ssrn.3781968.
Lu, H. & Chu, H. 2023. Let the dead talk: How deepfake resurrection narratives influence audience response in prosocial contexts. Computers in Human Behavior, 145, art.number:107761. Available at: https://doi.org/10.1016/j.chb.2023.107761.
Mania, K. 2024. Legal Protection of Revenge and Deepfake Porn Victims in the European Union: Findings From a Comparative Legal Study. Trauma, Violence, & Abuse, 25(1), pp.117-129. Available at: https://doi.org/10.1177/15248380221143772.
Marković, D. 2022. Detektovanje manipulacije u video snimcima stvorenih „deepfake“ tehnikom sistemom učenja prostorno vremenskih karakteristika. PhD thesis. Belgrade: Singidunum University [online]. Available at: https://nardus.mpn.gov.rs/handle/123456789/20763 (in Serbian) [Accessed: 02 March 2024].
Marković, E. & Dimovski, D. 2023. Deepfake as a new form of crime. In: XII International conference on social and technological development, Trebinje, Republic of Srpska, Bosnia & Herzegovina, pp.296-308, June 15-18 [online]. Available at: https://stedconference.com/wp-content/uploads/2024/02/Book-of-Proceedings_STEDC_2023-sa-DOI-brojevima_compressed.pdf (in Serbian) [Accessed: 02 March 2024].
Meskys, E., Liaudanskas, A., Kalpokiene, J. & Jurcys, P. & 2020. Regulating deep fakes: legal and ethical considerations. Journal of Intellectual Property Law & Practice, 15(1), pp.24-31. Available at: https://doi.org/10.1093/jiplp/jpz167.
Mustak, M., Salminen, J., Mäntymäki, M., Rahman, A. & Dwivedi, Y.K. 2023. Deepfakes: Deceptions, mitigations, and opportunities. Journal of Business Research, 154, art.number:113368. Available at: https://doi.org/10.1016/j.jbusres.2022.113368.
Nguyen, T.T., Nguyen, Q.V.H., Nguyen, D.Ti., Nguyen, D.Th., Nuynh-The, T., Nahavandi, S., Nygen, T.T., Pham, Q.- V. & Nygen, C.M. 2022. Deep learning for deepfakes creation and detection: A survey. Computer Vision and Image Understanding, 223, art.number:103525. Available at: https://doi.org/10.1016/j.cviu.2022.103525.
Prlja, D., Gasmi, G. & Korać, V. 2022. Human rights and artificial intelligence [e-book]. Belgrade: Institute of Comparative Law (in Serbian). Available at: http://ricl.iup.rs/1295/1/Ljudska%20prava%20i%20ve%C5%A1ta%C4%8Dka%20inteligencija-Prlja-Gasmi-Korac.pdf (in Serbian). [Accessed: 21 January 2024]. ISBN: 978-86-80186-82-5.
Schneier, B. 2021. The Coming AI Hackers [e-book]. United States: Harvard Kennedy School, Belfer Center for Science and International Affairs. Available at: https://www.belfercenter.org/sites/default/files/2021-04/HackingAI.pdf [Accessed: 21 January 2024].
Vatreš, A. 2021. Deepfake Phenomenon: An Advanced Form of Fake News and Its Implications on Reliable Journalism. Društvene i humanističke studije DHS (Social Sciences and Humanities Studies), 6(3), pp.561-576 (in Serbian). Available at: https://doi.org/10.51558/2490-3647.2021.6.3.561.
Van der Sloot, B. & Wagensveld, Y. 2022. Deepfakes: regulatory challenges for the synthetic society. Computer Law & Security Review, 46, art.number:105716. Available at: https://doi.org/10.1016/j.clsr.2022.105716.
Wang, S. & Kim, S. 2022. Users’ emotional and behavioral responses to deepfake videos of K-pop idols. Computers in Human Behavior, 134, art.number:107305. Available at: https://doi.org/10.1016/j.chb.2022.107305.
Westerlund, M. 2019. The Emergence of Deepfake Technology: A Review. Technology Innovation Management Review, 9(11), pp.39-52. Available at: https://doi.org/10.22215/timreview/1282.
Wazid, M., Mishra, A.K., Mohd, N. & Das, A.K. 2024. A Secure Deepfake Mitigation Framework: Architecture, Issues, Challenges, and Societal Impact. Cyber Security and Applications, 2, art.number:100040. Available at: https://doi.org/10.1016/j.csa.2024.100040.
Sva prava zadržana (c) 2024 Sanela Z. Veljković, Milica T. Ćurčić, Ilija P. Gavrilović
Ovaj rad je pod Creative Commons Autorstvo 4.0 međunarodnom licencom.
Vojnotehnički glasnik omogućava otvoreni pristup i, u skladu sa preporukom CEON-a, primenjuje Creative Commons odredbe o autorskim pravima:
Autori koji objavljuju u Vojnotehničkom glasniku pristaju na sledeće uslove:
- Autori zadržavaju autorska prava i pružaju časopisu pravo prvog objavljivanja rada i licenciraju ga Creative Commons licencom koja omogućava drugima da dele rad uz uslov navođenja autorstva i izvornog objavljivanja u ovom časopisu.
- Autori mogu izraditi zasebne, ugovorne aranžmane za neekskluzivnu distribuciju rada objavljenog u časopisu (npr. postavljanje u institucionalni repozitorijum ili objavljivanje u knjizi), uz navođenje da je rad izvorno objavljen u ovom časopisu.
- Autorima je dozvoljeno i podstiču se da postave objavljeni rad onlajn (npr. u institucionalnom repozitorijumu ili na svojim internet stranicama) pre i tokom postupka prijave priloga, s obzirom da takav postupak može voditi produktivnoj razmeni ideja i ranijoj i većoj citiranosti objavljenog rada (up. Efekat otvorenog pristupa).