დიდი ტყუილები: რა საფრთხეებს ჰქმნის DEEPFAKE ტექნოლოგია კიბერსივრცეში?

ავტორი: Giorgi Sulkhanishvili, Guja Tvalabeishvili, Mariam Tsurtsumia, Maksim Iavich
ორგანიზაცია: University of Young Penetration Testers, Caucasus University

კატეგორია:

საკვანძო სიტყვები: კიბერუსაფრთხოება, AI უსაფრთხოება, Deepfake, სოციალური ინჟინერია, სოციალური ცნობიერება
აბსტრაქტი. ციფრულ ეპოქაში ხელოვნური ინტელექტის (AI) სწრაფმა განვითარებამ შექმნა როგორც უპრეცედენტო შესაძლებლობები, ისე მნიშვნელოვანი კიბერუსაფრთხოების საფრთხეები. ერთ-ერთი ყველაზე საყურადღებო მოვლენაა Deepfake ტექნოლოგიის გამოჩენა, რომელიც აერთიანებს საფუძვლიან სწავლებასა და მედიამანიპულაციას ყალბი, მაგრამ რეალისტური ვიდეოებისა და აუდიო მასალების შესაქმნელად. სტატიაში გამოკვლეულია Deepfake-ის მიერ კიბერსივრცეში წარმოქმნილი საფრთხეები, განსაკუთრებით, თაღლითობის, ფიშინგის, დეზინფორმაციის გავრცელებისა და საზოგადოებრივი ნდობის ეჭვქვეშ დაყენების მიმართულებით. კვლევა აერთიანებს გლობალურ მაგალითებს, სადაც Deepfake ტექნოლოგია გამოყენებულია ფინანსური თაღლითობის, სოციალური ინჟინერიისა და პოლიტიკური პროპაგანდის მიზნით, რაც ადასტურებს მისი გამოყენების სიმარტივეს და მნიშვნელოვან საშიშროებას. სტატია ასევე მიმოიხილავს არსებულ ტექნოლოგიურ და რეგულაციურ მექანიზმებს, როგორიცაა მედია-ფორენზიკა, ბლოკჩეინი, AI-ზე დაფუძნებული მაიდენტიფიცირებელი მოდელები და საერთაშორისო საკანონმდებლო ჩარჩოები. განსაკუთრებული ყურადღება ეთმობა საზოგადოებრივი ცნობიერების ამაღლებას, ეთიკური სტანდარტების დაცვასა და სახელმწიფოების, ტექნოლოგიური კომპანიებისა და ინდივიდების თანამშრომლობის აუცილებლობას Deepfake-ის გავრცელებისა და არასამართლიანი გამოყენების შესაკავებლად.

ბიბლიოგრაფია

საქართველოს განათლების, მეცნიერების, კულტურისა და სპორტის სამინისტრო. "რა უნდა იცოდეთ სოციალური ინჟინერიის შესახებ." https://finedu.gov.ge/ge/ra-unda-itsodet-sotsialuri-inzhineriis-shesakheb-1
Davey Winder. "You’re Not Ready for AI-Powered Scams." Wired, February 26, 2024 https://www.wired.com/story/youre-not-ready-for-ai-powered-scams/
Goodfellow, Ian J., Jonathon Shlens, and Christian Szegedy. “Explaining and Harnessing Adversarial Examples.” arXiv, June 9, 2014. https://arxiv.org/pdf/1406.2661
Patricia San Pedro. "Deepfake Porn Is a Huge Problem — AI Tools Help Stop It." Business Insider, February 2024. https://www.businessinsider.com/deepfake-porn-huge-problem-ai-tools-help-stop-2024-2
Will Knight. "China Wants to Make AI Watermarks Happen." Wired, March 15, 2024. https://www.wired.com/story/china-wants-to-make-ai-watermarks-happen
Financial Times. "How AI Is Shaping the Future of Cybersecurity," January 15, 2024. https://www.ft.com/content/61e4d68a-c7e4-4419-a5fe-c8a72c9cb7c6
Jesse Damiani. "A Voice Deepfake Was Used to Scam a CEO Out of $243,000." Forbes, September 3, 2019. https://www.forbes.com/sites/jessedamiani/2019/09/03/a-voice-deepfake-was-used-to-scam-a-ceo-out-of-243000/
YouTube. "Deepfake Detection: The Fight Against AI-Generated Lies," posted by ColdFusion, March 12, 2024, video, 12:34. https://www.youtube.com/watch?v=X17yrEV5sl4