Στις 28 Απριλίου 2022, το Εργαστήριο Καινοτομίας της Europol δημοσίευσε την πρώτη του έκθεση δίνοντας μια λεπτομερή επισκόπηση της εγκληματικής χρήσης της τεχνολογίας deepfake. Τα φαινόμενα των deepfake, η τεχνολογία πίσω από αυτά, ο αντίκτυπος της τεχνολογίας deepfake στο έγκλημα και στην επιβολή του νόμου, ο εντοπισμός του deepfake και ενέργειες π.χ. από τις εταιρείες τεχνολογίας και την ΕΕ για την ανταπόκριση στα deepfakes εξηγούνται σε έξι κεφάλαια.

Αν χρησιμοποιηθεί σωστά, η τεχνολογία deepfake μπορεί να παράγει περιεχόμενο που δείχνει πειστικά στους ανθρώπους να λένε ή να κάνουν πράγματα που δεν έκαναν ποτέ ή να δημιουργήσουν άτομα που δεν υπήρξαν ποτέ από την αρχή. Όσον αφορά τις τεχνολογίες πίσω από τα deepfakes, η έκθεση τονίζει ότι η προσαρμογή των δικτύων δημιουργίας αντιπάλων (GAN) - ένας μηχανισμός που έχει σχεδιαστεί για να ελαχιστοποιεί την πιθανότητα διαχωρισμού των προϊόντων από το αυθεντικό περιεχόμενο - ένα μεγάλο άλμα στην ποιότητα και την προσβασιμότητα της τεχνολογίας deepfake. Επιπλέον, η αυξανόμενη εξέλιξη του εγκλήματος ως υπηρεσίας (CaaS) παράλληλα με τέτοιες τεχνολογίες προκαλεί αυξανόμενη ανησυχία για την επιβολή του νόμου. Η τεχνολογία Deepfake μπορεί να διευκολύνει διάφορες εγκληματικές δραστηριότητες, μεταξύ άλλων:

• Παρενόχληση ή ταπείνωση ατόμων στο Διαδίκτυο.
• Διάπραξη εκβιασμού και απάτης.
• Διευκόλυνση της απάτης εγγράφων.
• Παραποίηση διαδικτυακών ταυτοτήτων και εξαπάτηση των μηχανισμών «γνώρισε τον πελάτη σου».
• Μη συναινετική πορνογραφία.
• Διαδικτυακή σεξουαλική εκμετάλλευση παιδιών.
• Παραποίηση ή χειραγώγηση ηλεκτρονικών αποδεικτικών στοιχείων για έρευνες ποινικής δικαιοσύνης.
• Διατάραξη των χρηματοπιστωτικών αγορών.
• Διανομή παραπληροφόρησης και χειραγώγηση της κοινής γνώμης.
• Υποστήριξη των αφηγήσεων εξτρεμιστικών ή τρομοκρατικών ομάδων·
• Υποκίνηση κοινωνικής αναταραχής και πολιτικής πόλωσης.

Εναλλακτικά, οι τεχνολογίες deepfake έχουν αντίκτυπο στο αστυνομικό έργο και στη νομική διαδικασία, καθώς το υλικό deepfake απαιτεί πιο εξειδικευμένη αξιολόγηση και διασταύρωση και νέες μεθόδους ανίχνευσης. Ως εκ τούτου, η έκθεση βλέπει μια έντονη ανάγκη προσαρμογής των ρυθμιστικών πλαισίων - από νόμους έως πολιτικές και πρακτικές. Οι αρχές επιβολής του νόμου, οι πάροχοι διαδικτυακών υπηρεσιών και άλλοι οργανισμοί πρέπει να αναπτύξουν τις πολιτικές τους και να επενδύσουν στην τεχνολογία εντοπισμού και πρόληψης. Οι υπεύθυνοι χάραξης πολιτικής και οι υπηρεσίες επιβολής του νόμου πρέπει να αξιολογήσουν τις τρέχουσες πολιτικές και πρακτικές τους και να τις προσαρμόσουν ώστε να είναι προετοιμασμένοι για τη νέα πραγματικότητα των deepfakes. Συνεπώς, η νέα νομοθεσία θα πρέπει να ορίζει κατευθυντήριες γραμμές, να επιβάλλει τη συμμόρφωση και να υποστηρίζει τις προσπάθειες ετοιμότητας της επιβολής του νόμου.