Όταν μια εκλογή ακυρώνεται λόγω TikTok
Στις 6 Δεκεμβρίου 2024, το Συνταγματικό Δικαστήριο της Ρουμανίας πήρε μια άνευ προηγουμένου απόφαση: ακύρωσε τον πρώτο γύρο των προεδρικών εκλογών. Όχι, για νοθεία στις κάλπες, ούτε για παρατυπίες στην καταμέτρηση. Αλλά γιατί ένας υποψήφιος, ο μέχρι πρότινος άγνωστος Călin Georgescu, είχε αναδειχθεί στην πρώτη θέση μέσα από μια συντονισμένη επιχείρηση επιρροής στο TikTok, με ενδείξεις εμπλοκής ξένου κρατικού δρώντα.
Για πρώτη φορά στην ιστορία της Ευρωπαϊκής Ένωσης, μια εκλογική διαδικασία ακυρώθηκε λόγω χειραγώγησης στα μέσα κοινωνικής δικτύωσης. Η περίπτωση της Ρουμανίας δεν είναι μεμονωμένο περιστατικό. Είναι το πιο εμβληματικό παράδειγμα μιας νέας πραγματικότητας: οι εκλογικές διαδικασίες έχουν μετατραπεί σε τομέα υβριδικών απειλών (hybrid threats), όπου η τεχνητή νοημοσύνη και τα κοινωνικά δίκτυα λειτουργούν ως πολλαπλασιαστές ισχύος για όποιον θέλει να επηρεάσει τη δημοκρατική βούληση.
Τι άλλαξε από το 2016
Όταν το 2018 αποκαλύφθηκε το σκάνδαλο της Cambridge Analytica, ο κόσμος έμαθε ότι τα δεδομένα από 87 εκατομμύρια προφίλ Facebook είχαν χρησιμοποιηθεί για την κατασκευή ψυχογραφικών προφίλ ψηφοφόρων στις αμερικανικές εκλογές του 2016 και στο δημοψήφισμα για το Brexit. Η μικροστόχευση (microtargeting) εκείνης της εποχής, όσο εξελιγμένη κι αν φάνταζε τότε, ήταν χειρωνακτική και αναλογική σε σχέση με αυτό που έχουμε σήμερα.
Από το 2023 και μετά, τρεις παράγοντες αναμόρφωσαν ριζικά το τοπίο:
Δημοκρατικοποίηση της γενετικής ΤΝ. Εργαλεία όπως το ChatGPT, το Midjourney και τα ανοιχτά μοντέλα φωνητικής σύνθεσης κάνουν την παραγωγή πειστικού περιεχομένου κειμένου, εικόνας, ήχου, βίντεο, προσιτή σε οποιονδήποτε, χωρίς τεχνική εξειδίκευση.
Αλγόριθμοι αλληλεπίδρασης. Πλατφόρμες όπως το TikTok, με σύστημα συστάσεων που βασίζεται καθαρά στη συμπεριφορά του χρήστη και όχι στο κοινωνικό του δίκτυο, μπορούν να εκτοξεύσουν ένα ασήμαντο προφίλ σε εκατομμύρια οθόνες μέσα σε λίγες ημέρες.
Επαγγελματοποίηση των δικτύων επιρροής. Κρατικοί δρώντες έχουν ενσωματώσει τα social media στο οπλοστάσιο των ψυχολογικών επιχειρήσεων και υβριδικού πολέμου, σε αυτό που η ΕΕ ονομάζει πλέον επίσημα FIMI (Foreign Information Manipulation and Interference).
Το 2024 ήταν χρονιά-ορόσημο: 3,7 δισεκατομμύρια πολίτες σε 72 χώρες κλήθηκαν στις κάλπες. Ποτέ προηγουμένως τόσο μεγάλο μέρος της ανθρωπότητας δεν ψήφισε μέσα στον ίδιο εκλογικό κύκλο. Και ποτέ προηγουμένως τα εργαλεία χειραγώγησης δεν ήταν τόσο φθηνά, τόσο προσβάσιμα και τόσο αποτελεσματικά.
Το οπλοστάσιο της εκλογικής χειραγώγησης
1. Μικροστόχευση με ΤΝ
Η ανάλυση δεδομένων από αλληλεπιδράσεις στα social media (likes, shares, σχόλια, χρόνος παραμονής σε κάθε post) επιτρέπει την κατασκευή λεπτομερών ψυχογραφικών προφίλ. Με τη βοήθεια μηχανικής μάθησης, μια πολιτική εκστρατεία μπορεί να χωρίσει το εκλογικό σώμα σε δεκάδες ή και εκατοντάδες κατηγορίες, και να στείλει σε καθεμία ένα διαφορετικό μήνυμα, όχι απλώς διαφορετικό σε ύφος, αλλά ενίοτε αντιφατικό σε περιεχόμενο. Το πρόβλημα δεν είναι μόνο η ιδιωτικότητα. Είναι ότι καταλύεται η ίδια η έννοια της δημόσιας πολιτικής συζήτησης: όταν κάθε ψηφοφόρος βλέπει διαφορετικό υποψήφιο, δεν υπάρχει πια κοινό σημείο αναφοράς για να συγκριθούν προγράμματα και θέσεις.
2. Deepfakes και συνθετικά μέσα
Τα deepfakes βίντεο, εικόνες ή ηχητικά αρχεία που δημιουργούνται από ΤΝ και απεικονίζουν πραγματικά πρόσωπα να λένε ή να κάνουν πράγματα που ποτέ δεν έκαναν, έχουν εμφανιστεί ήδη σε πληθώρα εκλογικών αναμετρήσεων:
ΗΠΑ, Ιανουάριος 2024: Robocall με συνθετική φωνή του Joe Biden ζητούσε από Δημοκρατικούς ψηφοφόρους του New Hampshire να μην πάνε στις κάλπες των προκριματικών.
Σλοβακία, 2023: Λίγες ημέρες πριν τις εκλογές, κυκλοφόρησε στο Facebook ψεύτικο ηχητικό όπου ο φιλελεύθερος υποψήφιος Michal Šimečka συζητούσε δήθεν την παραχάραξη ψηφοδελτίων.
Αργεντινή, 2023: Και οι δύο βασικοί υποψήφιοι, Javier Milei και Sergio Massa, χρησιμοποίησαν deepfakes για να γελοιοποιήσουν ο ένας τον άλλον.
Ιρλανδία, Οκτώβριος 2025: Deepfake βίντεο εμφάνιζε υποψήφια πρόεδρο να αποσύρεται από την κούρσα την παραμονή των εκλογών.
Σύμφωνα με έρευνα του IE University τον Οκτώβριο του 2024, το 40% των Ευρωπαίων ανησυχεί για κατάχρηση της ΤΝ στις εκλογές, ενώ το 31% πιστεύει ότι η ΤΝ έχει ήδη επηρεάσει την ψήφο του.
3. Bots, inauthentic networks και αλγοριθμική ενίσχυση
Στη Ρουμανία, οι ρουμανικές υπηρεσίες πληροφοριών αποχαρακτήρισαν έγγραφα που τεκμηρίωναν συντονισμένη χρήση χιλιάδων λογαριασμών TikTok για την τεχνητή ενίσχυση του Georgescu, μέσω συντονισμένης ανάρτησης, ψεύτικων «οργανικών» αλληλεπιδράσεων και πληρωμένης προβολής που δεν δηλώθηκε ως πολιτική διαφήμιση. Έρευνα του Global Witness έδειξε ότι ο αλγόριθμος της πλατφόρμας πρότεινε περιεχόμενο υπέρ του υποψηφίου από 4,6 έως 14 φορές συχνότερα από ό,τι υπέρ του ανταγωνιστή του. Δεν χρειάζεται κρατικός δρώντας. Σήμερα, ένας μικρός αριθμός operators με τη βοήθεια LLMs μπορεί να συντηρήσει χιλιάδες πειστικούς ψεύτικους λογαριασμούς που γράφουν, σχολιάζουν και αλληλεπιδρούν σε πολλαπλές γλώσσες, χωρίς τα χαρακτηριστικά λάθη που πρόδιδαν τα bots της προηγούμενης γενιάς.
4. Δηλητηρίαση των ίδιων των μοντέλων ΤΝ
Μια πιο πρόσφατη απειλή: η δηλητηρίαση δεδομένων (data poisoning). Ομάδες όπως η ρωσική επιχείρηση επιρροής Storm-1516 έχουν αρχίσει να «μολύνουν» το διαδικτυακό περιβάλλον με ψεύτικες ειδήσεις σχεδιασμένες όχι για ανθρώπους, αλλά για να καταναλωθούν από τα εκπαιδευτικά δεδομένα μελλοντικών μοντέλων ΤΝ και τα συστήματα σύστασης. Όταν ένας πολίτης αργότερα ρωτά ένα chatbot για ένα γεγονός, παίρνει πίσω την παραπληροφόρηση, με την αξιοπιστία που προσδίδει η «ουδετερότητα» της μηχανής.
Γιατί αυτό είναι ζήτημα κυβερνοασφάλειας;
Παραδοσιακά, η εκλογική ασφάλεια αντιμετωπιζόταν ως ζήτημα προστασίας υποδομών: ηλεκτρονικά συστήματα καταμέτρησης, ηλεκτρονικοί κατάλογοι ψηφοφόρων, δίκτυα μετάδοσης αποτελεσμάτων. Αυτή η προσέγγιση παραμένει αναγκαία, αλλά είναι πια ανεπαρκής.
Το νέο πεδίο μάχης είναι ο πληροφοριακός χώρος (information ecosystem). Όπως ένα SCADA δίκτυο μπορεί να πληγεί από στοχευμένη επίθεση που εκμεταλλεύεται γνωστές ευπάθειες, έτσι και η δημόσια σφαίρα μπορεί να πληγεί από επιχειρήσεις που εκμεταλλεύονται γνωστές γνωστικές προκαταλήψεις, ψυχολογικές αδυναμίες και αλγοριθμικά κενά ασφαλείας.
Από αυτή την οπτική, μια εκλογική επιχείρηση επιρροής δεν διαφέρει δομικά από μια APT επίθεση:
Reconnaissance: συλλογή δεδομένων ψηφοφόρων, χαρτογράφηση κοινωνικών δικτύων, αναγνώριση «σημείων εισόδου» (πολωμένες κοινότητες).
Initial access: δημιουργία inauthentic accounts ή κατάληψη υπαρχόντων.
Lateral movement: διάδοση μέσω αλγοριθμικής ενίσχυσης και επιρροαστών.
Payload: το ίδιο το παραπληροφορητικό περιεχόμενο.
Persistence: συντήρηση του narrative μέσω επαναλαμβανόμενων εκστρατειών.
Exfiltration: το «λάφυρο» δεν είναι δεδομένα, είναι η εκλογική συμπεριφορά.
Αυτή η αναλογία δεν είναι μεταφορική. Όλο και περισσότεροι οργανισμοί, από κρατικές υπηρεσίες μέχρι ΜΜΕ και πολιτικά κόμματα, αντιμετωπίζουν πλέον τις εκστρατείες FIMI με τα ίδια εργαλεία και πλαίσια που χρησιμοποιούν για την ανίχνευση κυβερνοεπιθέσεων: SIEM, threat intelligence, indicators of compromise, post-incident analysis.
Το ευρωπαϊκό κανονιστικό πλαίσιο
Η Ευρωπαϊκή Ένωση είναι σήμερα η αυστηρότερη ρυθμιστική αρχή παγκοσμίως στον τομέα. Τρία βασικά κείμενα διαμορφώνουν το τοπίο:
Digital Services Act (DSA). Σε πλήρη ισχύ από τον Φεβρουάριο 2024, υποχρεώνει τις πολύ μεγάλες πλατφόρμες (VLOPs) να αξιολογούν και να μετριάζουν συστημικούς κινδύνους, συμπεριλαμβανομένων των κινδύνων για τις εκλογικές διαδικασίες. Με βάση τον DSA, η Ευρωπαϊκή Επιτροπή ξεκίνησε επίσημη διαδικασία κατά του TikTok για την υπόθεση της Ρουμανίας.
AI Act (Κανονισμός 2024/1689). Σε ισχύ από τον Αύγουστο 2024, με πλήρη εφαρμογή τον Αύγουστο 2026. Επιβάλλει υποχρεώσεις διαφάνειας: τα deepfakes πρέπει να σημαίνονται ως τέτοια, τα κείμενα παραγόμενα από ΤΝ που πληροφορούν για θέματα δημοσίου συμφέροντος πρέπει να επισημαίνονται. Οι κυρώσεις φτάνουν τα 15 εκατομμύρια ευρώ ή το 3% του παγκόσμιου τζίρου.
Code of Practice on Disinformation & Code of Practice on Transparency of AI-Generated Content. Οικειοθελή πλαίσια που λειτουργούν ως γέφυρα μέχρι την πλήρη ενεργοποίηση του AI Act, με δεσμεύσεις πλατφορμών για επισήμανση συνθετικού περιεχομένου, υδατογραφήματα (watermarks), συνεργασία με fact-checkers και διαμοιρασμό δεδομένων με ερευνητές.
Παράλληλα, πανευρωπαϊκές πολιτικές παρατάξεις υπέγραψαν τον Απρίλιο του 2024 κώδικα δεοντολογίας με τον οποίο δεσμεύτηκαν να μη χρησιμοποιήσουν παραπλανητικό AI-generated περιεχόμενο στις ευρωεκλογές. Αντίστοιχη δέσμευση υπέγραψαν τα κόμματα της Νορβηγίας τον Νοέμβριο 2024.
Για ελληνικούς και κυπριακούς οργανισμούς, η συμμόρφωση με αυτό το πλαίσιο δεν είναι προαιρετική: κάθε φορέας που αναπτύσσει ή χρησιμοποιεί συστήματα ΤΝ σε δημόσιες επικοινωνίες οφείλει ήδη να χαρτογραφεί τις υποχρεώσεις του.
Πώς αμυνόμαστε
Η αντιμετώπιση δεν είναι αποκλειστική ευθύνη ενός φορέα. Απαιτεί συντονισμένη δράση σε τέσσερα επίπεδα:
Σε επίπεδο πολίτη. Η ψηφιακή και πληροφοριακή παιδεία (media & information literacy) είναι η πρώτη γραμμή άμυνας. Πρωτοβουλίες όπως το EUvsDisinfo και εθνικά προγράμματα fact-checking πρέπει να ενσωματωθούν σε σχολεία και επιμορφώσεις. Η βασική αρχή: όσο πιο έντονα συναισθήματα προκαλεί ένα περιεχόμενο, τόσο πιο επιφυλακτικά πρέπει να αντιμετωπίζεται.
Σε επίπεδο οργανισμών. Πολιτικά κόμματα, ΜΜΕ, εκλογικές αρχές και κρίσιμοι θεσμοί πρέπει να αντιμετωπίζουν τα FIMI risks ως κανονικούς κινδύνους κυβερνοασφάλειας. Αυτό σημαίνει: ειδικές πολιτικές για τα social media, εκπαίδευση στελεχών στα deepfakes, εργαλεία ανίχνευσης συνθετικού περιεχομένου, διαδικασίες ταχείας αντίδρασης (rapid response) σε περίπτωση επίθεσης την παραμονή των εκλογών (το λεγόμενο «October surprise» μπορεί πλέον να συμβεί ηλεκτρονικά).
Σε επίπεδο πλατφορμών. Διαφάνεια στους αλγορίθμους σύστασης, αυστηρή επισήμανση πολιτικών διαφημίσεων, αξιόπιστη επαλήθευση ταυτότητας για λογαριασμούς που αποκτούν μαζική απήχηση κατά την προεκλογική περίοδο, υδατογραφήματα σε όλο το AI-generated περιεχόμενο.
Σε επίπεδο κράτους. Διακλαδική συνεργασία μεταξύ εκλογικών αρχών, εθνικών CERTs, υπηρεσιών πληροφοριών και ρυθμιστικών αρχών. Τακτικές tabletop ασκήσεις για σενάρια χειραγώγησης. Ξεκάθαροι ρόλοι και αρμοδιότητες, μια σύγχυση που στην υπόθεση της Ρουμανίας κόστισε ακριβά.
Συμπέρασμα
Η τεχνητή νοημοσύνη και τα κοινωνικά δίκτυα δεν είναι από μόνα τους απειλή για τη δημοκρατία. Είναι, όπως κάθε ισχυρή τεχνολογία, εργαλεία διπλής χρήσης. Μπορούν να αυξήσουν τη συμμετοχή, να ενισχύσουν τη διαφάνεια, να δώσουν φωνή σε όσους δεν την είχαν. Όμως η ίδια τεχνολογία που επιτρέπει την προσωποποίηση μπορεί να χρησιμοποιηθεί για χειραγώγηση. Η ίδια αλγοριθμική ενίσχυση που αναδεικνύει αξιόλογο περιεχόμενο μπορεί να εκτοξεύσει παραπληροφόρηση. Η ίδια γενετική ΤΝ που μειώνει το κόστος της δημιουργικότητας μηδενίζει ταυτόχρονα το κόστος της προπαγάνδας.
Η Ρουμανία δεν είναι μια εξωτική περίπτωση, είναι μια προειδοποίηση. Καμία ευρωπαϊκή δημοκρατία, ούτε η ελληνική ούτε η κυπριακή, δεν είναι ανοσοποιημένη. Η προστασία της εκλογικής ακεραιότητας απαιτεί πλέον τα ίδια εργαλεία, τις ίδιες δεξιότητες και την ίδια ωριμότητα που εφαρμόζουμε στην προστασία κρίσιμων υποδομών.
Στην Audax Cybersecurity, παρακολουθούμε στενά το εξελισσόμενο τοπίο των υβριδικών απειλών και υποστηρίζουμε οργανισμούς που θέλουν να αξιολογήσουν την έκθεσή τους σε FIMI risks, να συμμορφωθούν με τις απαιτήσεις του DSA και του AI Act, και να ενισχύσουν την ανθεκτικότητά τους απέναντι σε επιχειρήσεις πληροφοριακής επιρροής. Η δημοκρατία δεν προστατεύεται μόνο στις κάλπες. Προστατεύεται κάθε φορά που ένας οργανισμός, ένας θεσμός ή ένας πολίτης επιλέγει να αναγνωρίσει τη χειραγώγηση, αντί να την προωθήσει.
Έχετε ερωτήσεις για το πώς ο οργανισμός σας μπορεί να ενισχύσει την άμυνά του απέναντι σε επιχειρήσεις πληροφοριακής επιρροής; Επικοινωνήστε μαζί μας.