By Παναγιώτης Ανδρουλιδάκης 
Λογαριασμοί με εκατοντάδες χιλιάδες ή ακόμη και σχεδόν ένα εκατομμύριο ακολούθους μπλοκάρονται από τα συστήματα τεχνητής νοημοσύνης της Meta, συχνά χωρίς σαφή εξήγηση. Οι χρήστες καλούνται να απευθυνθούν ξανά σε αυτοματοποιημένα εργαλεία για να αποδείξουν ότι η ίδια η τεχνητή νοημοσύνη έκανε λάθος.
Αργά μία νύχτα του Μαρτίου μία ειδοποίηση ξύπνησε ένα ζευγάρι στις ΗΠΑ: οι λογαριασμοί τους στο Facebook και το Instagram, μέσω των οποίων είχαν συγκεντρώσει σχεδόν ένα εκατομμύριο ακολούθους για την επιχείρηση που διατηρούν, είχαν χαρακτηριστεί προς διαγραφή. Η αιτία που έδωσε η Meta ήταν παραβίαση των κανόνων περί απάτης και εξαπάτησης. Το ζευγάρι απλώς διδάσκει αγγλικά, σε ανθρώπους που δεν τα έχουν ως μητρική γλώσσα.
«Είμαι απλώς καθηγήτρια αγγλικών», ήταν η πρώτη σκέψη της γυναίκας. Δεν μπορούσε να καταλάβει τι ακριβώς είχε κάνει λάθος. Η ειδοποίηση της Meta της έδινε τη δυνατότητα να υποβάλει ένσταση. Το έκανε. Μία εβδομάδα αργότερα, ήρθε η απάντηση: η ένσταση απορρίφθηκε. Το μήνυμα ανέφερε:
Όλες οι πληροφορίες σας θα διαγραφούν οριστικά. Δεν μπορείτε να ζητήσετε νέα επανεξέταση της απόφασης
Για την οικογένεια αυτό ήταν το ίδιο σαν να είχαν μία φυσική επιχείρηση και κάποιος να έκλεινε ξαφνικά το γραφείο ή το κατάστημά της. Η διαφορά ήταν ότι δεν υπήρχε άνθρωπος στην άλλη πλευρά για να εξηγήσει τι είχε συμβεί.
Η AI κάνει το λάθος, η AI εξετάζει και την ένσταση
Η υπόθεση αποτελεί χαρακτηριστικό παράδειγμα των προβλημάτων που μπορεί να δημιουργήσει η όλο και μεγαλύτερη εξάρτηση της Meta από την τεχνητή νοημοσύνη για τη διαχείριση των λογαριασμών στις πλατφόρμες της. Τα συστήματα AI χρησιμοποιούνται πλέον όλο και περισσότερο για να αποφασίζουν αν ένας λογαριασμός παραβιάζει τους κανόνες περιεχομένου, αλλά και για να διαχειρίζονται τις ενστάσεις των χρηστών που αμφισβητούν τις αποφάσεις.
Το αποτέλεσμα είναι ένα παράδοξο: η τεχνητή νοημοσύνη μπορεί να κλείσει έναν λογαριασμό και στη συνέχεια ο χρήστης πρέπει να απευθυνθεί σε ένα άλλο αυτοματοποιημένο σύστημα για να αποδείξει ότι η πρώτη AI έκανε λάθος.
Τον Μάρτιο, η Meta ανακοίνωσε σχέδια για την ανάθεση ακόμη περισσότερων αρμοδιοτήτων σε “AI bots”, τα οποία θα αποφασίζουν ποιοι λογαριασμοί θα απαγορεύονται και ποιες εικόνες θα αφαιρούνται ως επιβλαβείς. Λίγους μήνες αργότερα, η εταιρεία προχώρησε σε απολύσεις χιλιάδων εργαζομένων, μεταξύ των οποίων και εργαζόμενοι που εκτελούσαν αντίστοιχες εργασίες.
Πάνω από 60.000 χρήστες έχουν υπογράψει διαδικτυακή αίτηση, ζητώντας από τη Meta να παρέχει περισσότερες πληροφορίες για τις απαγορεύσεις λογαριασμών και να επιτρέπει την εξέταση των ενστάσεων από ανθρώπους. Στο Reddit και άλλες διαδικτυακές κοινότητες, οι καταγγελίες χρηστών για τα συστήματα AI της Meta έχουν πολλαπλασιαστεί.
Η Meta απορρίπτει την άποψη ότι η τεχνητή νοημοσύνη διαχειρίζεται χειρότερα τις υποθέσεις από τους ανθρώπους. Εκπρόσωπος της εταιρείας υποστήριξε ότι τα νέα εργαλεία AI κάνουν 13% λιγότερα λάθη από τους ανθρώπους εργαζόμενους και εντοπίζουν 10% περισσότερες παραβιάσεις.
Πέντε λογαριασμοί, τέσσερις διαφορετικές ιστορίες
Η Meta κλήθηκε να εξετάσει πέντε λογαριασμούς που είχαν επισημανθεί για λανθασμένες απαγορεύσεις. Η εταιρεία ανακοίνωσε ότι όλοι είχαν μπλοκαριστεί από τα παλαιότερα συστήματα τεχνητής νοημοσύνης της. Μετά την έρευνα, διαπίστωσε ότι δύο λογαριασμοί είχαν παραβιαστεί από χάκερ, ένας είχε μπλοκαριστεί για βάσιμο λόγο και δύο είχαν απαγορευτεί κατά λάθος.
Οι δύο λογαριασμοί που είχαν παραβιαστεί, παρέμειναν αρχικά αποκλεισμένοι, καθώς οι χάκερ είχαν παραβιάσει τους κανόνες προστασίας παιδιών. Στη συνέχεια, όμως, η Meta τους αποκατέστησε, μεταξύ αυτών και τον λογαριασμό της JuneteenthNY. Η ιδιοκτήτρια της οργάνωσης, Αθένια Ρόντνεϊ, είχε δει όλους τους προσωπικούς και επαγγελματικούς λογαριασμούς της στο Facebook και το Instagram να απαγορεύονται πέρυσι.
Η JuneteenthNY, μια οργάνωση που τιμά το τέλος της δουλείας στις ΗΠΑ, λειτουργεί εδώ και σχεδόν δύο δεκαετίες. Η Meta, ωστόσο, την ενημέρωσε ότι η «τεχνολογία» της είχε εντοπίσει δραστηριότητα που παραβίαζε τους κανόνες. Η Ρόντνεϊ δεν μπορούσε να καταλάβει τι είχε προκαλέσει την απαγόρευση. Το περιεχόμενο της οργάνωσης ήταν οικογενειακό και απολύτως νόμιμο. Έψαξε ακόμη και παλαιότερες φωτογραφίες της JuneteenthNY που είχαν δημοσιευτεί στο Facebook, προσπαθώντας να εντοπίσει τι μπορεί να είχε ενεργοποιήσει τους αλγόριθμους.
Στη συνέχεια θυμήθηκε ότι λίγο πριν από την απαγόρευση η Meta την είχε ενημερώσει για ύποπτες συνδέσεις από το Σιάτλ και τη Σιγκαπούρη, ενώ η ίδια ζει στην Ατλάντα. Οι λογαριασμοί της είχαν πιθανότατα παραβιαστεί. Έξι λογαριασμοί της, προσωπικοί και επαγγελματικοί, αποκλείστηκαν.
Για να τους ανακτήσει, υπέβαλε έγγραφα ταυτοποίησης, κατέθεσε καταγγελίες σε αμερικανικές υπηρεσίες προστασίας καταναλωτών και επικοινώνησε με εργαζομένους της Meta μέσω LinkedIn.
Τίποτα δεν λειτούργησε. Η απώλεια των λογαριασμών είχε και άμεσο επιχειρηματικό κόστος. Οι χορηγοί της JuneteenthNY χρησιμοποιούσαν τα μέσα κοινωνικής δικτύωσης για να επιβεβαιώνουν ότι η οργάνωση ήταν υπαρκτή και δραστήρια. Όταν έβλεπαν πλέον έναν λογαριασμό με μόλις 500 ακολούθους, αντί για την ιστορική παρουσία της οργάνωσης, άρχισαν να αμφιβάλλουν για τη νομιμότητά της.
Επαναφορά λογαριασμού – και νέα απαγόρευση
Η υπόθεση του Ρομπέρτο Σουάρες δείχνει ένα ακόμη πρόβλημα της αυτοματοποιημένης διαχείρισης. Ο influencer είχε συγκεντρώσει περισσότερους από 500.000 ακολούθους στο Instagram πριν αποκλειστεί φέτος. Μετά την έρευνα της Meta, έλαβε μήνυμα ότι ο λογαριασμός του είχε αποκατασταθεί, μαζί με τις φωτογραφίες, τους ακολούθους και τα μηνύματά του.
Άρχισε και πάλι να δημοσιεύει περιεχόμενο για το κοινό του, το οποίο δεν είχε ακούσει νέα του για μήνες. Λίγες εβδομάδες αργότερα, όμως, η Meta του έστειλε νέο μήνυμα: «Ο λογαριασμός σας έχει ανασταλεί». Αυτή τη φορά, η αιτία ήταν υποτιθέμενη παραβίαση πνευματικών δικαιωμάτων.
Ο Σουάρες αρνήθηκε την κατηγορία και… έσπευσε στα media. Λίγο αφότου οι New York Times επικοινώνησαν με τη Meta για την υπόθεση, ο λογαριασμός αποκαταστάθηκε ξανά.
Το ζευγάρι που δίδασκε αγγλικά είχε τελικά παρόμοια κατάληξη. Η Meta την ενημέρωσε ότι ο λογαριασμός της επανήλθε, καθώς η εταιρεία διαπίστωσε ότι η δραστηριότητά της συμμορφωνόταν με τους κανόνες περί απάτης και εξαπάτησης.
«Λυπούμαστε που κάναμε λάθος», ανέφερε η εταιρεία. Αλλά οι ζημιές που είχαν προκληθεί στο μεταξύ, δεν αποκαθίστανται έτσι απλά.
Όταν η AI γίνεται η νέα αδυναμία
Τα περιστατικά αυτά εντάσσονται σε μια ευρύτερη σειρά προβλημάτων που αντιμετωπίζει η Meta με την τεχνητή νοημοσύνη.
Τον Μάιο, χάκερς εκμεταλλεύτηκαν το chatbot εξυπηρέτησης πελατών της εταιρείας, που βασίζεται σε AI, για να επιτεθούν σε 34.000 λογαριασμούς Instagram, μεταξύ των οποίων και ένας πρώην λογαριασμός του Λευκού Οίκου που είχε χρησιμοποιηθεί από τον Μπαράκ Ομπάμα.
Τον ίδιο μήνα, εργαζόμενοι αντέδρασαν σε πρόγραμμα που κατέγραφε τις κινήσεις των πληκτρολογίων τους για την εκπαίδευση συστημάτων AI, με αποτέλεσμα η Meta να αναστείλει την προσπάθεια.
Παράλληλα, 26 πρώην εργαζόμενοι της εταιρείας υποστήριξαν σε αγωγή ότι απολύθηκαν με τη βοήθεια αλγορίθμου που τους στοχοποίησε λόγω αναπηριών. Η Meta αρνήθηκε ότι η τεχνητή νοημοσύνη λαμβάνει αποφάσεις για τη διαχείριση του προσωπικού της, υποστηρίζοντας ότι οι αποφάσεις λαμβάνονται από ανθρώπους.
Το ευρύτερο ζήτημα, ωστόσο, είναι πλέον δύσκολο να αγνοηθεί: όσο η Meta μεταφέρει περισσότερες αποφάσεις σε συστήματα τεχνητής νοημοσύνης, τόσο αυξάνεται και η πιθανότητα ένα λάθος του αλγορίθμου να έχει πραγματικές συνέπειες για ανθρώπους και επιχειρήσεις.
Για τους χρήστες, το πρόβλημα δεν είναι μόνο ότι μπορεί να αποκλειστούν άδικα. Είναι ότι, όταν αυτό συμβεί, η διαδικασία αποκατάστασης μπορεί να απαιτεί από τους ίδιους να πείσουν την τεχνητή νοημοσύνη ότι μια άλλη τεχνητή νοημοσύνη έκανε λάθος.
* Κάτι αντίστοιχο έχει συμβεί και στη σελίδα του sofokleousin.gr στο facebook. Ο αλγόριθμος έβλεπε ειδήσεις για το Παλαιστινιακό ως “περιεχόμενο που προάγει τη βία” ή θέματα για το χρηματιστήριο -που περίχειχαν π.χ τη λέξη “κέρδη”– ως “παραβίαση των κανόνων περί οικονομικής απάτης”. Για τουλάχιστον δύο χρόνια ο αλγόριθμος ως “ποινή” δεν εμφάνιζε καθόλου τις δημοσιεύσεις του site στους χρήστες, παρότι είχαν γίνει όλες οι ζητούμενες ταυτοποιήσεις και άλλες κινήσεις που απαιτούσε το σύστημα. Ακόμα και σήμερα παραμένει μπλοκαρισμένος ο προσωπικός λογαριασμός του βασικού διαχειριστή του εταιρικού λογαριασμού του site. Παράλληλα, ανά τακτά διαστήματα λαμβάνουμε ακόμα ειδοποιήσεις (λανθασμένα) για ανάλογα θέματα, τα οποία – ευτυχώς- πλέον λύνονται, εφόσον υποβάλλουμε άμεσα ένσταση.