H μαζική διαρροή φωτογραφιών γυναικών στο Secret Desires

Επί χρόνια, γυναίκες και κορίτσια έχουν πέσει θύματα άσεμνων deepfakes, περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη. Πολλά deepfakes είναι φωτογραφίες γυναικών που «επικολλώνται» σε πορνογραφικά βίντεο. Αυτό ισχύει τόσο για διασημότητες όπως η Taylor Swift, όσο και για γυναίκες που δεν είναι διάσημες. Αυτό συμβαίνει και με ανήλικα κορίτσια, τα οποία εμφανίζονται σε διαδικτυακό υλικό σεξουαλικής κακοποίησης παιδιών. Μια πλατφόρμα που υπόσχεται «πικάντικη συνομιλία μέσω τεχνητής νοημοσύνης», η Secret Desires, άφησε σχεδόν δύο εκατομμύρια εικόνες και βίντεο, πολλά από τα οποία έδειχναν ιδιώτες, εκτεθειμένα στο κοινό, ανέφερε το 404 Media.

Το Secret Desires, περί ου ο λόγος, ένα ερωτικό chatbot και γεννήτρια εικόνων τεχνητής νοημοσύνης, λοιπόν αρχικά άφησε ευάλωτα αρχεία αποθήκευσης στο cloud με φωτογραφίες, ονόματα γυναικών και άλλες προσωπικές πληροφορίες, όπως τους χώρους εργασίας τους και τα πανεπιστήμια όπου φοιτούν. Η «μαζική διαρροή» φωτογραφιών από το Secret Desires είναι η τελευταία περίπτωση που αφορά ανθρώπους που χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης για να μετατρέψουν αθώες φωτογραφίες σε μη συναινετικά deepfakes.

Ορισμένες από τις φωτογραφίες και τα βίντεο ελήφθησαν από πραγματικούς influencers, από δημόσια πρόσωπα αλλά και από άσημες γυναίκες. Η τελευταία κατηγορία περιλαμβάνει στιγμιότυπα οθόνης Snapchat και τουλάχιστον μία φωτογραφία από το ετήσιο λεύκωμα πανεπιστημίου! Μερικά από τα εκτεθειμένα αρχεία περιελάμβαναν εικόνες τεχνητής νοημοσύνης που δημιουργήθηκαν από χρήστες, όπως αυτές που δημιουργήθηκαν με μια πλέον ανενεργή λειτουργία “faceswap”, την οποία το Secret Desires αφαίρεσε νωρίτερα φέτος.

Όπως το Character.AI ή το Replika, το Secret Desires επιτρέπει στους χρήστες να δημιουργούν περσόνες AI και να συνομιλούν μαζί τους. Ενώ το πορνογραφικό περιεχόμενο δεν επιτρέπεται στο Character.AI (και επιτρέπεται μόνο σε ορισμένους χρήστες του Replika), το Secret Desires αναφέρει ότι «παρέχει απεριόριστη οικειότητα και σύνδεση» στον Οδηγό Γρήγορης Έναρξης.

Τα μέσα που δημιουργήθηκαν από την τεχνητή νοημοσύνη και βρέθηκαν στα ευάλωτα κοντέινερ αποθήκευσης ήταν ως επί το πλείστον άσεμνης φύσεως. Ορισμένα από τα ονόματα αρχείων περιλάμβαναν όρους όπως “17χρονη”.

Η εταιρεία δεν απάντησε στο αίτημα της 404 Media για σχολιασμό, αλλά τα αρχεία κατέστησαν μη προσβάσιμα περίπου μία ώρα αφότου έγινε η δημοσίευση.
Φέτος, το Κογκρέσο ψήφισε τον νόμο «Take It Down Act» για την καταπολέμηση των deepfake εικόνων. Ο νόμος αποδείχθηκε αμφιλεγόμενος, καθώς αρκετές ομάδες υπεράσπισης της ελευθερίας του λόγου υποστηρίζουν ότι μπορεί να χρησιμοποιηθεί ως όπλο κατά του σαφώς συναινετικού υλικού ή ακόμη και του πολιτικού λόγου.

με στοιχεία από 404 Media και mashable

Ακολουθήστε την Α,ΜΠΑ; στο Google News