Το «Grok», το εργαλείο τεχνητής νοημοσύνης του Έλον Μασκ, απενεργοποίησε τη λειτουργία δημιουργίας εικόνων με AI, μετά από καταγγελία «βόμβα» από την συντριπτική πλειονότητα των χρηστών, για αποτελέσματα φωτογραφιών με σεξουαλικό άσεμνο και βίαιο περιεχόμενο αλλά και τη δημιουργία μη συναινετικών σεξουαλικών εικόνων.
Η κίνηση αυτή έρχεται μετά από απειλές για πρόστιμα, ρυθμιστικά μέτρα και αναφορές για πιθανή απαγόρευση του X στο Ηνωμένο Βασίλειο.
Το εργαλείο είχε χρησιμοποιηθεί για να παραποιήσει εικόνες γυναικών, αφαιρώντας τα ρούχα τους και τοποθετώντας τις σε σεξουαλικές στάσεις. Η λειτουργία αυτή έχει απενεργοποιηθεί, εκτός από τους συνδρομητές που πληρώνουν.
Σε ανάρτησή του στο X, το κοινωνικό δίκτυο του Μασκ, το Grok ανέφερε: «Η δημιουργία και η επεξεργασία εικόνων περιορίζονται επί του παρόντος στους συνδρομητές που πληρώνουν».
Αυτό σημαίνει, όπως μεταφέρει ο Guardian ότι η συντριπτική πλειοψηφία των χρηστών της πλατφόρμας δεν μπορεί να δημιουργήσει εικόνες χρησιμοποιώντας το Grok, ενώ όσοι το κάνουν έχουν τα πλήρη στοιχεία τους και τις πληροφορίες της πιστωτικής τους κάρτας αποθηκευμένα στο X, ώστε να μπορούν να ταυτοποιηθούν σε περίπτωση κατάχρησης της λειτουργίας.
Έρευνα που αποκαλύφθηκε έδειξε ότι είχε χρησιμοποιηθεί για τη δημιουργία πορνογραφικών βίντεο με γυναίκες χωρίς τη συγκατάθεσή τους, καθώς και εικόνων με γυναίκες που πυροβολούνταν και σκοτώνονταν, ενώ δημοσιεύματα της Wall Street Journal κάνουν λόγο και για κακοποίηση ανηλίκων.
Ο μεγιστάνας, Έλον Μασκ αντιμετωπίζει την απειλή ρυθμιστικών μέτρων από όλο τον κόσμο, μετά τη χρήση του Grok για τη δημιουργία μη συναινετικών σεξουαλικών εικόνων.