Η τεχνητή νοημοσύνη ανοίγει σίγουρα νέους ορίζοντες, συχνά όμως γίνεται λόγος για την επιτακτική ανάγκη να μπει… φρένο στην αλόγιστη χρήση της. Τις τελευταίες μέρες το γνωστό online marketplace Civitai, που οι χρήστες του μοιράζονται AI models, έχει απασχολήσει ιδιαίτερα τα μέσα, καθώς λάνσαρε ένα νέο σύστημα επιβράβευσης, το οποίο παρακινεί τα μέλη να δημιουργούν deepfakes πραγματικών ανθρώπων.
Σύμφωνα με σχετικά δημοσιεύματα, το Civitai λάνσαρε τα «bounties», δηλαδή αναρτήσεις που περιέχουν requests για συγκεκριμένα μοντέλα AI. Για παράδειγμα, κάποιος δημοσιεύει ποιο στυλ ή ποια συγκεκριμένα άτομα θα ήθελε να δημιουργηθούν ως μοντέλο AI και η καλύτερη εικόνα ανταμείβεται με ένα εικονικό νόμισμα που ονομάζεται “Buzz”. Το νόμισμα μπορεί να αγοραστεί χρησιμοποιώντας πραγματικά χρήματα.
Μετά την κυκλοφορία του νέου χαρακτηριστικού, πολλά bounties έχουν αναρτηθεί στο Civitai. Τα περισσότερα από αυτά ζητούν μοντέλα AI γυναικών που είναι celebrities ή influencers. Πολλά από αυτά τα αιτήματα συχνά καταλήγουν σε «μη συναινετικές σεξουαλικές εικόνες».
Σημειώνεται ότι το Civitai αποτελεί πλέον την 7η πιο δημοφιλή generative AI πλατφόρμα, με αποτέλεσμα τα bounties να έχουν τραβήξει την προσοχή πολλών. Οι χρήστες μπορούν να εκπαιδεύσουν νέα μοντέλα ανεβάζοντας φωτογραφίες του ατόμου, του οποίου θέλουν να δημιουργήσουν ένα μοντέλο AI, στην τιμή των 500 Buzz. Οι εικόνες που χρησιμοποιούνται για την εκπαίδευση του μοντέλου συχνά διαρρέουν στο διαδίκτυο μέσω των social media. Μόλις δημιουργηθεί το μοντέλο AI, η εικόνα παραμένει στην πλατφόρμα για λήψη από οποιονδήποτε.
Ενώ είναι τεχνικά αντίθετο με την πολιτική της Civitai να υπάρχουν αιτήματα για τη δημιουργία μη συναινετικών σεξουαλικών εικόνων πραγματικών ανθρώπων που δημιουργούνται από AI, μερικοί χρήστες εξακολουθούν να βρίσκουν τρόπους να το κάνουν. Ενώ οι περισσότεροι χρησιμοποιούν την πλατφόρμα για να αναζητήσουν μη πορνογραφικά μοντέλα AI, οι χρήστες μπορούν να τα συνδυάσουν με άλλα μοντέλα AI που έχουν σχεδιαστεί για να δημιουργούν άσεμνες φωτογραφίες.
