Η OpenAI έχει έτοιμο ένα νέο εργαλείο που ονομάζεται Voice Engine. Πρόκειται για μια τεχνολογία κλωνοποίησης φωνής που μπορεί να μιμηθεί οποιονδήποτε ομιλητή αναλύοντας ένα δείγμα ήχου 15 δευτερολέπτων. Η εταιρεία αναφέρει ότι παράγει “φυσική φωνή” με “συναισθηματικές και ρεαλιστικές διακυμάνσεις”.
Η τεχνολογία βασίζεται στο υπάρχον API μετατροπής κειμένου σε ομιλία της εταιρείας και βρίσκεται υπό ανάπτυξη από το 2022. Η OpenAI έχει ήδη χρησιμοποιήσει μια έκδοση του εργαλείου για να ενεργοποιήσει τις προκαθορισμένες φωνές που είναι διαθέσιμες στο τρέχον API μετατροπής κειμένου σε ομιλία και το χαρακτηριστικό Read Aloud. Υπάρχουν πολλά δείγματα στην επίσημη ιστοσελίδα της εταιρείας.
Η OpenAI σημειώνει ότι η τεχνολογία μπορεί να είναι χρήσιμη για τη βοήθεια στην ανάγνωση, τη μετάφραση γλωσσών και την υποστήριξη ατόμων που υποφέρουν από εκφυλιστικές παθήσεις του λόγου. Ένα από τα προβλήματα ωστόσο είναι τα deepfakes, που μπορούν να προκύψουν. Για το λόγο αυτό, η Voice Engine δεν είναι ακόμα έτοιμη για ανοιχτή χρήση, καθώς υπάρχουν σοβαρές ανησυχίες απόρρητου που πρέπει να επιλυθούν πριν από μια πλήρη εφαρμογή.
Η OpenAI αναγνωρίζει ότι αυτή η τεχνολογία εμπεριέχει “σοβαρούς κινδύνους, οι οποίοι είναι ιδιαίτερα ανησυχητικοί σε ένα έτος εκλογών”. Γι’ αυτό, οι πολιτικές της OpenAI απαγορεύουν την προσωποποίηση ενός άλλου ατόμου χωρίς συναίνεση ή νομικό δικαίωμα.
Επιπλέον, όποιος χρησιμοποιεί την τεχνολογία θα πρέπει να δηλώσει στο κοινό του ότι οι φωνές είναι δημιουργημένες από την τεχνητή νοημοσύνη. Η OpenAI εφάρμοσε μέτρα ασφαλείας, όπως το υδατογράφημα για να εντοπίσει την προέλευση οποιουδήποτε ήχου και το “προληπτικό παρακολούθηση” του πώς χρησιμοποιείται το σύστημα. Όταν το προϊόν κυκλοφορήσει επίσημα, θα υπάρχει μια “λίστα μη επιτρεπόμενων φωνών” που ανιχνεύει και εμποδίζει τις φωνές που παράγονται από την τεχνητή νοημοσύνη που είναι πολύ παρόμοιες με προβεβλημένους φορείς.
