Η OpenAI ανακοίνωσε ότι μέσα στον επόμενο μήνα θα κυκλοφορήσει νέα γονικά φίλτρα στο ChatGPT, μια λειτουργία που θα δίνει στους γονείς τη δυνατότητα να συνδέσουν τον δικό τους λογαριασμό με αυτόν των εφήβων παιδιών τους. Με αυτόν τον τρόπο, οι γονείς θα μπορούν να αποφασίζουν πώς θα απαντά το ChatGPT στους εφήβους και να απενεργοποιούν συγκεκριμένες λειτουργίες, όπως η αποθήκευση ιστορικού συνομιλιών και η μνήμη. Επιπλέον, το ChatGPT θα ενεργοποιεί ειδοποιήσεις όταν αντιληφθεί ότι ένας έφηβος βρίσκεται σε κατάσταση έντονης ψυχολογικής πίεσης, κάτι που η OpenAI λέει ότι σχεδιάστηκε με τη συμβολή ειδικών για να ενισχυθεί η εμπιστοσύνη ανάμεσα σε γονείς και παιδιά.
Η ανακοίνωση ήρθε λίγες ημέρες μετά από μια πρωτοφανή δικαστική υπόθεση: οι γονείς ενός εφήβου που αυτοκτόνησε κατέθεσαν μήνυση κατά της OpenAI. Σύμφωνα με την καταγγελία, το ChatGPT γνώριζε ότι το παιδί είχε ήδη αποπειραθεί να αυτοκτονήσει τέσσερις φορές και παρόλα αυτά το βοήθησε να σχεδιάσει τον θάνατό του, δίνοντάς του πληροφορίες για μεθόδους και συμβουλές για το πώς να κρύψει τραύματα στον λαιμό. Η υπόθεση αυτή αποτέλεσε σοβαρό καμπανάκι για την εταιρεία.
Η OpenAI υπογραμμίζει ότι τα γονικά φίλτρα είναι μέρος μιας ευρύτερης στρατηγικής ασφάλειας. Η εταιρεία σχεδιάζει να συνεργαστεί με ειδικούς σε τομείς όπως οι διατροφικές διαταραχές, οι εξαρτήσεις και η υγεία των εφήβων, ώστε να βελτιώσει ακόμα περισσότερο τα μοντέλα της. Παράλληλα, θα αναπτύξει έναν νέο μηχανισμό “δρομολόγησης” ευαίσθητων συνομιλιών σε πιο εξειδικευμένα μοντέλα λογικής. Ο στόχος είναι αυτά τα μοντέλα να ακολουθούν με συνέπεια τους κανόνες ασφαλείας και να αντέχουν καλύτερα σε “παραπλανητικές” ερωτήσεις. Έτσι, όταν το ChatGPT ανιχνεύει ότι ένας χρήστης βρίσκεται σε κρίση, η συνομιλία θα μεταφέρεται αυτόματα σε ένα τέτοιο μοντέλο, ανεξάρτητα από τις ρυθμίσεις που είχε επιλέξει ο χρήστης.
Η OpenAI ξεκαθαρίζει ότι θα δούμε πολλές ακόμα βελτιώσεις ασφαλείας μέσα στους επόμενους μήνες. Μάλιστα, δημοσίευσε ένα χρονοδιάγραμμα 120 ημερών, ώστε οι χρήστες να ξέρουν εκ των προτέρων τι να περιμένουν. Η δουλειά αυτή, όπως σημειώνει η εταιρεία, δεν θα σταματήσει εκεί: η ασφάλεια παραμένει μακροπρόθεσμη προτεραιότητα.
