BREAKING

0

Norman. Η πρώτη "ψυχοπαθής" τεχνητή νοημοσύνη στον κόσμο

Μία είδηση που θυμίζει θρίλερ ή ταινία επιστημονικής φαντασίας... Οι επιστήμονες του Τεχνολογικού Ινστιτούτου της Μασαχουσέτης "εκπαίδευσαν" ουσιαστικά έναν αλγόριθμο τεχνητής νοημοσύνης στο να γίνει ...ψυχοπαθής, κάτι που ήταν ως αποτέλεσμα έκθεσής του σε φρικιαστικές και βίαιες εικόνες από το δημοφιλές κοινωνικό δίκτυο Reddit.

Η AI, που ονομάστηκε Norman από τον εμβληματικό χαρακτήρα του Anthony Perkins στο κλασικό θρίλερ "Psycho" του Alfred Hitchcock (Norman Bates), εκπαιδεύτηκε για image captioning, μια δημοφιλής μέθοδο deep learning για τη δημιουργία μιας περιγραφής κειμένου για μία εικόνα.

norman

Η εν λόγω AI ήταν για μεγάλη περίοδο εκτεθειμένη σε φρικιαστικές και βίαιες εικόνες από ένα subreddit thread αφιερωμένο στην τεκμηρίωση και την παρατήρηση της ανησυχητικής πραγματικότητας του θανάτου, κάτι που είχε ως αποτέλεσμα να την οδηγήσει στο να έχει μία "σκοτεινή" αντίληψη για τον κόσμο μας.

Οι ερευνητές, στη συνέχεια, χρησιμοποίησαν το τεστ κηλίδων μελάνης Rorschach για να συγκρίνουν τη Norman με άλλα AI που δεν είχαν εκτεθεί στις ίδιες καταστροφικές εικόνες.

Οι επιστήμονες κατέληξαν στο συμπέρασμα ότι, αφότου εκτέθηκε στις πιο σκοτεινές γωνιές του Reddit, ο Norman έγινε ψυχοπαθής. Το αποτέλεσμα ήταν η συγκεκριμένη AI να βλέπει κάτι "σκοτεινό" σε κάθε εικόνα: όταν π.χ. κάποια άλλη AI βλέπει πουλιά πάνω σε ένα δέντρο, η συγκεκριμένη βλέπει έναν άνδρα να πεθαίνει από ηλεκτροσόκ.

Δημιουργώντας την πρώτη AI με ...ψυχοπάθεια στον κόσμο, οι ερευνητές επιχειρούν να αποδείξουν ότι η μέθοδος και το υλικό που χρησιμοποιείται για τη διδασκαλία ενός μηχανήματος που μαθαίνει έναν αλγόριθμο μπορεί να επηρεάσει σε μεγάλο βαθμό τη συμπεριφορά του και να καταδείξει τους "κινδύνους της τεχνητής νοημοσύνης από λάθος αλγόριθμους μάθησης".

0 Comment