Τα chatbots έχουν μπει πλέον δυναμικά στη ζωή μας και μπορούν σε αρκετές περιπτώσεις να δώσουν χρήσιμες πληροφορίες και να διευκολύνουν τη λειτουργία μιας επιχείρησης ή ενός οργανισμού. Τα πράγματα όμως δε βαίνουν πάντα καλώς όταν πρόκειται για την υποστήριξη ατόμων μια κάποια μορφή διαταραχής που χρειάζονται ψυχολογική βοήθεια. Τα πράγματα… ξέφυγαν στην περίπτωση της Ένωσης Διατροφικών Διαταραχών (NEDA), η οποία αναγκάστηκε να σταματήσει τη χρήση του chatbot Tessa, καθώς «είναι πιθανό να έδωσε πληροφορίες που είναι επιβλαβείς για το πρόγραμμα».
Όπως αναφέρεται σε σχετική ανάρτηση, το chatbot AI προοριζόταν να βοηθήσει τους ανθρώπους που αντιμετωπίζουν συναισθηματική δυσφορία, εξαιτίας διατροφικής διαταραχής. Αντί γι’ αυτό όμως, έκανε τα πράγματα χειρότερα προσφέροντας συμβουλές για δίαιτα και προτρέποντας τους χρήστες να ζυγίζονται συνέχεια.
Πολλοί χρήστες και ειδικοί στον τομέα των διατροφικών διαταραχών έχουν βιώσει τα προβλήματα από πρώτο χέρι, υποστηρίζοντας ότι το bot δεν ανταποκρίθηκε σε απλές περιπτώσεις όπως η φράση “μισώ το σώμα μου». Τόνιζε όμως συνεχώς τη σημασία της δίαιτας και της αυξημένης σωματικής δραστηριότητας, σε μια γραμμή βοήθειας για άτομα με διατροφική διαταραχή, όχι μια ομάδα υποστήριξης απώλειας βάρους.
Ο οργανισμός αναφέρει ωστόσο ότι η διακοπή είναι προσωρινή, μέχρι να διορθώσει τυχόν «σφάλματα» που οδήγησαν το chatbot να μεταδίδει επικίνδυνες πληροφορίες. Αξίζει να σημειωθεί ότι η NEDA ξεκίνησε να χρησιμοποιεί το chatbot, επειδή φέρεται να απέλυσε ανθρώπινο προσωπικό που διεκδικούσε περισσότερα δικαιώματα.
