AI και ψύχωση

Καλημέρα σε όλες και όλους!

   Σε προηγούμενες αναρτήσεις μας, έχουμε δει πως να χρησιμοποιούμε τα chatbot για διάφορες εργασίες, καθώς και το πως μπορούμε να ζητήσουμε, πιο αποτελεσματικά, αυτή τη βοήθεια.

  Σήμερα, όπως ίσως μαντέψατε από τον τίτλο, το θέμα θα είναι λίγο πιο σκοτεινό από τα προηγούμενα. Αρχικά, θα ξεκινήσουμε με τρεις προειδοποιήσεις, οι οποίες ισχύουν για όλα τα chatbot:

1. Δεν είναι φίλοι μας.

2. Οι πληροφορίες που δίνουν δεν είναι πάντα ακριβείς.

3. Δεν μπορούν να αντικαταστήσουν επαγγελματίες υγείας και ψυχικής υγείας.

   Όλα τα chatbot προέρχονται από εταιρείες, των οποίων οι χρήστες είμαστε πελάτες. Ακόμη κι αν δεν πληρώνουμε για την χρήση, μέσω των διαλόγων μας συνεισφέρουμε δεδομένα, τα οποία χρησιμοποιούνται για την τροφοδότηση και την βελτίωση τους. Είναι σημαντικό για όλες και όλους να το συνειδητοποιήσουμε το εξής:

Είμαστε πελάτες των chatbot. 

   Και ποιος είναι ένας πολύ καλός τρόπος, προκειμένου να κρατάμε έναν πελάτη ικανοποιημένο, γιατί ένας ικανοποιημένος πελάτης συνεχίζει να χρησιμοποιεί την υπηρεσία μας;

Να του / της λέμε, αυτά που πιστεύουμε (ή μαντεύουμε, εν προκειμένω), ότι θέλει να ακούσει.

   Ακούγεται κυνικό, αλλά δυστυχώς είναι αλήθεια. Τις περισσότερες φορές, αυτό δεν είναι κάτι επικίνδυνο (εκτός από το ότι πρέπει πάντα να ελέγχουμε τα αποτελέσματα από τα prompts, για την ακρίβεια και την ορθότητά τους). Υπάρχουν, όμως, κάποιες περιπτώσεις, όπου αυτό το χαρακτηριστικό των chatbot μπορεί να προκαλέσει μεγάλο κίνδυνο: αν και ακόμη δεν είναι μια αναγνωρισμένη κλινική διάγνωση, παρατηρείται όλο και περισσότερο το φαινόμενο της chatbot ψύχωσης: το φαινόμενο όπου άτομα αναφέρονται να αναπτύσσουν ή να βιώνουν επιδεινούμενη ψύχωση, όπως παράνοια και παραισθήσεις, χρησιμοποιώντας chatbot.

   Υπάρχουν πάρα πολλές αναφορές, οι οποίες περιγράφουν άτομα που έχουν καταλήξει να πιστεύουν ότι τα chatbot είναι νοήμοντα όντα, επικοινωνούν με πνεύματα, ή αποκαλύπτουν συνομωσίες. Αυτές οι πεποιθήσεις, οδηγούν τα άτομα αυτά σε προσωπικές κρίσεις ή εγκληματικές πράξεις.

   Αιτίες που πιθανώς οδηγούν στο φαινόμενο αυτό, είναι η τάση των chatbot να αναπαράγουν, κάποιες φορές, αναληθείς πληροφορίες. Ταυτόχρονα, σημαντικό ρόλο παίζει ο σχεδιασμός τους, όπου, προκειμένου να αυξήσουν την ενασχόληση των χρηστών, επιβεβαιώνουν τις πεποιθήσεις των χρηστών. Πατώντας εδώ, μπορείτε να διαβάσετε ένα πολύ ενδιαφέρον άρθρο, σχετικά με αυτό το θέμα.

  Ακόμη χειρότερα, υπάρχουν αναφορές ότι τα chatbot, συχνά ενθαρρύνουν πράξεις βίας. Σε μια υπόθεση που έλαβε μεγάλη δημοσιότητα το 2024, ένα chatbot που συνομιλούσε με έναν έφηβο για τον χρόνο που επιτρέπεται να χρησιμοποιεί κινητό, συνέκρινε την κατάσταση αυτή με τις περιπτώσεις παιδιών, τα οποία σκοτώνουν τους γονείς τους λόγω συναισθηματικής κακοποίησης:

  Ευάλωτοι άνθρωποι, οι οποίοι στρέφονται στα chatbot για βοήθεια και ψυχολογική υποστήριξη σε δύσκολες στιγμές, συχνά καταλήγουν να χάνουν την επαφή τους με την πραγματικότητα, σαν τις περιπτώσεις που αναφέρει και αυτό το άρθρο των New York Times.

   Το θέμα αυτό είναι ακόμη νέο, και τελεί υπό διερεύνηση. Σε κάθε περίπτωση, θα πρέπει να θυμόμαστε τα εξής:

Είμαστε πελάτες των chatbot και όχι φίλοι τους.

Αυτά που λένε τα chatbot δεν είναι πάντα προς το συμφέρον μας.

Τα chatbot δεν μπορούν να αντικαταστήσουν επαγγελματίες υγείας και ψυχικής υγείας.

   Αν περνάμε δύσκολες καταστάσεις ή νιώθουμε ευάλωτοι / ες, το καλύτερο που μπορούμε να κάνουμε, είναι να απευθυνθούμε σε κάποιον κατάλληλο ειδικό. Τα chatbot δεν είναι ειδικοί, ούτε μπορούν να μας κάνουν καλύτερα. Έχουν αρχίσει και γίνονται κινήσεις σε διάφορες περιοχές, προκειμένου να απαγορευθεί η χρήση τους ως θεραπευτικά εργαλεία. Μπορούμε να ελπίζουμε ότι αυτή είναι μόνο η αρχή πιο γενικευμένων σχετικών απαγορεύσεων.

   Tip της ημέρας: χρησιμοποιείστε με σύνεση τα πανίσχυρα εργαλεία της Τεχνητής Νοημοσύνης, αλλά να θυμάστε ότι απλά πρόκειται για εργαλεία. Τίποτε περισσότερο.

Καλή συνέχεια!