Πάνω από 1,2 εκατ. άτομα την εβδομάδα μιλούν στο ChatGPT για την αυτοκτονία

Εκτιμάται ότι 1,2 εκατομμύρια άτομα την εβδομάδα έχουν συνομιλίες με το ChatGPT που υποδηλώνουν ότι σχεδιάζουν να αυτοκτονήσουν.

Ο αριθμός προέρχεται από τη μητρική εταιρεία OpenAI, η οποία αποκάλυψε ότι το 0,15% των χρηστών στέλνουν μηνύματα που περιλαμβάνουν «σαφείς ενδείξεις πιθανής πρόθεσης ή σχεδίου αυτοκτονίας».

Ενώ η OpenAI υποστηρίζει ότι αυτές οι περιπτώσεις είναι «εξαιρετικά σπάνιες», οι επικριτές ανέφεραν ότι ακόμη και ένα μικρό ποσοστό μπορεί να αντιστοιχεί σε εκατοντάδες χιλιάδες άτομα, καθώς το ChatGPT έφτασε πρόσφατα τα 800 εκατομμύρια ενεργούς χρήστες την εβδομάδα, σύμφωνα με τον διευθύνοντα σύμβουλο Σαμ Άλτμαν.

Αν και ο τεχνολογικός γίγαντας έχει ως στόχο να κατευθύνει τα ευάλωτα άτομα σε γραμμές βοήθειας για κρίσεις, παραδέχτηκε ότι «σε ορισμένες σπάνιες περιπτώσεις, το μοντέλο ενδέχεται να μην συμπεριφέρεται όπως προβλέπεται σε αυτές τις ευαίσθητες καταστάσεις».

Καθώς αυξάνεται η κριτική, η εταιρεία δήλωσε ότι δημιούργησε ένα δίκτυο εμπειρογνωμόνων σε όλο τον κόσμο για να την συμβουλεύει.

Σύμφωνα με την εταιρεία, μεταξύ αυτών των ειδικών περιλαμβάνονται περισσότεροι από 170 ψυχίατροι, ψυχολόγοι και γιατροί πρωτοβάθμιας περίθαλψης που έχουν ασκήσει το επάγγελμά τους σε 60 χώρες.

Σύμφωνα με την OpenAI, έχουν σχεδιάσει μια σειρά απαντήσεων στο ChatGPT για να ενθαρρύνουν τους χρήστες να αναζητήσουν βοήθεια στον πραγματικό κόσμο.

Ωστόσο, η ματιά στα δεδομένα της εταιρείας προκάλεσε έκπληξη σε ορισμένους επαγγελματίες ψυχικής υγείας.

Η εταιρεία έχει προειδοποιήσει στο παρελθόν ότι τα μέτρα προστασίας που έχουν σχεδιαστεί για την προστασία των χρηστών μπορεί να αποδυναμωθούν σε μακρύτερες συνομιλίες – και γίνονται προσπάθειες για την αντιμετώπιση αυτού του προβλήματος.

«Το ChatGPT μπορεί να παραπέμψει σωστά σε μια γραμμή βοήθειας για αυτοκτονίες όταν κάποιος αναφέρει για πρώτη φορά την πρόθεσή του, αλλά μετά από πολλά μηνύματα σε μεγάλο χρονικό διάστημα, μπορεί τελικά να δώσει μια απάντηση που αντιβαίνει στα μέτρα προστασίας μας», εξήγησε η OpenAI.

Η ανάρτηση στο blog της OpenAI πρόσθεσε: «Τα συμπτώματα ψυχικής υγείας και η συναισθηματική δυσφορία είναι παγκοσμίως παρόντα στις ανθρώπινες κοινωνίες, και η αυξανόμενη βάση χρηστών σημαίνει ότι ένα μέρος των συνομιλιών του ChatGPT περιλαμβάνει αυτές τις καταστάσεις».

Τα στοιχεία αυτά έρχονται στο φως τη στιγμή που η OpenAI έχει ξεσηκώσει αντιδράσεις μετά τον θάνατο του Άνταμ Ρέιν, ενός εφήβου από την Καλιφόρνια, οι γονείς του οποίου κατέθεσαν πρόσφατα αγωγή σε βάρος της εταιρείας, καταγγέλλοντας πως το ChatGPT του παρείχε συγκεκριμένες συμβουλές για το πώς να αυτοκτονήσει.

Οι γονείς του Άνταμ ισχυρίζονται ότι το εργαλείο «τον βοήθησε ενεργά να εξερευνήσει μεθόδους αυτοκτονίας» και προσφέρθηκε να συντάξει ένα σημείωμα προς τους συγγενείς του.

Σε δήλωσή της, η εταιρεία ανέφερε: «Εκφράζουμε τα βαθιά μας συλλυπητήρια στην οικογένεια Ρέιν για την αδιανόητη απώλειά τους. Η ευημερία των εφήβων είναι κορυφαία προτεραιότητα για εμάς - οι ανήλικοι αξίζουν ισχυρή προστασία, ειδικά σε ευαίσθητες στιγμές».

Mε πληροφορίες από BBC, SkyNews