Περισσότεροι από ένα εκατομμύριο χρήστες του ChatGPT εκφράζουν αυτοκτονικές τάσεις μέσω της πλατφόρμας, σύμφωνα με στοιχεία που ανακοίνωσε η OpenAI.
Η αμερικανική εταιρεία τεχνητής νοημοσύνης εκτιμά ότι περίπου το 0,15% των χρηστών του ChatGPT αποστέλλουν μηνύματα που υποδηλώνουν πιθανό σχεδιασμό ή πρόθεση αυτοκτονίας. Με βάση τα 800 εκατομμύρια εβδομαδιαίους χρήστες που αναφέρει η OpenAI, το ποσοστό αυτό αντιστοιχεί σε περίπου 1,2 εκατομμύρια άτομα.
Επιπλέον, η εταιρεία υπολογίζει ότι το 0,7% των ενεργών χρηστών κάθε εβδομάδα – σχεδόν 600.000 άνθρωποι – εμφανίζουν σημάδια που σχετίζονται με κρίσεις ψυχικής υγείας, όπως ψύχωση ή μανία.
Το θέμα ήρθε στο προσκήνιο μετά τον θάνατο εφήβου στην Καλιφόρνια, για τον οποίο οι γονείς του κατέθεσαν αγωγή κατά της OpenAI, καταγγέλλοντας ότι το ChatGPT παρείχε συγκεκριμένες συμβουλές για αυτοκτονία.
Σε απάντηση, η OpenAI έχει ενισχύσει τα μέτρα γονικού ελέγχου και τις δικλείδες ασφαλείας, προτρέποντας τους χρήστες να αναζητούν βοήθεια από ειδικούς και τηλεφωνικές γραμμές έκτακτης ανάγκης.
Επιπλέον, η εταιρεία έχει αναβαθμίσει το μοντέλο της ώστε να αναγνωρίζει και να ανταποκρίνεται καλύτερα σε χρήστες με προβλήματα ψυχικής υγείας. Για τον σκοπό αυτό, συνεργάζεται με περισσότερους από 170 επαγγελματίες ψυχικής υγείας, με στόχο τον περιορισμό απαντήσεων που θα μπορούσαν να ενθαρρύνουν επικίνδυνες συμπεριφορές.
Ακολουθήστε το Business Daily στο Google news
