Σοκαριστικά στοιχεία για τη χρήση της τεχνητής νοημοσύνης – Η εταιρεία λαμβάνει μέτρα για την προστασία των χρηστών
Περισσότεροι από 1,2 εκατομμύρια χρήστες κάθε εβδομάδα εκφράζουν αυτοκτονικές σκέψεις ή προθέσεις μέσα από συνομιλίες στο ChatGPT, σύμφωνα με επίσημα στοιχεία της OpenAI.
Η εταιρεία εκτιμά ότι περίπου 0,15% των συνομιλιών υποδηλώνουν πιθανό σχεδιασμό αυτοκτονίας, ενώ το 0,07% σχετίζεται με κρίσεις ψυχικής υγείας, όπως ψύχωση ή μανία. Με 800 εκατομμύρια ενεργούς χρήστες εβδομαδιαίως, το νούμερο μεταφράζεται σε εκατοντάδες χιλιάδες ανθρώπους σε ψυχολογική κρίση.
Το θέμα ήρθε ξανά στο προσκήνιο μετά την τραγική υπόθεση του 15χρονου Άνταμ Ρέιν στην Καλιφόρνια, με την οικογένειά του να καταθέτει αγωγή κατά της OpenAI, κατηγορώντας το ChatGPT ότι έδωσε οδηγίες αυτοκτονίας στον έφηβο.
Η εταιρεία ανακοίνωσε ενίσχυση των μηχανισμών γονικού ελέγχου και της ασφαλούς ανταπόκρισης σε χρήστες που εκφράζουν απελπισία, συνεργαζόμενη πλέον με πάνω από 170 ειδικούς ψυχικής υγείας. Παράλληλα, καλεί όσους αντιμετωπίζουν δυσκολίες να απευθύνονται άμεσα σε ειδικούς ή σε γραμμές ψυχολογικής υποστήριξης.