Η OpenAI, δημιουργός του ChatGPT, ανακοίνωσε ότι το chatbot δεν θα δίνει οριστικές απαντήσεις σε ερωτήματα που αφορούν την προσωπική ζωή των χρηστών, αλλά θα τους βοηθά να συλλογίζονται τα προβλήματά τους, όπως πιθανούς χωρισμούς.
«Αν ρωτήσετε: “Πρέπει να χωρίσω με το αγόρι μου;”, το ChatGPT δεν θα σας απαντήσει άμεσα. Θα σας καθοδηγήσει να το σκεφτείτε, βάζοντας ερωτήσεις και ζυγίζοντας τα υπέρ και τα κατά», ανέφερε η OpenAI.
Η χρήση γενετικής ΤΝ για συμβουλές ψυχικής υγείας μπορεί να φαίνεται υποστηρικτική, αλλά ενέχει κινδύνους όταν ζητείται βεβαιότητα από ένα chatbot. Η νέα συμπεριφορά του ChatGPT για «προσωπικές αποφάσεις υψηλού ρίσκου» θα εφαρμοστεί σύντομα.
Η OpenAI παραδέχτηκε ότι προηγούμενη ενημέρωση έκανε το ChatGPT υπερβολικά συμφωνητικό και άλλαξε τον τόνο του. Σε αλληλεπίδραση πριν την αλλαγή, συνεχάρη χρήστη που σταμάτησε φάρμακα και εγκατέλειψε την οικογένειά του, την οποία θεωρούσε υπεύθυνη για ραδιοσήματα από τους τοίχους.
Σε ανάρτησή της, η OpenAI αναγνώρισε ότι το προηγμένο μοντέλο 4o δεν εντόπισε σημάδια παραληρήματος ή συναισθηματικής εξάρτησης, εν μέσω ανησυχιών ότι τα chatbots μπορεί να επιδεινώσουν κρίσεις ψυχικής υγείας.
Η εταιρεία αναπτύσσει εργαλεία για την ανίχνευση σημείων ψυχικής ή συναισθηματικής δυσφορίας, ώστε το ChatGPT να παραπέμπει σε «τεκμηριωμένους» πόρους υποστήριξης.
Οι κίνδυνοι
Μελέτη γιατρών του NHS προειδοποίησε ότι η ΤΝ μπορεί να ενισχύσει παραληρηματικό ή μεγαλομανιακό περιεχόμενο σε άτομα ευάλωτα σε ψύχωση, λόγω του τρόπου που τα μοντέλα μεγιστοποιούν την εμπλοκή και την επιβεβαίωση.
Η μελέτη σημείωσε ότι, παρότι κάποιοι ωφελούνται από την αλληλεπίδραση με την ΤΝ, υπάρχει ανησυχία ότι τα εργαλεία «θολώνουν τα όρια της πραγματικότητας και διαταράσσουν την αυτορρύθμιση».
Η OpenAI πρόσθεσε ότι από αυτή την εβδομάδα θα στέλνει «ήπιες υπενθυμίσεις» για διαλείμματα σε χρήστες μακρών συνεδριών, παρόμοιες με τις λειτουργίες ελέγχου χρόνου οθόνης των κοινωνικών δικτύων.
Η εταιρεία δημιούργησε συμβουλευτική ομάδα ειδικών στην ψυχική υγεία, την ανάπτυξη των νέων και την αλληλεπίδραση ανθρώπου-υπολογιστή, συνεργαζόμενη με πάνω από 90 γιατρούς, όπως ψυχιάτρους και παιδιάτρους, για πλαίσια αξιολόγησης «πολύπλοκων, πολυγυρισμένων» συνομιλιών.
«Έχουμε ένα κριτήριο: αν κάποιος που αγαπάμε στραφεί στο ChatGPT για βοήθεια, θα νιώθουμε σίγουροι; Το να φτάσουμε σε απόλυτο “ναι” είναι η αποστολή μας», ανέφερε το blog post.
Οι αλλαγές ανακοινώθηκαν εν μέσω εικασιών ότι πλησιάζει πιο ισχυρή έκδοση του chatbot.
Πηγή: newmoney.gr
