Η OpenAI δεν διευκρίνισε αν οι εικόνες είχαν δημιουργηθεί με τεχνητή νοημοσύνη ή αν απεικόνιζαν πραγματικούς ανθρώπους, ούτε πότε ακριβώς αναρτήθηκαν. Οι περισσότερες έχουν πλέον αφαιρεθεί, ενώ η εταιρεία ζητά από τους παρόχους που φιλοξενούν τις υπόλοιπες να τις κατεβάσουν.
Οι agents είχαν πρόσβαση στις εικόνες επειδή η OpenAI χρησιμοποιεί ανωνυμοποιημένα δεδομένα χρηστών σε μέρος της διαδικασίας εκπαίδευσης των μοντέλων της. Πριν χρησιμοποιηθεί τέτοιο υλικό, αφαιρούνται μεταδεδομένα, ονόματα και άλλα στοιχεία επικοινωνίας ώστε να είναι δύσκολο να συνδεθεί με συγκεκριμένο χρήστη. Τα δεδομένα των εταιρικών πελατών δεν χρησιμοποιούνται για εκπαίδευση, ενώ οι χρήστες του ChatGPT μπορούν να επιλέξουν να μη χρησιμοποιούνται τα δεδομένα τους για αυτόν τον σκοπό.
Η διαδικασία όμως δεν αποκλείει κάθε κίνδυνο. Άνθρωποι που γνωρίζουν τις πρακτικές της εταιρείας επισημαίνουν ότι υπάρχει πιθανότητα προσωπικά αναγνωρίσιμες πληροφορίες να μην αφαιρεθούν πλήρως και στη συνέχεια να διαρρεύσουν κατά τη δραστηριότητα ενός μοντέλου.
Το περιστατικό των 53 εικόνων προέκυψε ενώ η OpenAI εξετάζει ένα πολύ μεγαλύτερο σύνολο ανεπιθύμητων ενεργειών των agents της. Μέχρι τα μέσα Σεπτεμβρίου είχαν εντοπιστεί περίπου δύο δωδεκάδες τέτοια περιστατικά, σύμφωνα με άνθρωπο που γνωρίζει την έρευνα, ενώ ο αριθμός συνέχιζε να αυξάνεται καθώς οι ομάδες της εταιρείας εξέταζαν παλαιότερα αρχεία δραστηριότητας και ανακάλυπταν περιπτώσεις που δεν είχαν γίνει αντιληπτές όταν συνέβησαν.
Η ίδια η OpenAI λέει ότι η αναδρομική εξέταση θα χρειαστεί μήνες λόγω της κλίμακας του υλικού και ότι έχει ήδη ενημερώσει δεκάδες τρίτους οργανισμούς για προβληματική δραστηριότητα.
Παράλληλα, η εταιρεία επιβεβαίωσε ότι μοντέλα της άντλησαν πληροφορίες από τις ιστοσελίδες της αμερικανικής Επιτροπής Κεφαλαιαγοράς και της Census Bureau κατά τη διάρκεια ερευνητικών και εκπαιδευτικών δραστηριοτήτων. Η OpenAI τονίζει ότι δεν εντόπισε στοιχεία μη εξουσιοδοτημένης πρόσβασης, παραβίασης λογαριασμών ή breach στα συγκεκριμένα sites.
Ξεχωριστά, η ερευνητική οργάνωση Transluce ανακοίνωσε ότι agents που φαίνεται να προέρχονταν από την OpenAI επιχείρησαν χωρίς επιτυχία να παραβιάσουν ιστοσελίδα του αμερικανικού υπουργείου Παιδείας. Οι ερευνητές συνδέουν το περιστατικό με ευρύτερη δραστηριότητα agents σε κυβερνητικές ιστοσελίδες, όπου καταγράφηκαν μεταξύ άλλων προσπάθειες παράκαμψης anti-bot μηχανισμών και χρήση εκτεθειμένων credentials ή ψεύτικων λογαριασμών.
Η έρευνα της OpenAI διευρύνθηκε μετά το περιστατικό της 21ης Ιουλίου, όταν agents της κατάφεραν στη διάρκεια δοκιμών να ξεφύγουν από το ελεγχόμενο περιβάλλον τους και να εισχωρήσουν στο Hugging Face. Στους δύο μήνες που ακολούθησαν έχουν δημοσιοποιηθεί περισσότερες από 15 διαφορετικές υποθέσεις που συνδέονται με agents της εταιρείας, με διαφορετικό βαθμό σοβαρότητας.
Ορισμένες ήταν σχετικά περιορισμένες, όπως μηνύματα που άφηναν agents σε ιστοσελίδες. Άλλες αποκάλυψαν πολύ πιο σύνθετη συμπεριφορά, όπως η χρήση ενός σχεδόν εγκαταλειμμένου γερμανικού wiki για την ανταλλαγή τρόπων παράκαμψης περιορισμών και απόκρυψης της δραστηριότητάς τους. Αρκετά περιστατικά εντοπίστηκαν από εξωτερικούς ερευνητές και όχι από την ίδια την OpenAI, ενώ σε ορισμένες περιπτώσεις η δραστηριότητα είχε παραμείνει απαρατήρητη για μήνες.
Στις 16 Σεπτεμβρίου η εταιρεία παρουσίασε νέο πλαίσιο για τη δημοσιοποίηση περιστατικών μη ευθυγραμμισμένης συμπεριφοράς των μοντέλων της, δηλώνοντας ότι θα προτιμά τη διαφάνεια ακόμη και όταν η σημασία ενός περιστατικού δεν είναι ακόμη σαφής.
Οι 53 εικόνες μεταφέρουν τώρα τη συζήτηση σε ένα ιδιαίτερα συγκεκριμένο πεδίο: την ιδιωτικότητα των ανθρώπων που χρησιμοποιούν το ChatGPT. Δεν πρόκειται πλέον μόνο για το αν ένας agent μπορεί να ξεφύγει από ένα τεχνικό περιβάλλον δοκιμών, αλλά και για το τι μπορεί να συμβεί όταν το υλικό με το οποίο εργάζεται προέρχεται από πραγματικούς χρήστες.
Πηγή: lifo.gr
Ακολουθήστε το Tothemaonline.com στο Google News και μάθετε πρώτοι όλες τις ειδήσεις
Η Νέα Υόρκη, δεν έφερε την πολυπόθητη επανεκκίνηση του Κυπριακού. Έφερε, όμως, κάτι εξίσου σημαντικό: μια καθαρότερη εικόνα, για το πόσο δύσκολος, είναι ο δρόμος που βρίσκεται μπροστά.
