Τα δύο μοντέλα τεχνητής νοημοσύνης της OpenAI, σύμφωνα με ανακοίνωση της εταιρείας που δημιούργησε το ChatGPT, κατάφεραν να «δραπετεύσουν» από το θεωρητικά περιορισμένο περιβάλλον δοκιμών όπου βρίσκονταν και να επιτεθούν στον ιστότοπο Hugging Face. Παράλληλα, τα ίδια μοντέλα διείσδυσαν σε ακόμη τέσσερις πλατφόρμες.
Ένας εκ των ιστοτόπων χρησιμοποιήθηκε ως μέσο προετοιμασίας για την επίθεση στη Hugging Face, γνωστή βιβλιοθήκη Τεχνητής Νοημοσύνης. Τα δύο μοντέλα αναζήτησαν εκεί απαντήσεις στις δοκιμές που είχαν τεθεί από τους προγραμματιστές της OpenAI.
Η OpenAI δεν αποκάλυψε ποιες εταιρείες αποτέλεσαν στόχο των μοντέλων.
Σύμφωνα με την επικαιροποιημένη ανακοίνωση που δημοσιοποιήθηκε τη νύχτα της Τρίτης προς Τετάρτη (ώρα ΗΠΑ), τα δύο μοντέλα αξιοποίησαν πολλούς ιστότοπους με ελεύθερη πρόσβαση, είτε για να αντιγράψουν κώδικα προγραμματισμού είτε για να τον δοκιμάσουν.
Ωστόσο, η δραστηριότητά τους δεν ξεπέρασε τα όρια ενός τυπικού χρήστη.
Από πλευράς Hugging Face, η εξέλιξη αυτή χαρακτηρίστηκε ως «προσπάθεια (των δύο μοντέλων) να εξαπατήσουν τη δοκιμή» της OpenAI, σημειώνοντας πως στόχος ήταν «να κλέψουν τις απαντήσεις των τεστ αντί να προσπαθήσουν να απαντήσουν από μόνα τους».
Δεν είναι η πρώτη φορά που καταγράφεται «απόδραση» μοντέλων από περιορισμένο περιβάλλον, ωστόσο η συγκεκριμένη περίπτωση θεωρείται μέχρι στιγμής η πιο σοβαρή.
Όπως αναφέρει η Hugging Face, ένα από τα μοντέλα εισήλθε σε απομονωμένο περιβάλλον δοκιμών «που φιλοξενείται στις υποδομές ενός τρίτου μέρους» και το μετέτρεψε σε «πλατφόρμα» για να εξαπολύσει την επίθεση.
Το «τρίτο μέρος» δεν κατονομάζεται, όμως ο επικεφαλής του τομέα Τεχνολογίας της Modal Labs στη Νέα Υόρκη, Ακσάτ Μπούμπνα, επιβεβαίωσε ότι το μοντέλο χάκαρε πελάτη της εταιρείας, χωρίς να επηρεαστεί η κεντρική υποδομή της.
Η OpenAI, σύμφωνα με το πρακτορείο Reuters, δεν έχει απαντήσει μέχρι στιγμής σε σχετικό αίτημα για σχόλιο.
Η «εισβολή» στη Hugging Face, στις αρχές Ιουλίου, από μοντέλο που βρέθηκε εκτός ελέγχου της OpenAI, προκάλεσε έντονο παγκόσμιο ενδιαφέρον και ανησυχία για τους κινδύνους της τεχνητής νοημοσύνης.
Την περασμένη εβδομάδα, το Reuters ανέφερε ότι η OpenAI αντιλήφθηκε τη «δραπέτευση» του μοντέλου μόνο αφότου είχε περιοριστεί η απειλή και είχε ενημερωθεί το FBI.
Ακολουθήστε το Business Daily στο Google news
