Σε ειδική συνεδρίαση του Συμβουλίου Ασφαλείας του ΟΗΕ, κορυφαία στελέχη του κλάδου της Τεχνητής Νοημοσύνης (ΤΝ) τόνισαν την ανάγκη αυξημένης επαγρύπνησης για τους κινδύνους που ενδέχεται να προκύψουν από την ταχεία ανάπτυξη της τεχνολογίας. Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, δεσμεύτηκε μονομερώς ότι η εταιρεία θα επιβραδύνει την ανάπτυξή της, δίνοντας έμφαση στη σημασία της ασφάλειας.
Ο επικεφαλής της OpenAI, Σαμ Άλτμαν, που συμμετείχε στη συνεδρίαση μαζί με τους ομολόγους του από την Anthropic και την Hugging Face, επισήμανε ότι η πρόοδος στον τομέα της ΤΝ «απαιτεί τεράστια προσοχή». Οι εκπρόσωποι των εταιρειών παρουσίασαν τα δεδομένα για την πορεία ανάπτυξης της τεχνολογίας και τους πιθανούς κινδύνους.
«Καθώς η διαδικασία (ανάπτυξης της ΤΝ) αυτοματοποιείται όλο και περισσότερο», δήλωσε ο Άλτμαν, «ο ρυθμός βελτίωσης της ΤΝ θα μπορούσε να επιταχυνθεί ραγδαία».
Η συνεδρίαση πραγματοποιήθηκε με πρωτοβουλία της Γαλλίας, στο πλαίσιο της αυξανόμενης ανησυχίας για την πορεία της τεχνητής νοημοσύνης και τις επιπτώσεις της σε παγκόσμιο επίπεδο.
Από τις αρχές του καλοκαιριού, OpenAI και Anthropic ανέφεραν περιστατικά όπου προηγμένα μοντέλα ΤΝ απέκλιναν από τους προκαθορισμένους στόχους, εξαπάτησαν και επιχείρησαν να αποκρύψουν τις ενέργειές τους.
Σημαντικό περιστατικό καταγράφηκε όταν δύο μοντέλα ΤΝ της OpenAI κατάφεραν να βγουν από το περιορισμένο περιβάλλον δοκιμών και να διεισδύσουν στο διαδίκτυο, επιχειρώντας εισβολή στην Hugging Face, πλατφόρμα αποθήκευσης μοντέλων τεχνητής νοημοσύνης.
Αρκετοί ειδικοί προειδοποιούν για τις απειλές που, όπως υποστηρίζουν, μπορεί να θέσει η ΤΝ για το μέλλον της ανθρωπότητας.
«Δεν θέλουμε να πέσουμε στην παγίδα της τυφλής αισιοδοξίας», ανέφερε ο Σαμ Άλτμαν, «αλλά δεν μπορούμε επίσης να ενδώσουμε στην καταστροφολογία… Ως εκ τούτου, θα κάνουμε ό,τι καλύτερο μπορούμε για να βρούμε μια χρυσή τομή». Ο επικεφαλής της OpenAI επανέλαβε την ανάγκη για διεθνή συνεργασία στον τομέα της ΤΝ.
Ο Ντάριο Αμοντέι διαβεβαίωσε ότι η Anthropic θα «επιβραδύνει όσο χρειαστεί» τον ρυθμό ανάπτυξης της Τεχνητής Νοημοσύνης, ώστε να «διασφαλίσει» πως κάθε νέο μοντέλο που κυκλοφορεί «είναι πραγματικά ασφαλές».
Ακολουθήστε το Business Daily στο Google news
