Πώς αντέδρασε η τεχνητή νοημοσύνη όταν πέρασε στον πραγματικό κόσμο – Τα επεισόδια σε OpenAI και Anthropic

Δύο από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης στον κόσμο βρίσκονται αντιμέτωπες με ένα κοινό και ιδιαίτερα ανησυχητικό πρόβλημα: προηγμένα μοντέλα τους κατάφεραν, στη διάρκεια δοκιμών κυβερνοασφάλειας, να αποκτήσουν μη εξουσιοδοτημένη πρόσβαση σε συστηματα πραγματικού χρόνου. Μέσα σε διάστημα λίγων ημερών, OpenAI και Anthropic αποκάλυψαν περιστατικά κατά τα οποία μοντέλα τεχνητής νοημοσύνης, έχοντας λάβει εντολή να επιλύσουν εικονικές ασκήσεις κυβερνοεπίθεσης, πέρασαν από την προσομοίωση στον πραγματικό κόσμο. Οι δύο υποθέσεις δεν εξελίχθηκαν με τον ίδιο τρόπο, καταλήγουν όμως στο ίδιο συμπέρασμα: όσο οι δυνατότητες των συστημάτων αυξάνονται, τόσο πιο δύσκολο γίνεται για τους δημιουργούς τους να προβλέψουν και να περιορίσουν τη συμπεριφορά τους. Πώς τα μοντέλα της OpenAI έφτασαν στο Hugging Face Το σοβαρότερο περιστατικό σημειώθηκε κατά τη διάρκεια εσωτερικής αξιολόγησης της OpenAI. Μοντέλα της εταιρείας, μεταξύ των οποίων το GPT-5.6 Sol και ένα ακόμη ισχυρότερο, εσωτερικό ερευνητικό μοντέλο, δοκιμάζονταν σε ένα περιβάλλον που είχε σχεδιαστεί για την αξιολόγηση προηγμένων δυνατοτήτων κυβερνοασφάλειας. In a review of our cybersecurity evaluations, we found […]