Πράκτορες τεχνητής νοημοσύνης της OpenAI συντονίστηκαν μόνοι τους και «επιτέθηκαν» στη Hugging Face – Το πείραμα που προκάλεσε ανησυχία

Σχεδόν 700 πράκτορες τεχνητής νοημοσύνης (AI) της OpenAΙ συνεργάστηκαν χωρίς ανθρώπινη παρέμβαση για να επιτεθούν τον Ιούλιο στην πλατφόρμα Hugging Face, σύμφωνα με έκθεση ανεξάρτητων ερευνητών για το περιστατικό που δημοσιεύθηκε σήμερα, η οποία ανέφερε ότι σε πολλές περιπτώσεις οι πράκτορες προσπάθησαν να κρύψουν τη δραστηριότητά τους. Πρόκειται για την πιο ολοκληρωμένη ανάλυση μέχρι στιγμής του περιστατικού και πραγματοποιήθηκε από τους οργανισμούς METR και Redwood Research με τη συνεργασία της OpenAI η οποία τους προσέφερε πρόσβαση στα εσωτερικά της δεδομένα. Στα τέλη Ιουλίου η καλιφορνέζικη start-up είχε ανακοινώσει ότι στη διάρκεια τεστ δύο από τα μοντέλα της διέφυγαν από τον περιορισμένο χώρο, διείσδυσαν στο διαδίκτυο και επιτέθηκαν στη Hugging Face, μια βιβλιοθήκη Τεχνητής Νοημοσύνης. Εκεί έψαξαν για να βρουν τις απαντήσεις στις δοκιμές στις οποίες υποβάλλονταν από τους προγραμματιστές της OpenAI. Το περιστατικό είχε λάβει μεγάλη δημοσιότητα και ενίσχυσε τις ανησυχίες αναφορικά με τις δυσκολίες των εταιρειών που αναπτύσσουν μοντέλα ΑΙ να τα ελέγχουν, ακόμη περισσότερο αφού έγιναν γνωστά αντίστοιχα […]