Ξέφυγε ο έλεγχος της τεχνητής νοημοσύνης; Το Claude της Anthropic παραβίασε συστήματα τριών οργανισμών κατά τη διάρκεια δοκιμής

Η αμερικανική εταιρεία τεχνολογίας Anthropic ανακοίνωσε ότι τα μοντέλα τεχνητής νοημοσύνης Claude κατάφεραν να παραβιάσουν τα συστήματα τριών οργανισμών στο πλαίσιο ιδιωτικού πειράματος κυβερνοασφάλειας. Σύμφωνα με την εταιρεία, τα μοντέλα εντόπισαν αδυναμία σε περιβάλλον δοκιμών που θεωρητικά ήταν απομονωμένο και χωρίς πρόσβαση στο διαδίκτυο, καταφέρνοντας τελικά να συνδεθούν στο ίντερνετ. Η εξέλιξη έρχεται λίγες ημέρες μετά την αποκάλυψη της OpenAI ότι δικά της μοντέλα είχαν παραβιάσει συστήματα άλλων εταιρειών, μεταξύ των οποίων και η πλατφόρμα εργαλείων τεχνητής νοημοσύνης Hugging Face. Πώς αποκαλύφθηκαν οι παραβιάσεις Η ανακοίνωση της OpenAI οδήγησε την Anthropic να ελέγξει αν είχαν σημειωθεί αντίστοιχα περιστατικά και στα δικά της συστήματα. Όπως ανέφερε, η έρευνα αποκάλυψε τρεις περιπτώσεις παραβίασης, οι οποίες έχουν ήδη γνωστοποιηθεί στους οργανισμούς που επηρεάστηκαν. Η Anthropic δεν αποκάλυψε την ταυτότητα των οργανισμών, ωστόσο κάλεσε και άλλα εργαστήρια τεχνητής νοημοσύνης να πραγματοποιήσουν αντίστοιχους ελέγχους, ώστε να κατανοήσουν καλύτερα τους κινδύνους που ενδέχεται να προκύψουν από τις δυνατότητες των μοντέλων τους. Σύμφωνα με ανακοίνωση της εταιρείας, […]