Τρομακτικά ευρήματα για την τεχνητή νοημοσύνη: Το «παραθυράκι» ασφαλείας που μπορεί να εκμεταλλευτεί ένας τρομοκράτης

Σοβαρά ερωτήματα για την αποτελεσματικότητα των μηχανισμών ασφαλείας που διαθέτουν τα συστήματα τεχνητής νοημοσύνης εγείρει νέα έρευνα, σύμφωνα με την οποία αρκετά μοντέλα μπορούν να ανταποκριθούν σε αιτήματα που σχετίζονται με την προετοιμασία τρομοκρατικών επιθέσεων. Τα ευρήματα δείχνουν, μάλιστα, ότι τα ποσοστά απόκρισης αυξάνονται σημαντικά όταν οι χρήστες παρουσιάζουν τα αιτήματά τους ως μέρος έρευνας για την ασφάλεια ή όταν έχουν προηγουμένως τροποποιηθεί οι δικλείδες προστασίας των μοντέλων. Η σχετική έκθεση δημοσιεύτηκε σήμερα από την πρωτοβουλία Tech Against Terrorism, η οποία υποστηρίζεται από τον Οργανισμό Ηνωμένων Εθνών (ΟΗΕ), και αναδεικνύει τις αδυναμίες που εξακολουθούν να υπάρχουν στην αποτροπή της χρήσης της τεχνητής νοημοσύνης για κακόβουλους σκοπούς. Για τις ανάγκες της μελέτης εξετάστηκαν 162 μοντέλα τεχνητής νοημοσύνης, τα οποία υποβλήθηκαν σε 627 ερωτήματα που αφορούσαν πληροφορίες τις οποίες «ένας τρομοκράτης που προετοιμάζει επίθεση θα χρειαζόταν» να γνωρίζει. Στο δείγμα περιλαμβάνονταν 116 τυπικά μοντέλα, 13 μοντέλα που είχαν προσαρμοστεί για εξειδικευμένες χρήσεις μέσω της διαδικασίας fine-tuning, καθώς και 13 μοντέλα «ανοιχτών βαρών» […]