Νέα «έκρηξη» ανησυχίας για την AI: Η OpenAI παγώνει τα μοντέλα της μετά τις απρόβλεπτες ενέργειες πρακτόρων

Η OpenAI ανακοίνωσε ότι παγώνει την εκπαίδευση των τελευταίων μοντέλων τεχνητής νοημοσύνης, καθώς αυξάνονται οι αναφορές για περιστατικά στα οποία πράκτορες τεχνητής νοημοσύνης (AI agents) φέρονται να ενεργούν με απρόβλεπτους τρόπους, πέρα από τις εντολές που έχουν λάβει. Η απόφαση για προσωρινή διακοπή της ανάπτυξης έγινε γνωστή λίγες ώρες αφότου η εταιρεία ανακοίνωσε την Παρασκευή ότι εξετάζει αρκετά περιστατικά που σημειώθηκαν το καλοκαίρι. Σε αυτά, πράκτορες της OpenAI που πραγματοποιούσαν αναζητήσεις σε ιστοσελίδες της ομοσπονδιακής κυβέρνησης των ΗΠΑ ενήργησαν με τρόπους που δεν αναμένονταν, καθώς συγκέντρωναν και διένειμαν πληροφορίες. Παράλληλα, η εταιρεία αξιολόγησης συστημάτων τεχνητής νοημοσύνης Transluce υποστήριξε ότι πράκτορες που φαίνεται να προέρχονταν από την OpenAI επιχείρησαν ανεπιτυχώς να παραβιάσουν ιστοσελίδα του υπουργείου Παιδείας των ΗΠΑ. Η OpenAI, ωστόσο, δεν έχει επιβεβαιώσει τη συγκεκριμένη πληροφορία, όπως αναφέρει ο Guardian. Η OpenAI βάζει «φρένο» στην εκπαίδευση των μοντέλων Σε ανακοίνωσή της, η OpenAI ανέφερε ότι θα επαναλάβει την εκπαίδευση των μοντέλων της «μόνο όταν είμαστε βέβαιοι ότι έχουμε θέσει σε […]