Το «κουμπί θανάτου» της τεχνητής νοημοσύνης ίσως πρέπει να γίνει υποχρεωτικό, λέει συνιδρυτής της Anthropic

Ένα «κουμπί θανάτου» της τεχνητής νοημοσύνης, το οποίο μπορεί να ελέγχεται από τρίτο μέρος, ίσως πρέπει να καταστεί υποχρεωτικό για τις εταιρείες, όπως δήλωσε στο BBC ένας συνιδρυτής μιας από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης στον κόσμο. Ο Τζακ Κλαρκ, ένας από τους επτά ιδρυτές της Anthropic, δήλωσε ότι η κοινωνία «ίσως θελήσει τελικά να θεσπίσει σχετικούς κανόνες» σχετικά με έναν τρόπο για την πλήρη απενεργοποίηση του λογισμικού τεχνητής νοημοσύνης, σε περίπτωση που αυτό καταστεί υπερβολικά επικίνδυνο. Ο Κλαρκ ανέφερε ότι «τα περισσότερα εργαστήρια διαθέτουν διαφορετικούς τρόπους για να διακόψουν τη λειτουργία του συστήματος», συμπεριλαμβανομένης της Anthropic, αλλά πρόσθεσε ότι οι νομοθέτες ίσως χρειαστεί να επιβάλουν την ύπαρξη ενός τέτοιου μηχανισμού. Η ραγδαία ανάπτυξη της τεχνητής νοημοσύνης και οι φόβοι για τους κινδύνους που ενέχει για την ανθρωπότητα έχουν βρεθεί στο επίκεντρο μετά από μια σειρά προειδοποιήσεων από στελέχη και προσωπικό εταιρειών τεχνητής νοημοσύνης. Ορισμένοι έχουν δηλώσει δημοσίως ότι υπάρχει πιθανότητα η τεχνολογία αυτή, αν δεν ελεγχθεί, να σκοτώσει όλους […]