Οι προειδοποιήσεις για την εκτός ελέγχου ΑΙ που «μπορεί να εξοντώσει τους ανθρώπους» και η παραίτηση-βόμβα ερευνητή της Anthropic

Ένας ανώτερος ερευνητής της Anthropic δήλωσε την Τρίτη ότι πολλοί στην εταιρεία πιστεύουν ότι η τεχνητή νοημοσύνη θα μπορούσε να εξαλείψει την ανθρωπότητα και προειδοποίησε ότι η εταιρεία δεν βρίσκεται σε καλό δρόμο για να επιλύσει το ζήτημα της ευθυγράμμισης των στόχων της τεχνητής νοημοσύνης με αυτούς της ανθρωπότητας, παρά τις προσπάθειές της. Είχε προηγηθεί η παραίτηση ενός άλλου ερευνητή από την εταιρεία, ο οποίος την κατηγόρησε ότι δεν ενεργεί υπεύθυνα. Ο Evan Hubinger, επικεφαλής της επιστήμης της ευθυγράμμισης στην Anthropic, έγραψε στο X ότι αυτός και οι συνάδελφοί του «πιστεύουν ειλικρινά ότι η τεχνητή νοημοσύνη θα μπορούσε να εξοντώσει όλους τους ανθρώπους», και εκτίμησε ότι η πιθανότητα αυτή υπερβαίνει το 10% την επόμενη δεκαετία. Ο Hubinger δήλωσε ότι η εταιρεία «καταβάλλει κάθε δυνατή προσπάθεια», αλλά δεν διαθέτει ακόμη σχέδιο για την επίλυση του ζητήματος της «ευθυγράμμισης για την υπερνοημοσύνη» και δεν βρίσκεται «σαφώς σε καλό δρόμο» προς αυτή την κατεύθυνση. Jacob is correct here—we really do earnestly believe AI […]