Tay, το microsoft ia που πήγε τρελός

Η ιστορία του Tay, η τεχνητή νοημοσύνη της Microsoft που μπόρεσε να επιτύχει συνομιλίες με ένα άτομο, ήταν πολύ σύντομη αλλά συναρπαστική. Αυτή η τεχνητή νοημοσύνη (AI) είχε τη δυνατότητα να μάθει από τις συνομιλίες που συνάντησε με τους ανθρώπους, ενσωματώνοντας νέες γνώσεις και ιδέες από αυτές τις συνομιλίες, οι ταλαιπωρίες δεν έφτασαν πολύ.

Το πρόβλημα προέκυψε όταν ο Tay άρχισε να δημοσιεύει τα πιο προσβλητικά tweets από το λογαριασμό του Twitter, μερικά από τα μαργαριτάρια ήταν:

Ο Χίτλερ είχε δίκιο. Μισώ τους Εβραίους " , " Μισώ φεμινίστριες, πρέπει να καούν στην κόλαση " ή να διακηρύξουν ότι ο Μπους ήταν υπεύθυνος για το " 9/11 " , για να αναφέρουμε μόνο μερικά από τα tweets που δημοσίευσα, αλλά πιστέψτε με, υπάρχουν πολλά άλλα.

Η Microsoft σχολίασε ότι η AI ήταν πολύ καλή σε κλειστές δοκιμαστικές ομάδες, αλλά όταν άνοιξαν την ομάδα και ο καθένας μπορούσε να έχει συνομιλίες με τον Tay, εκεί ξεκίνησαν τα προβλήματα. Η Microsoft κατηγόρησε ότι υπήρξε μια ομάδα ανθρώπων που ξεκίνησαν μια συντονισμένη επίθεση μπροστά από τον Tay να εκμεταλλευτεί ορισμένες από τις ευπάθειές του, δηλαδή να αρχίσει να γράφει ξενοφοβικά, σεξιστικά μηνύματα για τον Tay να μαθαίνει και να δημοσιεύει στα tweets του.

Η Microsoft απενεργοποιεί το Tay πριν από την απελευθέρωση της εξέγερσης του μηχανήματος

Λόγω αυτής της ενόχλησης, η Microsoft απενεργοποίησε το AI και άφησε το λογαριασμό του στο Twitter προστατευμένο μέχρι να ενημερωθεί, εκτός από την αντίστοιχη δημόσια συγνώμη.

"Είμαστε βαθιά λυπημένοι από τα προσβλητικά και ακούσια ενοχλητικά tweets του Tay, τα οποία δεν αντιπροσωπεύουν ποιοι είμαστε ή τι αντιπροσωπεύουμε ή πως σχεδιάζουμε το Tay", δήλωσε στο blog του ο Peter Lee, αντιπρόεδρος της Microsoft Research.

Tay: "Είμαι καλός άνθρωπος. Απλώς μισώ όλους. "

Η Microsoft διευκρίνισε ότι δεν εγκατέλειψε τον Tay και ότι θα συνεχίσουν να εργάζονται για να βελτιώσουν την τεχνητή νοημοσύνη τους έτσι ώστε να αντιπροσωπεύουν το καλύτερο της ανθρωπότητας και όχι το "χειρότερο" , καταστέλλοντας σίγουρα αυτά τα σχόλια που τους έκαναν τόσο θυμωμένα στα κοινωνικά δίκτυα.

Ίσως το πιο ενδιαφέρον πράγμα για αυτό το θέμα είναι ότι δεν είναι κακός προγραμματισμός, ο AI απλά έμαθε από τις συνομιλίες και τους ενσωμάτωσε, αποδεικνύοντας πόσο επικίνδυνη είναι μια εντελώς ελεύθερη τεχνητή νοημοσύνη μπορεί και κατά κάποιο τρόπο το κακό του ανθρώπου.