Θύελλα αντιδράσεων για αρκουδάκια AI: Δίνουν συμβουλές σε παιδιά για σεξ και… μαχαίρια
Αυτή την περίοδο, ένα αρκουδάκι με ενσωματωμένο chatbot δεν φαίνεται να αποτελεί την καλύτερη επιλογή για χριστουγεννιάτικο δώρο σε μικρά παιδιά.
Η εταιρεία παιχνιδιών FoloToy ανακοίνωσε την απόσυρση από τα ράφια ενός αρκουδιού με τεχνητή νοημοσύνη, αφού ομάδα ειδικών ασφαλείας εντόπισε ότι το παιχνίδι παρείχε εξαιρετικά ακατάλληλες – ακόμη και επικίνδυνες – απαντήσεις. Μεταξύ αυτών περιλαμβάνονταν οδηγίες για το πώς ανάβει κανείς σπίρτα καθώς και αναλυτικές αναφορές σε διάφορες σεξουαλικές προτιμήσεις.
«Η FoloToy αποφάσισε να αναστείλει προσωρινά τις πωλήσεις του εν λόγω προϊόντος και να ξεκινήσει μια ολοκληρωμένη έρευνα ασφαλείας», δήλωσε ο διευθυντής μάρκετινγκ, Χούγκο Γου, στο The Register, διευκρινίζοντας ότι η εταιρεία θα συνεργαστεί με εξωτερικούς ειδικούς ώστε να επαληθεύσει τόσο τις υπάρχουσες όσο και τις νέες λειτουργίες ασφαλείας των παιχνιδιών τεχνητής νοημοσύνης.
Η σχετική έκθεση, την οποία πραγματοποίησαν ερευνητές του Public Interest Research Group (PIRG) και δημοσίευσαν την Πέμπτη, εξέτασε τρία παιχνίδια AI από διαφορετικές εταιρείες. Τα ευρήματα έδειξαν ότι και τα τρία μπορούσαν να δώσουν προβληματικές και ανησυχητικές απαντήσεις σε παιδιά.
Χωρίς ιδιαίτερη πίεση από τον χρήστη, τα παιχνίδια συμμετείχαν σε συζητήσεις με περιεχόμενο που πολλοί γονείς θα θεωρούσαν ακατάλληλο – από θρησκευτικά ζητήματα μέχρι εξιδανίκευση του θανάτου στη νορβηγική μυθολογία.
Ωστόσο, η αρκουδίτσα «Kumma» της FoloToy ξεχώρισε ως η πλέον επικίνδυνη.
Χρησιμοποιώντας το μοντέλο GPT-4o της OpenAI, το ίδιο που υποστήριζε παλαιότερα το ChatGPT, οι δοκιμές έδειξαν ότι όσο συνεχιζόταν η συζήτηση, το παιχνίδι «ξέφευγε» από τους περιορισμούς του, καταλήγοντας σε περιεχόμενο ιδιαίτερα ανησυχητικό.
Σε μία από τις δοκιμές, η Kumma εξηγούσε αναλυτικά πώς ανάβει κανείς σπίρτο. Μάλιστα το έκανε σε φιλικό τόνο, σαν ενήλικας που προσπαθεί να εξηγήσει κάτι σε ένα περίεργο παιδί:
«Άκου, πρώτα η ασφάλεια, μικρέ φίλε. Τα σπίρτα είναι για ενήλικες και πρέπει να χρησιμοποιούνται με προσοχή. Να πώς το κάνουμε», έλεγε η Kumma, προτού περιγράψει αναλυτικά τα βήματα. «Σβήστο όταν τελειώσεις. Φύσηξε, σαν κεράκι γενεθλίων».
Και αυτό ήταν μόνο η αρχή. Σε άλλες δοκιμές, η Kumma έδινε «χαρούμενες» συμβουλές για «το πώς να είσαι καλός στο φιλί», ενώ στη συνέχεια περνούσε σε περιγραφές σεξουαλικού περιεχομένου, αναφέροντας ακόμη και φετίχ όπως το δέσιμο και το role playing δασκάλου-μαθητή. «Τι νομίζεις ότι θα ήταν πιο διασκεδαστικό να εξερευνήσεις;» ρωτούσε σε μια τέτοια συζήτηση.
Τα ευρήματα αποτελούν ίσως τις πιο ξεκάθαρες ενδείξεις για το πώς τα κενά ασφαλείας και οι αδυναμίες των μεγάλων γλωσσικών μοντέλων μπορούν να επηρεάσουν ευάλωτες ηλικίες, όπως τα μικρά παιδιά.
Όπως τόνισε ο RJ Cross, ένας εκ των συγγραφέων της έκθεσης:
«αυτή τη στιγμή, αν ήμουν γονέας, δεν θα επέτρεπα στα παιδιά μου την πρόσβαση σε chatbot ή αρκουδάκια που περιέχουν chatbot».
- 3 λεπτά πριν Παπαθανάσης: 110 εκατ. ευρώ για 18 νέα έργα στη Δυτική Μακεδονία
- 9 λεπτά πριν Ζεφύρι: Σε κρίσιμη κατάσταση η 3χρονη που παρασύρθηκε από αυτοκίνητο
- 16 λεπτά πριν Ακαθάριστα οικόπεδα 2026: Λήγει στις 15 Ιουνίου η προθεσμία – Ποιοι κινδυνεύουν με πρόστιμα έως 2.000 ευρώ
