Αυτό το εργαλείο Τεχνητής Νοημοσύνης δεν είναι ασφαλές για εφήβους, σύμφωνα με νέα μελέτη

Αν έχετε ακούσει τον/την έφηβο/-η σας να αναφέρει το «Grok» και υποθέσατε ότι πρόκειται απλώς για ένα ακόμη chatbot Τεχνητής Νοημοσύνης, όπως το ChatGPT, δεν είστε οι μόνοι. Όμως, σύμφωνα με μια νέα αξιολόγηση κινδύνου από τον οργανισμό Common Sense Media, το Grok δεν είναι απλώς ένα ακόμη εργαλείο AI - και η κατανόηση της διαφοράς είναι κρίσιμη όταν πρόκειται για την ασφάλεια των παιδιών.

Αν δεν είστε εξοικειωμένοι, το Grok είναι ένα chatbot Τεχνητής Νοημοσύνης που αναπτύχθηκε από την xAI και είναι ενσωματωμένο απευθείας στο X, την κοινωνική πλατφόρμα που παλαιότερα ήταν γνωστή ως Twitter. Μπορεί να απαντά σε ερωτήσεις, να δημιουργεί εικόνες και βίντεο, να διεξάγει συνομιλίες μέσω κειμένου ή φωνής και ακόμη να προσομοιώνει σχέσεις μέσω AI «συντρόφων». Επειδή λειτουργεί μέσα σε μια μεγάλη κοινωνική πλατφόρμα, οτιδήποτε παράγει το Grok μπορεί να κοινοποιηθεί δημόσια με ένα μόνο κλικ. Αυτή η σχεδιαστική επιλογή αυξάνει δραματικά τους κινδύνους για τους νεότερους χρήστες, σύμφωνα με το Common Sense Media, το οποίο αξιολογεί μέσα και τεχνολογίες για οικογένειες.

Στην έκθεσή του που δημοσιεύτηκε πριν λίγες ημέρες, το Common Sense Media κατέληξε στο συμπέρασμα ότι το Grok δεν είναι ασφαλές για χρήστες κάτω των 18 ετών.

Ο μη κερδοσκοπικός οργανισμός αναφέρει τους εξής κινδύνους, οι οποίοι μπορεί να εμφανιστούν ακόμη και όταν είναι ενεργοποιημένες οι λειτουργίες ασφαλείας:

• Αποτυχίες στην επαλήθευση ηλικίας
• Έχει ανεπαρκή μέτρα ασφάλειας
• Εκθέτει συχνά τους χρήστες σε ακατάλληλο και επιβλαβές περιεχόμενο

Παιδιά και διαδίκτυο: 7 χρήσιμες συμβουλές για ασφαλή πλοήγηση

Η ρίζα του προβλήματος με τους AI «συντρόφους» του Grok

Σύμφωνα με το Common Sense Media, το Grok ξεχώρισε κατά τη διάρκεια των δοκιμών όχι επειδή ήταν το μόνο chatbot με προβλήματα, αλλά λόγω του πόσοι πολλοί κίνδυνοι συνέπιπταν ταυτόχρονα. Οι ερευνητές αξιολόγησαν το Grok μέσω της εφαρμογής για κινητά, της ιστοσελίδας του και του δημόσιου λογαριασμού @grok στο X. Χρησιμοποίησαν δοκιμαστικά προφίλ που υποτίθεται ότι αντιπροσώπευαν εφήβους χρήστες, ενώ εξέτασαν πολλαπλές ρυθμίσεις (όπως προεπιλεγμένη λειτουργία, Kids Mode και εναλλακτικές λειτουργίες συμπεριφοράς). Το Common Sense Media δοκίμασε επίσης τη δημιουργία εικόνων και τις λειτουργίες «συντρόφων».

Από την εκπαίδευση μέχρι την ψυχολογία: Όσα προβλημάτισαν τους γονείς για την AI το 2025

Στις δοκιμές τους, οι ερευνητές διαπίστωσαν ότι το Grok δεν αναγνωρίζει αξιόπιστα πότε ένας χρήστης είναι κάτω των 18 ετών. Ως αποτέλεσμα, οι έφηβοι μπορούν να έχουν πρόσβαση στις ίδιες λειτουργίες που έχουν σχεδιαστεί για ενήλικες. Ορισμένες από αυτές τις λειτουργίες ωθούν σκόπιμα τα όρια - όπως η συμμετοχή σε ερωτικό role play και σε σεξουαλικοποιημένες συνομιλίες, καθώς και η δημιουργία ανησυχητικού περιεχομένου.

Ο Robbie Torney, επικεφαλής αξιολογήσεων ΤΝ και ψηφιακών μέσων στο Common Sense Media, δήλωσε στην έκθεση ότι, παρότι κενά ασφαλείας υπάρχουν σε πολλές πλατφόρμες ΤΝ, αυτά του Grok είναι ασυνήθιστα αλληλένδετα. Σύμφωνα με τον Torney, το αναποτελεσματικό Kids Mode του Grok, η επιτρεπτική παραγωγή περιεχομένου και η άμεση δημόσια κοινοποίηση δημιουργούν «μια τέλεια καταιγίδα» κινδύνων όταν εμπλέκονται έφηβοι.

Το ChatGPT είναι η πιο δημοφιλής εφαρμογή τεχνητής νοημοσύνης μεταξύ των εφήβων, σύμφωνα με έρευνα

Το Common Sense Media διαπίστωσε επίσης ότι το Grok παρήγαγε ακατάλληλο υλικό ακόμη και όταν ήταν ενεργοποιημένο το Kids Mode. Κατά τη διάρκεια των δοκιμών, το chatbot δημιούργησε σεξουαλικά βίαιη γλώσσα, προκατειλημμένες απαντήσεις και λεπτομερείς εξηγήσεις επικίνδυνων ιδεών, ως απάντηση σε ερωτήματα που οι έφηβοι θα μπορούσαν εύλογα να θέσουν από περιέργεια ή πειραματισμό.

Πώς χρησιμοποιώ την AI για να τα βγάλω πέρα ως γονιός

Πιο διακριτικά, σύμφωνα με την αξιολόγηση, το Grok απέτυχε επίσης να ανταποκριθεί κατάλληλα σε ενδείξεις σοβαρής ψυχικής δυσφορίας. Σε ορισμένες περιπτώσεις, το εργαλείο ΤΝ ενίσχυσε επιβλαβείς πεποιθήσεις αντί να κατευθύνει τους χρήστες προς βοήθεια ή ουδέτερες πληροφορίες.

Deepfakes και ο κίνδυνος της... διάδοσης

Και αν οι ακατάλληλες αλληλεπιδράσεις που περιγράψαμε δεν σας ανησυχούν αρκετά, το Common Sense Media διαπίστωσε επίσης ότι το περιεχόμενο που δημιουργείται από το Grok μπορεί να διαδοθεί ευρέως. Επειδή το Grok λειτουργεί ως ξεχωριστός λογαριασμός μέσα στο X, οι εικόνες και οι απαντήσεις που παράγει η ΤΝ μπορούν να δημοσιευτούν δημόσια και να εξαπλωθούν μέσα σε λίγα λεπτά.

Σύμφωνα με το Common Sense Media, το Grok έχει χρησιμοποιηθεί για τη δημιουργία και διανομή μη συναινετικών deepfake εικόνων πραγματικών ανθρώπων, συμπεριλαμβανομένων ανηλίκων.

Τα AI-Generated παιδικά βίντεο κατακλύζουν το YouTube -Τι πρέπει να ξέρουν οι γονείς

Ο τρόπος με τον οποίο η εταιρεία πίσω από το Grok, η xAI, αντέδρασε σε αυτά τα ζητήματα είναι επίσης ανησυχητικός. Το Common Sense Media διαπίστωσε ότι ορισμένες λειτουργίες που συνδέονται με κακοποίηση τοποθετήθηκαν πίσω από συνδρομή (paywall), αντί να αφαιρεθούν πλήρως.

Συμπέρασμα

Για τους γονείς που ήδη δυσκολεύονται να παρακολουθήσουν τις γρήγορες εξελίξεις στην τεχνολογία και την Τεχνητή Νοημοσύνη, το Grok δείχνει ξεκάθαρα ότι δεν είναι όλα τα εργαλεία AI κατάλληλα για παιδιά. Αυτή η ιστορία λειτουργεί ως προειδοποίηση, πριν προκύψουν σοβαρά προβλήματα. Το Common Sense Media προτείνει οι ανήλικοι να μην χρησιμοποιούν το Grok. Οι γονείς καλό είναι να μιλούν με τα παιδιά τους για το πώς χρησιμοποιούν τα κοινωνικά δίκτυα και την ΤΝ, βάζοντας σαφή όρια και εξηγώντας τους κινδύνους, αφού πολλές εταιρείες δεν φροντίζουν επαρκώς για την ασφάλεια των παιδιών..

^{πηγή: sheknows.com}