Το ChatGPT θα ενημερώνει τους γονείς σε περιπτώσεις ψυχικής δυσφορίας των παιδιών τους

Η OpenAI προχωρά στην εφαρμογή νέων μέτρων προστασίας για ανήλικους χρήστες του ChatGPT, δίνοντας τη δυνατότητα στους γονείς να λαμβάνουν ειδοποιήσεις όταν τα παιδιά τους εμφανίζουν σημάδια έντονης ψυχικής δυσφορίας κατά τη χρήση της πλατφόρμας. Επίσης, θα μπορούν να συνδέουν τους λογαριασμούς τους με αυτούς των εφήβων και να ελέγχουν αν το ChatGPT απαντά στο παιδί τους με «κανόνες συμπεριφοράς ανάλογους με την ηλικία».

Περισσότερα παιδιά μιλούν με AI φίλους – Τι πρέπει να ξέρουν οι γονείς

Οι αλλαγές αυτές στοχεύουν στη δημιουργία ενός πιο ασφαλούς περιβάλλοντος με ρυθμίσεις ανάλογες της ηλικίας και περιορισμούς στη μνήμη του συστήματος, ώστε να αποτρέπονται πιθανές αρνητικές επιπτώσεις στην ψυχική υγεία των νέων.

Τα νέα μέτρα προστασίας σύμφωνα με τον theguardian.com,αναμένεται να εφαρμοστούν τον επόμενο μήνα από την OpenAI, η οποία την περασμένη εβδομάδα βρέθηκε αντιμέτωπη με αγωγή από την οικογένεια ενός αγοριού που έβαλε τέλος στη ζωή του αφού φέρεται να «το ενθάρρυνε » το ChatGPT.

Ο 16χρονος Adam Raine, από την Καλιφόρνια, αυτοκτόνησε τον Απρίλιο έπειτα από σχετικές συζητήσεις με το ChatGPT που φέρεται να τον καθοδήγησε και να τον βοήθησε να γράψει σημείωμα αυτοκτονίας, σύμφωνα με τα δικαστικά έγγραφα. Η OpenAI παραδέχθηκε ότι τα συστήματά της παρουσίασαν ελλείψεις, καθώς η εκπαίδευση ασφαλείας των μοντέλων υποβαθμίστηκε κατά τη διάρκεια μακρών συνομιλιών.

Τα παιδιά λένε τα μυστικά τους στην Τεχνητή Νοημοσύνη:Γιατί δεν μιλούν σε εμάς και τους φίλους τους;

«Πολλοί νέοι χρησιμοποιούν ήδη την τεχνητή νοημοσύνη», ανέφερε η OpenAI σε ιστολόγιο παρουσιάζοντας τα νέα της σχέδια. «Ανήκουν στους πρώτους "AI natives", που μεγαλώνουν με αυτά τα εργαλεία στην καθημερινότητά τους, όπως οι προηγούμενες γενιές με το διαδίκτυο ή τα smartphones. Αυτό δημιουργεί πραγματικές ευκαιρίες για στήριξη, μάθηση και δημιουργικότητα, αλλά σημαίνει επίσης ότι οικογένειες και έφηβοι χρειάζονται υποστήριξη για να θέσουν υγιή όρια που ταιριάζουν στο αναπτυξιακό τους στάδιο».

Μια βασική αλλαγή θα μπορούσε να είναι η δυνατότητα των γονιών να απενεργοποιούν τη μνήμη και το ιστορικό συνομιλιών του AI, ώστε να μειωθεί ο κίνδυνος δημιουργίας μακροχρόνιου προφίλ του παιδιού και ανάσυρσης παλαιών σχολίων για προσωπικούς αγώνες με τρόπο που θα επιδείνωνε την ψυχική του υγεία.

Αυξάνεται η χρήση AI από τους εφήβους

Στο Ηνωμένο Βασίλειο, ο Κώδικας Πρακτικής του Γραφείου του Επιτρόπου Πληροφοριών για τον σχεδιασμό υπηρεσιών κατάλληλων για την ηλικία ορίζει ότι οι εταιρείες τεχνολογίας πρέπει να «συλλέγουν και να διατηρούν μόνο τα απολύτως απαραίτητα προσωπικά δεδομένα για να παρέχουν τα στοιχεία της υπηρεσίας με τα οποία το παιδί συμμετέχει συνειδητά».

Περίπου το ένα τρίτο των Αμερικανών εφήβων έχει χρησιμοποιήσει AI για κοινωνική αλληλεπίδραση και σχέσεις, όπως παιχνίδια ρόλων, ρομαντικές αλληλεπιδράσεις και συναισθηματική στήριξη, σύμφωνα με έρευνα. Στο Ηνωμένο Βασίλειο, το 71% των ευάλωτων παιδιών χρησιμοποιεί chatbots AI, ενώ έξι στους δέκα γονείς ανησυχούν ότι τα παιδιά τους πιστεύουν πως τα chatbots είναι πραγματικοί άνθρωποι, σύμφωνα με αντίστοιχη μελέτη.

Το Ίδρυμα Molly Rose, που ιδρύθηκε από τον πατέρα της 14χρονης Molly Russell,, η οποία έβαλε τέλος στη ζωή της μετά την έκθεσή της σε περιεχόμενο κοινωνικών δικτύων, δήλωσε ότι είναι «ασυγχώρητο να κυκλοφορούν προϊόντα στην αγορά πριν είναι ασφαλή για νέους – μόνο και μόνο για να γίνονται εκ των υστέρων μικρές προσπάθειες για να βελτιωθεί η ασφάλεια».

Από το TikTok και το YouTube στα Chatbots AI – Τα παιδιά αλλάζουν συνήθειες

Αντιδράσεις και πρόσθετα μέτρα

Η φιλανθρωπική οργάνωση NSPCC χαρακτήρισε την κίνηση της OpenAI «θετικό βήμα προς τη σωστή κατεύθυνση, αλλά ανεπαρκές».

«Χωρίς ισχυρούς ελέγχους ηλικίας, δεν γνωρίζουν ποιος χρησιμοποιεί την πλατφόρμα τους», δήλωσε η Toni Brunton-Douglas, ανώτερη αξιωματούχος. «Αυτό σημαίνει ότι τα ευάλωτα παιδιά ενδέχεται να παραμένουν εκτεθειμένα. Οι τεχνολογικές εταιρείες δεν πρέπει να αντιμετωπίζουν την ασφάλεια των παιδιών ως δευτερεύουσα σκέψη. Ήρθε η ώρα η προστασία να γίνει προεπιλεγμένη και θεμελιώδης προτεραιότητα.».

Η Meta ανέφερε ότι έχει ενσωματώσει προστασία για εφήβους στα ΑΙ προϊόντα της, αλλά «προσθέτει περισσότερα μέτρα ασφαλείας ως πρόσθετη προφύλαξη – συμπεριλαμβανομένης της εκπαίδευσης των AI να μην συζητούν με εφήβους θέματα όπως αυτοτραυματισμός, αυτοκτονία και διατροφικές διαταραχές, και αντ’ αυτού να τους καθοδηγούν σε εξειδικευμένες πηγές βοήθειας».

Έρευνα: Τα παιδιά που χρησιμοποιούν το ChatGPT ως βοηθό έχουν χαμηλή επίδοση στο σχολείο

«Αυτές οι ενημερώσεις βρίσκονται ήδη σε εξέλιξη και θα συνεχίσουμε να προσαρμόζουμε την προσέγγισή μας ώστε να διασφαλίσουμε ότι οι έφηβοι θα έχουν ασφαλείς, κατάλληλες για την ηλικία εμπειρίες με την τεχνητή νοημοσύνη», δήλωσε εκπρόσωπος της εταιρείας.