Τεχνητή Νοημοσύνη στα σχολεία: Τι αλλάζει από φέτος – Οι αυστηροί κανόνες, τα deepfake και η προστασία μαθητών

Για πρώτη φορά, η Ελλάδα αποκτά ένα ολοκληρωμένο πλαίσιο για τη χρήση της Τεχνητής Νοημοσύνης στα σχολεία, επιχειρώντας να βάλει σαφείς κανόνες σε ένα πεδίο που μέχρι σήμερα εξελισσόταν ταχύτερα από τις θεσμικές παρεμβάσεις.

Η κοινή πρωτοβουλία της υπουργού Παιδείας, Σοφίας Ζαχαράκη, και του υπουργού Ψηφιακής Διακυβέρνησης και Τεχνητής Νοημοσύνης, Δημήτρη Παπαστεργίου, θέτει τις βάσεις για μια ασφαλή, διαφανή και παιδαγωγικά υπεύθυνη αξιοποίηση της AI στην εκπαίδευση.

Το βασικό ερώτημα, ωστόσο, παραμένει: πώς θα χρησιμοποιείται η Τεχνητή Νοημοσύνη στην τάξη χωρίς να αντικαθιστά τη γνώση, την κριτική σκέψη και τον ρόλο του εκπαιδευτικού;

Τεχνητή Νοημοσύνη στα σχολεία: Τι επιτρέπεται και τι όχι

Σύμφωνα με το νέο πλαίσιο, η χρήση εργαλείων Τεχνητής Νοημοσύνης (AI) παραμένει προαιρετική τόσο για τους μαθητές όσο και για τους εκπαιδευτικούς.

Παράλληλα, δεν συνδέεται με τη βαθμολογία ή την αξιολόγηση, ενώ πραγματοποιείται αποκλειστικά υπό την εποπτεία διδάσκοντα.

Με απλά λόγια, η τεχνολογία έρχεται να λειτουργήσει υποστηρικτικά στη μάθηση και όχι να αντικαταστήσει την προσωπική προσπάθεια των μαθητών.

Έτσι, τα εργαλεία AI θα μπορούν να αξιοποιούνται μόνο όταν:

• υποστηρίζουν τη μαθησιακή διαδικασία,
• λειτουργούν υπό επίβλεψη εκπαιδευτικού,
• εφαρμόζονται σε εθελοντική βάση,
• και δεν επηρεάζουν τη μαθητική ή υπηρεσιακή αξιολόγηση.

Deepfake, ψευδείς πηγές και παραπληροφόρηση: Οι αυστηρές απαγορεύσεις

Την ίδια στιγμή, το υπουργείο βάζει αυστηρά όρια απέναντι σε πρακτικές που θα μπορούσαν να προκαλέσουν σύγχυση ή ακόμα και κινδύνους για τη σχολική κοινότητα.

Για πρώτη φορά, το πλαίσιο απαγορεύει ρητά:

• τη δημιουργία ή διακίνηση deepfake περιεχομένου χωρίς συναίνεση,
• τη χρήση ψευδών βιβλιογραφικών αναφορών ή ανύπαρκτων πηγών,
• τη μη εγκεκριμένη ανάπτυξη εφαρμογών Τεχνητής Νοημοσύνης,
• αλλά και την πλήρως αυτοματοποιημένη αξιολόγηση μαθητών και εκπαιδευτικών.

Με τον τρόπο αυτό, επιχειρείται να περιοριστεί η παραπληροφόρηση και οι αλγοριθμικές στρεβλώσεις που συχνά συνοδεύουν τις νέες τεχνολογίες.

Προσωπικά δεδομένα μαθητών: Τι απαγορεύεται αυστηρά

Ιδιαίτερη βαρύτητα δίνεται στην προστασία προσωπικών δεδομένων ανηλίκων, καθώς το νέο σύστημα βάζει σαφείς «κόκκινες γραμμές».

Συγκεκριμένα, απαγορεύεται:

• η δημιουργία προφίλ μαθητών ή εκπαιδευτικών,
• η ανάλυση προσωπικότητας και συμπεριφοράς,
• καθώς και η εισαγωγή ευαίσθητων δεδομένων σε εφαρμογές AI.

Επιπλέον, δεν θα επιτρέπεται η καταχώριση στοιχείων όπως:

• ονοματεπώνυμα,
• φωτογραφίες,
• φωνητικά δείγματα,
• βαθμολογίες,
• δεδομένα υγείας,
• ή οποιαδήποτε πληροφορία μπορεί να οδηγήσει σε ταυτοποίηση μαθητή ή εκπαιδευτικού.

Τι ισχύει για εξετάσεις και μαθητικές εργασίες

Μπορεί ένας μαθητής να χρησιμοποιήσει AI σε διαγώνισμα ή γραπτή εξέταση; Η απάντηση είναι ξεκάθαρη: όχι, εκτός αν υπάρξει ρητή πρόβλεψη του εκπαιδευτικού σε ελεγχόμενο πλαίσιο.

Παράλληλα, οι μαθητικές εργασίες δεν θα μπορούν να παράγονται εξ ολοκλήρου ή σε σημαντικό βαθμό από εργαλεία Τεχνητής Νοημοσύνης, ενισχύοντας έτσι την αυθεντικότητα της εκπαιδευτικής διαδικασίας.

Οι εκπαιδευτικοί, μάλιστα, αναλαμβάνουν ενεργό ρόλο, καθώς καλούνται να καθοδηγούν τους μαθητές στη δημιουργική, υπεύθυνη και κριτική χρήση της τεχνολογίας.

Έρχεται «Συντονιστής Τεχνητής Νοημοσύνης» σε κάθε σχολείο

Μία από τις σημαντικότερες καινοτομίες του νέου πλαισίου είναι η δημιουργία του ρόλου του «Συντονιστή χρήσης ΤΝ» σε κάθε σχολική μονάδα.

Ο υπεύθυνος εκπαιδευτικός θα:

• παρακολουθεί τη σωστή χρήση εργαλείων AI,
• συντονίζει μαθητές και εκπαιδευτικούς,
• και θα λειτουργεί ως σημείο αναφοράς για ζητήματα ασφάλειας και προστασίας δεδομένων.

Παράλληλα, όπου υποστηρίζεται τεχνικά, η πρόσβαση στα εργαλεία θα πραγματοποιείται μέσω του Πανελλήνιου Σχολικού Δικτύου, με ασφαλή ταυτοποίηση χρηστών και περιορισμούς πρόσβασης.

Νέα μέτρα ασφαλείας και επιμόρφωση εκπαιδευτικών

Επιπλέον, εισάγονται νέες δικλείδες προστασίας, όπως:

• ανωνυμοποίηση δεδομένων,
• καταγραφή όλων των διαδικασιών επεξεργασίας,
• ανθρώπινη εποπτεία,
• τακτικές αξιολογήσεις κινδύνου,
• και συμμόρφωση με διεθνή πρότυπα κυβερνοασφάλειας.

Πριν από κάθε χρήση εργαλείου AI, θα πραγματοποιείται υποχρεωτικά Εκτίμηση Αντικτύπου Προστασίας Δεδομένων (DPIA), σύμφωνα με τον Γενικό Κανονισμό Προστασίας Δεδομένων (GDPR).

Ταυτόχρονα, κάθε σχολείο θα οργανώνει τουλάχιστον μία ετήσια ενημερωτική δράση για μαθητές και γονείς, ενώ οι εκπαιδευτικοί θα συμμετέχουν σε επιμορφώσεις για:

• τη λειτουργία της Τεχνητής Νοημοσύνης,
• τους κινδύνους αλγοριθμικής μεροληψίας,
• την προστασία προσωπικών δεδομένων,
• τις τεχνικές prompting,
• και τη διαχείριση ψηφιακών περιστατικών.

Οι σχετικές επιμορφώσεις θα εγκρίνονται από το Ινστιτούτο Εκπαιδευτικής Πολιτικής, ώστε να διασφαλίζεται ενιαία επιστημονική ποιότητα και αξιοπιστία σε όλα τα σχολεία της χώρας.

Υπουργείο Παιδείας: Διαβάστε ολόκληρο το δελτίο τύπου

Η Ελλάδα αποκτά για πρώτη φορά σαφείς κανόνες για τη χρήση της Τεχνητής Νοημοσύνης στα σχολεία, μέσα από την κοινή πρωτοβουλία της Υπουργού Παιδείας, Θρησκευμάτων & Αθλητισμού Σοφίας Ζαχαράκη και του Υπουργού Ψηφιακής Διακυβέρνησης και Τεχνητής Νοημοσύνης Δημήτρη Παπαστεργίου.

Η πρωτοβουλία αυτή θέτει τις βάσεις για μια ασφαλή, διαφανή και παιδαγωγικά υπεύθυνη αξιοποίηση της Τεχνητής Νοημοσύνης στην εκπαιδευτική διαδικασία, με στόχο η τεχνολογία να λειτουργεί ως εργαλείο υποστήριξης της μάθησης και όχι ως υποκατάστατο της προσωπικής προσπάθειας, της κριτικής σκέψης και του ρόλου του εκπαιδευτικού.

Η χρήση εργαλείων ΤΝ παραμένει προαιρετική για μαθητές και εκπαιδευτικούς, δεν συνδέεται με την αξιολόγησή τους και πραγματοποιείται πάντοτε υπό την εποπτεία εκπαιδευτικού.

Η χρήση συστημάτων ΤΝ:
* πραγματοποιείται αποκλειστικά για την υποστήριξη της μάθησης και όχι για την υποκατάσταση της προσωπικής προσπάθειας των μαθητών,
* τελεί πάντοτε υπό την εποπτεία εκπαιδευτικού,
* εφαρμόζεται σε εθελοντική βάση για μαθητές και εκπαιδευτικούς,
* και δεν επηρεάζει την αξιολόγηση ή τη μαθητική και υπηρεσιακή κατάσταση.

Ταυτόχρονα, θεσπίζονται αυστηρές δικλείδες προστασίας για τους μαθητές και τη σχολική κοινότητα απέναντι σε φαινόμενα παραπληροφόρησης, αλγοριθμικών στρεβλώσεων, επιβλαβούς περιεχομένου ή καταχρηστικής αξιοποίησης της τεχνολογίας.

Για πρώτη φορά εισάγονται ρητές απαγορεύσεις για πρακτικές όπως:
* η δημιουργία και διάδοση deepfake περιεχομένου χωρίς συναίνεση,
* η παραγωγή ψευδών βιβλιογραφικών αναφορών ή ανύπαρκτων πηγών,
* η μη εξουσιοδοτημένη ανάπτυξη ή χρήση εφαρμογών ΤΝ,
* καθώς και η πλήρως αυτοματοποιημένη αξιολόγηση μαθητών ή εκπαιδευτικών.

Ιδιαίτερη έμφαση δίνεται στην προστασία προσωπικών δεδομένων ανηλίκων. Απαγορεύεται ρητά η δημιουργία προφίλ μαθητών και εκπαιδευτικών, η επεξεργασία στοιχείων προσωπικότητας ή συμπεριφοράς, καθώς και η εισαγωγή ευαίσθητων προσωπικών δεδομένων σε συστήματα ΤΝ.

Ειδικότερα, δεν επιτρέπεται η καταχώριση:
* ονοματεπωνύμων,
* φωτογραφιών,
* φωνητικών δειγμάτων,
* βαθμολογιών,
* δεδομένων υγείας,
* ή οποιουδήποτε άλλου στοιχείου μπορεί να οδηγήσει στην ταυτοποίηση μαθητών και εκπαιδευτικών.

Η χρήση εργαλείων ΤΝ δεν επιτρέπεται κατά τη διάρκεια γραπτών εξετάσεων, τεστ και διαγωνισμάτων, εκτός εάν έχει προβλεφθεί ρητά ελεγχόμενη χρήση τους από τον εκπαιδευτικό. Αντίστοιχα, οι μαθητικές εργασίες δεν μπορούν να παράγονται εξ ολοκλήρου ή σε σημαντικό βαθμό από εφαρμογές Τεχνητής Νοημοσύνης.

Οι εκπαιδευτικοί καλούνται να καθοδηγούν τους μαθητές στη δημιουργική, υπεύθυνη και κριτική αξιοποίηση των νέων εργαλείων, ώστε η τεχνολογία να λειτουργεί ενισχυτικά για τη μάθηση και όχι εις βάρος της.

Στο πλαίσιο αυτό, θεσμοθετείται για πρώτη φορά ο ρόλος του «Συντονιστή χρήσης ΤΝ» σε κάθε σχολική μονάδα. Ο υπεύθυνος εκπαιδευτικός θα παρακολουθεί την ορθή εφαρμογή των εργαλείων ΤΝ, θα συντονίζει τη συμμετοχή μαθητών και εκπαιδευτικών και θα λειτουργεί ως σημείο αναφοράς για θέματα ασφάλειας και προστασίας δεδομένων.

Η πρόσβαση στα συστήματα ΤΝ θα πραγματοποιείται, όπου υποστηρίζεται, μέσω του Πανελλήνιου Σχολικού Δικτύου, με ασφαλή αυθεντικοποίηση χρηστών και αυστηρούς περιορισμούς πρόσβασης.

Επιπλέον, εισάγονται συγκεκριμένες εγγυήσεις ασφαλείας, όπως:
* ανωνυμοποίηση ή ψευδωνυμοποίηση δεδομένων,
* καταγραφή όλων των διαδικασιών επεξεργασίας,
* μηχανισμοί ανθρώπινης εποπτείας,
* τακτικές αξιολογήσεις κινδύνου,
* και συμμόρφωση με διεθνή πρότυπα ασφάλειας πληροφοριών.

Πριν από κάθε εφαρμογή συστήματος ΤΝ, θα διενεργείται υποχρεωτικά Εκτίμηση Αντικτύπου στην Προστασία Δεδομένων (DPIA), σύμφωνα με τον Γενικό Κανονισμό Προστασίας Δεδομένων (ΓΚΠΔ).

Κάθε σχολική μονάδα θα οργανώνει τουλάχιστον μία ετήσια δράση ενημέρωσης για μαθητές και γονείς, ενώ θα υλοποιούνται και επιμορφώσεις εκπαιδευτικών σχετικά με:
* τις βασικές αρχές λειτουργίας της ΤΝ,
* τους κινδύνους και τις αλγοριθμικές μεροληψίες,
* την προστασία προσωπικών δεδομένων,
* τις τεχνικές prompting,
* και τη διαχείριση περιστατικών.

Οι επιμορφώσεις θα εγκρίνονται από το Ινστιτούτο Εκπαιδευτικής Πολιτικής (ΙΕΠ), ώστε να διασφαλίζονται ενιαία ποιότητα και επιστημονική επάρκεια.

ΕΔΩ το ΦΕΚ

Περισσότερα:

Δωρεάν μεταπτυχιακά: Δείτε τώρα την λίστα με τα 14 προγράμματα

Πανελλαδικές: Πτώση στις βάσεις «βλέπουν» οι ειδικοί

Φοιτητικές εστίες: Επενδύσεις άνω του 1 δισ. ευρώ έως το 2030 – Πού θα δημιουργηθούν πάνω από 18.000 νέες κλίνες