Τεχνητή Νοημοσύνη: Μπαίνει τέλος στο «μαύρο κουτί» – Τι αλλάζει για πολίτες, Δημόσιο και επιχειρήσεις
Η Τεχνητή Νοημοσύνη δεν είναι πια υπόθεση του μέλλοντος. Είναι ήδη στην καθημερινότητα, στις υπηρεσίες, στις επιχειρήσεις και στις αποφάσεις που μπορούν να επηρεάσουν τη ζωή των πολιτών. Με το εθνικό πλαίσιο εφαρμογής του AI Act, η Ελλάδα επιχειρεί να βάλει κανόνες σε μια τεχνολογία που εξελίσσεται ταχύτερα από τους νόμους
Η Τεχνητή Νοημοσύνη έχει περάσει αθόρυβα στην καθημερινότητα εκατομμυρίων ανθρώπων. Βοηθά στη μετάφραση κειμένων, στην αναζήτηση πληροφοριών, στην οργάνωση ταξιδιών, στην εξυπηρέτηση πελατών, στη συγγραφή, στην ανάλυση δεδομένων και σε δεκάδες ακόμη ψηφιακές εργασίες που μέχρι πριν από λίγα χρόνια έμοιαζαν μακρινές.
Το κρίσιμο ερώτημα, όμως, δεν είναι πια αν χρησιμοποιούμε την ΤΝ. Είναι πού, πώς και με ποιους κανόνες χρησιμοποιείται.
Γιατί άλλο είναι ένα chatbot που απαντά σε απλές ερωτήσεις και άλλο ένα σύστημα που μπορεί να επηρεάσει την πρόσληψη ενός εργαζομένου, την αξιολόγηση ενός μαθητή, την πρόσβαση ενός πολίτη σε δημόσια παροχή ή την υποστήριξη μιας ιατρικής διάγνωσης. Εκεί η τεχνολογία παύει να είναι απλώς εργαλείο ευκολίας και γίνεται μηχανισμός απόφασης με πραγματικές συνέπειες.
Σε αυτό ακριβώς το πεδίο έρχεται να παρέμβει ο ευρωπαϊκός Κανονισμός για την Τεχνητή Νοημοσύνη, το AI Act, και το ελληνικό νομοσχέδιο που καθορίζει τον τρόπο εφαρμογής του στη χώρα. Η συζήτηση του σχεδίου νόμου έχει ήδη ξεκινήσει στην αρμόδια κοινοβουλευτική επιτροπή, με στόχο να οργανωθούν οι εθνικοί μηχανισμοί εποπτείας, διαφάνειας και προστασίας των πολιτών.
Δεν είναι όλες οι εφαρμογές ΤΝ ίδιες
Η βασική λογική του AI Act είναι απλή: όσο μεγαλύτερος είναι ο κίνδυνος για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα, τόσο αυστηρότεροι πρέπει να είναι οι κανόνες.
Η Ευρωπαϊκή Επιτροπή περιγράφει το AI Act ως το πρώτο ολοκληρωμένο νομικό πλαίσιο στον κόσμο για την Τεχνητή Νοημοσύνη, με στόχο την ανάπτυξη αξιόπιστης και ανθρωποκεντρικής ΤΝ στην Ευρώπη. Το πλαίσιο βασίζεται στην αξιολόγηση κινδύνου και διακρίνει τις εφαρμογές ανάλογα με τη δυνητική επίδρασή τους στην κοινωνία.
Στην πράξη, αυτό σημαίνει ότι εφαρμογές που θεωρούνται υψηλού κινδύνου θα πρέπει να πληρούν αυστηρές απαιτήσεις: αξιολόγηση και μείωση κινδύνων, ανθρώπινη εποπτεία, τεκμηρίωση, διαφάνεια, ακρίβεια, κυβερνοασφάλεια και δυνατότητα ελέγχου. Τέτοιες εφαρμογές μπορεί να αφορούν κρίσιμες υποδομές, εκπαίδευση, εργασία, δημόσιες παροχές, μετανάστευση ή πρόσβαση σε βασικές υπηρεσίες.
Παράλληλα, ορισμένες χρήσεις της Τεχνητής Νοημοσύνης απαγορεύονται πλήρως, επειδή θεωρούνται απειλή για τα δικαιώματα και την ασφάλεια των πολιτών. Σε αυτές περιλαμβάνονται, μεταξύ άλλων, το κοινωνικό σκοράρισμα, συγκεκριμένες πρακτικές χειραγώγησης, η εκμετάλλευση ευάλωτων ομάδων και ορισμένες μορφές βιομετρικής επιτήρησης.
Τι αλλάζει για τον πολίτη
Για τον πολίτη, το νέο πλαίσιο σημαίνει περισσότερη προστασία απέναντι σε συστήματα που μέχρι σήμερα μπορούσαν να λειτουργούν χωρίς να είναι πάντα σαφές ποιος τα ελέγχει, πώς αποφασίζουν και ποιος φέρει την ευθύνη.
Αν ένα σύστημα Τεχνητής Νοημοσύνης χρησιμοποιείται σε διαδικασία πρόσληψης, σε εκπαιδευτική αξιολόγηση, σε δημόσια υπηρεσία ή σε πεδίο που μπορεί να επηρεάσει ουσιαστικά τη ζωή ενός ανθρώπου, δεν θα μπορεί να λειτουργεί σαν «μαύρο κουτί». Θα πρέπει να υπάρχουν κανόνες, εποπτεία και δυνατότητα ελέγχου.
Το ίδιο ισχύει και για τη διαφάνεια στην καθημερινή χρήση. Όταν ένας πολίτης συνομιλεί με chatbot, θα πρέπει να γνωρίζει ότι δεν μιλά με άνθρωπο αλλά με σύστημα ΤΝ. Όταν παράγεται ή αλλοιώνεται περιεχόμενο με ΤΝ, ειδικά σε περιπτώσεις που μπορεί να επηρεάσουν την ενημέρωση ή τη δημόσια συζήτηση, θα πρέπει να είναι σαφές ότι πρόκειται για τεχνητά παραγόμενο ή επεξεργασμένο υλικό.
Τι σημαίνει για το Δημόσιο
Ιδιαίτερο βάρος έχει η χρήση ΤΝ από το κράτος. Το ελληνικό νομοσχέδιο προβλέπει τη δημιουργία Ενιαίου Μητρώου Συστημάτων Τεχνητής Νοημοσύνης του Δημοσίου, ώστε να υπάρχει εικόνα για το ποια συστήματα χρησιμοποιούνται από δημόσιους φορείς, σε ποιους τομείς και με ποιον σκοπό.
Η πρόβλεψη αυτή είναι κρίσιμη, γιατί η ΤΝ μπορεί να κάνει το Δημόσιο ταχύτερο και πιο αποτελεσματικό, αλλά μόνο εφόσον λειτουργεί με διαφάνεια. Ένα σύστημα που βοηθά στην εξυπηρέτηση πολιτών, στη διαχείριση αιτήσεων ή στην καλύτερη αξιοποίηση δεδομένων μπορεί να μειώσει καθυστερήσεις και γραφειοκρατία. Αν όμως χρησιμοποιηθεί χωρίς έλεγχο, μπορεί να αναπαράγει λάθη, αδικίες ή διακρίσεις.
Για τον λόγο αυτό, το νομοσχέδιο προβλέπει επίσης ενιαίο μηχανισμό υποβολής και διαχείρισης καταγγελιών, ώστε οι πολίτες να έχουν συγκεκριμένο σημείο αναφοράς όταν θεωρούν ότι θίγονται από τη χρήση ΤΝ.
Τι αλλάζει για τις επιχειρήσεις
Για τις επιχειρήσεις, το AI Act δεν είναι μόνο ένα νέο σύνολο υποχρεώσεων. Είναι και ένα πλαίσιο ασφάλειας. Μέχρι σήμερα, πολλές εταιρείες ανέπτυσσαν ή χρησιμοποιούσαν εφαρμογές ΤΝ χωρίς να γνωρίζουν με ακρίβεια ποιοι κανόνες θα ισχύσουν στην ευρωπαϊκή αγορά. Πλέον, αποκτούν ένα κοινό ρυθμιστικό περιβάλλον για όλα τα κράτη-μέλη.
Σημαντικό εργαλείο θα είναι το AI Regulatory Sandbox, δηλαδή ένα ρυθμιστικό δοκιμαστήριο όπου νεοφυείς και μικρομεσαίες επιχειρήσεις θα μπορούν να δοκιμάζουν καινοτόμες εφαρμογές σε πραγματικές συνθήκες, με την υποστήριξη της Πολιτείας, πριν αυτές βγουν στην αγορά.
Η φιλοσοφία δεν είναι να μπλοκαριστεί η καινοτομία, αλλά να μη γίνει ανεξέλεγκτη. Να μπορούν οι επιχειρήσεις να επενδύουν, να πειραματίζονται και να αναπτύσσονται, αλλά μέσα σε ένα περιβάλλον όπου οι πολίτες ξέρουν ότι υπάρχουν δικλείδες ασφαλείας.
Παπαστεργίου: «Η συζήτηση αφορά πρωτίστως την εμπιστοσύνη»
Τη σημασία της εμπιστοσύνης υπογραμμίζει ο υπουργός Ψηφιακής Διακυβέρνησης και Τεχνητής Νοημοσύνης, Δημήτρης Παπαστεργίου, επισημαίνοντας ότι η συζήτηση για την ΤΝ δεν αφορά μόνο την τεχνολογία, αλλά τον τρόπο με τον οποίο η κοινωνία θα αισθανθεί ασφαλής απέναντι στις νέες εφαρμογές. Σε συνέντευξή του στη «Ναυτεμπορική», ο υπουργός ανέφερε ότι το νομοσχέδιο εξειδικεύει για την Ελλάδα τον ευρωπαϊκό νόμο για την ΤΝ και ότι η Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα αναλαμβάνει ρόλο εποπτείας για τα σχετικά μοντέλα.
Σύμφωνα με το προτεινόμενο πλαίσιο, η Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα ορίζεται ως κεντρική αρχή εποπτείας της αγοράς και εθνικό σημείο επαφής για την εφαρμογή του AI Act, ενώ η Εθνική Επιτροπή Τηλεπικοινωνιών και Ταχυδρομείων αναλαμβάνει ρόλο κοινοποιούσας αρχής. Παράλληλα, δημιουργείται Κέντρο Συντονισμού και Τεχνογνωσίας Τεχνητής Νοημοσύνης για την υποστήριξη των αρμόδιων αρχών.
Το μεγάλο στοίχημα
Η Τεχνητή Νοημοσύνη θα επηρεάσει σχεδόν κάθε τομέα της οικονομίας και της δημόσιας ζωής: υγεία, εκπαίδευση, εργασία, γεωργία, μεταφορές, βιομηχανία, επιχειρήσεις και κράτος. Το ερώτημα, επομένως, δεν είναι αν θα μπει στη ζωή μας. Έχει ήδη μπει.
Το πραγματικό στοίχημα είναι αν θα χρησιμοποιηθεί με τρόπο που να ενισχύει τον άνθρωπο και όχι να τον εγκλωβίζει σε αδιαφανείς αποφάσεις. Αν θα βοηθήσει το Δημόσιο να γίνει πιο αποτελεσματικό χωρίς να γίνει απρόσωπο. Αν θα δώσει εργαλεία στις επιχειρήσεις χωρίς να αφήσει απροστάτευτους τους πολίτες.
Το AI Act και το ελληνικό πλαίσιο εφαρμογής του επιχειρούν να απαντήσουν ακριβώς σε αυτό: πώς η Τεχνητή Νοημοσύνη θα γίνει δύναμη προόδου, χωρίς να μετατραπεί σε μηχανισμό αδιαφάνειας, διακρίσεων ή ανεξέλεγκτης εξουσίας.
Η «Πελοπόννησος» και το pelop.gr σε ανοιχτή γραμμή με τον Πολίτη
Η φωνή σου έχει δύναμη – στείλε παράπονα, καταγγελίες ή ιδέες για τη γειτονιά σου.
Ακολουθήστε μας για όλες τις ειδήσεις στο Bing News και το Google News
