Ο Βασικός Νόμος για την Τεχνητή Νοημοσύνη της Νότιας Κορέας

Στις 26 Δεκεμβρίου 2024 ψηφίστηκε από την Εθνοσυνέλευση της Νότιας Κορέας ο “Βασικός Νόμος για την Ανάπτυξη της Τεχνητής Νοημοσύνης και τη Θεμελίωση Εμπιστοσύνης” (Basic Act on the Development of Artificial Intelligence and the Establishment of Trust), γνωστός και ως “Βασικός Νόμος για την ΤΝ” (AI Basic Act). Λίγους μήνες μετά την έναρξη ισχύος του Κανονισμού (ΕΕ) 2024/1689 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου της 13ης Ιουνίου 2024 για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη (κανονισμός για την τεχνητή νοημοσύνη), η Νότια Κορέα προχώρησε στη θέσπιση ενός ενιαίου νομικού πλαισίου, κατόπιν διεργασιών που ξεκίνησαν τον Ιούλιο του 2020, για την ανάπτυξη και προώθηση της τεχνητής νοημοσύνης, έχοντας ως στόχο την προστασία των δικαιωμάτων και της αξιοπρέπειας των πολιτών και τη βελτίωση της ποιότητας ζωής, μέσω της ανάπτυξης ασφαλών συστημάτων ΤΝ, καθώς και την ενίσχυση της εθνικής ανταγωνιστικότητας. Η έναρξη ισχύος του Βασικού Νόμου για την ΤΝ προβλέπεται για τον Ιανουάριο του 2026 παρέχοντας πρακτικά διάστημα ενός έτους στις εμπλεκόμενες επιχειρήσεις για να συμμορφωθούν με τις διατάξεις του.

Ο Βασικός Νόμος για την ΤΝ προβλέπει, αφενός, τη σύσταση ενός εθνικού συστήματος για την υποστήριξη και την προώθηση των τεχνολογιών ΤΝ, με κατάρτιση ενός βασικού σχεδίου κάθε 3 έτη για την προώθηση της ΤΝ και την ενίσχυση της εθνικής ανταγωνιστικότητας και, αφετέρου, τη θέσπιση υποχρεώσεων για τις επιχειρήσεις παρόχους συστημάτων ΤΝ διακρίνοντας τα συστήματα ΤΝ σε συστήματα ΤΝ υψηλού αντικτύπου (high impact AI systems) και σε συστήματα παραγωγικής ΤΝ (generative AI systems). Στα πλαίσια της στήριξης και ενίσχυσης του κλάδου της ΤΝ προβλέπεται μέριμνα για τις μικρομεσαίες και τις νεοφυείς επιχειρήσεις.

Σε σχέση με τις διακρίσεις των συστημάτων ΤΝ και τις υποχρεώσεις των παρόχων συστημάτων ΤΝ, παρατηρούνται ομοιότητες μεταξύ του Βασικού Νόμου για την ΤΝ της Νότιας Κορέας και του Κανονισμού (ΕΕ) 2024/1689 για την τεχνητή νοημοσύνη. Ειδικότερα, και στις δύο περιπτώσεις ακολουθείται η προσέγγιση βάσει κινδύνου αλλά ενώ ο Κανονισμός της ΕΕ για την ΤΝ διακρίνει σε συστήματα ΤΝ μη αποδεκτού κινδύνου (unacceptable risk), συστήματα ΤΝ υψηλού κινδύνου (high-risk), συστήματα ΤΝ που ενέχουν κινδύνους περιορισμένης κλίμακας (limited risk) και συστήματα ΤΝ ελάχιστου κινδύνου (minimal risk), ο Βασικός Νόμος για την ΤΝ διακρίνει μεταξύ συστημάτων ΤΝ υψηλού αντικτύπου (high-impact AI systems) και σε συστήματα παραγωγικής ΤΝ (generative AI systems).

Περαιτέρω, ο Βασικός Νόμος για την ΤΝ περιλαμβάνει τον ορισμό της τεχνητής νοημοσύνης, σύμφωνα με τον οποίο η τεχνητή νοημοσύνη “αναφέρεται στην ηλεκτρονική εφαρμογή ανθρώπινων διανοητικών ικανοτήτων, όπως μάθηση, συλλογιστική, αντίληψη, κρίση και κατανόηση της γλώσσας”. Ο ορισμός αυτός διατυπώνεται διαφοροποιημένος σε σχέση με τον αντίστοιχο ορισμό που απαντάται στο πρότυπο ISO/IEC 22989 (“Τεχνολογία πληροφοριών – Τεχνητή νοημοσύνη – Έννοιες και ορολογία τεχνητής νοημοσύνης”), σύμφωνα με το οποίο η τεχνητή νοημοσύνη είναι “ένας τεχνικός και επιστημονικός κλάδος που αφορά το μηχανικό σύστημα που παράγει στοιχεία εξόδου, όπως περιεχόμενο, προβλέψεις, συστάσεις ή αποφάσεις για ένα δεδομένο σύνολο στόχων που καθορίζονται από τον άνθρωπο”. Ο ευρωπαϊκός Κανονισμός 2024/1689 για την τεχνητή νοημοσύνη δεν περιλαμβάνει αντίστοιχο ορισμό.

Αντίθετα, ο ορισμός του συστήματος ΤΝ, τόσο στο Βασικό Νόμο για την ΤΝ της Νότιας Κορέας όσο και στον ευρωπαϊκό Κανονισμό 2024/1689 για την ΤΝ, παρουσιάζει μεγάλη ομοιότητα. Συγκεκριμένα, σύμφωνα με τον Βασικό Νόμο για την ΤΝ, ως σύστημα τεχνητής νοημοσύνης ορίζεται αυτό το οποίο “αναφέρεται σε ένα σύστημα βασισμένο στην τεχνητή νοημοσύνη που εξάγει αποτελέσματα, όπως προβλέψεις, συστάσεις και αποφάσεις που επηρεάζουν τα πραγματικά και εικονικά περιβάλλοντα για έναν συγκεκριμένο στόχο με διαφορετικά επίπεδα αυτονομίας και προσαρμοστικότητας” (άρθρο 2). Αντίστοιχα, στο άρθρο 3 στοιχείο 1 του ευρωπαϊκού Κανονισμού 2024/1689, το σύστημα ΤΝ ορίζεται ως “το μηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα”.

Επιπλέον, ο Βασικός Νόμος για την ΤΝ ορίζει την τεχνητή νοημοσύνη υψηλού αντικτύπου ως το σύστημα ΤΝ που έχει σημαντικές επιπτώσεις ή δύναται να προκαλέσει κίνδυνο για την ανθρώπινη ζωή, τη σωματική ασφάλεια και τα θεμελιώδη δικαιώματα. Στο νόμο εξειδικεύονται οι τομείς, στους οποίους έχει εφαρμογή ο ορισμός αυτός, όπως είναι η παροχή ενέργειας και ύδρευσης, οι υπηρεσίες ιατροφαρμακευτικής περίθαλψης, τα ιατροτεχνολογικά προϊόντα, οι πυρηνικές εγκαταστάσεις και τα πυρηνικά υλικά, οι βιομετρικές πληροφορίες για λόγους επιβολής του νόμου, αποφάσεις με σημαντικό αντίκτυπο στα δικαιώματα και τις υποχρεώσεις των ατόμων, οι μεταφορές, η λήψη αποφάσεων από κρατικούς φορείς, οι αξιολογήσεις μαθητών και λοιποί τομείς με σημαντικό αντίκτυπο στην προστασία της ανθρώπινης ζωής, της σωματικής ασφάλειας και των θεμελιωδών δικαιωμάτων σύμφωνα με τα σχετικά προεδρικά διατάγματα (άρθρο 2).

Στο Βασικό Νόμο για την ΤΝ σημαντικός είναι ο ρόλος του κράτους ως άμεσου και έμμεσου κέντρου στήριξης και μοχλού ανάπτυξης του κλάδου της τεχνητής νοημοσύνης, μεταξύ άλλων, με τη δημιουργία κέντρων δεδομένων ΤΝ (artificial intelligence data centres) για την ανάπτυξη και τη χρήση της ΤΝ (άρθρο 25) αλλά και της Ένωσης για την Προώθηση της Τεχνητής Νοημοσύνης (Korean Association for the Promotion of Artificial Intelligence) (άρθρο 26). Επίσης ανατίθεται στο κράτος η δυνατότητα να θεσπίζει αρχές δεοντολογίας σε σχέση με θέματα που αφορούν την ασφάλεια και την αξιοπιστία, την προστασία της ανθρώπινης ζωής, την προσβασιμότητα των προϊόντων και υπηρεσιών που κάνουν χρήση τεχνολογιών ΤΝ από το ευρύ κοινό δωρεάν και με ευκολία καθώς και θέματα που αφορούν τη χρήση ΤΝ που συνεισφέρουν στην ανθρώπινη ζωή και ευημερία (άρθρο 27).

Όσον αφορά τις υποχρεώσεις των παρόχων συστημάτων ΤΝ, ο Βασικός Νόμος για την ΤΝ θεσπίζει την υποχρέωση εξασφάλισης διαφάνειας εκ μέρους των παρόχων ΤΝ σε σχέση με την παροχή προϊόντων ή υπηρεσιών ΤΝ υψηλού αντικτύπου (high-impact artificial intelligence) ή παραγωγικής ΤΝ (generative artificial intelligence) με την εκ προτέρων ενημέρωση του χρήστη (άρθρο 31). Η υποχρέωση αυτή καλύπτει επίσης την παραγωγή περιεχομένου σε μορφή εικονικού ήχου, εικόνας ή βίντεο που λόγω της ΤΝ δεν είναι εύκολο να διακριθεί ως τέτοιο, χωρίς όμως να επηρεάζεται η προβολή ή η απόλαυση του περιεχομένου που συνιστά καλλιτεχνική ή δημιουργική έκφραση. Επίσης οι επιχειρήσεις υποχρεούνται να διασφαλίζουν την ασφάλεια των συστημάτων ΤΝ όταν ο σωρευτικός όγκος υπολογιστικής που χρησιμοποιείται για σκοπούς μάθησης υπερβαίνει το προβλεπόμενο σε προεδρικό διάταγμα πρότυπο (άρθρο 32).

Περαιτέρω οι επιχειρήσεις που παρέχουν προϊόντα και υπηρεσίες ΤΝ (άρθρο 34) οφείλουν να διασφαλίζουν την ασφάλεια και την αξιοπιστία της ΤΝ, μεταξύ άλλων, με την κατάρτιση σχεδίων διαχείρισης κινδύνου, την εφαρμογή επεξηγηματικού σχεδίου σε σχέση με τα τελικά αποτελέσματα της ΤΝ, τα βασικά κριτήρια για την εξαγωγή των τελικών αποτελεσμάτων ΤΝ και τα δεδομένα εκπαίδευσης που χρησιμοποιήθηκαν κατά την ανάπτυξη και χρήση της ΤΝ, καθώς και με την ύπαρξη ανθρώπινης διαχείρισης και επίβλεψης της ΤΝ υψηλού αντικτύπου. Στην περίπτωση της παροχής προϊόντων ή υπηρεσιών ΤΝ υψηλού αντικτύπου προβλέπεται επίσης και η εκπόνηση εκτίμησης αντικτύπου σχετικά με τα θεμελιώδη ανθρώπινα δικαιώματα (άρθρο 35).

Τέλος, στις 27 Νοεμβρίου 2024 ξεκίνησε η λειτουργία του Ινστιτούτου για την Ασφάλεια της ΤΝ (AI Safety Institute) στην Pangyo. Η ίδρυση του Ινστιτούτου για την Ασφάλεια της ΤΝ αντικατοπτρίζει την ανάληψη πρωτοβουλίας της Νότιας Κορέας για την ενεργό συμμετοχή της σε ένα παγκόσμιο δίκτυο για την ενίσχυση της ασφάλειας της τεχνητής νοημοσύνης, στα πλαίσια και με το πέρας της Συνόδου Κορυφής της Σεούλ για την ΤΝ, η οποία πραγματοποιήθηκε τον Μάιο του 2024 με τη συμμετοχή ηγετών 10 χωρών, κατά την οποία επιβεβαιώθηκε ότι η ασφάλεια αποτελεί βασικό στοιχείο της υπεύθυνης καινοτομίας ΤΝ.

Το Ινστιτούτο για την Ασφάλεια της ΤΝ έχει σχεδιαστεί για τη συστηματική αντιμετώπιση των ποικίλων κινδύνων που συνδέονται με την ΤΝ με επαγγελματικό τρόπο, συμπεριλαμβανομένων εκείνων των κινδύνων που προκαλούνται από τεχνολογικούς περιορισμούς, ανθρώπινη κακή χρήση και απώλεια ελέγχου επί των συστημάτων ΤΝ. Αξίζει να σημειωθεί ότι το Ινστιτούτο για την Ασφάλεια της ΤΝ της Νότιας Κορέας είναι μέλος του “Διεθνούς Δικτύου Ινστιτούτων για την Ασφάλεια της ΤΝ” (International Network of AI Safety Institutes), του οποίου στόχος είναι η ενεργός συμβολή στην προσπάθεια για ασφαλή ΤΝ σε διεθνές επίπεδο με ιδρυτικά μέλη την Αυστραλία, τον Καναδά, την Ευρωπαϊκή Ένωση, τη Γαλλία, την Ιαπωνία, την Κένυα, τη Δημοκρατία της Κορέας, τη Σιγκαπούρη, το Ηνωμένο Βασίλειο και τις Η.Π.Α.

Σημείωση: Οι αναφορές στα άρθρα και ο σχολιασμός του περιεχομένου του Βασικού Νόμου για την ΤΝ της Νότιας Κορέας βασίζονται σε ανεπίσημη μετάφραση του εν λόγω νομοθετικού κειμένου, το οποίο είναι διαθέσιμο εδώ.

Σχετικές πηγές: