Δεσμευτικές κατευθυντήριες γραμμές για τη χρήση Τεχνητής Νοημοσύνης από τους δικαστικούς λειτουργούς εξέδωσαν τη Δευτέρα το Ανώτατο Συνταγματικό Δικαστήριο και το Ανώτατο Δικαστήριο, καθιστώντας σαφές ότι η τελική ευθύνη και η λήψη των δικαστικών αποφάσεων παραμένουν στον άνθρωπο.
Ο Οδηγός Τεχνητής Νοημοσύνης ορίζει ότι οποιαδήποτε αξιοποίηση της τεχνολογίας στα δικαστήρια πρέπει να υπηρετεί την ορθή απονομή της δικαιοσύνης, την ακεραιότητα του δικαστικού λειτουργήματος και την αρχή της διαφάνειας.
Οι κατευθυντήριες γραμμές είναι δεσμευτικές και, όπως επισημαίνεται, ενδεχόμενη παράβασή τους μπορεί, αναλόγως των συνθηκών, να συνιστά πειθαρχικό αδίκημα.
Η ΤΝ δεν υποκαθιστά τον δικαστή
Σύμφωνα με τον Οδηγό, αποτελεί ευθύνη της Δικαστικής Εξουσίας να διασφαλίζει την αποτελεσματική πρόσβαση σε ανθρώπινο δικαστή. Η ΤΝ μπορεί να λειτουργεί μόνο επικουρικά και υπό αυστηρές προϋποθέσεις, χωρίς να αντικαθιστά τον δικαστή ή τη δικαστική αξιολόγηση των αποδεικτικών στοιχείων και των πραγματικών δεδομένων μιας υπόθεσης.
Η λήψη δικαστικών αποφάσεων, η ανάπτυξη νομικής συλλογιστικής και η αξιολόγηση αποδεικτικού υλικού περιλαμβάνονται στις χρήσεις που δεν συνιστώνται.
Το ίδιο ισχύει για υποθέσεις που απαιτούν ερμηνεία κανόνων δικαίου ή αφηρημένων νομικών αρχών, εξελικτική ή δυναμική ερμηνεία πρόσφατης νομοθεσίας, εξέταση πιθανής παραβίασης θεμελιωδών δικαιωμάτων και έλεγχο της συνταγματικότητας νόμων ή της συμβατότητάς τους με το διεθνές δίκαιο και τις διεθνείς συμβάσεις.
Ο Οδηγός υπογραμμίζει ότι τα σημερινά συστήματα συνομιλίας ΤΝ δεν προσφέρουν αξιόπιστη ή επαρκώς τεκμηριωμένη νομική ανάλυση και συλλογισμό. Συστήματα ΤΝ δεν πρέπει επίσης να αναλαμβάνουν υποθέσεις που απαιτούν ερμηνεία του δικαίου, καθώς στερούνται εγγενούς κατανόησης της διάκρισης μεταξύ αληθούς και ψευδούς στον πραγματικό κόσμο.
Προσωπική ευθύνη και υποχρεωτική επαλήθευση
Οι δικαστικοί λειτουργοί φέρουν προσωπική ευθύνη για κάθε περιεχόμενο που παράγουν, υποβάλλουν ή χρησιμοποιούν, ακόμη και όταν αυτό έχει δημιουργηθεί εξ ολοκλήρου ή εν μέρει με συστήματα παραγωγικής ΤΝ.
Πριν χρησιμοποιήσουν τέτοια εργαλεία, οφείλουν να κατανοούν σε βασικό επίπεδο τις δυνατότητες, τους περιορισμούς και τους κινδύνους τους.
Τα συστήματα συνομιλίας δεν αντλούν απαντήσεις αποκλειστικά από επίσημες ή επικυρωμένες νομικές βάσεις. Παράγουν νέο περιεχόμενο βάσει αλγοριθμικών μοντέλων και δεδομένων εκπαίδευσης, με αποτέλεσμα οι απαντήσεις τους να αποτελούν πιθανολογικές προβλέψεις και όχι κατ’ ανάγκη ακριβείς ή επαληθευμένες πληροφορίες.
Μπορούν να αξιοποιούνται επικουρικά στη νομική έρευνα για υπενθύμιση ήδη γνωστών αρχών ή υλικού. Η ορθότητα και η ακρίβεια των αποτελεσμάτων πρέπει, όμως, να επιβεβαιώνονται από τον ίδιο τον δικαστικό λειτουργό μέσω επίσημων νομικών πηγών.
Δεν ενδείκνυνται για πρωτογενή νομική ή πραγματολογική έρευνα, ιδιαίτερα όταν οι πληροφορίες δεν μπορούν να διασταυρωθούν από επίσημες πηγές.
Ο κίνδυνος ανακριβειών και «ψευδαισθήσεων»
Ακόμη και όταν δίνονται οι καλύτερες δυνατές προτροπές, οι πληροφορίες που παράγονται μπορεί να είναι ψευδείς, ανακριβείς, ελλιπείς, παραπλανητικές ή μεροληπτικές. Ο Οδηγός σημειώνει ότι οι λανθασμένες απαντήσεις δεν αποτελούν ασυνήθιστο φαινόμενο.
Ιδιαίτερη αναφορά γίνεται στις «ψευδαισθήσεις» της παραγωγικής ΤΝ, δηλαδή σε επινοημένες πληροφορίες τις οποίες ένα σύστημα παρουσιάζει ως πραγματικά γεγονότα.
Επισημαίνεται επίσης ότι τα Μεγάλα Γλωσσικά Μοντέλα έχουν εκπαιδευτεί σε εκτεταμένο διαδικτυακό υλικό και ενδέχεται να αντανακλούν ξένα νομικά συστήματα, τα οποία δεν ταυτίζονται κατ’ ανάγκη με το κυπριακό δίκαιο.
Παράλληλα, τα δικαστήρια καλούνται να γνωρίζουν τις νέες προκλήσεις που προκαλούν τα deepfakes, καθώς εργαλεία ΤΝ χρησιμοποιούνται για τη δημιουργία ψευδούς ή παραπλανητικού κειμένου, εικόνων και βίντεο.
Οι επιτρεπόμενες υποστηρικτικές χρήσεις
Στις ενδεικτικές χρήσεις περιλαμβάνονται η υποστήριξη της σύνταξης τυποποιημένων δικαστικών εγγράφων και η κατάρτιση περιλήψεων αποφάσεων. Και στις δύο περιπτώσεις απαιτείται επαλήθευση της ακρίβειας του παραγόμενου περιεχομένου.
Ο Οδηγός παραθέτει ακόμη ενδείξεις πιθανής εσφαλμένης χρήσης παραγωγικής ΤΝ από διαδίκους ή τους εκπροσώπους τους, τις οποίες πρέπει να λαμβάνουν υπόψη οι δικαστές κατά την εκδίκαση υποθέσεων.
Μεταξύ αυτών είναι οι μη επαληθεύσιμες ή ασυνήθιστες παραπομπές σε νομολογία και νομοθεσία, η επίκληση διαφορετικών νομολογιακών αρχών για τα ίδια ζητήματα και οι ισχυρισμοί που δεν συμβαδίζουν με τη γενικότερη κατανόηση του συγκεκριμένου τομέα δικαίου.
Αναφέρονται επίσης η ασυνέπεια ή αδυναμία της νομικής επιχειρηματολογίας, η άσχετη χρήση προτύπων ξένων δικαιοδοσιών, τα ευφραδώς διατυπωμένα κείμενα με ουσιαστικές ανακρίβειες και οι τυποποιημένες φράσεις που παραπέμπουν σε παραγωγή από ΤΝ.
Το νομικό και θεσμικό πλαίσιο
Ο Οδηγός καθορίζει τις αρχές που πρέπει να τηρούνται, τους βασικούς κινδύνους, τους περιορισμούς και τα ζητήματα που ανακύπτουν από τη χρήση της ΤΝ, μαζί με τρόπους μετριασμού τους.
Εκδόθηκε στο πνεύμα του Κανονισμού (ΕΕ) 2024/1689 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 13ης Ιουνίου 2024, καθώς και άλλων κανονισμών, κανόνων και κατευθυντήριων γραμμών θεσμών της Ευρωπαϊκής Ένωσης και άλλων οργανισμών.
Η χρήση της ΤΝ στη δικαιοσύνη πρέπει επίσης να συνάδει με τον Κανονισμό (ΕΕ) 2016/679 και τον κυπριακό νόμο του 2018 για την προστασία των φυσικών προσώπων από την επεξεργασία δεδομένων προσωπικού χαρακτήρα και την ελεύθερη κυκλοφορία τους.
Παράλληλα, πρέπει να σέβεται τα θεμελιώδη δικαιώματα που κατοχυρώνουν το Σύνταγμα της Κυπριακής Δημοκρατίας και η Ευρωπαϊκή Σύμβαση Δικαιωμάτων του Ανθρώπου.
Το πλαίσιο περιλαμβάνει ακόμη τη Σύμβαση-Πλαίσιο του Συμβουλίου της Ευρώπης για την ΤΝ, τα ανθρώπινα δικαιώματα, τη δημοκρατία και το κράτος δικαίου, με ημερομηνία 13 Μαΐου 2026, τη Σύμβαση 108+ για την προστασία έναντι της αυτοματοποιημένης επεξεργασίας προσωπικών δεδομένων και τον Ευρωπαϊκό Χάρτη Δεοντολογίας για τη χρήση της ΤΝ στα δικαστικά συστήματα και το περιβάλλον τους.
Πηγή: ΚΥΠΕ
