Τοποθέτηση του Σταύρου Ασθενίδη, Διευθύνων Σύμβουλος της “Κοινωνία της Πληροφορίας” στο 2ο συνέδριο QUO VADIS
Με χαρά παρευρίσκομαι στις εργασίες του 2ου συνεδρίου Quo Vadis AI, είναι ιδιαίτερα τιμητική η πρόσκληση.
Τα τελευταία 2,5 χρόνια η Ελλάδα πέτυχε μια εντυπωσιακή εκθετική αύξηση στη χρήση ψηφιακών υπηρεσιών. Πλέον, η Δημόσια Διοίκηση και οι λειτουργοί της αλλά και οι πολίτες και οι επιχειρήσεις έχουμε σήμερα στη διάθεση μας μια σειρά υπηρεσιών που διευκολύνουν σημαντικά το έργο που καθένας μας καλείται να υλοποιήσει, μειώνοντας σημαντικά τον χρόνο που έπρεπε να σπαταλήσουμε ώστε να πετύχουμε αποτελέσματα.
Χάρη στην ψηφιακή τεχνολογία και τις δυνατότητες που αυτή προσφέρει.
Έχω το προνόμιο να διευθύνω την «Κοινωνία της Πληροφορίας», τον βασικό βραχίονα του Υπουργείου Ψηφιακής Διακυβέρνησης για την υλοποίηση των έργων ψηφιακού μετασχηματισμού, καθώς η μακρόχρονη εμπειρία της στην διαχείριση σύνθετων έργων ΤΠΕ είναι αδιαμφισβήτητη.
Είναι σαφές ότι η Τεχνητή Νοημοσύνη και η αλγοριθμική διακυβέρνηση μπαίνουν πλέον δυναμικά σε πολλές πτυχές της δημόσιας διοίκησης.
Η Τεχνητή Νοημοσύνη προσφέρει ταχύτητα, βοήθεια στην οργάνωση του υλικού, συνθετική δύναμη. Η «Τεχνητή Νοημοσύνη» (Artificial Intelligence) έχει ως βασικό στόχο να μπορέσει κάποτε η τεχνολογία να δημιουργήσει αυτοματοποιημένα συστήματα αποφάσεων που να επιτελούν σύνθετες ενέργειες χωρίς την διαρκή παρέμβαση του ανθρώπου, με την ακολουθία λογικών ενεργειών που αποτελούν αποτέλεσμα μίας μηχανικής εκμάθησης ή βαθιάς μάθησης (machine learning / deep learning) όροι που συχνά συμπίπτουν με την έννοια της ΤΝ.
Η ισχυρή ΤΝ, στην ιδανική της μορφή, είναι ένα οιονεί ανθρώπινο σύστημα που διαθέτει τις γνωστικές ικανότητες και τη γενική βιωματική κατανόηση του περιβάλλοντος που έχουμε εμείς οι άνθρωποι, σε συνδυασμό με την ικανότητα επεξεργασίας αυτού του όγκου δεδομένων με πολύ μεγαλύτερες ταχύτητες από τον ανθρώπινο νου, δηλαδή περιέχει όχι μόνο συνείδηση της ύπαρξης και των επιλογών του αλλά και ταχύτατη διαδικασία απόφασης. Συνεπώς, το σύστημα αυτό, υπάρχει η προοπτική να γίνει εκθετικά μεγαλύτερο από τον άνθρωπο στους τομείς της γνώσης, της γνωστικής ικανότητας και της ταχύτητας επεξεργασίας δημιουργώντας μία πολύ ενδιαφέρουσα, έως συναρπαστική στιγμή για το ανθρώπινο είδος και τη θέση του στο σύστημα αποφάσεων όπως το γνωρίζουμε σήμερα (ερευνητικό, διαγνωστικό, δικαιοδοτικό κλπ).
Αναγκαία συνθήκη βέβαια για να φτάσουμε σε ασφαλείς λύσεις ΤΝ είναι η διαλειτουργικότητα, η ψηφιοποίηση, η ανοικτότητα των δεδομένων. Πρέπει να υπάρχει πρόσβαση σε δεδομένα τα οποία “μιλάνε μεταξύ τους” και είναι επεξεργάσιμα. Αυτές οι διασυνδέσεις που φαίνονται απλά θέματα της καθημερινότητας, στην πραγματικότητα είναι το νέο νευρικό σύστημα του κράτους και κάτι το απολύτως αναγκαίο για να περάσουμε στην επόμενη φάση.
Τα σημαντικότερα θετικά αποτελέσματα των τεχνολογιών ΤΝ στην διακυβέρνηση και τη δημόσια διοίκηση μπορούν να συνοψιστούν στα εξής:
- Ισχυρές διοικητικές λειτουργίες και υπηρεσίες που χαρακτηρίζονται από ευελιξία, αποτελεσματικότητα και αξιοπιστία.
- Αύξηση της ποιότητας των διαδικασιών, των λειτουργιών και των υπηρεσιών προς τους πολίτες ή μεταξύ οργανισμών χωρίς μεγάλες χρονοκαθυστερήσεις και γραφειοκρατική συμφόρηση.
- Καλύτερη διαχείριση των δημόσιων πόρων (άνθρωποι και υποδομές) και ταυτόχρονα σημαντική μείωση του κόστους.
- Αυξημένη διαφάνεια, δικαιοσύνη, λογοδοσία και προστασία των συνταγματικών δικαιωμάτων.
- Μείωση του διοικητικού φόρτου και του κινδύνου διαφθοράς σε όλους τους τομείς.
- Βελτίωση του σχεδιασμού μέτρων πολιτικής, μέσω της προσομοίωσης σύνθετων συστημάτων που επιτρέπουν στους διαμορφωτές πολιτικής να πειραματιστούν με διαφορετικές επιλογές πολιτικής και να εντοπίσουν ανεπιθύμητες συνέπειες, πριν προχωρήσουν στην εφαρμογή ενός μέτρου. Ενδεικτικά, η ανάλυση κειμένου μπορεί να είναι επιτυχής στις εφαρμογές της σε διάφορες δραστηριότητες σχετικές με την χάραξη πολιτικής, όπως η ανάλυση συναισθημάτων, η ανίχνευση ψευδών ειδήσεων στα μέσα κοινωνικής δικτύωσης, και τις περιλήψεις ενδιαφέροντων διεθνών αρχείων διαμόρφωσης πολιτικής για σχεδιαστές νέων πολιτικών.
- Αποτροπή εγκληματικών δραστηριοτήτων. Σήμερα, η τεχνητή νοημοσύνη χρησιμοποιείται συχνότερα για τον εντοπισμό εγκλημάτων όπως η απάτη, η νομιμοποίηση εσόδων από παράνομες δραστηριότητες κλπ. Στο μέλλον, πιθανότατα να χρησιμοποιηθεί και σε άλλες κατηγορίες εγκλημάτων όπως, απάτη στον κυβερνοχώρο, παράνομο εμπόριο επικίνδυνων υλών κλπ, για να βοηθήσουν τις δημόσιες υπηρεσίες να καταπολεμήσουν αυτά τα αδικήματα αποτελεσματικά και αποδοτικά.
Εδώ όμως θα σας αιφνιδιάσω λίγο και θα σας πω ότι η αλγοριθμική διακυβέρνηση δεν μπορεί να εφαρμοστεί ή τουλάχιστον να εφαρμοστεί εύκολα παντού.
Οι νέες τεχνολογίες και τα “ευφυή” συστήματα πρέπει να έχουν ως στόχο τους την τήρηση των θεμελιωδών ανθρώπινων δικαιωμάτων και της αξιοπρέπειας, καθώς και την αύξηση της ανθρώπινης ευημερίας και της περιβαλλοντικής βιωσιμότητας. Πρέπει να θεσπιστούν ορισμένες κατευθυντήριες γραμμές για την κοινωνία και την πολιτική, ώστε να παραμείνουν ανθρωποκεντρικά, εξυπηρετώντας αξίες και ηθικές αρχές της ανθρωπότητας.
Εξειδικεύοντας, ενδεικτικά, στη Δικαιοσύνη, είναι αυτονόητο ότι η εφαρμογή της δεν είναι μια απλή διαδικασία. Ο φυσικός Δικαστής παραμένει αναντικατάστατος και η Τεχνητή Νοημοσύνη έρχεται βοηθητικά δίπλα του.
Το θέμα έχει απασχολήσει και την Ευρωπαϊκή Ένωση και το Συμβούλιο της Ευρώπης αφού η χρήση Τεχνητής Νοημοσύνης κρίνεται κρίσιμη για την αποτελεσματικότητα και την γρήγορη εφαρμογή της Δικαιοσύνης. Έτσι καταρτίστηκε ο «Ευρωπαϊκός Χάρτης Δεοντολογίας για τη χρήση της Τεχνητής Νοημοσύνης στα δικαστικά συστήματα και στο περιβάλλον τους» . Ένα ιδιαίτερα σημαντικό κείμενο το οποίο θέτει το πλαίσιο αρχών για το συγκεκριμένο ζήτημα.
Η Ευρωπαϊκή Επιτροπή για την Αποτελεσματικότητα της Δικαιοσύνης (European Commission for the Efficiency of Justice, CEPEJ (ΣΕΠΕΖ)) του Συμβουλίου της Ευρώπης, ενέκρινε αυτό το πρώτο ευρωπαϊκό κείμενο που καθορίζει ηθικές αρχές σχετικά με τη χρήση της Τεχνητής Νοημοσύνης στα δικαστικά συστήματα. Ο Χάρτης παρέχει ένα πλαίσιο αρχών που μπορούν να καθοδηγήσουν τους υπεύθυνους χάραξης πολιτικής, τους νομοθέτες και τους επαγγελματίες της δικαιοσύνης όταν αντιμετωπίζουν την ταχεία ανάπτυξη της τεχνητής νοημοσύνης στις εθνικές δικαστικές διαδικασίες.
Η άποψη της CEPEJ, όπως διατυπώνεται στον Χάρτη, είναι ότι η εφαρμογή της τεχνητής νοημοσύνης στον τομέα της δικαιοσύνης μπορεί να συμβάλει στη βελτίωση της αποτελεσματικότητας και της ποιότητας και πρέπει να εφαρμοστεί με υπεύθυνο τρόπο που να συμμορφώνεται με τα θεμελιώδη δικαιώματα που κατοχυρώνονται ιδίως στην Ευρωπαϊκή Σύμβαση για Ανθρώπινα δικαιώματα (ΕΣΔΑ) και τη Σύμβαση του Συμβουλίου της Ευρώπης για την προστασία των προσωπικών δεδομένων. Για τη CEPEJ, είναι σημαντικό να διασφαλιστεί ότι η ΤΝ παραμένει εργαλείο στην υπηρεσία του γενικού συμφέροντος και ότι η χρήση του σέβεται τα ατομικά δικαιώματα.
Η CEPEJ προσδιόρισε τις ακόλουθες βασικές αρχές που πρέπει να τηρούνται στον τομέα της τεχνητής νοημοσύνης και της δικαιοσύνης:
– Αρχή του σεβασμού των θεμελιωδών δικαιωμάτων: να διασφαλίζεται ότι ο σχεδιασμός και η εφαρμογή των εργαλείων και υπηρεσιών τεχνητής νοημοσύνης σέβονται τα θεμελιώδη δικαιώματα
–Αρχή της μη διακριτικής μεταχείρισης: αποτρέποντας την ανάπτυξη κάθε διάκρισης μεταξύ ατόμων ή ομάδων ατόμων ·
–Αρχή της ποιότητας και της ασφάλειας: η επεξεργασία δικαστικών αποφάσεων και δεδομένων να γίνεται με τη χρήση πιστοποιημένων πηγών και άυλων δεδομένων με βάση μοντέλα που έχουν δημιουργηθεί με διεπιστημονικό τρόπο μέσα σε ένα ασφαλές τεχνολογικό περιβάλλον ·
-Αρχή της διαφάνειας, της αμεροληψίας και της δίκαιης μεταχείρισης: καθιστώντας τις μεθόδους επεξεργασίας δεδομένων προσιτές και κατανοητές, επιτρέποντας εξωτερικούς ελέγχους ·
–Αρχή του «ελέγχου από τον χρήστη»: να αποφεύγεται η τυποποιημένη προσέγγιση και να διασφαλίζεται ότι οι χρήστες είναι ενημερωμένοι και έχουν τον έλεγχο των επιλογών τους
Ένας δεύτερος τομέας όπου η εφαρμογή της ΤΝ δεν προκύπτει απροβλημάτιστα, είναι ο τομέας της κοινωνικής ασφάλειας δηλαδή η δημόσια υγεία και η κοινωνική πρόνοια και προστασία.
Οι τεχνολογίες ΤΝ και η ρομποτική αποτελούν ισχυρά εργαλεία ικανά να μετασχηματίσουν ριζικά τους τομείς αυτούς. Ο αυξανόμενος αριθμός ατόμων µε ασθένειες, ευάλωτα άτομα που κινδυνεύουν με κοινωνικό αποκλεισμό, η ανάγκη για ευρύτερο φάσμα ποιοτικών υπηρεσιών, μπορούν να αντιμετωπιστούν αποτελεσματικά υιοθετώντας τεχνολογίες ΤΝ.
Ο τομέας της υγειονομικής περίθαλψης οφείλει να επανασχεδιαστεί έτσι ώστε να μειωθεί το κόστος της διάγνωσης, επιφέροντας πρόοδο στις θεραπείες ασθενειών και προσφέροντας καλή και προσιτή υγειονομική περίθαλψη καθώς και υπηρεσίες κοινωνικής πρόνοιας και προστασίας σε μεγαλύτερο μέρος του πληθυσμού, καλύπτοντας στοχευμένα τις ανάγκες του.
Τα Τεχνητά Ευφυή Συστήματα, όπως η υπολογιστική όραση, αλγόριθμοι βαθιάς εκμάθησης (deep learning), αυτόνομα ή ηµιαυτόνοµα ρομπότ και εφαρμογές τηλεϊατρικής, χρησιμοποιούνται για να παράγουν γνώση μέσα από επιστημονική έρευνα, να επεξεργάζονται δεδομένα υγείας, να κάνουν ακριβέστερες και ταχύτερες διαγνώσεις χρησιμοποιώντας τεχνολογία αναγνώρισης εικόνας, βιοπληροφορική και ανάλυση κινδύνου, να προτείνουν θεραπείες, να υποστηρίζουν τους επαγγελματίες υγείας στις αποφάσεις τους και να παρακολουθούν την πορεία της δημόσιας υγείας σε όλο τον κόσμο.
Υπάρχουν όμως και πολλές προκλήσεις ηθικές, νομικές, κοινωνικές και οργανωτικές που αναδύονται από το νέο περιβάλλον που διαμορφώνεται στην υγειονομική περίθαλψη, όπως η έλλειψη εμπιστοσύνης προς την ΤΝ που αφορά την αδιαφάνεια των αποφάσεων και της αλγοριθμικής επεξεργασίας, τους κινδύνους από την ανήθικη χρήση ευαίσθητων προσωπικών δεδομένων, την έλλειψη ανθρώπινου εργατικού δυναμικού µε εμπειρία στην τεχνητή νοημοσύνη και ανεπάρκεια στα πρότυπα και τους κανονισμούς για τη χρήση της τεχνητής νοημοσύνης και τη λογοδοσία.
Εν κατακλείδι, η ψηφιακή τεχνολογία και τα συστήματα ΤΝ, συμβάλλουν στην προσιτότητα, διαθεσιμότητα και αποτελεσματικότητα της υπηρεσίας προς τους πολίτες. Ωστόσο, αυτά δεν δύναται να υποκαταστήσουν την απαραίτητη προσωπική επαφή. Η ανάγκη όλων μας για ανθρώπινη διάδραση και επαφή σε έναν τέτοιο ευαίσθητο τομέα παραμένει ισχυρή.
Η προσωποκεντρικότητα επομένως στην παροχή συγκεκριμένων υπηρεσιών παραμένει αναντικατάστατη ακόμα.
Με αυτά τα δύο παραδείγματα, της Δικαιοσύνης κυρίως αλλά και των υπηρεσιών Υγείας & Πρόνοιας, θέλω να καταδείξω ότι η ανάπτυξη, υιοθέτηση και εφαρμογή συστημάτων ΤΝ πρέπει να πληρούν ορισμένες απαιτήσεις για αξιόπιστη ΤΝ, µε βασικές την ανθρώπινη παρέμβαση, εποπτεία και λογοδοσία, την τεχνική ασφάλεια, την διασφάλιση της ιδιωτικότητας και τη διακυβέρνηση των δεδομένων, την διαφάνεια, την απαγόρευση των διακρίσεων και δικαιοσύνη, την περιβαλλοντική και κοινωνική ευημερία.
Η ανάπτυξη και χρήση συστημάτων ΤΝ οφείλει να σχεδιαστεί τηρώντας τις δεοντολογικές αρχές του σεβασμού της ανθρώπινης αυτονομίας και του αυτοπροσδιορισμού, της συμπερίληψης, της πρόληψης βλάβης, της δικαιοσύνης.
Οφείλει να αντιμετωπίζει ισότιμα όλες και όλους, ώστε να αποφεύγονται διακρίσεις εις βάρος κοινωνικών ομάδων και κατ’ επέκταση της Δημοκρατίας.
