Τι πρέπει να απαιτούν τα διοικητικά συμβούλια από την τεχνητή νοημοσύνη: αξιολόγηση, έλεγχος και διασφάλιση

Από Erika Fille T. Legara

ΣΕ ΕΝΑ ΠΡΟΗΓΟΥΜΕΝΟ άρθρο του BusinessWorld, υποστήριξα ότι η διακυβέρνηση της ΤΝ υπερβαίνει την εποπτεία μιας χούφτας τεχνολογικών έργων και πλέον περιλαμβάνει τη διασφάλιση ότι οι αποφάσεις με τη χρήση ΤΝ σε όλο τον οργανισμό παραμένουν ευθυγραμμισμένες με τη στρατηγική, την όρεξη για κίνδυνο και τα ηθικά πρότυπα. Μια φυσική συνέχεια ερώτησης για τα διοικητικά συμβούλια είναι: πέρα από τον καθορισμό προσδοκιών, πώς επαληθεύει ένας οργανισμός ότι τα συστήματα ΤΝ του λειτουργούν πράγματι όπως προβλέπεται, υπεύθυνα και εντός καθορισμένων ορίων;

Η απάντηση έγκειται σε τρεις συναφείς αλλά ξεχωριστούς κλάδους: την αξιολόγηση κινδύνου ΤΝ, τον έλεγχο ΤΝ και τη διασφάλιση ΤΝ. Τα διοικητικά συμβούλια που είναι εξοικειωμένα με την οικονομική εποπτεία θα βρουν τη λογική διαισθητική. Η πρόκληση, και η ευκαιρία, είναι η εφαρμογή της ίδιας πειθαρχίας στην ΤΝ.

3 ΔΙΑΚΡΙΤΕΣ ΑΛΛΑ ΣΥΝΑΦΕΙΣ ΕΝΝΟΙΕΣ
Βοηθά να είμαστε ακριβείς σχετικά με το τι σημαίνει ο κάθε όρος, επειδή συχνά χρησιμοποιούνται εναλλάξ όταν δεν θα έπρεπε.

Η αξιολόγηση κινδύνου ΤΝ είναι η εσωτερική διαδικασία με την οποία ένας οργανισμός εντοπίζει, αξιολογεί και ιεραρχεί τους κινδύνους που σχετίζονται με τα συστήματα ΤΝ του. Διερωτάται τι θα μπορούσε να πάει στραβά, πόσο πιθανό είναι και ποιος θα ήταν ο αντίκτυπος. Αυτό είναι το θεμέλιο πάνω στο οποίο στηρίζονται όλα τα άλλα. Χωρίς αξιόπιστη αξιολόγηση κινδύνου, ούτε ο έλεγχος ούτε η διασφάλιση έχουν σημαντική βάση αναφοράς. Ουσιώδη συστήματα ΤΝ υπάρχουν σε κάθε τομέα: ένα μοντέλο βαθμολόγησης πιστοληπτικής ικανότητας σε μια τράπεζα, ένα εργαλείο διαλογής ασθενών σε ένα νοσοκομείο, ένα πρόγραμμα πρόβλεψης απόδοσης μαθητών σε ένα πανεπιστήμιο, ένα σύστημα ιεράρχησης υποθέσεων σε έναν κυβερνητικό οργανισμό. Αυτό που έχουν κοινό είναι η συνέπεια, η οποία περιλαμβάνει αποτελέσματα που επηρεάζουν πραγματικούς ανθρώπους με σημαντικούς τρόπους.

Για οποιοδήποτε τέτοιο σύστημα, η αξιολόγηση κινδύνου θα πρέπει να είναι συστηματική, τεκμηριωμένη και να επανεξετάζεται τακτικά καθώς το μοντέλο εξελίσσεται και καθώς το λειτουργικό περιβάλλον αλλάζει.

Ο έλεγχος ΤΝ είναι η ανεξάρτητη εξέταση του κατά πόσον ένα σύστημα ΤΝ, ή το πλαίσιο διακυβέρνησης που το περιβάλλει, συμμορφώνεται με καθορισμένα πρότυπα, πολιτικές ή απαιτήσεις. Είναι μια διαδικασία βασισμένη σε αποδείξεις που διεξάγεται από ένα μέρος επαρκώς ανεξάρτητο από εκείνους που είναι υπεύθυνοι για το σύστημα υπό εξέταση. Ένας έλεγχος ΤΝ μπορεί να αξιολογήσει εάν οι πρακτικές διαχείρισης ΤΝ ενός οργανισμού συμμορφώνονται με ένα διεθνώς αναγνωρισμένο πρότυπο, όπως το ISO/IEC 42001, το πρώτο παγκοσμίως πρότυπο συστήματος διαχείρισης ΤΝ που δημοσιεύθηκε το 2023, ή εάν ένα συγκεκριμένο μοντέλο λειτουργεί εντός εγκεκριμένων παραμέτρων και χωρίς ακούσια προκατάληψη. Σημαντικά, το πρότυπο που διέπει τους ίδιους τους ελεγκτές, το ISO/IEC 42006, που δημοσιεύθηκε τον Ιούλιο του 2025, καθορίζει πλέον την ικανότητα και την αυστηρότητα που απαιτείται από τους φορείς που ελέγχουν και πιστοποιούν συστήματα διαχείρισης ΤΝ. Το ελεγκτικό επάγγελμα, με άλλα λόγια, αρχίζει να επισημοποιεί τη δική του λογοδοσία για δραστηριότητες ΤΝ.

Η διασφάλιση ΤΝ είναι το επίσημο συμπέρασμα προς τα ενδιαφερόμενα μέρη που προκύπτει από αυτή τη διαδικασία ελέγχου. Είναι η επαγγελματική γνώμη, που εκδίδεται από ένα καταρτισμένο και ανεξάρτητο μέρος, που δίνει στα διοικητικά συμβούλια, τους ρυθμιστές, τους επενδυτές και το κοινό την εμπιστοσύνη ότι ένα σύστημα ΤΝ ή πλαίσιο διαχείρισης ΤΝ πληροί ένα καθορισμένο πρότυπο. Η διασφάλιση είναι αυτό που μετατρέπει μια εσωτερική ανασκόπηση σε ένα αξιόπιστο εξωτερικό σήμα.

ΘΕΜΕΛΙΩΣΗ ΤΗΣ ΔΙΑΣΦΑΛΙΣΗΣ ΤΝ
Η έννοια της ανεξάρτητης διασφάλισης δεν είναι νέα για τα διοικητικά συμβούλια. Κάθε χρόνο, εξωτερικοί ελεγκτές εξετάζουν τις οικονομικές καταστάσεις ενός οργανισμού και εκδίδουν γνώμη· ένα συμπέρασμα βασισμένο σε αποδείξεις, που διεξάγεται υπό διεθνώς αναγνωρισμένα πρότυπα και υποστηρίζεται από την επαγγελματική ανεξαρτησία του ελεγκτή. Αυτή η γνώμη έχει βάρος ακριβώς επειδή το πλαίσιο που τη διέπει είναι αυστηρό και καλά εδραιωμένο. Αυτή η λογική ισχύει ανεξάρτητα από τη βιομηχανία· είτε ο οργανισμός είναι τράπεζα, νοσοκομείο, όμιλος επιχειρήσεων ή δημόσιο ίδρυμα, ο οικονομικός έλεγχος είναι ένας οικείος και αξιόπιστος μηχανισμός.

Η ίδια λογική ισχύει τώρα και για την ΤΝ. Όταν ένας οργανισμός κάνει μια δημόσια ή ρυθμιστική δήλωση για τα συστήματα ΤΝ του, ότι είναι δίκαια, διαφανή, συμβατά με ένα καθορισμένο πρότυπο ή απαλλαγμένα από ουσιαστική προκατάληψη, το ερώτημα είναι: ποιος επικυρώνει ανεξάρτητα αυτόν τον ισχυρισμό και υπό ποιο επαγγελματικό πλαίσιο;

Η απάντηση, για το λογιστικό και ελεγκτικό επάγγελμα, είναι το ISAE 3000, το Διεθνές Πρότυπο για Αναθέσεις Διασφάλισης που εκδίδεται από το Διεθνές Συμβούλιο Προτύπων Ελέγχου και Διασφάλισης (IAASB). Το ISAE 3000 διέπει αναθέσεις διασφάλισης σε θέματα πέραν των ιστορικών οικονομικών πληροφοριών, καθιστώντας το φυσική έδρα για τη διασφάλιση ΤΝ. Σύμφωνα με αυτό το πρότυπο, ένας επαγγελματίας μπορεί να διεξάγει είτε ανάθεση εύλογης διασφάλισης, το υψηλότερο πρότυπο ανάλογο με τον οικονομικό έλεγχο, είτε ανάθεση περιορισμένης διασφάλισης, που είναι πιο κοντά σε βάθος σε μια επισκόπηση. Η επιλογή του επιπέδου έχει σημασία και θα πρέπει να είναι σκόπιμη, βαθμονομημένη στην ουσιαστικότητα και τον κίνδυνο του εν λόγω συστήματος ΤΝ.

Ένας στενός σύγχρονος παραλληλισμός είναι η διασφάλιση βιωσιμότητας ή ESG. Πολλές εισηγμένες εταιρείες στις Φιλιππίνες ήδη αναθέτουν ανεξάρτητη διασφάλιση για τις γνωστοποιήσεις βιωσιμότητάς τους, συχνά υπό το ISAE 3000. Οι μηχανισμοί είναι ακριβώς οι ίδιοι: ένας ανεξάρτητος επαγγελματίας εξετάζει ένα σύνολο ισχυρισμών έναντι καθορισμένων κριτηρίων και εκδίδει ένα επίσημο συμπέρασμα. Το θέμα διαφέρει· η επαγγελματική πειθαρχία όχι.

ΤΙ ΣΗΜΑΙΝΕΙ ΑΥΤΟ ΓΙΑ ΤΑ ΔΙΟΙΚΗΤΙΚΑ ΣΥΜΒΟΥΛΙΑ
Τρεις πρακτικές επιπτώσεις προκύπτουν από αυτό το πλαίσιο.

Πρώτον, τα διοικητικά συμβούλια θα πρέπει να ρωτήσουν εάν οι οργανισμοί τους έχουν διεξάγει αυστηρές αξιολογήσεις κινδύνου ΤΝ σε ουσιαστικά συστήματα. Όχι μια άσκηση μιας φοράς, αλλά μια ζωντανή διαδικασία που ενημερώνεται καθώς τα μοντέλα επανεκπαιδεύονται, οι περιπτώσεις χρήσης επεκτείνονται και το ρυθμιστικό περιβάλλον εξελίσσεται. Η ποιότητα της μεταγενέστερης εργασίας ελέγχου και διασφάλισης είναι τόσο καλή όσο η αξιολόγηση κινδύνου που την προηγείται.

Δεύτερον, τα διοικητικά συμβούλια θα πρέπει να διακρίνουν μεταξύ εσωτερικού και εξωτερικού ελέγχου ΤΝ. Οι λειτουργίες εσωτερικού ελέγχου διαδραματίζουν κρίσιμο ρόλο στην παροχή διασφάλισης ότι οι έλεγχοι ΤΝ λειτουργούν όπως έχουν σχεδιαστεί. Ωστόσο, τα διοικητικά συμβούλια θα πρέπει επίσης να εξετάσουν εάν δικαιολογείται ένας ανεξάρτητος έλεγχος τρίτου μέρους για ουσιαστικά συστήματα ΤΝ, ιδιαίτερα για συστήματα που επηρεάζουν πελάτες, εργαζομένους ή το κοινό με σημαντικούς τρόπους. Όπως με τον οικονομικό έλεγχο, η ανεξαρτησία ενισχύει την αξιοπιστία.

Τρίτον, καθώς οι οργανισμοί αυξάνουν τις δημόσιες δεσμεύσεις τους σχετικά με τις πρακτικές ΤΝ τους προς τους ρυθμιστές, τους επενδυτές και τις κοινότητες που εξυπηρετούν, τα διοικητικά συμβούλια θα πρέπει να ρωτήσουν εάν αυτές οι δεσμεύσεις υποστηρίζονται από αξιόπιστη διασφάλιση. Οι ισχυρισμοί χωρίς ανεξάρτητη επικύρωση αποτελούν, στην καλύτερη περίπτωση, έναν κίνδυνο φήμης που περιμένει να υλοποιηθεί.

ΕΝΑ ΕΠΑΓΓΕΛΜΑ ΠΟΥ ΑΚΟΜΑ ΟΙΚΟΔΟΜΕΙ ΤΙΣ ΔΥΝΑΤΟΤΗΤΕΣ ΤΟΥ
Θα ήταν ελλιπές να παρουσιάσουμε αυτό το τοπίο χωρίς να αναγνωρίσουμε τους τρέχοντες περιορισμούς του. Η υποδομή για τη διασφάλιση ΤΝ εξακολουθεί να χτίζεται. Τα επαγγελματικά πρότυπα αναδύονται. Οι ικανότητες των ελεγκτών στην ΤΝ, που εκτείνονται στη μηχανική μάθηση, την αλγοριθμική προκατάληψη, τη διακυβέρνηση δεδομένων και τη διαφάνεια μοντέλων, δεν έχουν ακόμη αναπτυχθεί ομοιόμορφα σε όλο το επάγγελμα. Το ISAE 3000 παρέχει το πλαίσιο διασφάλισης, αλλά οι ειδικές για την ΤΝ μεθοδολογίες που βρίσκονται μέσα σε αυτό εξακολουθούν να ωριμάζουν.

Για οργανισμούς που δεν είναι ακόμη έτοιμοι να επιδιώξουν επίσημη διασφάλιση, αυτό δεν είναι λόγος να μείνουν ακίνητοι. Μια δομημένη, τακτική αξιολόγηση ουσιαστικών συστημάτων ΤΝ είναι ένα σημαντικό και πρακτικό πρώτο βήμα. Οικοδομεί την εσωτερική πειθαρχία, την τεκμηρίωση και τις συνήθειες διακυβέρνησης που τελικά απαιτεί η ετοιμότητα διασφάλισης. Τα διοικητικά συμβούλια που αναθέτουν τέτοιες αξιολογήσεις σήμερα, ακόμη και ανεπίσημα, αναπτύσσουν θεσμικό μυ που θα έχει σημασία όταν οι ρυθμιστικές προσδοκίες σκληρυνθούν και ο έλεγχος των ενδιαφερομένων μερών εντατικοποιηθεί.

Αυτή η άποψη είναι μία που έχω διερευνήσει πιο βαθιά σε έρευνα που έχω αναπτύξει με συναδέλφους εξετάζοντας τη διακυβέρνηση γεννητικής ΤΝ σε οικονομίες όπου η ρύθμιση δεν έχει ακόμη προλάβει την τεχνολογία. Το κεντρικό επιχείρημα είναι ότι οι επιχειρήσεις είναι ήδη ηθικοί παράγοντες με υφιστάμενες ηθικές υποχρεώσεις προς τα ενδιαφερόμενα μέρη τους· η αναμονή για εξειδικευμένη νομοθεσία ΤΝ δεν είναι ούτε απαραίτητη ούτε επαρκής για υπεύθυνη διακυβέρνηση. Η υποχρέωση δράσης υπάρχει ήδη. Αυτό που χρειάζεται είναι η οργανωσιακή βούληση να την επιχειρησιοποιήσει.

Αυτό δεν είναι λόγος για τα διοικητικά συμβούλια να περιμένουν την ευρύτερη ατζέντα. Είναι λόγος να θέσουν ενημερωμένες ερωτήσεις τώρα, στους εξωτερικούς ελεγκτές τους, στις λειτουργίες εσωτερικού ελέγχου τους και στις ομάδες διαχείρισής τους, ώστε όταν οι δυνατότητες του επαγγέλματος προλάβουν τη ζήτηση, οι οργανισμοί τους να είναι έτοιμοι να δραστηριοποιηθούν ουσιαστικά.

Ο οικονομικός έλεγχος δεν αναδύθηκε πλήρως διαμορφωμένος. Χρειάστηκαν δεκαετίες καθορισμού προτύπων, επαγγελματικής ανάπτυξης και σκληρών μαθημάτων από εταιρικές αποτυχίες για να γίνει ο ανεξάρτητος έλεγχος το αξιόπιστο θεσμό που είναι σήμερα. Η διασφάλιση ΤΝ βρίσκεται σε ένα συγκρίσιμο πρώιμο σημείο καμπής. Τα διοικητικά συμβούλια που ασχολούνται με αυτό τώρα, θέτουν πιο ακριβείς ερωτήσεις στους ελεγκτές τους, απαιτούν περισσότερα από διοικητικούς ισχυρισμούς και οικοδομούν εσωτερικές ικανότητες πριν το απαιτήσουν οι ρυθμιστές, όχι μόνο θα μειώσουν τη δική τους έκθεση. Θα βοηθήσουν να διαμορφώσουν πώς μοιάζει η υπεύθυνη λογοδοσία ΤΝ για τους οργανισμούς των Φιλιππίνων και την ευρύτερη περιοχή.

Η Erika Fille T. Legara είναι φυσικός, εκπαιδευτικός και επαγγελματίας επιστήμης δεδομένων και ΤΝ που εργάζεται σε κυβέρνηση, ακαδημαϊκό χώρο και βιομηχανία. Είναι η εναρκτήρια διευθύντρια και επικεφαλής υπεύθυνος ΤΝ και δεδομένων του Εκπαιδευτικού Κέντρου Ερευνών ΤΝ, και αναπληρώτρια καθηγήτρια και κάτοχος έδρας Aboitiz στην Επιστήμη Δεδομένων στο Ασιατικό Ινστιτούτο Διαχείρισης, όπου ίδρυσε και ηγήθηκε του πρώτου προγράμματος MSc στην Επιστήμη Δεδομένων της χώρας από το 2017 έως το 2024. Υπηρετεί σε εταιρικά διοικητικά συμβούλια, είναι μέλος του Ινστιτούτου Εταιρικών Διευθυντών, Πιστοποιημένη Επαγγελματίας Διακυβέρνησης ΤΝ του IAPP και συνιδρύτρια της CorteX Innovations.