Το νέο κρατικό σύστημα πιστοληπτικής αξιολόγησης (credit scoring) δημιουργεί ένα νέο πεδίο συνάντησης του χρηματοπιστωτικού δικαίου, της προστασίας προσωπικών δεδομένων και της αλγοριθμικής λήψης αποφάσεων.
Με αφορμή τις πρόσφατες εξελίξεις, συζητήσαμε στο Αθηναϊκό-Μακεδονικό Πρακτορείο Ειδήσεων 104,9 τι ακριβώς προβλέπει το νέο πλαίσιο και ποιες μπορεί να είναι οι συνέπειές του για πολίτες και επιχειρήσεις.
Τι είναι το κρατικό credit scoring;
Το νέο σύστημα επιτρέπει την παραγωγή Πιστοληπτικής Αξιολόγησης με βάση οικονομικά δεδομένα και στοιχεία σχετικά με τη συναλλακτική συμπεριφορά έναντι του Δημοσίου.
Η σημαντική αλλαγή βρίσκεται στο γεγονός ότι η επεξεργασία δεν περιορίζεται στην απλή καταγραφή οφειλών. Το σύστημα αξιοποιεί αλγοριθμικά μοντέλα και τεχνικές machine learning με σκοπό την εκτίμηση του πιστωτικού κινδύνου και της πιθανότητας μελλοντικής αθέτησης οικονομικών υποχρεώσεων.
Credit scoring και social scoring δεν είναι το ίδιο
Μία από τις βασικές διακρίσεις που πρέπει να γίνουν στη δημόσια συζήτηση είναι εκείνη μεταξύ credit scoring και social scoring.
Το πρώτο αποσκοπεί στην εκτίμηση της πιστοληπτικής ικανότητας ενός προσώπου βάσει οικονομικών δεδομένων. Το δεύτερο αφορά μια πολύ ευρύτερη αξιολόγηση της συμπεριφοράς ή των προσωπικών χαρακτηριστικών ενός ατόμου, η οποία μπορεί να επηρεάζει την πρόσβασή του σε υπηρεσίες ή κοινωνικές ευκαιρίες.
Το ελληνικό σύστημα, όπως έχει θεσπιστεί, αφορά πιστοληπτική και οικονομική αξιολόγηση και δεν συνιστά σύστημα γενικής κοινωνικής βαθμολόγησης.
Η ουσιαστική «κόκκινη γραμμή», ωστόσο, είναι να αποτραπεί στο μέλλον η επέκταση μιας πιστοληπτικής βαθμολογίας σε σκοπούς διαφορετικούς από εκείνους για τους οποίους δημιουργήθηκε.
Προσωπικά δεδομένα, GDPR και αλγόριθμοι
Η δημιουργία ενός τέτοιου συστήματος εγείρει σημαντικά ζητήματα προστασίας προσωπικών δεδομένων.
Κρίσιμα ερωτήματα είναι:
- ποια ακριβώς δεδομένα χρησιμοποιούνται,
- για πόσο χρόνο διατηρούνται,
- ποιος αποκτά πρόσβαση σε αυτά,
- πόσο διαφανής είναι ο τρόπος παραγωγής της βαθμολογίας,
- πώς μπορεί ένας πολίτης να διορθώσει εσφαλμένα δεδομένα,
- και σε ποιο βαθμό μια αλγοριθμική αξιολόγηση μπορεί να επηρεάζει σημαντικές αποφάσεις για το ίδιο το πρόσωπο.
Το ενωσιακό πλαίσιο προστασίας προσωπικών δεδομένων, και ιδίως ο GDPR, θέτει αυξημένες απαιτήσεις όταν η αυτοματοποιημένη επεξεργασία μπορεί να έχει σημαντικές συνέπειες για το άτομο.
Παράλληλα, η ενωσιακή πράξη για την Τεχνητή Νοημοσύνη (AI Act) αντιμετωπίζει τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται για την αξιολόγηση της πιστοληπτικής ικανότητας φυσικών προσώπων ως συστήματα ιδιαίτερα αυξημένου κινδύνου, με αντίστοιχες απαιτήσεις διακυβέρνησης, ελέγχου και διαφάνειας.
Η τεχνολογία δεν είναι από μόνη της το πρόβλημα
Ένα αποτελεσματικό σύστημα πιστοληπτικής αξιολόγησης μπορεί να έχει πραγματικά οφέλη: καλύτερη εκτίμηση του πιστωτικού κινδύνου, περιορισμό του υπερδανεισμού και ενδεχομένως ευκολότερη πρόσβαση στη χρηματοδότηση για πρόσωπα που δεν διαθέτουν εκτεταμένο τραπεζικό ιστορικό.
Το κρίσιμο ζήτημα δεν είναι επομένως να αντιμετωπίζεται η τεχνολογία ως απειλή.
Το ζητούμενο είναι να υπάρχουν σαφής σκοπός, αναλογικότητα, διαφάνεια, δυνατότητα αμφισβήτησης, ανθρώπινος έλεγχος και αποτελεσματικές εγγυήσεις έναντι της κατάχρησης.