Τα ρομπότ στην έδρα, οι άνθρωποι στο εδώλιο...
Στις ΗΠΑ τα τελευταία χρόνια χρησιμοποιούνται αλγόριθμοι εκτίμησης του κινδύνου υποτροπής του δράστη. Παρόλο που η γενεσιουργός αιτία της εισχώρησης τους στη δικαιοσύνη ήταν η εξάλειψη της μεροληψίας του ανθρώπινου παράγοντα, όλα δείχνουν ότι η βασική αρετή των αλγόριθμων δεν είναι... η αμεροληψία και ότι αυτοί επιτείνουν τις ανθρώπινες προκαταλήψεις. Χαρακτηριστική σε αυτή την κατεύθυνση είναι η άποψη της H. Fry (2018) σύμφωνα με την οποία «ό, τι κερδίζει η δικαιοσύνη σε ακρίβεια, το χάνει σε αμεροληψία».[1]
Σύμφωνα με τη μελέτη που πραγματοποιήθηκε από την Propublica [2], οι αλγόριθμοι εμφανίζουν τους αφροαμερικάνους με υψηλότερο κίνδυνο υποτροπής τέλεσης νέων αδικημάτων και τους λευκούς με χαμηλότερο από αυτόν που είχαν στην πραγματικότητα.
Η συστηματική μελέτη των αλγορίθμων δείχνει ότι αυτοί είναι αρκετά επιρρεπείς στην πραγματοποίηση δυσμενών διακρίσεων είτε λόγω των εγγενών αδυναμιών στη λειτουργία τους καθώς ταξινομούν τις υποθέσεις σύμφωνα με κοινωνικές ή άλλες ομαδοποιήσεις, είτε λόγω της κακής ποιότητας των δεδομένων με τα οποία τροφοδοτούνται.
Επιπλέον, από τις σχετικές μελέτες έχει προκύψει ότι το πρόβλημα των αλγόριθμων δεν έγκειται στην αδυναμία τους να αναγνωρίσουν τη διάκριση και να τη διορθώσουν, αλλά στο ενδεχόμενο να χρησιμοποιήσουν τα δεδομένα που εισάγονται στο εσωτερικό τους, με τρόπο που θα καταλήγουν σε αποτελέσματα που θεμελιώνουν πρωτογενώς δυσμενείς διακρίσεις. Για παράδειγμα, ένα σύστημα εκτίμησης του κινδύνου υποτροπής, βασισμένο στα δεδομένα που λαμβάνει από το εθνικό ποινικό μητρώο συνδυάζοντας τα στοιχεία του δράστη με τα δεδομένα της διεύθυνσης του, μπορεί να κατατάξει τους κατοίκους ορισμένων περιοχών με υψηλά επίπεδα εγκληματικότητας πιο επιρρεπείς στην τέλεση νέων αδικημάτων.[3]
Ακόμα πιο σοβαρό είναι το ζήτημα που αφορά την αδιαφάνεια στο εσωτερικό των συστημάτων. Η πρόταξη της πνευματικής ιδιοκτησίας των εταιρειών έναντι των δικαιωμάτων των κατηγορουμένων να έχουν πρόσβαση σε όλα τα στοιχεία που συνέβαλαν στην καταδίκη τους, μεταξύ των οποίων και το πόρισμα του αλγορίθμου, υπονομεύει με έναν καφκικό τρόπο το δικαίωμα στη δίκαιη δίκη. Στην υπόθεση State Vs Loomis[4], το Δικαστήριο έκρινε ότι η χρήση του αλγόριθμου εκτίμησης επικινδυνότητας του δράστη δεν εγείρει ζητήματα παραβίασης του δικαιώματος στη δίκαιη δίκη, με την αιτιολογία ότι τα δεδομένα που χρησιμοποιήθηκαν για την κατάταξη του κατηγορούμενου ως υψηλού κινδύνου, ήταν αυτά που είχε δώσει ο ίδιος βάσει του ερωτηματολογίου που απάντησε. Το γεγονός ότι το δικαστήριο απέρριψε τις ενστάσεις του κατηγορουμένου ότι παραβιάζεται το δικαίωμα του στη δίκαιη δίκη, επειδή δε γνωρίζει τη μεθοδολογία με την οποία το σύστημα κατέληξε στην κατηγοριοποίηση του αυτή, παραβιάζει κατάφωρα το δικαίωμα του κατηγορουμένου να έχει πρόσβαση στα δεδομένα που τον αφορούν, καθώς και στην υποχρέωση των δικαστηρίων να εκδίδουν αιτιολογημένες αποφάσεις.
Για να διαβάσετε ολόκληρο το κείμενο, πατήστε ΕΔΩ...
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου