Τα τελευταία χρόνια η τεχνητή νοημοσύνη και οι φορητές συσκευές έχουν αρχίσει να ενσωματώνονται όλο και περισσότερο στην καθημερινότητά μας. Από τα smartphones μέχρι τα ρολόγια και τις έξυπνες κάμερες, η τεχνολογία καταγράφει, επεξεργάζεται και αναλύει ολοένα και περισσότερα στοιχεία της προσωπικής μας ζωής. Στο νέο αυτό τεχνολογικό περιβάλλον εμφανίστηκε μια συσκευή που φιλοδοξεί να αλλάξει ριζικά τον τρόπο με τον οποίο αλληλεπιδρούμε με τον κόσμο: τα έξυπνα γυαλιά.

Τα λεγόμενα smart glasses της εταιρείας Meta –γνωστά κυρίως μέσω της συνεργασίας με τη Ray-Ban– παρουσιάστηκαν ως ένα καινοτόμο εργαλείο που επιτρέπει στον χρήστη να τραβά φωτογραφίες, να καταγράφει βίντεο, να ακούει μουσική, να κάνει ερωτήσεις στην τεχνητή νοημοσύνη και να μοιράζεται στιγμές με απλό τρόπο, χωρίς να κρατά κινητό τηλέφωνο. Στην πράξη όμως, η τεχνολογία αυτή φαίνεται πως κρύβει μια λιγότερο γνωστή και αρκετά ανησυχητική πλευρά.

Μια πρόσφατη διεθνής δημοσιογραφική έρευνα αποκάλυψε ότι υλικό που καταγράφεται από αυτά τα γυαλιά –ακόμη και ιδιαίτερα προσωπικές στιγμές– μπορεί να καταλήξει σε ανθρώπους που βρίσκονται στην άλλη άκρη του κόσμου και εργάζονται για την εκπαίδευση των συστημάτων τεχνητής νοημοσύνης. Το γεγονός αυτό προκάλεσε έντονη ανησυχία για την προστασία των προσωπικών δεδομένων και για το κατά πόσο οι χρήστες γνωρίζουν πραγματικά τι συμβαίνει με τις πληροφορίες που παράγουν οι συσκευές τους.

Η αποκάλυψη αυτή δεν αφορά μόνο ένα τεχνολογικό προϊόν. Αγγίζει ένα πολύ βαθύτερο ερώτημα της ψηφιακής εποχής: πόσο ιδιωτική είναι τελικά η ζωή μας όταν οι συσκευές που χρησιμοποιούμε καταγράφουν συνεχώς εικόνα, ήχο και συμπεριφορά;

Τα έξυπνα γυαλιά που καταγράφουν τον κόσμο γύρω μας

Τα έξυπνα γυαλιά της Meta αποτελούν μια νέα γενιά φορητών συσκευών τεχνητής νοημοσύνης. Στην εμφάνιση μοιάζουν με συνηθισμένα γυαλιά ηλίου, όμως ενσωματώνουν μια σειρά από τεχνολογικά στοιχεία:

• μικροσκοπικές κάμερες

• μικρόφωνα

• ηχεία

• σύνδεση με το κινητό τηλέφωνο

• φωνητικό βοηθό τεχνητής νοημοσύνης

Με ένα απλό πάτημα ενός κουμπιού ή με φωνητική εντολή, ο χρήστης μπορεί να τραβήξει φωτογραφίες, να καταγράψει βίντεο ή να ρωτήσει την τεχνητή νοημοσύνη για ό,τι βλέπει γύρω του.

Η τεχνολογία αυτή βασίζεται σε συστήματα computer vision, τα οποία αναλύουν εικόνες και ήχους για να κατανοήσουν το περιβάλλον. Για να λειτουργήσει όμως σωστά ένα τέτοιο σύστημα τεχνητής νοημοσύνης χρειάζεται τεράστιες ποσότητες δεδομένων για εκπαίδευση.

Και εδώ αρχίζει το πραγματικό ζήτημα.

Η αποκάλυψη της έρευνας: Άνθρωποι στην Κένυα βλέπουν τα δεδομένα

Σύμφωνα με δημοσιογραφική έρευνα διεθνών μέσων, μεγάλο μέρος του υλικού που καταγράφεται από τα γυαλιά χρησιμοποιείται για την εκπαίδευση της τεχνητής νοημοσύνης της Meta. Για τον σκοπό αυτό, το υλικό αποστέλλεται σε εργαζόμενους που εργάζονται ως “data annotators” – δηλαδή ανθρώπους που εξετάζουν φωτογραφίες, βίντεο και ήχο και τα επισημαίνουν για να βοηθήσουν την τεχνητή νοημοσύνη να μάθει να αναγνωρίζει αντικείμενα και καταστάσεις.

Πολλοί από αυτούς τους εργαζόμενους βρίσκονται στο Ναϊρόμπι της Κένυας και εργάζονται για εξωτερικούς συνεργάτες της εταιρείας.

Το πιο ανησυχητικό στοιχείο της έρευνας είναι ότι, σύμφωνα με μαρτυρίες εργαζομένων, στο υλικό που εξετάζουν περιλαμβάνονται πολλές φορές:

• προσωπικές στιγμές μέσα σε σπίτια

• άτομα που αλλάζουν ρούχα

• ιδιωτικές συζητήσεις

• οικονομικά στοιχεία όπως τραπεζικές κάρτες

• ιδιαίτερα ευαίσθητες καταστάσεις που καταγράφηκαν κατά λάθος

Ορισμένοι εργαζόμενοι ανέφεραν ότι έχουν δει βίντεο με ανθρώπους σε πολύ προσωπικές στιγμές, γεγονός που δημιουργεί τεράστια ζητήματα προστασίας ιδιωτικότητας.

Γιατί γίνεται αυτή η επεξεργασία δεδομένων

Η πρακτική αυτή δεν είναι μοναδική στη Meta. Πολλές εταιρείες τεχνητής νοημοσύνης χρησιμοποιούν ανθρώπους για την επισημείωση δεδομένων.

Η διαδικασία λειτουργεί ως εξής:

1. Οι συσκευές καταγράφουν εικόνες και ήχο.

2. Τα δεδομένα μεταφέρονται σε διακομιστές για επεξεργασία.

3. Εργαζόμενοι αναλύουν το υλικό και το επισημαίνουν.

4. Η τεχνητή νοημοσύνη εκπαιδεύεται πάνω σε αυτά τα δεδομένα.

Ωστόσο, στην περίπτωση των έξυπνων γυαλιών, η διαδικασία αυτή γίνεται ιδιαίτερα ευαίσθητη επειδή το υλικό προέρχεται από πραγματικές στιγμές της καθημερινής ζωής των χρηστών.

Το πρόβλημα της ανωνυμοποίησης

Η εταιρεία υποστηρίζει ότι εφαρμόζονται μέθοδοι προστασίας της ιδιωτικότητας, όπως:

• θόλωση προσώπων

• αφαίρεση προσωπικών στοιχείων

• φίλτρα προστασίας δεδομένων

Ωστόσο, σύμφωνα με εργαζόμενους που συμμετέχουν στη διαδικασία επεξεργασίας, αυτά τα συστήματα δεν λειτουργούν πάντα σωστά. Σε ορισμένες περιπτώσεις τα πρόσωπα ή άλλα στοιχεία παραμένουν ορατά.

Αυτό σημαίνει ότι είναι πιθανό άγνωστοι εργαζόμενοι να μπορούν να δουν υλικό που περιλαμβάνει αναγνωρίσιμα άτομα ή προσωπικά δεδομένα.

Οι αντιδράσεις και οι νομικές συνέπειες

Η αποκάλυψη της υπόθεσης προκάλεσε έντονες αντιδράσεις από οργανώσεις προστασίας προσωπικών δεδομένων και από ρυθμιστικές αρχές.

Σε ορισμένες χώρες εξετάζεται ήδη:

• αν παραβιάζονται οι κανόνες προστασίας δεδομένων

• αν οι χρήστες ενημερώνονται επαρκώς για το τι συμβαίνει με το υλικό τους

• αν η μεταφορά δεδομένων σε άλλες χώρες είναι νόμιμη

Παράλληλα, έχουν ξεκινήσει και νομικές διαδικασίες από καταναλωτές που υποστηρίζουν ότι παραπλανήθηκαν σχετικά με το πώς χρησιμοποιούνται τα δεδομένα που συλλέγονται από τα γυαλιά.

Η ευρύτερη συζήτηση: τεχνητή νοημοσύνη και ιδιωτικότητα

Η υπόθεση αυτή ανοίγει μια ευρύτερη συζήτηση για το μέλλον της τεχνητής νοημοσύνης και των φορητών συσκευών.

Οι ειδικοί επισημαίνουν ότι οι τεχνολογίες που ενσωματώνουν κάμερες και μικρόφωνα στην καθημερινότητα μπορούν να δημιουργήσουν ένα νέο μοντέλο ψηφιακής επιτήρησης, όπου:

• οι άνθρωποι καταγράφουν συνεχώς το περιβάλλον τους

• οι εταιρείες συλλέγουν τεράστιες ποσότητες δεδομένων

• η ιδιωτική ζωή γίνεται μέρος ενός τεχνολογικού οικοσυστήματος

Η τεχνητή νοημοσύνη χρειάζεται δεδομένα για να εξελιχθεί. Το ερώτημα όμως είναι ποια δεδομένα χρησιμοποιούνται και με ποια συναίνεση.

Η τεχνολογία που βλέπει περισσότερα από όσα νομίζουμε

Η ιστορία των έξυπνων γυαλιών της Meta αποτελεί ένα χαρακτηριστικό παράδειγμα της μεγάλης αντίφασης της σύγχρονης τεχνολογίας. Από τη μία πλευρά, η καινοτομία υπόσχεται νέες δυνατότητες: πιο εύκολη επικοινωνία, πιο έξυπνες συσκευές, καλύτερη κατανόηση του κόσμου μέσω της τεχνητής νοημοσύνης. Από την άλλη όμως, κάθε τεχνολογικό βήμα προς τα εμπρός δημιουργεί και νέες προκλήσεις για την ιδιωτικότητα, την ασφάλεια και τα ανθρώπινα δικαιώματα.

Οι αποκαλύψεις ότι υλικό από έξυπνα γυαλιά μπορεί να εξετάζεται από ανθρώπους χιλιάδες χιλιόμετρα μακριά δείχνουν πόσο περίπλοκο έχει γίνει το ψηφιακό οικοσύστημα στο οποίο ζούμε. Η τεχνητή νοημοσύνη δεν είναι μόνο αλγόριθμοι και μηχανές· πίσω από αυτήν υπάρχει μια ολόκληρη παγκόσμια αλυσίδα ανθρώπων που επεξεργάζονται δεδομένα για να βελτιώσουν τα συστήματα.

Το πραγματικό δίλημμα για την κοινωνία δεν είναι αν θα χρησιμοποιούμε τέτοιες τεχνολογίες – αυτό είναι σχεδόν βέβαιο ότι θα συμβεί. Το κρίσιμο ερώτημα είναι πώς θα θέσουμε όρια ώστε η τεχνολογία να υπηρετεί τον άνθρωπο χωρίς να μετατρέπει την καθημερινή ζωή σε μια ατελείωτη πηγή δεδομένων για εταιρείες και αλγορίθμους.

Η υπόθεση αυτή λειτουργεί ως μια ισχυρή υπενθύμιση: στην εποχή της τεχνητής νοημοσύνης, η μεγαλύτερη πρόκληση ίσως δεν είναι η τεχνολογία που δημιουργούμε, αλλά το πώς επιλέγουμε να τη χρησιμοποιούμε.