el | fr | en | +
Accéder au menu

ΟΙΚΟΝΟΜΙΑ

Start-up υπεράνω του νόμου

Τα «δοκιμαστήρια κανονιστικών ρυθμίσεων», σχεδιασμένα να χαλαρώνουν το νομοθετικό πλαίσιο για να ευνοείται η καινοτομία, προσφέρουν στις τεχνολογικές επιχειρήσεις συνθήκες που παρεκκλίνουν από το κοινό δίκαιο, κυρίως όσον αφορά την προστασία της ιδιωτικής ζωής. Εντάσσονται σε μια λογική απορρύθμισης που αναδιαμορφώνει το κράτος προς όφελος των παικτών της αγοράς και σε βάρος των δημόσιων ελευθεριών.

Κι αν οι νεαροί επιχειρηματίες του τεχνολογικού τομέα μπορούσαν να απαλλαγούν από τους κανόνες του δικαίου προκειμένου να δοκιμάσουν πειραματικά τα προϊόντα τους χωρίς να υπάρχει ο κίνδυνος νομικών επιπλοκών; Σε αυτό ακριβώς συνίστανται τα «δοκιμαστήρια κανονιστικών ρυθμίσεων» (regulatory sandboxes), μια νέα τάση στο πεδίο της νομοθετικής ρύθμισης της οικονομικής δραστηριότητας. Αυτοί οι μηχανισμοί αναφέρονται σε ένα ελεγχόμενο «συνεργατικό περιβάλλον», το οποίο επιτρέπει να δοκιμάζονται «καινοτόμες τεχνολογίες και πρακτικές» απέναντι στους κανόνες που θα κληθούν να τις πλαισιώσουν, σύμφωνα με τους ορισμούς της Datasphere Initiative, ενός ιδρύματος χρηματοδοτούμενου κυρίως από την Google και τη Microsoft, το οποίο προωθεί την ιδέα σε διεθνές επίπεδο (1).

Στην πράξη, το ζητούμενο από το κράτος και τους δημόσιους φορείς που ενεργούν στο όνομά του είναι να στηρίξουν τις επιχειρήσεις αναστέλλοντας ορισμένες νομοθετικές απαιτήσεις, προκειμένου να «επιταχυνθεί» η διάθεση της τάδε ή της δείνα τεχνολογίας στην αγορά. Τα αρχικά πειράματα με δοκιμαστήρια κανονιστικών ρυθμίσεων έγιναν στο Ηνωμένο Βασίλειο και την Ελβετία σε σχέση με τις νέες χρηματοοικονομικές τεχνολογίες (fintech) και έχουν κερδίσει σε δημοφιλία μετά το 2018, τη χρονιά που σημαδεύτηκε από την ένταξη της τεχνητής νοημοσύνης (ΤΝ, AI) στις στρατηγικές προτεραιότητες των δημόσιων αρχών. Έκτοτε, τα παραδείγματα εφαρμογής τους πολλαπλασιάζονται ανά τον κόσμο, κυρίως στους τομείς της υγείας και των μεταφορών, με χαρακτηριστική περίπτωση την ομόσπονδη πολιτεία του Ρίο ντε Τζανέιρο που δοκιμάζει σε πειραματικό επίπεδο από το καλοκαίρι του 2023 την παράδοση αναψυκτικών μέσω δρόνων.

Δεδομένης της κηδεμονίας που ασκεί η βιομηχανία πάνω στις πολιτικές για την έρευνα και στην επιλογή των κρατικών αναθέσεων, τα δοκιμαστήρια κανονιστικών ρυθμίσεων αποτελούν χαρακτηριστικό παράδειγμα της αναδιαμόρφωσης της δημόσιας πολιτικής προς όφελος του ιδιωτικού τομέα και της θεοποιημένης καινοτομίας. Σύμφωνα με τους υποστηρικτές τους, αυτοί οι μηχανισμοί ενισχύουν τη νομική ασφάλεια των επιχειρήσεων που αναπτύσσουν «καινοτομίες ρήξης». Αποκαλύπτουν επίσης μια μορφή δημόσιας υποστήριξης που μπορεί εύκολα να μετατραπεί σε έγκριση καταλληλότητας και, συνεπώς, σε ανταγωνιστικό πλεονέκτημα. Από την πλευρά του, το κράτος εδραιώνει τον ρόλο του ως εταίρος στις επιχειρηματικές στρατηγικές και αναπτύσσει ένα κανονιστικό πλαίσιο βασισμένο στην αγορά (market-based), εξασφαλίζοντας ταυτόχρονα τα μέσα για την εκ μέρους του διαμόρφωση αυτής ακριβώς της αγοράς. Έτσι, αθόρυβα, οι δημόσιες αρχές αναδιαμορφώνουν τις παρεμβάσεις τους ώστε να ευνοήσουν τη «διατάραξη» (disruption) που τόσο πολύ λατρεύουν οι υπέρμαχοι του «έθνους των start-up» (start-up nation) (2).

Λύνονται τα χέρια των κρατικών υπηρεσιών

Ωφελούνται όμως οι πολίτες από αυτήν τη λογική «αμοιβαίου οφέλους»; Στην Ευρώπη, όπου οι κανόνες προστασίας των προσωπικών δεδομένων που υιοθετήθηκαν το 2018 δέχονται πυκνά πυρά για τις υποτίθεται καταστροφικές επιπτώσεις τους πάνω στην καινοτομία, τα δοκιμαστήρια κανονιστικών ρυθμίσεων πολλαπλασιάζονται στον τομέα της επιτήρησης των πολιτών. Χαρακτηριστική είναι, για παράδειγμα, η περίπτωση της αλγοριθμικής βιντεοεπιτήρησης –όταν η Τεχνητή Νοημοσύνη διασυνδέεται με τις κάμερες στον δρόμο, ώστε να αναγνωρίζονται άτομα και να σημαίνει αυτόματα συναγερμός σε περίπτωση ανίχνευσης ύποπτων γεγονότων (3). «Η Γαλλία παρουσιάζει σημαντική υστέρηση», εκφράζει την αποδοκιμασία του ο Φρανσουά Μπρεμόν, από το Εθνικό Ινστιτούτο Έρευνας στις Επιστήμες και στις Τεχνολογίες του Ψηφιακού Τομέα (Inria, με έδρα την τεχνόπολη Σοφία-Αντίπολις): εξαιτίας του Γενικού Κανονισμού για την Προστασία των Δεδομένων (GDPR), «είναι σχεδόν αδύνατον να συλλέξεις δεδομένα» (4).

Ήδη από το 2019, σε μια έκθεση αφιερωμένη στην αναγνώριση προσώπου, μια ομάδα δικηγόρων, ερευνητών και βιομηχάνων, με αντιπρόεδρο τη Φλοράνς Φουρέ, διευθύντρια του νομικού τμήματος της γαλλικής Εθνικής Επιτροπής για την Πληροφορική και τις Ελευθερίες (CNIL), κατέληγε στην ίδια θέση και κατηγορούσε το «περιοριστικό νομοθετικό πλαίσιο», καθώς αυτό εμποδίζει την ανάπτυξη αλγορίθμων οι οποίοι θα είναι σε θέση να «εκπαιδευθούν χρησιμοποιώντας βάσεις δεδομένων που περιέχουν πολύ μεγάλο αριθμό εικόνων από ποικίλα πρόσωπα με διαφορετική καταγωγή» (5).

Έτσι, τα δοκιμαστήρια κανονιστικών ρυθμίσεων εμφανίζονται ως μια λύση για την άρση αυτών των «εμποδίων», με κίνδυνο η λογική του πειραματισμού να μετατραπεί σε ακλόνητο στοιχείο της νομικής πραγματικότητας. Ήδη το 2018, μία από τις πρώτες γαλλικές εκθέσεις σχετικά με τις δημόσιες πολιτικές υποστήριξης της Τεχνητής Νοημοσύνης, προϊόν μιας επιτροπής με πρόεδρο τον μαθηματικό Σεντρίκ Βιλανί, τότε μακρονικό βουλευτή, προσέγγιζε το ειδικότερο ζήτημα της «Τεχνητής Νοημοσύνης στην υπηρεσία της άμυνας και της ασφάλειας» απευθύνοντας έκκληση για «πειραματισμούς» και «παρεκκλίσεις από τους υφιστάμενους κανόνες, ακολουθώντας τη λογική των δοκιμαστηρίων» (6). Στους τομείς υψηλής στρατηγικής σημασίας, ο μηχανισμός αυτός παρουσιάζει το επιπλέον πλεονέκτημα ότι λύνει τα χέρια των κρατικών υπηρεσιών.

Σε συνέχεια της έκθεσης Βιλανί, το γαλλικό Κοινοβούλιο θα επιτρέψει στον στρατό, και κατόπιν στις υπηρεσίες πληροφοριών, να παρεκκλίνουν από τους νόμους για να συσσωρεύσουν στοιχεία προκειμένου να εκπαιδεύσουν καλύτερα τις Τεχνητές Νοημοσύνες τους. Η ίδια λογική διέπει, το 2023, τον πειραματισμό της αλγοριθμικής βιντεοεπιτήρησης που προβλέπεται από τον νόμο για τους Ολυμπιακούς Αγώνες, με τους διαγωνισμούς για τις προμήθειες του Δημοσίου να δίνουν ελευθερία κινήσεων σε νεοφυείς επιχειρήσεις όπως η Wintics ή στην εταιρεία χαρτοφυλακίου Chaps Vision προκειμένου να δοκιμάσουν τα προϊόντα τους σε «πραγματικές συνθήκες», σε συνεργασία με τις δυνάμεις επιβολής της τάξης. Ο ευρωπαϊκός κανονισμός για την Τεχνητή Νοημοσύνη που υιοθετήθηκε την άνοιξη του 2024 αποτελεί το επιστέγασμα αυτής της προσέγγισης, επιβάλλοντας σε όλα τα κράτη μέλη, διά του άρθρου 57, να πειραματιστούν με αυτούς τους μηχανισμούς, θέτοντάς τους υπό την αιγίδα μιας ρυθμιστικής αρχής.

Η πρόεδρος της CNIL, η Σύμβουλος Επικρατείας Μαρί-Λορ Ντενί, βλέπει σε αυτή τη διάταξη έναν τρόπο να ενισχυθεί ο ρόλος του θεσμού του οποίου ηγείται, επιτρέποντας ταυτόχρονα «τη συμφιλίωση της ΤΝ και της καινοτομίας με την προστασία των δικαιωμάτων» (7). Όμως, οι ιδιαίτεροι κανονισμοί που εγκρίνονται με σκοπό τον πειραματισμό δεν απειλούν άραγε να παραγκωνίσουν τη γενική ισχύ του νόμου και τις εγγυήσεις που προσφέρει σε σχέση με τις ατομικές ελευθερίες; Αντί για στοχευμένη παρέμβαση υπό τη μορφή μιας προαπαιτούμενης άδειας και μιας σειράς ελέγχων και κυρώσεων, τα δοκιμαστήρια κανονιστικών ρυθμίσεων μαρτυρούν τις νεοφιλελεύθερες προτιμήσεις σχετικά με τις ρυθμίσεις: η διαδικασία αυτή, την οποία οι ιθύνοντες θεωρούν πιο ρευστή και πιο προσαρμοστική, προκύπτει από μια «διαρκή υποστήριξη» των υπό ρύθμιση οντοτήτων από τους δημόσιους φορείς που διαθέτουν μια «άμεση και διάχυτη ικανότητα επιρροής πάνω στις στάσεις και τις πράξεις», εξηγεί η καθηγήτρια δικαίου Πασκάλ Ιντού. Από την πλευρά τους, οι ερευνητές Μπενζαμέν Λεμουάν και Αντουάν Βοσέ βλέπουν μια «κυβερνητική αντικουλτούρα» που «αμφισβητεί την επίσημη κρατική κουλτούρα νομοθέτησης, η οποία εκλαμβάνεται ως τροχοπέδη, και αποσκοπεί στην ανατροπή των γνώσεων του δημόσιου και του ποινικού δικαίου» (8).

Στον τομέα της ψηφιακής επιτήρησης, το ζητούμενο είναι η ολοκλήρωση μιας λογικής που σε μεγάλο βαθμό έχει επιτευχθεί με το πέρασμα από το παλαιότερο μοντέλο της δημιουργίας ρυθμιστικών πλαισίων από τη CNIL, κατά τη δεκαετία του 1980, σε εκείνο της συμμόρφωσης (compliance), κατά τη δεκαετία του 2010. Έτσι, η CNIL εκχωρεί τον έλεγχο της νομιμότητας για χάρη της υποστήριξης των παραγόντων της αγοράς –ο «χωροφύλακας των προσωπικών δεδομένων» πλέον θεωρεί ότι είναι ένας οργανισμός προώθησης της καινοτομίας.

Μπορούμε να κάνουμε έναν παραλληλισμό ανάμεσα σε αυτούς τους κατά παρέκκλιση νομικούς μηχανισμούς που θεσπίζονται με το πρόσχημα της τεχνολογικής καινοτομίας και σε εκείνους που συνοδεύουν την κήρυξη κατάστασης έκτακτης ανάγκης και, σε περίπτωση κρίσης, δικαιολογούν την υπερτροφία των κατασταλτικών εξουσιών. Με τα δοκιμαστήρια κανονιστικών ρυθμίσεων, η αναγκαιότητα δεν προκύπτει άμεσα από ένα καθεστώς έκτακτης ανάγκης που θα δικαιολογούσε αστυνομικές ενέργειες απαλλαγμένες από «τα δεσμά των νομικών διαδικασιών». Απορρέει μάλλον από την προτεραιότητα που δίνεται στη διάθεση στην αγορά αυτών των τεχνολογικών καινοτομιών, τις οποίες κανένα νομικό εμπόδιο δεν θα πρέπει να καθυστερήσει ή να ενοχλήσει «άνευ λόγου», μέσα σε ένα πλαίσιο άκρως οξυμένου οικονομικού ανταγωνισμού. Όμως, είτε πρόκειται για τα δοκιμαστήρια κανονιστικών ρυθμίσεων είτε για την επέκταση των κυβερνητικών εξουσιών για την αντιμετώπιση μιας κατάστασης έκτακτης ανάγκης, οι θεμελιώδεις δημόσιες ελευθερίες θυσιάζονται, καθώς ο επείγων χαρακτήρας των ζητημάτων τεχνολογίας της ασφάλειας απαξιώνει σταδιακά το παλαιότερο φιλελεύθερο δίκαιο.

Η σημερινή οπισθοχώρηση του «γενικού και απρόσωπου νόμου», αυτού του πυλώνα του πολιτικού φιλελευθερισμού μετά τον 18ο αιώνα, δεν είναι πρωτοφανής. Στη Γερμανία της δεκαετίας του 1930, οι μαρξιστές νομικοί από τον κύκλο της Σχολής της Φρανκφούρτης κατήγγελλαν ήδη από εκείνη την εποχή τη νομική θεωρία που πρότεινε ο πολιτικός αντίπαλός τους Καρλ Σμιτ («κυρίαρχος είναι όποιος αποφασίζει για το καθεστώς έκτακτης ανάγκης») και εφάρμοζαν οι Γερμανοί συντηρητικοί πριν καν ανέλθουν οι ναζί στην εξουσία (9). Ο Φραντς φον Πάπεν, καγκελάριος το 1932, δήλωνε τότε υπέρμαχος ενός κράτους που θα εγγυούνταν τα συμφέροντα της μεγάλης βιομηχανίας, διατεθειμένο να την προστατέψει από τις δημοκρατικές διεκδικήσεις, καταφεύγοντας στην καταστολή και στη φίμωση των ελευθεριών. Κατά τη γνώμη του, έπρεπε να γίνουν τα πάντα για να αποφευχθεί η «περαιτέρω παρεμπόδιση της κινητικότητας της οικονομίας από νέα τεχνητά διανοητικά οικοδομήματα» και, αντιθέτως, να «χαλαρώσουν τα δεσμά» κάτω από τα οποία ασφυκτιά η αγορά Αναφέρεται από τον (10).

Να τηρηθεί η υπόσχεση της ισότιμης ελευθερίας

Εκείνη την εποχή, ο Καρλ Σμιτ πρόσφερε τη θεωρητική και πρακτική δικαιολόγηση αυτών των πολιτικών μέσα από την κριτική του στον «ορθολογισμό» και στον «αφηρημένο χαρακτήρα» του νόμου, αντιτάσσοντάς τους «μέτρα και διαταγές που εκδίδονται ανάλογα με τις ανάγκες» (11). Δηλαδή, νομοθετικές διατάξεις προσαρμοσμένες σε ιδιαίτερες καταστάσεις, οι οποίες σε ορισμένες περιπτώσεις θα ανατίθενται στη σφαίρα της «οικονομικής αυτο-διαχείρισης» και θα λαμβάνονται υπέρ και για λογαριασμό των ολιγοπωλιακών μεγάλων επιχειρήσεων που το κράτος αναγνωρίζει ως υπηρέτες του «δημόσιου συμφέροντος». Το ζητούμενο ήταν να ξεθεμελιωθεί η Δημοκρατία της Βαϊμάρης και να τεθούν οι βάσεις για μια νομική τάξη πραγμάτων την οποία θα υιοθετούσαν οι συντηρητικοί και στη συνέχεια οι ναζί. Διαφωνούντες νομικοί όπως ο Φραντς Νόυμαν και ο Όττο Κιρχάιμερ κατάγγελλαν τότε αυτήν την αυταρχική εκτροπή. Υπενθύμιζαν ότι το κράτος δικαίου, με τις αφηρημένες και γενικές αρχές του, με την ιεράρχηση των κανόνων και των αξιών που συνδέονται με αυτό, παραμένει η αναγκαία –αν και ανεπαρκής– συνθήκη για να τηρηθεί η υπόσχεση της ισότιμης ελευθερίας, καθώς και εκείνη η κλασικά φιλελεύθερη προϋπόθεση για την ύπαρξη ενός δικαίου που θα είναι σε θέση να τιθασεύσει τη βία του κράτους.

Όσο κι αν η ιστορία δεν επαναλαμβάνεται ποτέ, δεν παύει να ισχύει το γεγονός ότι και η εποχή μας έχει σημαδευτεί από την άνθηση ενός δικαίου ολοένα πιο υποδουλωμένου στα συμφέροντα των μεγάλων οικονομικών ομίλων, καθώς και από την έξαρση του κρατικού αυταρχισμού.

Félix Tréguer

Ερευνητής και μέλος της οργάνωσης La Quadrature du Net
Μετάφραση: Βασίλης Παπακριβόπουλος

(1«5 min intro to sandboxes», www.thedatasphere.org.

(2Σ.τ.Μ. Φιλοδοξία του Μακρόν, και προεκλογικό του σύνθημα, είναι να μετατραπεί η Γαλλία σε «έθνος των νεοφυών επιχειρήσεων».

(3Βλ. Thomas Jusquiame, Η Τεχνητή Νοημοσύνη στην υπηρεσία της βιντεοεπιτήρησης, Le Monde diplomatique – ελληνική έκδοση, Ιούλιος 2023.

(4Αναφέρεται από τον Thomas Allard, «Surveillance. Quels systèmes pour demain?», Science & Vie, Montrouge, Σεπτέμβριος 2023.

(5«Reconnaissance faciale, entre exigence de contrôle et respect de la vie privée. Quels outils, quels enjeux, quelles garanties?», Εθνικό Ινστιτούτο Ανώτατων Σπουδών στην Ασφάλεια και στη Δικαιοσύνη (INHESJ), 30e session nationale «Sécurité et justice» 2018-2019, διαθέσιμο στο www.laquadrature.net.

(6Cédric Villani (επιμ.), «Donner un sens à l’intelligence artificielle. Pour une stratégie nationale et européenne», έκθεση της κοινοβουλευτικής αποστολής, Παρίσι, Μάρτιος 2018.

(7Alexandre Piquard, «La protection des données personnelles ne doit pas être la variable d’ajustement de l’IA», Le Monde, 24 Νοεμβρίου 2024.

(8Pascale Idoux, «Le temps de la régulation», στο Le Temps en droit administratif, Dalloz, Παρίσι, 2022. Benjamin Lemoine και Antoine Vauchez, «Le négoce de la souveraineté juridique», Actes de la recherche en sciences sociales, τ. 251, Παρίσι, 2024.

(9Franz L. Neumann «The change in the function of law in modern society», στο William E. Scheuerman (επιμ.), The Rule of Law Under Siege. Selected Essays of Franz L. Neumann and Otto Kirchheimer, University of California Press, Μπέρκλεϊ, 1996.

(10Hermann Heller, «Libéralisme autoritaire?», στο Grégoire Chamayou (επιμ.), Du libéralisme autoritaire, La Découverte, Παρίσι, 2020.

(11Carl Schmitt, Légalité et légitimité, Presses de l’université de Montréal – Éditions de la Maison des sciences de l’homme, Παρίσι, 2016 (1η έκδοση: 1936).

Μοιραστείτε το άρθρο