La storia inquietante del riconoscimento facciale usato nelle sale da concerto | Rolling Stone Italia
Il Grande Fratello

La storia inquietante del riconoscimento facciale usato nelle sale da concerto

Succede al Madison Square Garden di New York e in altri locali: le persone non gradite vengono riconosciute da un software e accompagnate alla porta. È il 2022, ma sembra '1984'

La storia inquietante del riconoscimento facciale usato nelle sale da concerto

Foto: Smith Collection/Gado/Getty Images

Barbara Hart stava festeggiando l’anniversario di matrimonio, lo scorso 22 ottobre, al concerto di Brandi Carlile al Madison Square Garden quando due addetti alla sicurezza hanno avvicinato lei e suo marito, hanno chiesto loro di alzarsi dai loro posti e di seguirli. All’inizio, spiega Hart, era elettrizzata pensando che si trattasse di una qualche sorpresa che l’attendeva prima dell’inizio del concerto. L’eccitazione s’è trasformata in inquietudine quando gli uomini della sicurezza le hanno detto che era stata identificata da un sistema di riconoscimento facciale e che sarebbe stata accompagnata alla porta.

Hart non aveva la minima idea del perché. Le è stato detto che veniva scortata fuori dal locale in quanto avvocato dello studio legale Grant & Eisenhofer, che è parte coinvolta in una causa contro la società madre del Madison Square Garden.

Il proprietario della Madison Square Garden Entertainment è James Dolan ed è noto per l’abitudine di cacciare via i fan che lo irritano. Ha confermato a Rolling Stone di avere adottato una policy che impedisce a chiunque sia coinvolto in cause contro l’azienda l’ingresso al Madison Square Garden e agli altri locali della società, la Radio City Music Hall, il Beacon Theatre e il Chicago Theatre. La società usa il riconoscimento facciale almeno al 2018, come ha spiegato il New York Times; chiunque entri nell’edificio è soggetto a scansione, una pratica che ora viene usata anche per cacciare le parti avverse nelle cause legali.

«È una ritorsione bella e buona da parte di gente potente, questa cosa dovrebbe preoccuparci», dice Hart, che ha parlato dell’incidente durante una deposizione giurata il mese scorso, come riportato da Reuters. Hart s’è rifiutata di mostrare i documenti alla security del Garden, ma è stata comunque identificata. I tipi della sicurezza hanno fatto accenno a una sua foto sul sito di Grant & Eisenhofer, il che le ha fatto pensare al riconoscimento facciale. «Un’esperienza da brividi, un abuso tipo Elon Musk che caccia la gente da Twitter solo perché lo può fare».

Hart non è l’unico avvocato identificato col riconoscimento facciale ed espulso dall’arena. Pochi giorni fa Kelly Conlon, un’associata dello studio legale Davis, Saperstein & Solomon, ha detto a NBC 4 di New York d’essere stata segnalata dal software di riconoscimento facciale e accompagnata fuori da uno show delle Radio City Rockettes alla Radio City Music Hall, mentre la figlia e le sue amiche sono potute restare.

A quanto pare il Madison Square Garden ha bandito tutti gli avvocati di certi studi, indipendentemente dal ruolo di queste persone (o dalla loro totale estraneità) nelle cause. Sia Hart che Colon dicono di non essere minimamente coinvolte nei casi gestiti dai rispettivi studi contro il Garden. La messa al bando ha portato a una causa contro il Madison Square Garden intentata da dozzine di avvocati e dai loro studi. Il giudice ha deliberato che il locale può revocare o rifiutare di vendere biglietti agli studi, ma non può impedire l’ingresso alle persone che arrivano con un biglietto valido. Sia l’accusa che la difesa ha fatto appello.

In una dichiarazione rilasciata a Rolling Stone, il Madison Square Garden ha ribadito la propria posizione dicendo che gli avvocati saranno riammessi nel locale alla fine dei procedimenti legali. «Siamo consapevoli che per alcuni sia spiacevole, ma non possiamo ignorare che le cause in corso creano un’atmosfera intrinsecamente conflittuale».

In quanto all’uso del riconoscimento facciale per mettere in atto la policy, l’azienda ha detto che si tratta di uno strumento importante per la sicurezza. «I nostri locali sono noti in tutto il mondo, alcuni si trovano in luoghi di grande passaggio, nel cuore di New York», ha detto un portavoce. «Abbiamo sempre detto chiaramente ai nostri ospiti e al pubblico che il riconoscimento facciale è uno degli strumenti che ci consentono di offrire un ambiente sicuro e protetto. Continueremo a usarlo per evitare l’ingresso di individui che sono stati banditi dai nostri spazi».

Hart non è convinta. «È un comportamento intimidatorio facilitato dall’uso della tecnologia», dice. «È potere senza alcun controllo. È sconcertante. Dove si fermerà Dolan? Lo decide lui?».

L’argomento è particolarmente caldo giacché lo scanning facciale, agli eventi live, si sta facendo sempre più sofisticato. Da una parte c’è chi sostiene che questa tecnologia è importante per la sicurezza di artisti e fan. Taylor Swift, per esempio, l’ha usata nel tour del 2018 per tenere lontani gli stalker. Le questioni etiche, però, sono spinose. L’organizzazione Fight for the Future (che ha lavorato con artisti come Tom Morello e Kathleen Hanna per protestare contro l’utilizzo crescente di tecnologia biometrica ai concerti) ha criticato vigorosamente questa strategia usata in spazi come il Red Rocks Amphitheater di Denver, appellandosi alla protezione della privacy e alla possibilità di abusi della tecnologia. Evan Greer, direttrice di Fight for the Future, dice che la pratica del Madison Square Garden di espellere gli avvocati evidenzia ulteriormente queste problematiche.

«È l’esempio perfetto di come questi strumenti possono essere usati in modi preoccupanti», spiega. «Per certi versi, è un caso innocuo: Conlon non è stata arrestata, ma stiamo comunque parlando di una corporation che per un motivo futile ha utilizzato una tecnologia di sorveglianza altamente intrusiva per lasciar fuori una madre da un concerto, mentre sua figlia è entrata».

Secondo Greer, le implicazioni vanno ben oltre i battibecchi per decidere chi tra due avvocati potrà assistere all’esibizione di Brandi Carlile e potrebbero sconfinare nella discriminazione. Il riconoscimento facciale può essere usato per le retate dell’Immigration and Customs Enforcement e c’è la possbilità concreta che le persone di colore vengano identificate in modo erroneo. Greer e Fight for the Future vogliono la messa al bando di ogni tecnologia biometrica.

«Questo caso prova che non si usa il riconoscimento per motivi di sicurezza, ma per cacciare qualcuno a causa di un contenzioso», dice Greer. «Esistono altre misure di sicurezza. I metal detector funzionano meglio del riconoscimento facciale. I legislatori devono agire. Finché le aziende saranno autorizzate a fare cose del genere, saranno incentivate a usare sempre di più queste tecniche di sorveglianza».

Tradotto da Rolling Stone US.