L’intelligenza artificiale e l’evoluzione dei sistemi di sorveglianza

Jun 21, 2023

In questa intervista a Help Net Security, Gerwin van der Lugt, CTO di Oddity, parla del futuro della sorveglianza e dell'influenza dell'intelligenza artificiale. Approfondisce inoltre come le organizzazioni possono impedire che i loro sistemi perpetuino pregiudizi o violino i diritti individuali.

Oddity è un'azienda relativamente giovane e fin dall'inizio siamo stati in grado di tenere conto della tutela della privacy e delle pratiche etiche del software. Pratichiamo i principi della “Privacy by Design”. Ad esempio, il nostro software non memorizza affatto i dati video nelle impostazioni predefinite, poiché i sistemi di gestione video esistenti dispongono già di tale funzionalità.

Inoltre, non utilizziamo i dati dei clienti per scopi di formazione. Nella maggior parte dei casi, le nostre installazioni non sono connesse a Internet e necessitiamo di un accesso fisico per la manutenzione e la risoluzione dei problemi. Crediamo che nonostante questi inconvenienti ne valga comunque la pena. Soprattutto quando si tratta di aree sensibili come i centri di detenzione, dove le persone sorvegliate hanno poco controllo sulla propria privacy. In definitiva, il nostro software ha lo scopo di aiutare e proteggere le persone e il nostro obiettivo è farlo con il minor impatto possibile sulla privacy.

Il successo delle implementazioni di videosorveglianza richiede una delicata interazione tra telecamere di sicurezza, sensori e altro hardware, il sistema di gestione video e la rete stessa. La sfida più grande è costruire un’infrastruttura di rete in grado di supportare i requisiti di larghezza di banda sempre crescenti delle moderne telecamere.

Le installazioni di sorveglianza tendono a crescere nel tempo e, con l'aumento del numero di telecamere, viene raggiunto il limite di larghezza di banda della rete. La sostituzione di una fotocamera difettosa è un lavoro di manutenzione semplice poiché interessa solo una singola fotocamera. Sostituire l'infrastruttura di rete per raddoppiare o triplicare la quantità di larghezza di banda è molto più difficile e richiede il controllo e la sostituzione dell'hardware di rete durante l'installazione.

Spesso vediamo gli integratori che cercano di aggirare questo problema diminuendo le impostazioni del frame rate o del bitrate delle telecamere per ridurre la quantità di larghezza di banda di cui hanno bisogno. Anche se all’inizio sembra una soluzione praticabile, per la sorveglianza basata sull’intelligenza artificiale può causare problemi. I modelli di machine learning sono sensibili a piccole differenze visive che l’occhio umano difficilmente riesce a rilevare. Soprattutto se l'algoritmo è stato addestrato su input di alta qualità, potrebbe avere problemi con flussi video di bassa qualità.

Pertanto, quando si costruisce da zero un'infrastruttura di rete di sorveglianza, è una buona idea pianificare in anticipo e costruirla con ampio spazio per la crescita della capacità di larghezza di banda. Ciò consentirà di risparmiare sui costi a lungo termine e garantirà che l’installazione sia pronta per il futuro basato sull’intelligenza artificiale!

In termini di hardware fisico, in linea con la mia raccomandazione di cui sopra, riservare una larghezza di banda sufficiente è un fattore cruciale.

Ancora più importante, il futuro della sorveglianza è l’intelligenza artificiale e le organizzazioni dovrebbero progettare il proprio sistema di sorveglianza tenendo presente l’intelligenza artificiale. Laddove in un tipico centro di sorveglianza con telecamera le persone potrebbero ancora guardare le pareti degli schermi a matrice con feed video, queste potrebbero presto essere avvisate in modo proattivo quando si verifica un incidente. Con lo stesso numero di dipendenti saranno molto più efficaci.

Il primo passo è determinare i tipi di incidenti che ti interessano maggiormente. Esistono soluzioni AI per molti tipi di incidenti. È importante considerare l’intelligenza artificiale fin dall’inizio e coinvolgere i fornitori di intelligenza artificiale il prima possibile. Nel 2023, l’intelligenza artificiale non è ancora pronta per sostituire completamente l’uomo. Le organizzazioni farebbero bene a impostare un’implementazione ibrida con persone coinvolte nel ciclo, pur continuando a monitorare e colmare le lacune.

I modelli di intelligenza artificiale sono influenzati dai set di dati utilizzati per addestrarli. È fondamentale che i fornitori di intelligenza artificiale ottimizzino e bilancino attentamente i loro set di dati per evitare che si verifichino errori. Il bilanciamento dei set di dati è un processo manuale che richiede di assicurarsi che gli esseri umani visibili nei set di dati siano una buona rappresentazione della realtà e non abbiano pregiudizi verso determinati tratti umani. Nel nostro caso, utilizziamo diversi gruppi di attori, provenienti da tutto il mondo, per inscenare la violenza nei nostri set di dati di formazione per garantire che siano equilibrati. Inoltre, testare regolarmente tali pregiudizi può fare molto.