L'importanza dell'intelligenza artificiale (IA) nel futuro della sorveglianza è stata sottolineata da Bruce Schneier in un editoriale pubblicato su Slate. L'IA potrebbe facilitare un nuovo livello di spionaggio di massa, consentendo a enti governativi, e aziende, di analizzare e sintetizzare enormi quantità di dati conversazionali in modo automatizzato.
Questo processo, che attualmente richiede manodopera umana, potrebbe diventare più accessibile grazie alla capacità crescente dei sistemi di IA di riassumere conversazioni lunghe e organizzare dati rilevanti.
Schneier distingue tra spionaggio e sorveglianza, evidenziando come l'IA possa ampliare il raggio di monitoraggio. Mentre la sorveglianza si concentra su dove sei stato e con chi hai parlato, lo spionaggio offre una panoramica completa delle conversazioni e del loro contenuto.
L'espansione della sorveglianza non si limiterebbe ai dispositivi digitali. Schneier evidenzia come assistenti vocali quali Siri, Alexa e Google Assistant siano sempre in ascolto, anche se le conversazioni non vengono ancora salvate.
L'uso dell'IA per assistere e analizzare i dati degli utenti da parte di giganti come Google e Microsoft, sebbene promettente in termini di assistenza, potrebbe portare a intrusioni nella privacy e a una manipolazione dell'esperienza pubblicitaria.
Lo spionaggio di massa alimentato dall'IA potrebbe diventare uno strumento governativo diffuso, mettendo a rischio giornalisti e attivisti dei diritti umani. La capacità dell'IA di analizzare l'intento e il contesto delle interazioni apre la strada a un livello di controllo e comprensione delle azioni umane senza precedenti, influenzando la privacy personale e le strategie aziendali e governative.
Schneier solleva un allarme sulla possibile modificazione del comportamento delle persone a causa della consapevolezza di essere costantemente sorvegliate, con conseguenti restrizioni nell'espressione e nell'autoregolazione per adeguarsi alle norme percepite.
Per proteggersi da questo tipo di spionaggio, Schneier sottolinea la necessità di regolamentazioni governative, citando le proposte del Presidente Biden per una Carta dei Diritti legati all'IA e il progetto di legge dell'Unione Europea sull'IA come possibili strumenti.
Tuttavia, Schneier esprime scetticismo sulla possibilità di limitare efficacemente la sorveglianza di massa e suggerisce la necessità di un'azione più decisa per contrastare questa minaccia emergente.