California, San Francisco, febbraio 2021, uno strano effetto domino, storia di un padre, figlio piccolo, nota insolito gonfiore sul corpicino, ma andare dal medico è un problema, Covid, ennesima ondata, distanziamento sociale, non possiamo vederci di persona, meno male che c'è la telemedicina, oddio forse c'è la telemedicina, avrei giurato di averla messa qui e ora non me la ritrovo, la riformulo, ho letto su internet che c'è, non sono poi così sicuro che ci sia, pero' ammettiamo per un attimo che ci sia perchè altrimenti entriamo in un loop di paranoia, e adesso c'è il padre che contatta il medico, padre preoccupato per quel gonfiore del bimbo, facciamo un consulto in videoconferenza, non si preoccupi, le chiedo giusto la cortesia di inviare una foto del problema, in modo che io possa rendermi conto e fare la diagnosi, così il padre fa la foto col suo smartphone, invia la foto al medico, fanno il consulto a distanza, il medico da' il responso, la polizia proporrà la diagnosi, potremmo farti arrestare, come sarebbe a «non capisco per quale motivo», lo stai già immaginando, andiamo per ordine, medico prescrive antibiotici, gonfiore scomparso, tutti felici, tutti contenuti, qualche tempo dopo, quella foto del bambino finisce sul cloud, non se lo aspettava, del resto è un servizio automatico attivo su tutti i telefoni, non sia mai perdi il telefono perdi tutte le foto, così almeno hai un backup, uno strano effetto domino, dicevamo, pero' mi sa che il proprietario del telefono manco se n'era accorto, chissà quante volte sarà successo ad altri, sarà capitato anche a voi, di fare una foto in famiglia, ritrovarsela su Google Foto, ma quella è la foto di un minore nudo, che non va bene in nome della legge, la legge dell'intelligenza artificiale di Google, la legge che evidentemente Google conosce meglio di te, sono un'intelligenza artificiale e ti dichiaro in arresto, ma io non ho fatto niente, mi scusi signora guardia digitale, del resto ti ricordi quando ti eri registrato su questo servizio,semplice, veloce, gratuito, usa gli strumenti e le app aziendali per la produttività e collaborazione di Google Workspace, Gmail, Drive, Meet, del resto a suo tempo quell'uomo di San Francisco aveva comprato un telefono Android, scelta probabilmente saggia, pero' l'intelligenza artificiale (AI) di Google ha rilevato quella foto come potenziale materiale pedopornografico, potenziale abuso su minori, così succede uno strano effetto domino, pochi giorni dopo, l'uomo riceve un'email da Google che il suo account è stato bloccato, account bloccato, e quel che è peggio telefono quasi inutilizzabile, molti servizio del suo telefono dipendevano da Google, e dire che aveva preso tutte le misure di sicurezza del caso, in quello strano effetto domino, una password robusta nel senso di poco ovvia, mai mettere la data di nascita del bambino come password, troppo facile, e pure autenticazione a due fattori, chiavi di recupero in caso si smarrisse l'account, ma per adesso account Google chiuso, è stato bello finchè è durato, non puoi usare i servizi come Google Workspace, Gmail, Drive, Meet, tanti saluti e arrivederci, Google notifica all'uomo di San Francisco la presenza di "contenuti dannosi", non si scherza su queste cose, si tratta di una "grave violazione delle politiche di Google e potrebbe essere illegale", e come se non bastasse la polizia indaga, apre un'indagine sull'uomo che dura dieci mesi, letterina a casa recapitata senza preavviso, la polizia indaga su di te, nel frattempo diritti di un piccolo uomo appena nato di non farsi vedere nudo calpestati, dato che il padre, o il bambino di cui il padre faceva le veci, non ha potuto accedere ai propri dati, e da tempo l'uomo non va su internet perchè è stato bloccato pure il provider di telefonia mobile, che guarda un po' i casi della vita era sempre Google, uno strano effetto domino, ma adesso vorrete sapere come è finita la storia, posso dirvi che la polizia ha rilevato caso chiuso, "non si era verificato alcun reato", pero' Google ha continuato a negare la richiesta di accesso all'account dell'uomo, preannunciando che sarebbe stato eliminato in modo permanente, perchè c'è una legge di stato e una legge digitale, la seconda è più forte della prima, non è vero signor T-9000, mi scusi, non volevo farla arrabbiare, il reale è il virtuale, non c'è più distinzione tra i due, e non è vero che sono solo foto private e avatar dai nomi a volte sciocchi, il digitale ha trionfato sul reale, e lo ha fatto anche a livello di giurisprudenza, uno strano effetto domino.
Storia alla base di questa storia vi è l’utilizzo della Content Safety API, è un toolkit pubblicato nel 2018 da Google che permette di gestire un database di hash (impronte digitali) di materiale pedopornografico, in modo da facilitare le indagini alle forze dell’ordine. Oltre a far corrispondere gli hash conosciuti a quelli presenti in un database, la tecnologia viene utilizzata anche per identificare immagini inedite, dando priorità a quelle che hanno maggiori probabilità di essere considerate dannose con l’ausilio di un moderatore umano (o forse più di uno). Solo nel 2021, ad esempio, Google avrebbe segnalato oltre 621.000 casi di materiale abusivo al NCMEC, allertando le autorità su oltre 4.260 nuove potenziali vittime. Non ci sarebbe nulla di male, di fatto, se non fosse che in certi casi un bug costa caro anche nella vita reale, ed è per questo che abbiamo ribadito che il reale ed il virtuale ormai coincidono senza distinzioni. Google ha inoltre dichiarato di eseguire periodicamente la scansione delle immagini personali degli utenti solo dopo quella che viene definita (eufemisticamente, s’intende) “azione positiva“, tra cui troviamo il backup delle foto sui telefoni degli utenti su Google Foto di ogni utente. La storia raccontata è basata su un fatto realmente accaduto negli USA nel 2021.
Ad oggi, la versione beta di Google vorrebbe inserire una nuova feature, attualmente in beta, la possibilità di scansionare in automatico tutte le tue foto nel cellulare per migliorare i risultati di ricerca con l’intelligenza artificiale, che poi è disattivabile, signora mia, che Google ci tiene alla privacy ma alla fine non è detto che ci tenga così tanto. Loro la chiamano Smart Search, ricerca intelligente, ma l’intelligenza è una cosa relativa, sai com’è, intelligenza artificiale ha almeno due significati diversi, come capacità di calcolo di un computer, ma anche come intelligenza scarsa di una persona.
We thought Google hit rock bottom with #privacy. Its new beta feature on Google Files for #Android called “Smart Search" is the trap door.
This creepy new feature on by default & scans every file on your phone. Why is this bad? Because it could potentially ruin your life. (1/3) pic.twitter.com/QmN0b3KaZd
— Proton Drive (@ProtonDrive) October 18, 2023
Ingegnere per passione, consulente per necessità; ho creato Lipercubo.it. – Mastodon