Google, annunci ed etica: intelligenza artificiale fuori controllo?
Sempre più settori della tecnologia si affidano alla cosiddetta Intelligenza Artificiale, ovvero quel ramo del settore IT che si occupa di simulare l’intelligenza umana utilizzando complessi algoritmi che, uniti, riescono spesso a formare reti neurali artificiali più o meno efficaci.
Machine-learning e predizione sono soltanto due delle parole chiave di questo complesso aspetto dell’IT, sempre più conosciuto ai giorni nostri ma utilizzato fin dai tempi del primo AdSense da un big della pubblicità online che tutti conosciamo benissimo: neppure a dirlo, parliamo di Google.
Si, perché la piattaforma AdSense e gli algoritmi alla base di AdWords sono due dei meccanismi più efficaci e precisi per fornire pubblicità mirata (ed altamente remunerativa) alla stragrande maggioranza dei siti web esistenti. Eppure sembra proprio che a sfuggire di mano a Google sia la sua Intelligenza Artificiale: il modo in cui vengono combinate le informazioni – complice anche la profilazione ottenuta dai vari servizi – può portare a discriminazioni (ad esempio proponendo soltanto agli uomini annunci di lavoro su posizioni manageriali) o addirittura ledere la privacy (ad esempio proponendo ad un utente annunci contestualizzati sul suo stato di salute, ottenuto tramite un cookie profilante dalle visite a precedenti siti web sul tema).
A tal proposito vogliamo proporvi integralmente un articolo di Wired che parla di uno studio messo a punto a sostegno di questa tesi: scopriremo che, al contrario di quanto si pensi, la colpa non è di Google ma della “potenza incontrollabile” dei suoi algoritmi. Un problema che, malauguratamente, potrebbe presto uscire dall’ambito pubblicitario.
Il sistema pubblicitario di Google è diventato troppo grande per essere controllato (Wired)
Google è una delle piattaforme di ricerca e pubblicità più avanzate di Internet, ma uno studio fa pensare che l’azienda non sia più in grado di tenere lontani dai suoi servizi annunci discriminatori e lesivi per la privacy.
La ricerca, condotta da tre addetti ai lavori della Carnegie Mellon University e dello International Computer Science Institute ha rivelato che la piattaforma AdSense di Google è in grado di discriminare le donne in cerca di lavoro e di contestualizzare annunci per i consumatori basandosi sulle informazioni sul loro stato di salute.
Tramite uno strumento automatico chiamato AdFisher, il team di ricerca ha simulato oltre 17000 profili utente sparsi su 21 differenti esperimenti per analizzare come caratteristiche diverse definite dagli Ad Setting di Google possano influire su quali annunci vengano mostrati. In un esperimento, Google ha mostrato annunci di lavoro relativi a posizioni dirigenziali prevalentemente ad account maschili. A quelli femminili, invece, venivano mostrati annunci da Goodwill, un rivenditore per ricambi di auto, e da generici motori di ricerca lavoro.
In un altro esperimento, sono stati mostrati annunci per farmaci e centri di riabilitazione dall’alcol ad account che precedentemente avevano visitato siti tematici riguardanti l’abuso di stupefacenti. Analogamente, ad account che hanno visitato siti su disabilità fisiche sono stati mostrati annunci per prodotti dedicati all’accessibilità.
Non possiamo affermare che Google abbia violato le sue politiche
scrive il team nel testo della ricerca.
Ci sembra invece più probabile che Google abbia perso il controllo sul suo enorme ed automatizzato sistema di annunci.
Chi – o cosa – rimproverare?
Nonostante le scoperte di questo studio possano lasciar intendere che sia Google a provocare la discriminazione, la situazione è molto più complessa.
Al momento Google permette agli advertiser di contestualizzare gli annunci basandosi sul genere; ciò significa che un advertiser è in grado di proporre lavori a stipendio alto agli uomini. Tuttavia, l’algoritmo di Google potrebbe anche determinare che gli uomini siano più adatti ad impieghi simili e decidere in autonomia. Poi c’è la possibilità che sia il comportamento dell’utente ad insegnare a Google di contestualizzare annunci in questo modo. E’ impossibile sapere se da rimproverare ci sia solo una parte o se sono un po’ tutte ad essere tirate in ballo.
Gli utenti possono insegnare ai modelli [di Google] ad agire in modo discriminatorio
Michael Tschantz ha dichiarato a Wired.
Se solo gli uomini cliccano su annunci che propongono lavori a stipendio alto, l’algoritmo capirà che deve mostrare questi annunci soltanto agli uomini. Gli algoritmi di machine learning producono modelli non chiari, molto difficili da comprendere per gli umani. E’ estremamente difficile determinare esattamente perché viene mostrato qualcosa.
Inoltre il fatto che in Google non ci siano standard chiari su come gli advertiser possano mirare gli utenti basandosi sulle “informazioni sensibili” rende ancor più difficile comprendere se queste metodiche siano giuste o meno.
I ricercatori credono che gli annunci relativi ai centri di riabilitazione o i prodotti sull’accessibilità possano essere conseguenti al “remarketing”. Google permette alle aziende di mirare agli utenti che hanno precedentemente visitato i loro siti, proponendo a questi di ritornare per completare una vendita. Tuttavia la privacy policy di Google proibisce “agli advertiser il remarketing basato su informazioni sensibili, come lo stato di salute o l’orientamento religioso”.
E questo è abbastanza affinché il team possa concludere che gli annunci sulla salute siano mostrati in modo illecito.
Anche se Google non specifica cosa intende per ‘informazioni sulla salute’, vediamo questi annunci come una violazione delle politiche di Google, che solleva interrogativi su come Google stessa debba rinforzare le sue policy.
Google ha, a tal proposito, dichiarato che
Gli advertiser possono scegliere di mirare al pubblico che desiderano ed abbiamo policy che regolano il tipo di annunci basati sugli interessi permessi. Usiamo trasparenza all’utente mostrando le notifiche “Perché questo annuncio” e le impostazioni sugli ad, così come diamo la possibilità di disattivare gli annunci basati sulle preferenze.
Troppo grande da controllare
Secondo alcune stime, Google controlla oltre il 31% dell’intero mercato digitale sugli annunci pubblicitari. L’enorme portata di questa operazione ha reso praticamente impossibile il monitoraggio di tutti gli annunci pubblicati attraverso la piattaforma.
Gli advertiser possono sicuramente violare i Terms and Conditions di Google e le politiche sulla privacy
afferma Tschantz.
Non fanno nulla per verificare che gli annunci vi rispondano. Google effettua semplicemente controlli sui problemi collegati allo stile – ad esempio assicurarsi che non ci siano troppi punti esclamativi o che il link all’annuncio sia attivo – ma non c’è nulla che possa verificarne le proprietà semantiche, come ad esempio una potenziale discriminazione.
Uno dei colleghi di Tschantz, Anupam Datta, lascia intendere che Google scarichi le responsabilità sugli advertiser:
Le policy di Google dicono che [gli utenti] non dovrebbero far nulla di illegale. Hanno scaricato alcune responsabilità sugli advertiser [lasciando a loro la scelta] di fare la cosa giusta.
I sostenitori della privacy hanno paura che, a prescindere che siano o meno permessi, questi annunci stiano già influendo sugli utenti.
I nostri computer sono specchi e finestre, e la personalizzazione con cui ci troviamo faccia a faccia sul Web invia segnali su quanto valiamo e su quali opportunità possiamo sfruttare.
afferma Ali Lange, un analista sulla privacy del Center for Democracy e Technology.
Quindi che segnali vengono inviati dagli annunci basati su informazioni potenzialmente sensibili, come quelli sulla riabilitazione?
Datta crede che sia possibile sviluppare strumenti di monitoraggio più avanzati in grado di riconoscere annunci discriminatori ed altri abusi sul tracking e che le aziende possano usare internamente, così come aiutare a comprendere di chi sia la responsabilità quando avvengono tali abusi. Il team sta già lavorando con Microsoft per automatizzare i controlli sulla pertinenza degli annunci. Microsoft è seriamente preoccupata che gli annunci discriminatori possano finire anche sul motore di ricerca Bing.
La discriminazione provocata dal machine-learning potrebbe essere un problema complesso da debellare per aziende come Google e Facebook. I ricercatori concordano però che la discriminazione algoritmica non possa essere ignorata. E AdSense non è l’unica piattaforma responsabile di pregiudizi simili: recentemente il nuovo servizio Google Foto, che usa filtri intelligenti per identificare i contenuti di un’immagine, ha scambiato persone di colore per gorilla. In modo piuttosto simile, anche il filtro intelligente di Flickr ha dato della “scimmia” e dello “animale” ad un uomo di colore, oltre che definire una “jungle gym” un campo di concentramento nazista. Ed il fatto che il creatore di affermazioni così offensive sia una macchina non significa che [tali offese] debbano girare indisturbate per Internet.
Per come la vedono i ricercatori, “Anche un algoritmo immorale può avere conseguenze sulla società“.
L’articolo Google, annunci ed etica: intelligenza artificiale fuori controllo? appare per la prima volta su Chimera Revo – News, guide e recensioni sul Mondo della tecnologia.
Se vuoi sostenerci, puoi farlo acquistando qualsiasi cosa dai diversi link di affiliazione che abbiamo nel nostro sito o partendo da qui oppure alcune di queste distribuzioni GNU/Linux che sono disponibili sul nostro negozio online, quelle mancanti possono essere comunque richieste, e su cui trovi anche PC, NAS e il ns ServerOne. Se ti senti generoso, puoi anche donarmi solo 1€ o più se vuoi con PayPal e aiutarmi a continuare a pubblicare più contenuti come questo. Grazie!
Hai dubbi o problemi? Ti aiutiamo noi!
Se vuoi rimanere sempre aggiornato, iscriviti al nostro canale Telegram.Se vuoi ricevere supporto per qualsiasi dubbio o problema, iscriviti alla nostra community Facebook o gruppo Telegram.
Cosa ne pensi? Fateci sapere i vostri pensieri nei commenti qui sotto.
Ti piace quello che leggi? Per favore condividilo con gli altri.
