Mindf*ck

Mindf*ck è un’importante tappa nel percorso di letture e riflessioni che riguardano il mio processo di consapevolezza intorno all’uso e ai rischi mindfuckinsiti nei social media. Leggerlo  a ridosso delle elezioni USA 2020 ha poi un sapore particolarmente agre, perché la conoscenza non sempre “libera” ma in ogni caso aiuta a costruire strumenti di consapevolezza e per quanto possa fare male, è necessario per agire e non solo reagire. Quando inizio a buttar giù queste parole non si sa ancora, siamo nel pomeriggio del 4 novembre, se Trump sarà di nuovo presidente o se sarà sconfitto, nel machiavellico sistema di voto tutto loro, dal decotto sfidante “Sleepy Joe” Biden. (Finisco la revisione del testo definitivo la sera del 7, da poche ore con i risultati della Pennsylvania è stata finalmente ufficializzata la vittoria di quest’ultimo).
Nel XXI secolo la politica è completamente pervasa da ciò che accade nell’infosfera. Nella parte finale del testo Christopher Wylie si dilunga nello spiegare come le piattaforme dovrebbero essere preventivamente valutate se sicure prima di essere rese operative, così come accade ad esempio per gli edifici. Si usano i termini ingegneri ed architetti anche nel settore informatico e non è un caso:

Every connected device and computer is part of an interconnected information architecture – and shapes your experience of the world. The most common job titles in most Silicon Valley companies are engineer and architect, not service manager or client relations. But unlike engineering in other sectors, tech companies do not have to perform safety tests to conform to any building codes before releasing their products. Instead, platforms are allowed to adopt dark pattern designs that deliberately mislead users into continual use and giving up more data. Tech engineers intentionally design confounding mazes on their platforms that keep people moving deeper and deeper into these architectures, without any clear exit. And when people keep clicking their way through their maze, these architects delight in the increase in “engagement”.

Viviamo una parte rilevante della nostra esistenza online e la netta separazione tra la nostra vita online e offline non ha più molto senso. Se ne è reso conto Wylie quando è stato bannato da Facebook e Instagram dopo essersi esposto come whistleblower, ma dovrebbe essere chiaro a tutti noi

Although many users tend to distinguish between what happens online from what happens IRL (in real life), the data that is generated from their use of social media – from posting reactions to the season finale of a show to liking photos from Saturday night out – is generated from life outside the Internet. In other words, Facebook data is IRL data.

Cos’è Cambridge Analytica?

Christopher Wylie è un personaggio particolare; mi è venuto all’attenzione guardando The Great Hack, che sfortunatamente non ho recensito, e non corrisponde affatto allo stereotipo che si potrebbe immaginare trovarsi dietro la storia di Cambridge Analytica. Queer canadese di idee liberal, ha finito per contribuire al successo, ottenuto anche per via illegale, della Brexit e dell’ascesa di Trump al potere, partendo da un progetto di data scientists che forse ingenuamente pensavano all’inizio di identificare e combattere l’estremismo radicale online e hanno finito per alimentarlo, non casualmente ma per un piano predeterminato. E così nasce Cambridge Analytica, che acquisisce tranquillamente un’immensa mole di dati da Facebook, essendo entrambe aziende private. Ma cos’è Cambridge Analytica?

A collection of documents I provided to law enforcement revealed that the Vote Leave campaign had used secret Cambridge Analytica subsidiaries to spend dark money to propagate disinformation on Facebook and Google ad networks. This was determined to be illegal by the U.K.’s Electoral Commission, with the scheme ending up as one of the largest and most consequential breach of campaign finance law in British history.

The story of CA shows how our identities and behavior have become commodities in the high-stakes data trade. The companies that control the flow of information are among the most powerful in the world; the algorithms they’ve designed in secret are shaping minds in the United States and elsewhere in ways previously unimmaginable.

Although Cambridge Analytica was created as a business, I learned later that it was never intended to make money. The firm’s sole purpose was to cannibalize the Republican Party and remold American culture.

Quando gli hanno chiesto cosa fosse Cambridge Analytica Wyilie ha dato la risposta più sintetica ma forse efficace: “it’s Steve Bannon psychological mindfuck tool”.

Occorre anche tenere bene a mente però che la prima campagna politica che ha usato con successo ai fini elettorali i nuovi sistemi di raccolta dati e gli algoritmi è stata quella che ha portato all’elezione di Obama: “BUT BY DIRECTLY COMMUNICATING select messages to select voters, the microtargeting of the Obama campaign had started a journey toward the privatization of public discourse in America. Although direct mail had long been part of American campaigns, data-driven microtargeting allowed campaigns to match a myriad of granular narratives to granular universes of voters – your neighbor might receive a wholly different message than you did, with neither of you being the wiser”. Questo libro è utilissimo anche per comprendere come i polls non riescano ad intercettare minimamente gli “umori” dell’elettorato, e lo ribadisce su Twitter in questi giorni Wylie,Wylie Tweet non si tratta solo dell’inaspettata, per i più, vittoria di Trump di quattro anni fa, anche in queste elezioni la stragrande maggioranza di osservatori e analisti dava per scontata una schiacciante vittoria di Biden, cosa smentita sin dai primi risultati.

What microtargeting did was find extra data sets, such as commercial data about a voter’s mortgage, subscriptions, or car model, to provide more context to each voter. Using this data, along with polling and the statistical techniques, it’s possible to “score” all of the voter records, yielding far more accurate information.
When everyone else is focused on the public persona of the campaign, strategists are focused on deploying and scaling this hidden machinery.

E ancora, allargando il quadro: “In the years leading up to the first Obama campaign, a new logic of accumation emerged in the boardrooms of Silicon Valley: Tech companies began making money from their ability to map out and organize information. At the core of this model was an essential asymmetry in knowledge – the machines knew a lot about our behavior, but we knew very little about theirs”. Qui entrano in gioco i sistemi studiati dalle piattaforme per incrementare i dati regalati dagli utenti visti i profitti che riuscivano a generare.

Il ruolo di Facebook

Facebook is no longer just a company, I told them. It’s a doorway into the minds of the American people, and Mark Zuckerberg left that door wide open for Cambridge Analytica, the Russians, and who knows how many others. Facebook is a monopoly, but its behavior is more than a regulatory issue – it’s s threat to national security. The concentration of power that Facebook enjoys is a danger to America democracy.

Cambridge Analytica was a company that took large amounts of data and used it to design and deliver targeted content capable of moving public opinion at scale. None of this is possible, though, without access to the psychological profiles of the target population – and this, it turned out, was surprisingly easy to acquire through Facebook, with Facebook’s loosely supervised permissioning procedures.

Facebook did not require express consent for apps to collect data from an app user’s friends, as it viewed being a user of Facebook as enough consent to take their data – even if the friends had no idea the app was harvesting their private data.

A ragionarci superficialmente si potrebbe pensare che si esagera la portata e la capacità predittiva dei dati raccolti da Facebook ma non è proprio così:

In fact, a 2015 study bu Youyou, Kosinski, and Stillwell showed that, using Facebook likes, a computer model reigned supreme in predicting human behavior. With ten likes, the model predicted a person’s behavior more accurately than one of their co-workers. And with 300 likes, the model knew the person better than their own spouse. This is in part because friends, colleagues, spouses, and parents typically see only part of your life, where your behavior is moderated by the context of that relationship.

A Facebook interessa solamente aumentare l’engagement e non è affatto detto che ciò non possa comportare conseguenze pesantissime. È il caso della pulizia etnica dei Rohingya, “in March 2018 the U.N. concluded that Facebook played a “determining role” in the ethnic cleansing of the Rohingya people. Violence was enabled by Facebook’s frictionless architecture, propelling hate speech through a population at a velocity previously unimaginable”.

Rising engagement

For Facebook, rising engagement is the only metric that matters, as more engagement means more screen time to be exposed to advertisements. This is the darker side of Silicon Valley’s much celebrated metric of “user engagement”. By focusing so heavily on greater engagement, social media tends to parasitize our brain’s adaptive mechanisms. As it happens, the most engaging content on social media is often horrible or enraging. (…) Social media platforms also use designs that activate “ludic loops” and “variable reinforcement schedules” in our brains. These are patterns of frequent but irregular rewards that create anticipation, but where the end reward is too unpredictable and fleeting to plan around. This establishes a self-reinforcing cycle of uncertainty, anticipation, and feedback. (…) In gambling, a casino makes money from the number of turns a player takes. on social media, a platform makes money from the number of clicks a user performs. This is why there are infinite scrolls on newsfeeds – there is very little difference between a user endlessy swiping for more content and a gambler pulling the slot machine lever over and over.

Il discorso sulla gamification è importante e andrebbe eviscerato, ma già in questo post sto andando lunga, vista la miniera di spunti che il libro mi dà. In qualche mio post sul tema comunque ne ho già accennato, ad esempio qui o nel post sul libro della Zuboff. Wylie fa un passo oltre, pensando al futuro non tanto remoto:

And tech has caught on to this with its research into “user experience”, “gamification”, “growth hacking”, and “engagement” by activating ludic loops and reinforcement schedules in the same way slot machines do. So far, this gamification has been contained to social media and digital platforms, but what will jhappen as we further integrate our lives with networked information achitectures designed to exploit evolutionary flaws in our cognition? Do we really want to live in a “gamified” environment that engineers our obsessions and plays with our lives as if we are inside its game?

C’è anche il discorso sulla possibilità di scelta, e Wylie dice chiaramente che le piattaforme hanno fatto di tutto per diventare scelta obbligata dei consumatori. Esperienza diretta, la scuola dell’infanzia che frequenta mio figlio, in vista di eventuali chiusure, ci ha richiesto il consenso per attivare a suo nome un account G Suite, mantenendo la libertà formale tanto cara al capitalismo, mentre in pratica se rifiutiamo non ci sono alternative e il bambino si troverebbe tagliato fuori da qualsiasi forma di didattica. A proposito dei cantori della libertà nel capitalismo!

Il modello a cinque fattori, i bias cognitivi e Steve Bannon

Strettamente collegato all’attualità c’è il modello a cinque fattori che può servire a rispondere ad esempio a domande, che troppo pochi si fanno, tipo “per quale motivo Trump ha consensi tra latinos e neri?” come si chiedeva saggiamente Luisa commentando le fatidiche elezioni USA. Questo modello considera la personalità attraverso una serie di punteggi su cinque scale: openness, conscientiousness, extroversion, agreeableness e neuroticism e ci soccorre nel risolvere l’apparente enigma scaturito dai risultati elettorali statunitensi.

The five-factor model helped me understand people in a new way. Pollsters often talk about monolithic groups of voters – women voters, working-class voters, gay voters. Although certainly important factors to people’s identities and experiences, there is no such thing as a woman voter or a Latino voter or any of these other labels. Think about it: if you randomly grab a hundred women off the street, will they all be the same person? What about a hundred African Americans? Are they all the same? Can we really say that these people are clones by virtue of their skin color and vaginas? They all have different experiences, struggles, and dreams.

Wylie racconta i primi esperimenti di successo svolti sulla pelle di popolazioni “irrilevanti” come gli abitanti di Trinidad, definendo queste pratiche come colonialismo digitale.

But we did do it. The Trinidad project was the first time I got sucked into a situation that was grossly unethical, and, frankly, it triggered in me a state of denial. As I watched those livestreams, I didn’t allow myself to actually picture the human prey, people who had no idea that their private behavior was dilighting sinister audiences half a world away. The Trinidad project was my first taste of this new wave of digital colonialism.

A questo punto l’autore racconta il primo incontro con Steve Bannon, all’epoca poco conosciuto ma sicuramente non una persona con cui si pensa potesse avere affinità e invece sappiamo oggi che è andata molto diversamente: “what I didn’t know that day was that Bannon wanted to fight a cultural war, and so he had come to the people who specialized in informational weapons to help him build his arsenal”.

Sono interessanti e molto istruttive per chi non le conoscesse, le informazioni sui bias cognitivi, ad esempio quello denominato availability heuristic, per cui si confonde la facilità nel reperire determinate notizie con la frequenza o la loro probabilità: ciò avviene per i crimini violenti, attenzionati particolarmente soprattutto da alcuni media, seguendo i quali si può avere la sensazione che tali crimini siano in aumento mentrè sono in calo costante dall’ultimo quarto di secolo. Un altro bias è l’affect heuristic quando si usano scorciatoie mentali, influenzati dalle emozioni: la rabbia spesso impedisce di compiere le scelte più razionali e sicure. Un’altra logica fallace ma molto diffusa è la credenza che il mondo sia un gioco a somma zero, in cui ci sono vincitori e vinti per cui se vengono tutelati determinati gruppi altri pensano di essere trascurati: questo è il motivo per cui molti non sembrano interessati a difendere le minoranze e accade anche che si possa essere restii a difendere diritti sacrosanti perché non ci coinvolgono in prima persona.

Dalla Brexit in poi

The world did not know it yet, but Brexit was a crime scene. Britain was the first victim of an operation Bannon had set in motion years before. The so-called “patriots” of the Brexit movement, with their loud calls to rescue British law and sovereignty from the grips of the faceless European Union, decided to win a vote by mocking those very laws. And to do so, they deployed a web of companies associated with Cambridge Analytica in foreign juriscìdictions, away from the scrutiny of the agencies charged with protecting the integrity of our democracies. Foreshadowing what was to come in America, a clear pattern emerged during the Brexit debacle, where previously unknown foreign entities began exerting influence on domestic elections by deploying large data sets of unexplained origins. And with social media companies not performing any checks on the advertising campaigns spreading throughout their platforms, where was no one standing guard to stop hostile entities seeking to show chaos and disrupt our democracies.

Questa lunga citazione rende l’idea meglio di quello che potrei parafrasare io, per questo ho scelto di riportarla per intero; e aiuta a vedere in prospettiva cosa è accaduto non molto tempo dopo negli Stati Uniti. Una domanda però sorge a questo punto, e riguarda la Russia: “Was Cambridge Analytica involved in Russian disinformation efforts in the United States? No one can say for sure, and there’s no single “smoking gun” proving that Cambridge Analytica was the culprit, aided and abetted by Russia”. Ci sono comunque, ci dice l’autore, molti collegamenti tra Cambridge Analyitica e la Russia. Wylie, contattato dalla giornalista del Guardian Carole Cadwalladr, dopo un primo momento di paura e di diffidenza inizia il suo percorso di whistleblower che coinvolge in breve altre persone e altri media, e in particolare il New York Times e Channel 4. Quasi tutte le attenzioni si sono concentrate sulle attività europee e statunitensi di Cambridge Analytica e solo in qualche raro caso si è avuta la dovuta attenzione verso le numerose responsabilità dell’azienda in Africa (Kenya, Ghana, Nigeria…), praticamente al motto di “Shit happens. It’s Africa, after all”.

Alla fine comunque, né in Gran Bretagna né negli Stati Uniti, le denunce sulle condotte illegali di Cambridge Analytica hanno prodotto conseguenze:

The regulators found that not only did Facebook fail to protect users’ privacy, the company misled the public and journalists by issuing false statements that it had seen no evidence of wrongdoid when  it in fact had.

Qualche conseguenza solo a livello personale, per l’autore stesso:

If anything, it has made me even more radical. I used to believe that the system we have broadly work. I used to think that there was someone waiting with a plan who could solve a problem like Cambridge Analytica. I was wrong. Our system is broken, our laws don’t work, our regulators are weak, our governments don’t understand what’s happening, and our technology is usurping our democracy.

Alla fine del libro, raccontando come sia cambiata la sua quotidianità, l’autore butta giù anche qualche idea su come superare questa fase, per andare oltre il principio del consenso e rendere le piattaforme effettivamente responsabili e gli utenti più liberi. Possono essere misure anche radicali, ma non mettono in questione le vere basi del sistema capitalistico, e d’altronde provengono da un pensiero comunque liberal, per quanto apparentemente relativo. Ci sono comunque anche sul finire intuizioni importanti sulle piattaforme: “And yet, they also implicitly believe that their right to profit from these systems outweighs the social costs others bear”. Ad ogni modo il testo resta una miniera di spunti e informazioni che tutti dovrebbero conoscere *prima* di accedere alle piattaforme e ai social media.

 

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo di WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...

Questo sito utilizza Akismet per ridurre lo spam. Scopri come vengono elaborati i dati derivati dai commenti.