In questo articolo prendo in esame un aspetto molto importante con cui abbiamo a che fare ogni volta che prendiamo delle decisioni: il bias cognitivo.
"Il bias cognitivo, o distorsione cognitiva, è un pattern sistematico di deviazione dalla norma o dalla razionalità nei processi mentali di giudizio" (fonte Wikipedia).
Un processo di pensiero sistematico, causato dalla tendenza del cervello a semplificare l'elaborazione delle informazioni attraverso le proprie esperienze e preferenze.
Le informazioni vengono processate tramite un sistema di filtraggio basato su strategie adattative, che consentono alla nostra mente di stabilire le priorità da gestire, elaborando rapidamente grandi quantità di dati.
Sebbene questo meccanismo sia molto efficace, presenta diversi limiti che possono causare errori di pensiero.
In sostanza, le distorsioni cognitive ci aiutano a trovare scorciatoie mentali per supportarci nelle scelte della vita quotidiana, ma spesso sono causa di interpretazioni e giudizi irrazionali.
I bias cognitivi possono derivare da problemi legati alla memoria, all'attenzione, e ad altri errori mentali.
Sono processi decisionali inconsci, che ci influenzano senza che ce ne rendiamo conto.
La strategia di adattamento utilizzata per elaborare rapidamente grandi quantità di informazioni viene chiamata Euristica.
Come aggettivo, euristico (dal greco "heuriskein", che significa "scoprire") si riferisce al processo di acquisizione della conoscenza o di qualche risultato desiderato mediante congetture intelligenti, piuttosto che seguendo una formula prestabilita.
La conoscenza euristica può essere applicata a problemi quotidiani, sia complessi che semplici.
Ad esempio i giocatori di scacchi usano un approccio euristico.
Bias cognitivi: tipologie
Nel corso degli anni sono state compiute diverse ricerche sul giudizio umano e sul processo decisionale in psicologia cognitiva, psicologia sociale ed economia comportamentale.
Queste definizioni sono in continua evoluzione.
Qui di seguito te ne voglio riportare alcune:
- Bias attore-osservatore. Tendenza di un individuo ad attribuire la propria situazione a cause esterne, mentre attribuisce i comportamenti di altre persone a cause interne.
- Bias di ancoraggio. Tendenza del cervello a fare troppo affidamento sulle prime informazioni che riceve quando prende decisioni.
- Bias dell'attenzione. Tendenza di un individuo a prestare attenzione a un singolo oggetto o idea, mentre viene deviato dagli altri.
- Euristica della disponibilità. Tendenza a utilizzare le prime informazioni che vengono in mente quando si prendono decisioni sul futuro.
- Effetto carrozzone. Tendenza del cervello a concludere che qualcosa deve essere desiderabile perché altre persone la desiderano.
- Bias del punto cieco. Tendenza del cervello a riconoscere il pregiudizio di un altro, ma non il proprio.
- Bias di conferma. Tendenza del cervello a valutare le nuove informazioni che supportano le idee esistenti.
- Bias di recency. Tendenza del cervello ad attribuire inconsciamente più valore alle ultime informazioni ricevute su un argomento.
Queste elencate sono solo alcune delle definizioni di bias cognitivi.
Ce ne sono molte altre che puoi trovare facendo un pò di ricerca.
Bias cognitivi e analisi dei dati
Come ho già spiegato in diversi articoli, la fase esplorativa e di acquisizione è fondamentale quando vogliamo sviluppare un progetto di Data Science.
Questo perché dati corretti forniscono risultati corretti.
Tale lavoro però richiede molto impegno e sforzo, e non è così semplice come potremmo pensare.
Molti dei grandi set di dati generati dai sistemi basati sul Machine Learning, infatti, risultano essere distorti, e producono modelli di apprendimento automatico che possono essere discriminatori e dannosi.
Spesso i dati che abbiamo a disposizione non contengono informazioni che permettono di catturare correttamente il fenomeno da prevedere, oppure includono contenuti prodotti da noi umani, i quali possono contenere pregiudizi.
Anche i set di dati più accurati sono affetti da bias, come riscontrato da una ricerca di Antonio Torralba (Massachusetts Institute of Technology) e Alexei A. Efros (Carnegie Mellon University).
I due ricercatori hanno preso in considerazione 12 dataset di immagini di riferimento ampiamente utilizzati.
Hanno addestrato un modello su uno di essi, e ne hanno testato le prestazioni sugli altri 11.
Hanno quindi notato un calo significativo dell'accuratezza delle previsioni su questi set di dati di test.
La loro lezione da questo esperimento è che, nonostante i migliori sforzi dei loro creatori, questi set di dati di riferimento hanno un forte pregiudizio incorporato.
I bias si verificano a causa delle caratteristiche strutturali dei sistemi che producono tali risultati.
Proviamo a vedere alcuni tipi di distorsione dei dati che possiamo incontrare nelle nostre analisi.
- Bias di risposta. Questo tipo di bias si verifica nei contenuti generati da noi esseri umani, come ad esempio recensioni su Amazon, tweet di Twitter, post di Facebook, voci di Wikipedia, ecc. Il fatto è che solo una piccola percentuale di persone contribuisce a questo contenuto, ed è improbabile che le loro opinioni e preferenze riflettano quelle della popolazione nella sua totalità.
- Bias di selezione dovuta a cicli di feedback. Questo tipo di bias si verifica quando un modello stesso influenza la generazione di dati utilizzati per addestrarlo. Ciò capita nei sistemi che classificano i contenuti personalizzati e gli annunci, e in quelli di raccomandazione che danno priorità ad alcuni elementi rispetto ad altri.
- Bias temporale. Questo tipo di bias si riferisce ai cambiamenti che il tempo produce nel sistema. Differenti comportamenti di interazione degli utenti e variazioni del contesto possono modificare notevolmente l'impostazione su cui abbiamo addestrato il nostro modello.
- Bias da variabile omessa. Questo tipo di bias si verifica nei dati in cui mancano gli attributi critici che influenzano il risultato. Ciò accade in genere quando la generazione dei dati si basa sull'input umano, o il processo di registrazione dei dati non ha accesso agli attributi chiave.
- Pregiudizio della società. Questo tipo di pregiudizio si verifica nei contenuti prodotti da noi esseri umani, sia che si tratti di contenuti di social media o articoli di notizie curati. Ad esempio l'uso di stereotipi di genere o di razza. Questo tipo di pregiudizio può essere considerato una forma di pregiudizio dell'etichetta.
Conclusioni
Il tema del bias nell'analisi dei dati (ma non solo) è materia molto ampia e complessa, e non può certo essere trattata in maniera esauriente in un singolo articolo.
Ciò che dobbiamo tenere ben presente, però, è che i bias ci sono, e con essi dobbiamo convivere ogni giorno.
L'unica cosa che possiamo fare è cercare di ridurre l'impatto che possono avere sui nostri processi decisionali.
Noi di Karon possiamo aiutarti a creare un'analisi esplorativa e conoscitiva strutturata, che riduca al minimo l'influenza di queste distorsioni grazie a un metodo consolidato nel tempo.
