L’intelligenza artificiale nei motori di ricerca: la sfida del razzismo pseudoscientifico

Negli ultimi anni, l’uso crescente dell’intelligenza artificiale nei motori di ricerca ha sollevato preoccupazioni significative riguardo alla diffusione di teorie pseudoscientifiche, in particolare quelle che promuovono la superiorità genetica delle persone bianche. Questo fenomeno, osservato in piattaforme come Google, Microsoft e Perplexity, ha attirato l’attenzione sia del mondo accademico che della società civile, a causa dell’apparente affidabilità dei dati forniti da questi strumenti. Secondo le ricerche condotte da Patrik Hermansson, specialista associato all’ente britannico Hope Not Hate impegnato nella lotta alla discriminazione razziale, le piattaforme di ricerca che si basano sull’IA tendono a perpetuare concetti di razzismo pseudo-scientifico. Durante un’indagine sulla Human Diversity Foundation, Hermansson ha notato che i motori di ricerca AI spesso presentano dati inaccurati sui punteggi del QI nazionale, richiamando il controverso database di Richard Lynn. Lynn, noto per le sue teorie eugenetiche, ha sviluppato un set di dati che pretende di mostrare la variabilità del QI tra le nazioni, basandosi su campioni di dati culturalmente distorti.

Dati Distorti e Disinformazione

Molti esperti ritengono che i dati di Lynn non abbiano fondamento scientifico e, nonostante ciò, questi dati sono ampiamente citati nei motori di ricerca AI, i quali spesso non riescono a distinguere tra fonti affidabili e non. Hermansson ha osservato che avviando una ricerca sul “QI del Pakistan” su Google, il sistema AI restituiva un valore di 80, mentre i punteggi per la Sierra Leone e il Kenya erano rispettivamente di 45,07 e 75,2. Questi dati provengono dal controverso database di Lynn e mostrano chiaramente selezioni non rappresentative dei campioni di popolazione. Rebecca Sear, direttrice del Center for Culture and Evolution presso la Brunel University di Londra, ha sottolineato che tali risposte possono rafforzare convinzioni razziste, favorendo l’idea che le disuguaglianze siano naturali e inevitabili. L’utilizzo di questi dati distorti alimenta il razzismo scientifico, creando un ciclo di disinformazione che può avere conseguenze sociali significative.

Le Sfide dei Sistemi AI di Google e Microsoft

Google, che quest’anno ha lanciato la tecnologia delle panoramiche AI, è stato criticato per i suoi riassunti, poiché spesso mancano di profondità e quotazione delle fonti originali. Nonostante l’inclusione di alcune fonti accanto ai riepiloghi AI, molte di queste rimandano ancora ai dati di Lynn. Microsoft, il cui chatbot Bing Copilot si integra con il motore di ricerca, ha dovuto affrontare problemi simili legati alla diffusione di numeri di QI non confermati, facendo riferimento a risorse come Brainstats.com che utilizzano i dati di Lynn. La portavoce di Microsoft, Caitlin Roulston, ha spiegato che, nel processo di sintesi delle informazioni, Copilot raccoglie dati da internet senza sempre confermarne l’attendibilità. Questo evidenzia una mancanza di rigore nei sistemi AI, che devono migliorare nella verifica delle informazioni per evitare la diffusione di dati falsi e dannosi.

Verso una Ricerca più Etica e Inclusiva

L’incidente mostra le debolezze dell’intelligenza artificiale nella selezione e filtraggio dei dati qualitativamente inappropriati e enfatizza la necessità per le grandi imprese di adottare protocolli di verifica più stringenti. I motori di ricerca basati su AI dovrebbero prevenire la divulgazione di informazioni inaccurate o pseudo-scientifiche, specialmente quando tali informazioni possono avere pesanti ripercussioni a livello sociale. Google ha dichiarato l’intenzione di proseguire nel migliorare i propri strumenti per escludere informazioni fuorvianti, ma rimane ancora incerto se queste organizzazioni riusciranno effettivamente a realizzare algoritmi in grado di rilevare e sradicare concetti pseudoscientifici legati al razzismo.

Un Futuro di Responsabilità e Consapevolezza

Nel mondo del SEO e del social marketing, una nozione fondamentale è l’importanza della qualità delle fonti. Assicurarsi che le informazioni siano affidabili e verificate è cruciale per costruire fiducia e credibilità. In un contesto in cui l’intelligenza artificiale gioca un ruolo sempre più centrale, è essenziale che le aziende tecnologiche e i professionisti del settore adottino pratiche di verifica rigorose per evitare la diffusione di dati distorti. Un aspetto avanzato del SEO e del social marketing è l’implementazione di algoritmi di verifica automatica che possano analizzare e filtrare le informazioni in tempo reale, garantendo che solo contenuti di alta qualità raggiungano il pubblico. Riflettendo su questi temi, è chiaro che la responsabilità di un’informazione accurata e imparziale non è solo delle macchine, ma anche degli esseri umani che le programmano e le utilizzano. La consapevolezza e l’impegno verso un’informazione etica e inclusiva sono passi fondamentali per un futuro più equo e informato.