L’AI non è neutrale, e non potrebbe esserlo nemmeno se lo volesse. Il bias, pregiudizio, è una distorsione sistematica nelle risposte di un’AI, che deriva dai dati con cui è stata addestrata. Se quei dati contengono stereotipi o squilibri, il modello tende inevitabilmente a riprodurli nelle sue risposte quotidiane, senza rendersene conto. Se addestri un’AI quasi solo su testi scritti da una parte del mondo, tenderà a pensare e rispondere riflettendo soprattutto quella prospettiva, ignorandone molte altre. Per questo, riconoscere un bias è spesso più difficile che riconoscere un errore di fatto.