Matematyka jest bezstronna?

Narzędzia nie są ani dobre, ani złe, nie są obiektywne ani subiektywne, nie są ani sprawiedliwe, ani niesprawiedliwe. One są… nijakie. Bo są narzędziami. Tylko narzędziami albo aż narzędziami. Z matematyką nie jest inaczej. Jasne, że 2 + 2 zawsze da wynik 4, niezależnie od poglądów politycznych, koloru skóry czy zasobności portfela dodającego. Ale działania matematyczne nie opisują rzeczywistości, one realizują nasz opis. Doskonałym przykładem są modele matematyczne albo tak często pojawiający się w przestrzeni publicznej cały zbiór technologii nazywanych (nie zawsze słusznie) sztuczną inteligencją. Jednym z jej zastosowań są tzw. modele predykcyjne, które „przewidują” przyszłość na podstawie przeszłości. W Unii Europejskiej są one zakazane, ale w USA korzysta z nich chętnie np. system sprawiedliwości. W wielu stanach to takie systemy podpowiadają sędziom wysokość zasądzanej kary, konieczność zapisania skazanego na dodatkowe programy resocjalizacyjne albo moment, w którym można – warunkowo – wypuścić skazanego na wolność. Systemy, o których mówię, oparte są na bardzo wnikliwej analizie danych, a więc ma matematyce. Pytanie, co „ta matematyka” tam analizuje. Na przykład jedno z pytań w wypełnianym przez przestępców kwestionariuszu odnosi się do pierwszego kontaktu z policją. Inne dotyczy wskazania liczby bliskich, znajomych, którzy mieli w przeszłości zatargi z prawem. Na pierwszy rzut oka to sensowne pytania, ale gdyby głębiej się zastanowić… Jeżeli ktoś mieszka w biednej dzielnicy, szansa na kontakt z policją jest zasadniczo większa niż mieszkańca bogatej części miasta, bo biedne są znacznie częściej patrolowane, a ich mieszkańcy znacznie częściej legitymowani (pierwszy kontakt z policją). Czy wysokość kary powinna zależeć od miejsca zamieszkania albo zasobności portfela? Nie powinna, ale zależy.

Źle napisany model, choć stoi za nim sprawiedliwa matematyka, wcale sprawiedliwy nie jest. Powiem więcej, źle napisany model, mimo że stoi za nim sprawiedliwa matematyka, może niesprawiedliwości pogłębiać, a nie niwelować. Matematyka to narzędzie, i choć sama z siebie jest nijaka, może być „jakaś”, także obiektywna i sprawiedliwa, o ile tego chcą ci, którzy jej używają. Warto o tym pamiętać, gdy kolejny raz usłyszy się, że cechą technologii cyfrowych, w tym sztucznej inteligencji, jest obiektywizm, wolność od uprzedzeń i sprawiedliwość. To nieprawda.