Dane nie są też zbierane „po równo” od wszystkich grup społecznych. Brak należytej reprezentacji wpływa na kształt algorytmu i w efekcie może przynosić krzywdzący efekty. Wreszcie systemy mogą być po prostu błędnie zaprojektowane, co miało miejsce w stanie Michigan, gdzie błąd w „maszynie” doprowadził do odebranie w nieuprawniony sposób prawa do zasiłku prawie 20 tys. osób.