Algoritmos y "cajas negras"

Pero oye, el algoritmo es perfecto. Todos los algoritmos lo son, ¿no?

Un algoritmo decide si recibes o no una ayuda que otorga el Estado. Pero ¿qué pasa cuando dicho software, que nadie conoce por dentro, dice que no te correspondería esa ayuda cuando todo, sobre papel, indica lo contrario?