Page 23 - revista ingenieria 2018

Estos sistemas pueden ser automatizados o semi-automatizados, pueden verificar o no, supervisión y
aporte de personas.

Por tanto, puede afirmarse que la algocracia es un sistema en el que los algoritmos pueden estructurar
y restringir las formas en que las personas actúan. Los límites entre estos sistemas no son precisos y a
menudo, se integran y superponen, lo que es sustantivo si se considera contextualmente, que los sis-
temas algocráticos de toma de decisiones pueden integrarse con los sistemas de toma de decisiones
jurídico-burocráticos preexistentes.
Se trata de una inquietante realidad, a partir del incremento de su utilización, cuya base se ubica en
datos predictivos o datos descriptivos, siendo, además, que las personas pueden revisar y analizar las
recomendaciones que efectúan los algoritmos o pueden básicamente dejar a las máquinas actuar y
transformarse en ejecutoras de juicios basados en algoritmos.

Escepticismo democrático

Bajo el paradigma tecnológico de todo lo que puede ser hecho debe efectivamente concretarse, hay
muchas personas que se ven seducidas por esa lógica eficientista que planteaba Rodotá; el detrimento
y por ende, el retroceso en los derechos de las personas, es evidente.

Así, el crecimiento reciente de los sistemas algocráticos puede afirmarse que plantea fundamental-
mente dos preocupaciones de carácter moral y político:

Preocupación por el ocultismo: remite a la forma en que los datos de las personas son recogidos y
utilizados por los sistemas. A las personas comienza a preocuparles que esto se efectúe en forma encu-
bierta, oculta, y sin su consentimiento.

Preocupación por la opacidad: verifica una base intelectual y racional en la medida que los sistemas
funcionen de manera inaccesible u opaca a la razón y comprensión humanas.

Estas preocupaciones tienen que ver con la participación en procedimientos políticos y cómo ésta se
ve menoscabada por el uso de sistemas algocráticos. Su fundamento normativo puede ubicarse en los
conceptos de autoridad política y legitimidad, entendiendo esta última como la propiedad que los pro-
cesos coercitivos de toma de decisiones públicas deben poseer, si tienen vocación de ejercer autoridad
sobre la vida de las personas.

En el mismo sentido, estos sistemas, que estructuran y limitan las oportunidades de interacción huma-
nas con el propio sistema, es posible que por razones epistémicas favorezcan el acceso de nivel privile-
giado, generando ficticias condiciones de legitimidad, en comparación con alternativas efectivamente
humanas.

Así, cuando se plantea una suerte de daño generado por la algocracia, lo que se está poniendo de
manifiesto es precisamente, la existencia de una amenaza que surge de este tipo de favoritismo episté-
mico de los sistemas algocráticos.

La cuestión sería entonces determinar, si favorecer tales sistemas, redunda en socavar la legitimidad
política. Razonablemente podría concluirse de forma positiva en la medida que estos sistemas son
problemáticos porque fallan en la satisfacción de las condiciones de legitimidad tendentes a la acepta-
bilidad general, o al rechazo razonable o a la publicidad.
Por tanto, debe afirmarse la necesidad de que los procedimientos sean justificables frente a las per-
sonas en términos de razonabilidad, esto es, que sean accesibles y comprensibles, lo que implica no
opacidad. En la medida que los sistemas algocráticos no pueden cumplir los requisitos de no opacidad,
deben ser cuestionados.

22 Revista de la Facultad de Ingeniería