Page 25 - REVISTA 2017

Los algoritmos no son capaces de indicar a los programadores exactamente por qué producen los pro-
ductos que emergen y los técnicos se encuentran trabajando en métodos más interpretables, pero aún
no se ha logrado efectivamente que estos sistemas lo sean.

Por último, a estos dos problemas, debe adicionarse un tercero vinculado con el hecho de que los algo-
ritmos no son fenómenos singulares. Cualquier nuevo algoritmo es probable que sea injertado encima
de otros, creado colectivamente por equipos de codificadores usando arquitecturas codificadas pre-
existentes y luego adicionadas en algoritmos cada vez más complejos.
De todas formas, debe tenerse presente que es en la interacción entre todos los miembros de este eco-
sistema algorítmico que se produce la salida útil, y no la operación del algoritmo único.

Pensando positivamente

De todas formas, no deben ignorarse los beneficios de la algocracia.
En efecto la construcción y utilización de sistemas algocráticos implica que se están recopilando y re-
uniendo amplios conjuntos de datos cada vez más amplios, y las tecnologías algocráticas facilitan la
esperanza de aprovechar esos conjuntos de datos con buenos resultados. Esto es cierto tanto para las
autoridades públicas cuanto para las personas en general, por ejemplo, en lo que se relaciona con la
electricidad inteligente.

Los algoritmos pueden ayudar, también en materia impositiva. Efectivamente, es probable explotar los
conjuntos de datos relevantes para patrones útiles, hacerlo de manera constante y eficiente, al mismo
tiempo que pueden realizarse recomendaciones para el desarrollo de auditorías, entre otras.

Otra cuestión importante es la eficiencia de los procedimientos con los sistemas de toma de decisiones
basados en la susceptibilidad al perfil implícito de las personas. Ejemplo de esto, es el debate sobre el
establecimiento de perfiles en relación con la lucha contra el terrorismo.

Por otra parte, se afirma que al limitar el papel de la intuición y confiar en decisiones basadas en la
computadora algunos procesos como la toma de decisiones en relación con ciertas minorías o grupos
étnicos podrían verse favorecidas.

Ahora bien, se indica que hay razones para pensar que la automatización puede replicar los perfiles de
las personas. La construcción de algoritmos es un proceso de traducción; un problema o tarea debe
convertirse en un conjunto de instrucciones paso a paso que, a su vez, deben traducirse en código de
computadora. Hay mucho espacio en este proceso de traducción para la inclusión de perfiles explícitos.
Sin embargo, la conciencia de tal posibilidad, debería fortalecer las capacidades de filtrar o reducir el
potencial de discriminación.

Se sugiere también, que los sistemas algocráticos además de asegurar mejores resultados, podrían ser
procesalmente más justos para aquellos afectados por ellos.

Así, al evaluar cómo responder a la amenaza de la algocracia, será necesario equilibrar la pérdida de
comprensión y participación a favor de las ganancias potenciales en los resultados y la equidad proce-
sal.

Colofón

La algocracia es de hecho parte de un nuevo sistema discursivo en formación bajo el cual los fenóme-
nos son comprendidos y analizados en términos de código. No se trata meramente de la consideración
de un tema problema vinculado con la codificación, sino de la propia existencia personal.

24 Revista de la Facultad de Ingeniería