Cuando la inteligencia artificial decide…, pero nadie responde

Por: Mónica Fonseca Vigoya *

La inteligencia artificial ya entró a nuestras vidas por la puerta de atrás.
Nos recomienda qué ver, qué comprar, qué ruta tomar, qué mensaje contestar. Y ahora también empieza a asomarse a decisiones más delicadas: quién recibe prioridad, qué caso se atiende primero, qué solicitud genera alerta, qué trámite parece riesgoso, qué ciudadano “encaja” o no encaja en una lógica automatizada.

El problema no es que la inteligencia artificial exista.
El problema es que empieza a usarse como si fuera neutral, infalible y, peor aún, irresponsable.

Porque ahí está la trampa de esta nueva fiebre tecnológica: cuando algo sale bien, el mérito es de la innovación; cuando algo sale mal, nadie sabe quién responde. Y en lo público, eso no es un detalle técnico. Eso es un problema democrático.

La gran mentira: creer que la IA “solo ayuda”

La frase suena tranquilizadora: “la inteligencia artificial solo apoya decisiones”.
Pero la realidad es más compleja.

Cuando un sistema clasifica, prioriza, alerta o recomienda, ya está influyendo. Ya está empujando una decisión humana en cierta dirección. Ya está moldeando el resultado.

Y si ese sistema trabaja con datos incompletos, sesgados o mal gobernados, la supuesta eficiencia puede convertirse en una nueva forma de injusticia, solo que más rápida y más difícil de discutir.

Ese es el punto que no podemos romantizar: la IA no elimina sesgos; puede amplificarlos.
Y cuando eso ocurre en servicios públicos, subsidios, seguridad, salud o atención ciudadana, el daño no es abstracto. El daño tiene nombre, tiempo perdido, exclusión y frustración.

Tecnología en español: si no se puede explicar, no se debería usar así

A la ciudadanía no le interesa si detrás hay un modelo sofisticado o un algoritmo de última generación. Lo que le importa es algo mucho más básico:

• ¿Por qué el sistema tomó esa decisión?
• ¿Qué información usó?
• ¿Se puede corregir?
• ¿Hay una persona responsable?

Eso tiene un nombre que suele sonar técnico, pero en realidad es puro sentido común: trazabilidad.

Si una herramienta de IA no deja rastro de cómo operó, qué fuente consultó, qué criterio aplicó y quién aprobó su uso, entonces no estamos frente a una innovación madura. Estamos frente a una caja negra con poder.

Y darle poder a una caja negra en lo público es una mala idea. Siempre.

El riesgo no es que la IA se equivoque; es que nadie corrija

Toda tecnología se equivoca.
El problema no es el error. El problema es la ausencia de responsabilidad.

Hoy muchas organizaciones están fascinadas con implementar IA, pero no con gobernarla. Hablan de automatización, pero no de auditoría. Hablan de eficiencia, pero no de revisión humana. Hablan de innovación, pero no de derechos.

Y ahí es donde la conversación se pone seria.

Una inteligencia artificial que interviene en decisiones públicas o en servicios que afectan a las personas debería cumplir, como mínimo, cinco condiciones:

• Dejar registro de sus decisiones,
• Usar fuentes verificables,
• Permitir revisión humana,
• Tener límites claros de uso,
• Contar con un responsable institucional visible.

No parece una exigencia exagerada.
Es, en realidad, el piso mínimo para que la tecnología no se convierta en excusa.

La nueva desigualdad también puede ser algorítmica

Hay otra discusión que apenas empieza y que vale la pena decir sin adornos: la inteligencia artificial también puede profundizar desigualdades si se entrena con datos pobres, parciales o históricamente injustos.

Si un sistema aprende de un pasado desigual, puede terminar reproduciendo ese pasado con apariencia de objetividad. Y eso es peligroso, porque la gente tiende a creerle más a una decisión cuando viene “del sistema”, aunque no la entienda.

Por eso la confianza no se construye solo con precisión tecnológica.
Se construye con transparencia, explicabilidad y posibilidad de apelación.

Una ciudadanía que no puede discutir una decisión automatizada es una ciudadanía en desventaja.

La conversación incómoda

Nos están vendiendo la IA como símbolo de modernidad. Y sí, puede ser útil, potente y transformadora. Pero una ciudad, una empresa o un Estado no son más inteligentes por usar IA. Son más inteligentes cuando saben cuándo usarla, cuándo no y bajo qué reglas.

Porque modernizar no es delegar criterio.
Modernizar tampoco es reemplazar responsabilidad con software.

Si no podemos auditar una decisión, entender su lógica básica y corregir sus errores, entonces no estamos frente a una tecnología al servicio del ser humano. Estamos frente a una tecnología al servicio de la opacidad.

La inteligencia artificial puede ayudar mucho.
Puede ordenar, acelerar, orientar y detectar patrones que el ojo humano no ve a tiempo.

Pero en lo público —y cada vez más en lo privado también— hay una regla que no debería negociarse:

Si no se puede auditar, no se debería usar para decidir sobre la vida de las personas.

Porque el verdadero progreso no está en que una máquina responda más rápido.
Está en que la tecnología haga mejor el sistema sin quitarle a nadie el derecho a entender, reclamar y ser tratado con justicia.

¿Aceptarías una decisión automatizada si no puedes saber por qué se tomó ni pedir que una persona la revise?

*Docente, speaker, investigadora y consultora estratégica en Smart Cities, transformación digital y sostenibilidad. Fundadora del enfoque HumanCity, que impulsa tecnología con propósito para que gobiernos, empresas y organizaciones conviertan IA, datos y digitalización en impacto real y mejor calidad de vida.