IA en seguridad: ¿aliada útil o excusa elegante para equivocarse?

Por: Mónica Fonseca Vigoya

La Inteligencia Artificial llegó a la conversación de seguridad con promesa de milagro: “predicción”, “detección”, “alertas tempranas”. Y claro: puede ayudar. Mucho. Pero aquí va una advertencia necesaria: la IA no reemplaza el sistema; lo amplifica. Si el sistema es desordenado, la IA escala el desorden con apariencia de sofisticación.

La pregunta ya no es “¿usamos IA o no?”. La pregunta sería es: ¿para qué, con qué datos, con qué control y con qué responsable?

IA en español: la IA decide con los datos que le damos

Si los datos están incompletos, sesgados o mal registrados, la IA va a producir resultados incompletos, sesgados o errados. No por maldad: por diseño.

Por eso, antes de “meter IA”, hay que resolver lo básico: expediente único, trazabilidad, calidad de datos, interoperabilidad. Si no, la IA termina haciendo lo peor: dando falsa seguridad, que es más peligrosa que no tener nada.

Dónde sí puede servir (sin vender humo)

En seguridad, la IA puede aportar valor real si se usa como herramienta de soporte, no como juez:

• priorización de incidentes por criticidad y contexto;
• detección de patrones para prevención (horas, zonas, recurrencias);
• apoyo al despacho con información consolidada;
• análisis de texto para clasificar reportes (sin reemplazar al humano);
• monitoreo de integridad de datos (alertas de anomalías).

Eso es IA útil: ayuda a decidir más rápido, no decide sola.

El riesgo: sesgos, opacidad y abuso

El riesgo grande es cuando se usa IA para etiquetar personas o territorios sin transparencia. Ahí entran sesgos, discriminación y decisiones opacas. Si nadie puede explicar por qué el sistema “marcó” a alguien o a un barrio, la seguridad se vuelve arbitraria.

Por eso, una IA en seguridad debe tener reglas claras:

• Explicabilidad mínima (por qué se generó la alerta).
• Auditoría y registro de decisiones.
• Evaluación periódica de sesgos.
• Límites de uso (qué NO puede hacer).
• Responsable institucional claro.

Y, otra vez: ciberseguridad. Porque si un modelo o una base de datos se compromete, no estamos hablando de “datos”. Estamos hablando de vidas.

La IA puede ser una aliada potente para responder mejor y prevenir con evidencia. Pero sin gobernanza, se vuelve la excusa perfecta: “lo dijo el sistema”. Y cuando la responsabilidad se delega a un algoritmo, la confianza pública se evapora.

 ¿Aceptaría que una IA priorice la respuesta a incidentes en su ciudad si no puede explicarle cómo decide?