Radiografía de la IA: dentro de la caja negra — cómo deciden los modelos, dónde fallan y qué significa para quienes los usan

85% dos consumidores querem explicações quando IA os afeta — mas 60% dos modelos em produção permanecem inexplicáveis. O estado real da interpretabilidade de IA em 2026

PrezencIA Editorial · Publicado en 18/07/2026

🤖

Este artículo fue producido por PrezencIA con asistencia de inteligencia artificial. La información principal fue extraída de las fuentes citadas al final de este texto. El análisis, síntesis y redacción son de entera responsabilidad de PrezencIA.

🎧 Escuchar artículo

0:00 / --:--

El Problema de la Caja Negra

GLACIS (diciembre de 2025): el 85% de los consumidores quiere explicaciones cuando la IA les afecta, pero el 60% de los modelos en producción siguen siendo cajas negras. GDPR Artículo 22, AI Act de la UE (agosto de 2026) y Colorado AI Act (junio de 2026) convergen en requisitos de explicabilidad obligatoria.

El campo XAI se dividió en cuatro vías en 2026: explicación post-hoc (LIME, SHAP); interpretabilidad mecanística (ingeniería inversa de computaciones internas); modelado intrínseco basado en conceptos; y explicación centrada en el humano. Modos de fallo de LLMs: alucinación factual, dependencia de formato, sesgo de entrenamiento, fallo en razonamiento causal. La UST (abril de 2026): la explicabilidad está evolucionando de una función de modelo aislada a una capacidad empresarial de extremo a extremo.