La Universidad Politécnica de Madrid (UPM) ha inaugurado su curso académico con un acto presidido por su rector, Óscar García Suárez. En esta ceremonia, la catedrática Concha Bielza, galardonada con el Premio Nacional de Estadística 2024, ofreció una lección inaugural titulada “Inteligencia Artificial interpretable”.
Durante una entrevista posterior al evento, Bielza profundizó en el funcionamiento de la Inteligencia Artificial interpretable, sus aplicaciones y su impacto en la sociedad, así como en las líneas de investigación que está desarrollando y el efecto de la IA en el ámbito educativo.
Definiendo la Inteligencia Artificial interpretable
La IA interpretable se distingue por ir más allá del concepto de IA explicable. La necesidad de entender las decisiones de modelos complejos —como las redes neuronales profundas o ChatGPT— ha llevado a la creación de esta rama. Desde 2016, cuando la agencia DARPA lanzó el programa XAI (eXplainable Artificial Intelligence), se han propuesto diversas técnicas para hacer comprensibles estos modelos, incluyendo visualizaciones y narrativas.
Sin embargo, estas explicaciones pueden resultar insuficientes en contextos críticos como la justicia o la salud. La IA interpretable aboga por que los modelos sean comprensibles desde su diseño inicial, permitiendo a los usuarios seguir su lógica interna directamente. Aunque existe un debate sobre si hay un dilema entre interpretabilidad y precisión, estudios indican que comprender un modelo puede facilitar la detección y corrección de errores, mejorando así su rendimiento.
Aplicaciones críticas de la IA interpretable
La presencia de la IA es omnipresente en diversos ámbitos de nuestra vida cotidiana. Sin embargo, su interpretación se vuelve crucial en decisiones donde están involucrados factores como la confianza, la seguridad o la equidad. Por ejemplo, mientras que distinguir entre imágenes de perros y gatos podría requerir solo explicabilidad, decisiones en campos como la salud o las finanzas exigen una comprensión más profunda.
El AI Act europeo establece requisitos de transparencia desde los niveles más bajos de riesgo. En áreas como la salud —donde se toman decisiones sobre diagnósticos y tratamientos— o en finanzas —con procesos relacionados con créditos y detección de fraudes— es fundamental entender cómo opera el sistema para generar confianza. En EE.UU., muchos sistemas de IA han sido aprobados por la FDA para uso médico; sin embargo, su implementación sigue siendo escasa debido a la falta de claridad en sus explicaciones.
Impacto social y humano de la IA
A medida que avanza el desarrollo de la inteligencia artificial, sus efectos son palpables tanto positivos como negativos. Entre los beneficios se encuentra su capacidad para generar nuevo conocimiento; por ejemplo, sistemas como AlphaFold han revolucionado la predicción estructural en biología. Sin embargo, también existen riesgos evidentes: desde el aumento de desigualdades hasta transformaciones abruptas en el empleo y un consumo energético insostenible.
El desafío radica en maximizar este potencial transformador mientras se gestionan adecuadamente las responsabilidades sociales y medioambientales asociadas.
Líneas de investigación: Redes bayesianas
Las redes bayesianas representan una línea investigativa clave dentro del ámbito de la IA interpretable. Estos modelos gráficos probabilísticos permiten representar el conocimiento bajo incertidumbre y son inherentemente comprensibles. A través del grafo que muestra relaciones entre variables y probabilidades condicionadas, se pueden responder preguntas complejas relacionadas con predicciones y diagnósticos.
A diferencia de otros modelos menos transparentes, las redes bayesianas ofrecen una capacidad superior para explicar decisiones basadas en evidencia observacional. Esto no solo les confiere un valor añadido en tareas estándar del aprendizaje automático sino que también asegura que sus resultados sean accesibles y comprensibles para los usuarios.
IA en educación: Oportunidades para profesores y estudiantes
En el ámbito educativo, la inteligencia artificial ofrece múltiples oportunidades tanto para docentes como para alumnos. Para los profesores, puede simplificar tareas repetitivas como correcciones y análisis coherentes de trabajos abiertos. Además, ayuda a identificar riesgos académicos combinando diferentes indicadores.
Para los estudiantes, actúa como un tutor virtual disponible constantemente, ofreciendo recursos personalizados e incluso facilitando herramientas inclusivas para aquellos con necesidades especiales. Esta tecnología no solo mejora el aprendizaje adaptativo sino que también fomenta la creatividad al permitir a los alumnos desarrollar proyectos innovadores.
Manejo del fraude académico ante nuevas tecnologías
A pesar del crecimiento del uso de herramientas basadas en IA, el fraude académico sigue siendo un desafío persistente. Aunque siempre ha existido —en formas como plagio o copia— ahora puede amplificarse debido a la producción automática generada por estas tecnologías. Más que prohibir su uso, es esencial gestionar este fenómeno mediante métodos efectivos de detección y cambios significativos en las evaluaciones académicas.
Es fundamental formar a los estudiantes no solo para aprobar exámenes sino también para pensar críticamente sobre el uso responsable de estas herramientas tecnológicas. La llegada inminente de la IA exige una reflexión profunda sobre cómo integrar estas capacidades sin comprometer el pensamiento crítico ni fomentar una dependencia excesiva.
Si (
No(
