En qué casos el inteligencia artificial más a menudo se equivoca: los límites del aprendizaje automático

Introducción: La naturaleza del error de IA como fenómeno sistémico

Los errores de los sistemas de inteligencia artificial (IA) basados en el aprendizaje automático (ML) no son fallos aleatorios, sino consecuencias inevitables de su arquitectura, método de aprendizaje y la diferencia fundamental con el conocimiento humano. A diferencia del humano, la IA no «entiende» el mundo en términos semánticos; detecta correlaciones estadísticas en los datos. Sus errores ocurren donde estas correlaciones se rompen, donde se requieren razonamientos abstractos, sentido común o comprensión del contexto. El análisis de estos errores es crítico para evaluar la fiabilidad de la IA y definir los límites de su aplicación.

1. El problema del sesgo de los datos y las «leyes de Garbage In, Garbage Out»

La fuente más común y peligrosa de errores es el sesgo en los datos de entrenamiento. La IA asimila y amplifica los prejuicios existentes en los datos.

Desviaciones demográficas: Un caso conocido con un sistema de reconocimiento facial que mostraba una precisión significativamente mayor para hombres blancos que para mujeres negras, ya que fue entrenado con un conjunto de datos desproporcionado. Aquí la IA no «se equivocó», sino que reprodujo exactamente el desequilibrio del mundo real, lo que llevó a un error en la aplicación en un entorno diverso.

Desviaciones semánticas: Si en los datos de entrenamiento para un modelo de texto, la combinación de palabras «enfermera» se asocia más aots con el pronombre «ella» y «programador» con «él», el modelo generará textos que reproducen estos estereotipos de género, incluso si no se indica el género en la consulta. Esto es un error a nivel de contexto social que la modelo no entiende.

Hecho interesante: En las ciencias de la computación opera el principio de «Garbage In, Garbage Out» (GIGO) — «basura en entrada, basura en salida». Para la IA se ha transformado en un principio más profundo de «Bias In, Bias Out» — «sesgo en entrada, sesgo en salida». El sistema no puede superar las limitaciones de los datos en los que se entrenó.

2. Ataques adversarios: hackeo para IA

Se trata de cambios premeditados y a menudo imperceptibles en los datos de entrada que llevan a conclusiones erróneas y radicales de la IA.

Ejemplo con imagen: Una pegatina de varios píxeles de un color y forma específicos en un letrero de «PARADO» puede hacer que un sistema de visión automática clasifique su como un letrero de «LIMITACIÓN DE VELOCIDAD». Para el humano, el letrero seguirá siendo claramente reconocible.

Mecanismo: Los ejemplos adversarios explotan las «zonas ciegas» en el espacio de características de alta dimensión de la modelo. La IA percibe el mundo no como objetos enteros, sino como un conjunto de patrones estadísticos. Una «interferencia» mínima pero estratégicamente correcta mueve el punto de datos en el espacio de características a través de la frontera de la solución de la modelo, cambiando la clasificación.

3. Problemas con la generalización y el «mundo en una caja

La IA, especialmente las redes neuronales profundas, tienden a sobreentrenarse (overfitting) — recuerdan no las leyes generales, sino ejemplos específicos de la muestra de entrenamiento, incluyendo el ruido.

Errores en datos «fuera de distribución»: Una modelo entrenada con fotografías de perros y gatos tomadas durante el día en el hogar puede perder completamente su precisión si se le da una imagen infrarroja nocturna o un dibujo animado. No ha identificado el concepto abstracto de «gato», sino que ha aprendido a reaccionar a patrones específicos de píxeles.