Lección 0.4 – Capacidades y límites de la inteligencia artificial

Curso de inteligencia artificial desde cero
Bloque 0: Fundamentos de inteligencia artificial
Lección 0.4 · Lección 4 de 5 del bloque
Nivel: iniciación · Sin conocimientos previos

Los límites de la inteligencia artificial son tan importantes como sus capacidades. Un sistema puede reconocer imágenes, generar código o estimar la demanda de un producto y, aun así, cometer errores que resultan difíciles de detectar.

Para utilizar la IA con criterio necesitamos distinguir tres cosas: qué puede hacer un sistema, en qué condiciones funciona y cómo comprobamos sus resultados.

En esta lección veremos ejemplos de aplicaciones útiles, errores frecuentes y un pequeño programa en Python que demuestra por qué un porcentaje de aciertos puede resultar engañoso.

No existe una única inteligencia artificial que haga todo

«Inteligencia artificial» agrupa técnicas y sistemas diferentes.

Un clasificador de fotografías, un modelo de predicción de consumo y un asistente conversacional no tienen necesariamente las mismas capacidades.

Además, una aplicación puede combinar varios componentes:

• Un modelo que interpreta la petición.
• Un buscador que recupera información.
• Una calculadora que realiza operaciones.
• Un programa que ejecuta acciones.
• Reglas que comprueban las salidas.

Las capacidades de una aplicación dependen del sistema completo, no solo del modelo que contiene.

Por ejemplo, un asistente conectado a una calculadora puede resolver una operación mediante esa herramienta. Esto no significa que su modelo de lenguaje, utilizado por separado, realice siempre los cálculos correctamente.

Qué puede hacer la inteligencia artificial

Podemos organizar sus aplicaciones en varias familias.

Capacidad	Ejemplo	Qué debemos comprobar
Reconocer y clasificar	Identificar tipos de documentos.	Errores por categoría y ejemplos desconocidos.
Estimar cantidades	Predecir el consumo eléctrico.	Desviaciones, incertidumbre y cambios de contexto.
Detectar patrones	Encontrar comportamientos inusuales.	Si los patrones tienen utilidad real.
Generar contenido	Redactar un borrador o crear una imagen.	Exactitud, adecuación y restricciones.
Transformar información	Transcribir audio o traducir texto.	Omisiones, ambigüedades y pérdida de significado.
Recomendar y ordenar	Priorizar resultados de búsqueda.	Relevancia y efectos de los criterios utilizados.
Planificar y actuar	Elegir pasos para resolver una tarea.	Viabilidad, permisos y consecuencias de las acciones.

Estas capacidades no implican un rendimiento perfecto. Un sistema puede funcionar muy bien en una tarea concreta y fallar en otra aparentemente parecida.

Una buena demostración no sustituye una evaluación

Ver a un modelo resolver un ejemplo demuestra que pudo resolver ese ejemplo en esas condiciones.

Para estimar su fiabilidad necesitamos probar situaciones variadas y representativas, registrar fallos y utilizar criterios definidos de antemano.

Seleccionar únicamente los mejores resultados produce una impresión incompleta.

Límite 1: depender de los datos y de las condiciones de uso

Los modelos aprenden a partir de determinadas observaciones. Si las condiciones de uso cambian, su rendimiento puede empeorar.

Imagina un sistema entrenado para reconocer productos con fotografías de estudio:

• Fondo blanco.
• Iluminación uniforme.
• Producto centrado.
• Imagen nítida.

Después lo utilizamos con fotografías oscuras, objetos parcialmente tapados y fondos desordenados.

El problema sigue siendo reconocer productos, pero las entradas han cambiado.

Este fenómeno se relaciona con el cambio de distribución: los datos que recibe el sistema dejan de parecerse a aquellos con los que se desarrolló o evaluó.

Interpolar y extrapolar

También debemos distinguir:

• Interpolar: estimar dentro de una región cubierta por los ejemplos conocidos.
• Extrapolar: estimar fuera de esa región.

Si entrenamos un modelo con entregas de entre uno y diez kilómetros, una predicción para cien kilómetros requiere especial cautela.

No existe una garantía general de que un modelo se comporte razonablemente fuera de las condiciones que hemos comprobado.

Límite 2: generar información incorrecta que parece convincente

Los modelos generativos pueden producir afirmaciones falsas, detalles inventados o referencias inexistentes.

En este contexto suele utilizarse el término alucinación. No describe una experiencia humana del sistema, sino un tipo de salida incorrecta o no respaldada.

Por ejemplo, un asistente podría generar:

• El título de un libro que no existe.
• Una función de programación inexistente.
• Una explicación con una fecha equivocada.
• Una cita que el documento original no contiene.

El problema es que puede presentar esos errores con el mismo estilo fluido que utiliza para una respuesta correcta.

La calidad de la redacción no demuestra la veracidad del contenido.

¿Por qué puede ocurrir?

Un modelo de lenguaje se entrena con objetivos relacionados con patrones del lenguaje. La corrección factual puede mejorar mediante datos, procedimientos de entrenamiento y herramientas, pero no queda garantizada por producir una secuencia de texto plausible.

Consultar documentos o utilizar búsqueda puede reducir ciertos errores. También introduce otros posibles fallos: recuperar el documento equivocado, interpretar mal una fuente o atribuirle algo que no afirma.

Por eso, incluso una respuesta con citas requiere comprobar que las fuentes respaldan realmente lo que se dice.

Límite 3: no conocer necesariamente la información actual

Un modelo puede haber sido entrenado con información que ya no está vigente.

Además, no debemos confundir:

Concepto	Qué significa
Información aprendida durante el entrenamiento	Patrones incorporados mediante el ajuste de parámetros.
Contexto de la consulta	Información proporcionada para generar la respuesta actual.
Información obtenida con herramientas	Datos recuperados mediante búsqueda, archivos, APIs u otros recursos.
Actualización del modelo	Un proceso que modifica sus parámetros.

Proporcionar un documento reciente puede ayudar a responder sobre su contenido. Eso no significa necesariamente que el modelo se haya actualizado de forma permanente.

Tampoco debemos asumir que una aplicación puede navegar, leer archivos o ejecutar código: depende de las herramientas que tenga disponibles.

Límite 4: confundir patrones con causas

Un modelo puede detectar que dos variables están relacionadas sin demostrar que una provoque la otra.

Imagina que aumentan simultáneamente las ventas de helados y el uso de aire acondicionado.

Esa relación no demuestra que comprar helados provoque encender el aire acondicionado. La temperatura puede influir en ambos comportamientos.

Distinguir entre asociación y causalidad resulta esencial cuando queremos decidir qué ocurrirá si intervenimos.

Predecir un resultado y explicar qué lo causa son problemas distintos.

Existen métodos de inferencia causal, pero requieren preguntas, datos y suposiciones específicas. No basta con entrenar cualquier predictor.

Límite 5: una métrica puede ocultar el fallo principal

Supongamos que tenemos cien operaciones:

• Noventa y nueve son legítimas.
• Una es fraudulenta.

Construimos un sistema que siempre responde «legítima».

Acertará en el 99 % de los casos, pero no detectará ningún fraude.

Ejemplo en Python: un 99 % de aciertos engañoso

# 0 significa operación legítima.
# 1 significa operación fraudulenta.
valores_reales = [0] * 99 + [1]

# El sistema siempre predice "legítima".
predicciones = [0] * 100

aciertos = 0
fraudes_detectados = 0
fraudes_reales = sum(valores_reales)

for real, prediccion in zip(
    valores_reales, predicciones
):
    if real == prediccion:
        aciertos += 1

    if real == 1 and prediccion == 1:
        fraudes_detectados += 1

porcentaje_aciertos = (
    aciertos / len(valores_reales)
) * 100

print("Porcentaje de aciertos:", porcentaje_aciertos)
print("Fraudes reales:", fraudes_reales)
print("Fraudes detectados:", fraudes_detectados)

Resultado esperado:

Porcentaje de aciertos: 99.0
Fraudes reales: 1
Fraudes detectados: 0

Cómo funciona el ejemplo

[0] * 99 crea una lista con noventa y nueve ceros. Después añadimos una operación fraudulenta mediante + [1].

zip() permite recorrer conjuntamente los valores reales y sus predicciones.

El programa calcula dos aspectos diferentes:

• Cuántas operaciones clasifica correctamente.
• Cuántos fraudes consigue detectar.

El porcentaje global de aciertos se conoce como exactitud, o accuracy en inglés. No debe confundirse con otra métrica denominada precisión, que estudiaremos más adelante.

Nuestro sistema tiene una exactitud elevada porque la mayoría de las operaciones pertenecen a una sola categoría. Sin embargo, falla en la tarea que nos interesa especialmente.

Este es un ejemplo de desequilibrio de clases.

Todavía no hemos entrenado un modelo: utilizamos una regla deliberadamente simple para demostrar un problema de evaluación que también afecta a los modelos aprendidos.

Límite 6: las puntuaciones no siempre representan confianza fiable

Un clasificador puede asignar una puntuación de 0,95 a una categoría. Eso no garantiza que acierte el 95 % de las veces en cualquier situación.

Para interpretar sus probabilidades debemos evaluar su calibración.

De forma simplificada, un sistema bien calibrado debería acertar aproximadamente en el 80 % de un conjunto suficiente de predicciones a las que asigna una probabilidad del 80 %, bajo las condiciones evaluadas.

Incluso una buena calibración puede deteriorarse si cambian los datos.

En un asistente conversacional, escribir «estoy seguro» tampoco equivale a una medida estadística de fiabilidad. Es una expresión generada en el texto.

Límite 7: reproducir sesgos y diferencias de rendimiento

Los datos pueden contener errores históricos, desequilibrios o representaciones incompletas.

Un sistema de reconocimiento de voz, por ejemplo, podría funcionar mejor con unos acentos que con otros si el entrenamiento y la evaluación no cubren adecuadamente esa variedad.

Los problemas también pueden proceder de:

• Cómo definimos las etiquetas.
• Qué objetivo optimizamos.
• Qué ejemplos excluimos.
• Cómo utilizamos las predicciones.

Por eso no basta con una buena media global. Puede ser necesario analizar el rendimiento por grupos y situaciones.

La equidad no se reduce a una única métrica: depende del contexto, de los efectos de las decisiones y de los criterios elegidos.

Límite 8: equivocarse al planificar o ejecutar acciones

Generar un plan convincente no demuestra que sus pasos sean posibles.

Un asistente puede proponer una función que no existe, interpretar mal una respuesta de una herramienta o realizar una acción antes de comprobar sus requisitos.

Cuando una aplicación puede modificar archivos, enviar mensajes o cambiar configuraciones, el diseño debe contemplar:

• Permisos adecuados.
• Validación de entradas y resultados.
• Confirmaciones cuando correspondan.
• Registros que permitan revisar lo sucedido.
• Formas de detener o recuperar operaciones.

Estas medidas deben ajustarse al impacto real de la tarea.

También existe la inyección de instrucciones: contenido externo que intenta dirigir al sistema para que actúe de una forma no autorizada. Estudiaremos este problema en el bloque de seguridad.

¿La inteligencia artificial comprende lo que hace?

La respuesta depende de qué entendamos por «comprender».

Podemos medir si un sistema aplica un concepto a ejemplos nuevos, sigue instrucciones o resuelve determinados problemas. Estas son capacidades observables.

Atribuirle una comprensión equivalente a la humana, conciencia o experiencia subjetiva requiere criterios diferentes y no se resuelve observando una respuesta bien redactada.

Para trabajar con IA resulta más útil describir capacidades y fallos concretos que utilizar afirmaciones generales como «lo entiende todo» o «solo repite».

Un modelo puede generalizar y combinar patrones; también puede memorizar fragmentos y cometer errores inesperados. Estas posibilidades no son excluyentes.

Cuándo tiene sentido utilizar IA

La IA puede resultar adecuada cuando:

• Es difícil expresar todas las reglas manualmente.
• Disponemos de datos o de un modelo apropiado.
• Podemos evaluar resultados de manera útil.
• Los errores tienen un tratamiento definido.
• La mejora compensa los costes y la complejidad.

En cambio, una regla o un algoritmo convencional puede ser preferible si la tarea tiene una solución exacta y sencilla.

Necesidad	Punto de partida razonable
Aplicar una tarifa fija según el importe.	Reglas explícitas.
Calcular una suma exacta.	Operaciones aritméticas o calculadora.
Buscar una cadena exacta en archivos.	Herramientas de búsqueda de texto.
Clasificar miles de documentos variables.	Evaluar un enfoque de aprendizaje automático.
Preparar un borrador de texto.	Modelo generativo con revisión.
Responder sobre documentación interna.	Evaluar búsqueda y, si aporta valor, generación apoyada en documentos.

La decisión debe basarse en una comparación, no en utilizar IA porque sea posible.

Cómo valorar si un sistema merece confianza

Antes de adoptar un sistema, conviene responder:

1. ¿Qué tarea concreta resuelve?
2. ¿Con qué datos y situaciones se ha evaluado?
3. ¿Qué tipos de error comete?
4. ¿Qué ocurre cuando encuentra un caso desconocido?
5. ¿Supera una solución sencilla?
6. ¿Qué consecuencias tiene una equivocación?
7. ¿Cómo detectaremos si su rendimiento empeora?

La revisión humana puede ayudar, pero no es una garantía automática. La persona necesita información, tiempo y capacidad para detectar fallos; de lo contrario, puede limitarse a aceptar la salida.

Ejercicios de autoevaluación

1. Un asistente inventa una referencia bibliográfica con un título convincente. ¿Qué problema aparece?
2. Un detector entrenado con imágenes diurnas falla por la noche. ¿Qué debemos investigar?
3. Un sistema tiene un 99 % de exactitud. ¿Podemos concluir que es útil?
4. Un modelo recibe un documento reciente durante una consulta. ¿Significa que sus parámetros se han actualizado?
5. Una tienda necesita aplicar un descuento fijo del 10 %. ¿Es necesario entrenar una IA?
6. Un modelo predice bien las ventas a partir de una variable. ¿Eso demuestra que modificar esa variable aumentará las ventas?

Soluciones explicadas

1. Una generación factual incorrecta o no respaldada, habitualmente denominada alucinación. Debemos comprobar la existencia y el contenido de la referencia.

2. Si hay un cambio de distribución y una cobertura insuficiente de imágenes nocturnas en el desarrollo y la evaluación.

3. No. Necesitamos conocer las clases, los errores relevantes, la referencia de comparación y las consecuencias de los fallos.

4. No necesariamente. El documento puede formar parte del contexto sin modificar los parámetros.

5. No. Una operación aritmética y las reglas del descuento resuelven la tarea directamente.

6. No. Una relación predictiva no demuestra un efecto causal.

Preguntas frecuentes sobre los límites de la inteligencia artificial

¿La IA puede equivocarse aunque tenga muchos datos?

Sí. Puede haber problemas de calidad, representación, objetivo o generalización. Aumentar la cantidad no elimina todos los errores.

¿Pedir al modelo que revise su respuesta garantiza que la corrija?

No. Puede detectar ciertos fallos, mantenerlos o introducir otros. Las comprobaciones externas, las pruebas y las fuentes aportan evidencias adicionales.

¿Una temperatura de generación baja garantiza respuestas correctas?

No. Este ajuste modifica el muestreo de las salidas en los sistemas que lo utilizan. Puede reducir la variación, pero no convierte una afirmación falsa en verdadera.

¿Conectar un modelo a internet soluciona sus errores?

Puede ayudar a obtener información reciente, pero el sistema todavía puede buscar mal, utilizar fuentes poco fiables o interpretar incorrectamente los resultados.

¿La IA debe utilizarse siempre con revisión humana?

El nivel de revisión depende de la tarea y de su impacto. Una aplicación puede automatizar operaciones bien delimitadas si su evaluación y sus controles lo permiten.

Continúa el curso

Has completado la lección 0.4, la cuarta de las cinco lecciones del bloque 0: Fundamentos de inteligencia artificial.

Navegación	Contenido
Anterior	Lección 0.3 – Tipos de aprendizaje automático.
Siguiente	Lección 0.5 – Cómo se desarrolla un proyecto de inteligencia artificial.

Continúa con la lección 0.5 para completar este primer bloque del curso.