Conoces muchos casos de personas, empresas e instituciones que han publicado o utilizado datos propocionados por la IA que… eran inventados. Sonaba bien, un cifra, una fuente «aparentemente» fiable y poco más. Las limitaciones de la IA son reales y son comunes, no es un tema menor.
¿El error? No revisar bien, no comprobar o tener en cuenta que la IA no lo puede todo.
Las limitaciones de la ia más relevantes en contenido y marketing son tres: puede inventar información con total seguridad (alucinaciones), arrastra los sesgos de los datos con los que fue entrenada y no tiene comprensión real del lenguaje, solo predice patrones estadísticos.
Puntos clave
Falta de comprensión y conciencia
La IA calcula probabilidades estadísticas sobre combinaciones de palabras, pero no entiende el significado real de lo que comunica.
… Leer más
Alucinaciones
Los modelos pueden inventar información falsa o datos incorrectos y presentarlos con una apariencia totalmente verídica y segura.
Sesgos y prejuicios
Los sistemas absorben los prejuicios sociales y culturales presentes en los datos con los que fueron entrenados, lo que puede provocar discriminación.
Dependencia del contexto
Si cambian las condiciones de un entorno o surge una anomalía no registrada previamente en sus datos de entrenamiento, el sistema puede fallar.
Ausencia de empatía y ética
Las máquinas toman decisiones basadas en análisis matemáticos fríos, sin capacidad para sentir emociones o comprender contextos morales complejos.
Falta de razonamiento causal
La IA identifica correlaciones numéricas, pero le cuesta establecer relaciones directas de causa y efecto en escenarios complejos.
Limitaciones de la ia: por qué se equivoca aunque suene segura
Un modelo de lenguaje no razona como una persona. Reconoce patrones en enormes cantidades de texto y calcula qué palabra tiene más probabilidad de seguir a la anterior. Ese mecanismo produce frases fluidas y bien construidas, pero no garantiza que lo que dice sea cierto.
¿Sabías que la marca de agua de la IA procede precisamente de esta selección de palabras? Consulta la entrada relacionada.
Aquí está el origen de las alucinaciones: cuando la ia no tiene suficiente información sobre algo, en lugar de decir «no lo sé», genera la respuesta más probable según su patrón de entrenamiento, aunque esa respuesta sea falsa. Y la redacta con la misma seguridad que usaría para un dato verificado.
Esa es, en la práctica, la limitación de la ia que más problemas causa en producción de contenido: no hay forma de distinguir a simple vista un párrafo inventado de uno correcto sin comprobarlo.
He explicado este tema en profundidad en el artículo sobre el futuro de la redacción con IA, donde repasamos cómo ha evolucionado esta tecnología desde los primeros modelos de n-gramas hasta los actuales.
Sesgos y datos de entrenamiento
Otra limitación de la IA que rara vez se comenta:
El modelo solo sabe lo que había en sus datos de entrenamiento.
Si esos datos tienen huecos, prejuicios o sobrerrepresentan a un grupo, el resultado hereda ese sesgo sin que el usuario lo perciba.
En contenido dirigido a públicos concretos, esto se traduce en ejemplos poco representativos, tonos que no encajan con la audiencia real o generalizaciones que suenan neutras pero no lo son.
Casos documentados de sesgo de la IA con impacto real
Para que veas que el tema de los sesgos no es poca broma, aquí tienes tres casos verificados por la prensa con una investigación independiente:
Reconocimiento facial y detención errónea.
Robert Williams, un hombre negro de Michigan, fue detenido después de que un sistema de reconocimiento facial lo identificara erróneamente a partir de un vídeo de seguridad.
Un estudio del MIT de 2019 había constatado que los sistemas de IBM y Microsoft fallaban hasta en un 34% de los casos al identificar a personas de piel oscura, frente a una precisión casi perfecta con hombres blancos.
Selección de personal automatizada
Amazon desarrolló un sistema para filtrar cvs que penalizaba de forma sistemática cualquier mención relacionada con mujeres, como «club de ajedrez femenino».
El algoritmo había aprendido ese patrón de una década de currículos del sector tecnológico dominado por hombres, y la empresa terminó retirando la herramienta.
Justicia predictiva
El caso más citado en investigación académica es el del sistema COMPAS, documentado por ProPublica: Brisha Borden, una mujer negra de 18 años, fue clasificada como alto riesgo de reincidencia tras un delito menor, mientras que Vernon Prater, un hombre blanco de 41 años con antecedentes de robo a mano armada, recibió una puntuación de bajo riesgo.
Dos años después, Borden no había reincidido y Prater cumplía condena por un nuevo robo.
Estos tres casos reflejan lo mismo: los limitaciones de la IA están presentes en el entrenamiento con datos poco representativos o directamente racistas, no casos aislados de una máquina perfecta que se equivoca de vez en cuando.
Este es un matiz importante: el sesgo no es un fallo puntual que se corrige con un mejor prompt.
Es una limitación estructural del propio método de entrenamiento, y por eso ninguna instrucción, por bien escrita que esté, la elimina del todo.
Como resume el informático Pedro Domingos, citado por OpenExpo Europe, el límite real de la inteligencia artificial no es técnico sino ético: depende de cómo la usan las personas que la entrenan y la aplican.
Limitaciones de la ia
Puede inventar datos con total seguridad.
Reproduce los sesgos de sus datos de entrenamiento.
Desconoce todo lo ocurrido después de su fecha de corte.
Lo que la ia generativa no puede hacer en contenido y marketing
Pero vamos al lío, ¿no? Lo que a nosotros nos interesa, como marketers, es todo aquello que la IA generativa no hace bien, por muho que se perfecciones el prompt y muchos gurús vendehumos que te dicen lo contrario.
No detecta matices culturales o emocionales profundos
Puede imitar un tono cercano, pero no capta la ironía fina, el sarcasmo local o una referencia cultural muy específica sin que se le explique paso a paso.
No sustituye la experiencia vivida
En SMP vemos cada día las limitaciones de la IA en un aspecto concreto: cuando se trata de crear anécdotas con «aspecto» de reales. De hecho, ¡se le da fatal!
Por ejemplo, es muy común empezar un artículo con una anécdota que impacte. Algo que es tradicional en los textos periodísticos y que hemos heredado los que nos dedicamos al marketing de contenidos. Por más que en la agencia hemos tratado de entrenar a la IA para que genere estas anécdotas, no hay manera.
Preferimos buscar anécdotas reales que de verdad parezcan reales, es un básico al que no vamos a renunciar.
No es fiable en contenido de alto riesgo
En textos legales o médicos, un error no es solo estético: puede tener consecuencias reales. Ahí la revisión experta no es opcional, es obligatoria.
Si has visto el vídeo promocional del muevo modelo de OpenAI, Astra, el más avanzado hasta la fecha, puedes ver a diseñadores y abogados utilizándolo. Los diseñadores, pues vaya, no creo que el mundo se pierda mucho por elegir un sofá equivocado. Sin embargo, que un abogado redacte una demanda con la IA, personalmente no me da ninguna confianza.
¿Tú que opinas?
No mantiene coherencia visual entre generaciones
En imágenes ocurre algo parecido al texto: pedir el mismo personaje en distintas poses suele dar resultados inconsistentes, como detallamos en nuestra guía para crear imágenes con ia.
Cómo trabajamos con las limitaciones de la ia en SMP
Conocer estas limitaciones no significa dejar de usar la ia. Significa construir un proceso que las compense. Así lo hacemos con cada artículo que sale de nuestra agencia:
Verificación de cada dato antes de publicar. Ningún dato, cifra o cita entra en un texto sin confirmarlo en una fuente real. Si no se puede verificar, se elimina o se marca explícitamente como estimación.
Revisión humana obligatoria. El texto generado con ia pasa siempre por edición manual antes de entregarlo, tal y como explicamos en nuestro artículo sobre redacción con ia, por dónde empezar.
Reservamos el criterio humano para lo que la ia no puede aportar. La experiencia real del cliente, la opinión editorial y el ángulo diferenciador siempre salen de una persona, nunca del modelo.
El resultado no es un texto «generado por ia» ni un texto «escrito a mano desde cero». Es un proceso híbrido donde cada parte hace lo que mejor sabe hacer: la ia acelera la producción, el equipo humano garantiza que lo publicado sea cierto.
Preguntas frecuentes sobre las limitaciones de la ia
¿Cuáles son las principales limitaciones de la ia?
Las tres más relevantes en producción de contenido son las alucinaciones (inventar información con seguridad), el sesgo heredado de los datos de entrenamiento y la falta de comprensión real del lenguaje, ya que el modelo predice patrones en lugar de entender significados.
¿Qué no puede hacer la inteligencia artificial?
No puede aportar experiencia vivida, no capta matices culturales o emocionales profundos sin instrucción explícita y no debería usarse sin supervisión en contenido legal, médico o de alto riesgo.
¿Por qué la ia comete errores o «alucina»?
Porque cuando no tiene suficiente información sobre un tema, genera la respuesta estadísticamente más probable en lugar de reconocer que no lo sabe, y la presenta con el mismo tono de seguridad que un dato verificado.
¿La ia tiene sesgos?
Sí. Si los datos usados para entrenar el modelo contienen prejuicios o representan mal a ciertos grupos, el modelo reproduce esos sesgos en sus respuestas sin ser consciente de ello.
¿Cómo se compensan las limitaciones de la ia en la práctica?
Con un proceso de verificación de datos y revisión editorial humana antes de publicar, reservando para las personas las tareas que requieren experiencia real, criterio o conocimiento de la actualidad más reciente.
0 comentarios