Desafíos, límites y futuro de la IA generativa

Aunque las inteligencias artificiales generativas parecen “mágicas”, están lejos de ser perfectas.

Entender sus limitaciones, riesgos y posibilidades es clave para usarlas de forma responsable y aprovechar su verdadero potencial.

Uno de los mayores desafíos de los modelos generativos es que pueden inventar información con total confianza. Esto se conoce como una alucinación.

Por ejemplo, un modelo puede afirmar que un autor escribió un libro inexistente, o que una función de Python se llama de una forma incorrecta.

¿Por qué ocurre? Porque los modelos no “saben” cosas; predicen patrones.

Si un conjunto de palabras “suena correcto” según su entrenamiento, lo dirán, aunque no sea verdad.

Los modelos no distinguen entre lo probable y lo verdadero.

Por eso, cada vez más investigaciones buscan reducir las alucinaciones mediante:

• integración con bases de conocimiento verificables,
• modelos híbridos (razonamiento simbólico + redes neuronales),
• y retroalimentación constante con información actualizada.

Los modelos aprenden del lenguaje humano… y el lenguaje humano está lleno de sesgos: culturales, políticos, de género, raciales, etc.

Por eso, un modelo puede reflejar o amplificar esos sesgos si no se controla cuidadosamente.

Las empresas e instituciones que desarrollan IA trabajan con:

• equipos de ética y auditorías externas,
• filtrado de datos para reducir prejuicios,
• y técnicas como RLHF para mejorar la alineación con valores humanos.

Aun así, es un problema abierto:

> ¿cómo definimos lo que es “ético” o “correcto” en contextos culturales tan distintos?

Otro debate importante gira en torno a de dónde provienen los datos de entrenamiento.

Muchos modelos se entrenaron con grandes cantidades de texto de Internet, lo que plantea preguntas como:

• ¿Quién es dueño del contenido generado?
• ¿Puede un modelo “aprender” de obras con copyright?
• ¿Qué pasa si memoriza datos sensibles?

Por eso, surgen nuevos enfoques:

• entrenamientos con datos privados o sintéticos,
• modelos open source auditables,
• y regulaciones en camino, como la AI Act en la Unión Europea.

Entrenar un modelo generativo grande puede costar millones de dólares y consumir enormes cantidades de energía.

Por ejemplo, un solo entrenamiento puede requerir miles de GPU durante semanas.

Esto llevó al desarrollo de:

• modelos más pequeños y eficientes (como LLaMA, Mistral o Phi),
• técnicas de compresión y cuantización,
• y estrategias de entrenamiento más ecológicas, como el sparse training o distillation.

El futuro apunta a modelos más sostenibles y distribuidos, accesibles incluso para equipos pequeños o dispositivos personales.

Uno de los mayores malentendidos es pensar que la IA viene a reemplazar a las personas.

En realidad, los mejores resultados se logran cuando humanos e IA trabajan juntos.

Diseñadores, programadores, escritores, docentes y científicos ya usan IA como:

• asistente de ideas,
• generador de borradores,
• corrector o analista,
• y herramienta de simulación o exploración creativa.

La IA amplifica la inteligencia humana, no la sustituye.

En los próximos años veremos una expansión hacia modelos:

• multimodales completos, capaces de entender y generar texto, imagen, audio y video de forma unificada;
• razonadores, que combinen generación con pensamiento lógico y planificación;
• y personales, ajustados a nuestros hábitos, tono y estilo de comunicación.

Todo esto impulsará nuevas disciplinas como: AI Engineering, Prompt Design, AI Safety y Cognitive AI.

La inteligencia artificial generativa es una herramienta poderosa, pero también un espejo: refleja nuestras virtudes y nuestros límites como sociedad.

Su desarrollo plantea una pregunta fundamental:

> ¿Queremos máquinas que hablen como nosotros…

> o que piensen junto a nosotros?

El futuro dependerá de cómo respondamos a esa pregunta hoy.

Cómo se ajustan y mejoran los modelos generativos

Hay una pregunta clave que todavía no respondimos:

¿Cómo pasa un modelo de simplemente “predecir palabras” a comportarse como un asistente conversacional capaz de seguir instrucciones, responder con criterio o incluso tener “personalidad”?

La respuesta está en una serie de procesos que ocurren después del entrenamiento base, conocidos como fine-tuning, instruction tuning y RLHF (Reinforcement Learning from Human Feedback).

Estos pasos son los que transforman un modelo genérico en algo útil, amigable y confiable.

Durante el entrenamiento base, el modelo aprende cómo funciona el lenguaje: gramática, semántica, relaciones, contexto.

Pero todavía no sabe qué tipo de comportamiento esperamos de él.

Por ejemplo, un modelo base podría responder:

> “No sé quién sos ni por qué me hablás así.”

> cuando le pedimos algo tan simple como “Explicame qué es la fotosíntesis.”

Por eso, se aplica una segunda etapa de entrenamiento: el fine-tuning.

El fine-tuning (ajuste fino) consiste en volver a entrenar el modelo con un conjunto de datos más pequeño y específico, para especializarlo en una tarea o comportamiento.

Por ejemplo: un modelo ajustado para atención al cliente, otro para generar código en Python, o uno especializado en medicina o derecho.

Durante el fine-tuning, el modelo aprende qué tipo de respuestas son deseables para su dominio.

Así, su conocimiento general se adapta a un propósito particular.

Una evolución del fine-tuning es el instruction tuning, que consiste en entrenar al modelo con ejemplos de pares instrucción → respuesta.

Ejemplo:

Instrucción: "Explicá la teoría de la evolución en pocas palabras."

Respuesta: "La teoría de la evolución describe cómo las especies cambian con el tiempo mediante la selección natural."

Después de ver miles de estos ejemplos, el modelo aprende que cuando alguien escribe algo como:

> “Contame brevemente cómo funciona X”

…debe responder de forma informativa, concisa y alineada con la intención del usuario.

Este es el paso que convierte un modelo base en algo más parecido a un asistente útil.

El Reinforcement Learning from Human Feedback (Aprendizaje por refuerzo a partir de retroalimentación humana) va un paso más allá.

En lugar de entrenar solo con ejemplos escritos, el modelo se ajusta usando la opinión de evaluadores humanos.

El proceso funciona así:

1. El modelo genera varias posibles respuestas a una misma pregunta.
2. Personas reales eligen cuál es la mejor, más útil o más segura.
3. El sistema aprende a preferir las respuestas mejor valoradas.

De esta forma, el modelo no solo aprende lenguaje, sino también criterios de comportamiento: ser claro, respetuoso, evitar sesgos o rechazar solicitudes inapropiadas.

Incluso con todos estos ajustes, el modelo todavía depende de cómo lo usamos.

Ahí entra en juego el prompt engineering, o ingeniería de instrucciones: la práctica de formular entradas (prompts) de manera que el modelo produzca el resultado que buscamos.

Por ejemplo:

En lugar de: “Explicame Python.”

Mejor: “Explicame Python como si fuera mi primer lenguaje de programación.”

En lugar de: “Escribí un poema.”

Mejor: “Escribí un poema corto y humorístico sobre un programador que no duerme.”

Un buen prompt actúa como un mapa mental que guía al modelo hacia el tipo de respuesta deseada.

Y aunque los modelos actuales son más robustos, la forma de preguntar sigue siendo clave.

Gracias a estas técnicas, hoy existen:

• Modelos generales (como GPT o Gemini),
• Modelos especializados (como los de código, salud o educación),
• y modelos adaptativos, que se ajustan dinámicamente según la conversación o el contexto.

El fine-tuning también puede hacerse de manera local o privada, permitiendo que empresas o instituciones adapten un modelo general a sus propios datos sin compartirlos públicamente.

Un modelo generativo no nace “inteligente”: aprende primero cómo hablar, luego cómo comportarse, y finalmente cómo adaptarse a cada situación.

El proceso completo es:

1. Entrenamiento base: aprende el lenguaje.
2. Fine-tuning / Instruction tuning: aprende tareas específicas y cómo responder.
3. RLHF: se alinea con la forma en que las personas esperan que actúe.
4. Prompt engineering: lo guiamos en tiempo real con buenas instrucciones.

Modelos multimodales: cuando la IA entiende más que texto

Hasta ahora vimos cómo los Modelos de Lenguaje Grandes (LLM) son capaces de generar y comprender texto de forma sorprendente.

Pero el lenguaje no es la única forma en la que los humanos nos comunicamos: también usamos imágenes, sonidos, gestos y video.

Por eso, la nueva generación de inteligencia artificial apunta a algo más ambicioso: modelos capaces de entender y generar múltiples tipos de información al mismo tiempo.

A estos se los conoce como modelos multimodales.

El término multimodal viene de modalidad, que en este contexto significa tipo de dato o forma de comunicación.

Un modelo multimodal puede trabajar con más de una modalidad, por ejemplo: Texto, Imágenes, Audio, Video, etc

Así como un LLM aprende relaciones entre palabras, un modelo multimodal aprende relaciones entre palabras, píxeles y sonidos, entendiendo cómo se conectan entre sí.

Imaginá que escribís:

> “Mostrame un perro corriendo en la playa.”

Un modelo como DALL·E, Midjourney o Stable Diffusion convierte ese texto en una imagen realista que representa exactamente esa escena.

Lo inverso también es posible:

Subís una imagen y pedís:

> “Describí lo que ves.”

El modelo responde algo como:

> “Un perro marrón corriendo junto al mar en un día soleado.”

Eso significa que entendió el contenido visual y lo tradujo en texto coherente.

Los modelos multimodales se construyen extendiendo la arquitectura de los transformers.

Cada tipo de dato (texto, imagen, audio) se convierte en una representación numérica común, llamada embedding.

🔹 En el caso del texto, cada palabra se transforma en un vector.

🔹 En el caso de las imágenes, cada región o conjunto de píxeles también se transforma en vectores.

De esta forma, el modelo puede aprender correlaciones entre ambos mundos. Por ejemplo, que la palabra “perro” suele aparecer junto a formas con cuatro patas, hocico y pelaje.

El resultado es un sistema capaz de razonar sobre distintos tipos de información en simultáneo.

Lo interesante es que estos modelos no solo describen imágenes, sino que también razonan sobre ellas.

Por ejemplo, pueden interpretar gráficos, analizar documentos escaneados o incluso entender memes.

La IA generativa está dejando de ser “solo texto” para convertirse en una plataforma perceptiva.

Los modelos multimodales son un paso hacia sistemas que pueden:

• mirar, escuchar y leer al mismo tiempo,
• entender contextos complejos del mundo real,
• y comunicarse de forma natural con las personas.

Por ejemplo, un asistente multimodal podría:

• leer un documento PDF,
• observar una foto de un diagrama,
• escuchar una explicación verbal,
• y responder con una síntesis combinando todo eso.

A medida que los modelos multimodales se integran con sensores, cámaras o dispositivos, nos acercamos a una IA más integrada con el entorno humano.

Esto abre posibilidades en:

• Educación (IA que enseña con imágenes y audio)
• Medicina (análisis de radiografías + texto clínico)
• Programación (lectura de código y diagramas)
• Arte (creación de video, música y texto combinados)

El objetivo final es una IA capaz de entender el mundo como nosotros: con todos los sentidos combinados.

Qué es un LLM (Large Language Model) ?

Hasta ahora vimos que un modelo generativo aprende a predecir la siguiente palabra dentro de una secuencia.

Pero ¿cómo pasamos de un simple predictor de texto a sistemas capaces de mantener conversaciones, razonar o escribir código?

La respuesta está en una sigla que probablemente ya viste muchas veces: LLM, o Large Language Model —Modelo de Lenguaje Grande.

Un LLM es un modelo de inteligencia artificial entrenado con cantidades masivas de texto —libros, artículos, código, conversaciones, sitios web— con el objetivo de aprender cómo funciona el lenguaje humano.

No se trata solo de palabras: el modelo aprende relaciones semánticas, contexto, estilo y tono.

Por eso, puede no solo completar frases, sino también adaptarse al contexto de una pregunta o instrucción.

Por ejemplo:

“Escribí un poema sobre gatos como si fueras Borges.”

El modelo comprende la estructura poética, el tema (gatos) y el estilo solicitado (Borges), y genera un texto coherente con todo eso.

El adjetivo Large (grande) no es casual.

Un LLM tiene miles de millones de parámetros, que son los “pesos” ajustados durante el entrenamiento.

Cuantos más parámetros, mayor capacidad tiene el modelo para reconocer patrones complejos y producir respuestas matizadas.

Esto significa que el modelo tiene un “cerebro” enorme, con miles de millones de conexiones que representan lo que aprendió sobre el lenguaje.

El salto que permitió construir los LLM modernos vino de una arquitectura publicada por Google en 2017: “Attention is All You Need”

En ese paper se presentó el Transformer, una estructura basada en un concepto revolucionario: la autoatención (self-attention).

Permite que el modelo “mire” todas las palabras del contexto al mismo tiempo, y decida a cuáles prestar más atención.

Por ejemplo, en la frase:

“El perro que mordió al cartero corrió hacia la casa.”

Para entender quién corrió, el modelo necesita conectar corrió con perro, no con cartero.

La atención le permite establecer esas relaciones de dependencia sin importar la distancia entre palabras.

Esa capacidad para manejar contexto global es lo que hace que los transformers sean tan potentes.

Cuando escribís una pregunta o prompt, el texto se convierte en tokens numéricos.

El modelo procesa esos tokens capa por capa, cada una aplicando atención y transformaciones matemáticas.

Al final, predice la probabilidad de cada posible palabra siguiente.

Por ejemplo:

Entrada: "La inteligencia artificial generativa es"

Salida probable: "una", "capaz", "un", "la"

El modelo elige la palabra más coherente según el contexto.

Luego vuelve a predecir la siguiente… y así sucesivamente, construyendo la respuesta palabra por palabra.

Los LLM no “piensan” como los humanos, pero su entrenamiento masivo les permite capturar regularidades del lenguaje y del pensamiento humano.

En la práctica, eso les da la capacidad de:

• resumir textos,
• traducir idiomas,
• escribir código,
• razonar sobre información textual,
• y mantener conversaciones contextuales extensas.

Por eso, cuando hablamos con un modelo como ChatGPT, sentimos que hay comprensión real detrás —aunque lo que hay es una predicción probabilística extremadamente sofisticada.

Los LLM tienen límites: pueden inventar información (alucinaciones), carecen de comprensión profunda del mundo y dependen de los datos con los que fueron entrenados.

Sin embargo, su capacidad de generar texto coherente y útil en contextos muy variados los convierte en una de las herramientas más poderosas creadas hasta ahora.

Cómo funciona un modelo generativo

En el post anterior vimos qué es la Inteligencia Artificial Generativa y cómo puede crear contenido nuevo a partir de patrones aprendidos.

Ahora vamos a mirar debajo del capó: ¿cómo hace realmente un modelo para “inventar” texto, imágenes o música?

La respuesta puede resumirse en una idea:

> Un modelo generativo aprende a predecir lo que viene después.

Sí, suena simple. Pero detrás de esa predicción hay millones (o billones) de parámetros, una enorme cantidad de datos y un entrenamiento matemático fascinante.

Imaginemos que queremos que una máquina aprenda a escribir frases en español.

Para eso le damos millones de ejemplos: libros, artículos, correos, conversaciones.

El modelo analiza esas frases y aprende cómo se relacionan las palabras entre sí.

Por ejemplo, si ve muchas veces frases como:

> “El gato duerme en el sofá.”

> “El perro duerme en la cama.”

entonces entiende que después de “El gato” o “El perro” es muy probable que aparezca un verbo como duerme, corre o come.

Así, el modelo no memoriza frases completas, sino que aprende distribuciones de probabilidad:

> Dado un contexto (por ejemplo, “El gato”), ¿cuál es la palabra más probable que sigue?

Ese es el corazón de un modelo generativo.

Para que una máquina pueda trabajar con texto, primero debe convertir las palabras en números.

Cada fragmento de texto (una palabra, una sílaba o incluso una letra) se transforma en un token.

Por ejemplo:

“El gato duerme” → [101, 45, 202]

Estos números no tienen significado por sí mismos, pero el modelo los usa para representar el texto de forma matemática.

Con el tiempo, aprende que ciertos tokens aparecen juntos y en qué contextos.

Durante el entrenamiento, el modelo se enfrenta a miles de millones de ejemplos donde debe predecir la siguiente palabra.

Por ejemplo:

Entrada: "El gato"

Salida esperada: "duerme"

Cada vez que acierta, refuerza sus conexiones internas.

Cada vez que se equivoca, ajusta sus parámetros para acercarse un poco más a la respuesta correcta.

Ese proceso se repite millones de veces.

Con el tiempo, el modelo aprende cómo suena el lenguaje humano, y puede generar texto fluido simplemente repitiendo el proceso de predicción: elige una palabra, la agrega, vuelve a predecir la siguiente, y así sucesivamente.

Un modelo generativo moderno está formado por capas de neuronas artificiales conectadas entre sí.

Cada capa transforma la información, detecta patrones y pasa resultados a la siguiente.

Los modelos actuales, como los basados en la arquitectura Transformer, utilizan un mecanismo llamado atención (attention), que les permite decidir qué partes del texto son más relevantes para generar la siguiente palabra.

Por ejemplo, si el texto dice:

> “El gato que persiguió al perro estaba cansado.”

El modelo necesita “prestar atención” a *gato* (y no a *perro*) para entender que quien estaba cansado era el gato.

Eso es exactamente lo que hace el mecanismo de atención: ponderar el contexto de manera inteligente.

Supongamos que el modelo ya aprendió.

Ahora escribimos el inicio de una frase:

"El sol se"

El modelo analiza ese contexto y calcula probabilidades:

pone 0.8 a “pone”

0.1 a “oculta”

0.05 a “refleja”

0.05 a “enciende”

Puede elegir la más probable (pone), o una al azar según la distribución.

Luego repite el proceso con el nuevo contexto:

> “El sol se pone”

Y así, palabra por palabra, va construyendo texto coherente.

Lo mismo ocurre con píxeles en imágenes, notas en música o fotogramas en video.

Cuando vemos a ChatGPT escribir poesía o a DALL·E inventar ilustraciones, parece magia.

Pero en realidad, la creatividad de un modelo generativo proviene de su capacidad estadística para combinar patrones conocidos de forma nueva y coherente.

En cierto sentido, es una mezcla entre:

• la memoria del lenguaje aprendido, y
• la improvisación probabilística en cada predicción.

¿Qué es la Inteligencia Artificial Generativa?

En los últimos años, la Inteligencia Artificial Generativa (o Generative AI) pasó de ser un concepto académico a convertirse en una tecnología que usamos todos los días. Herramientas como ChatGPT, DALL·E o Gemini son ejemplos de cómo las máquinas no solo procesan información, sino que ahora también crean contenido nuevo: textos, imágenes, código, música o incluso videos.

Pero ¿qué significa exactamente que una inteligencia artificial sea “generativa”?

Y más importante: ¿cómo logra generar algo que parece hecho por una persona?

Tradicionalmente, la Inteligencia Artificial se enfocaba en reconocer patrones: identificar un objeto en una foto, predecir el precio de una casa o clasificar un correo como spam.

Es decir, la IA analizaba datos para tomar decisiones o realizar predicciones.

La IA generativa, en cambio, usa los mismos principios de aprendizaje automático, pero con un objetivo distinto: crear nuevas muestras que se parezcan a los datos con los que fue entrenada.

Por ejemplo:

• Si aprende del texto de millones de libros, puede escribir frases coherentes y originales.
• Si aprende de imágenes, puede dibujar nuevas combinaciones visuales.
• Si aprende de sonidos, puede componer melodías o voces humanas.

No “copia”, sino que aprende patrones estadísticos del lenguaje, la imagen o el sonido, y luego los usa para generar algo nuevo dentro de esos patrones.

Todo comienza con el entrenamiento. Un modelo generativo se alimenta con grandes cantidades de datos: textos, fotos, grabaciones, código fuente, etc.

Durante este proceso, el modelo aprende cómo se estructura ese contenido, encontrando relaciones, estilos y secuencias probables.

En el caso de los modelos de texto (como ChatGPT), el principio es simple pero poderoso:

> “Dado un conjunto de palabras, predecir cuál es la palabra más probable que sigue.”

Repitiendo ese proceso miles de millones de veces, el modelo aprende las reglas implícitas del lenguaje: gramática, contexto, tono, coherencia.

Eso le permite luego generar textos originales, sin necesidad de tener una “base de datos” de frases guardadas.

La mayoría de los sistemas generativos modernos se basan en una arquitectura llamada transformer, que revolucionó la forma en que las máquinas procesan secuencias como el lenguaje.

Los transformers permiten entender el contexto y generar contenido coherente a lo largo de párrafos o incluso conversaciones completas.

Estos modelos, cuando alcanzan un tamaño y entrenamiento suficientes, se denominan LLM (Large Language Models), y son la base de las IAs conversacionales actuales.

La IA generativa no solo automatiza tareas: amplía la creatividad humana. Permite a programadores escribir código más rápido, a artistas explorar nuevos estilos, y a científicos analizar datos con una comprensión semántica mucho más rica.

Su impacto se siente en educación, diseño, comunicación y desarrollo de software.

Y lo más interesante es que todavía estamos viendo solo el principio.

Ponte al día con la IA generativa

 Me llego este mail de la gente de google y quería compartirlo: 

Ponte al día con la IA generativa

¿Quieres saber cómo la IA generativa afectará a tu empresa? Estos recursos te ayudarán a mantenerte al día respecto de este tema tan cambiante.

Hola Emanuel,

El revuelo que causa la IA generativa no es algo que pueda ignorarse. De hecho, el 82% de los ejecutivos prevén que esta tecnología transformará considerablemente su industria.1 Con tanto alboroto, seguir el paso puede ser una tarea difícil.

Este es el primer correo electrónico que recibirás de una serie que te brindará recursos útiles relacionados con la IA generativa. En las próximas semanas, exploraremos todas las tendencias clave y los problemas que los líderes empresariales como tú deben conocer, lo que te permitirá materializar su potencial en tu negocio.

Descubre la jerga de la IA generativa

Para adoptar la tecnología revolucionaria de la IA generativa, es necesario conocer todos los nuevos términos y frases que se relacionan con ella. Por ejemplo, el ajuste de instrucciones o "prompt tuning" en inglés, las incorporaciones, los modelos de base y mucho más.

Si eres un ejecutivo atareado, comprender la terminología de una tecnología nueva puede parecerte difícil de lograr. Este artículo útil explica el lenguaje que debes conocer para explorar cómo la IA generativa podría transformar tu negocio.

Lee el manual de la IA generativa

Explora las oportunidades en las diferentes industrias

A través de sus diversos usos, como posibilitar interacciones en línea más conversacionales o un acceso intuitivo a datos complejos, la IA generativa está reformulando los procesos de negocio.

Con un potencial tan amplio, a los líderes empresariales les interesa conocer los usos y las oportunidades específicas para su industria o su organización. En este artículo, se examinan las posibilidades en varias industrias clave.

Lee el artículo

Domina los conceptos más importantes de la IA generativa

Si bien la IA generativa es un tema increíblemente amplio, surgieron algunos conceptos clave en los últimos meses. Para finalizar, te recomendamos que leas este artículo, que resume los conceptos clave más relevantes para líderes empresariales como tú.

Obtén más información sobre los conceptos principales de la IA generativa

Nos vemos en la nube, El equipo de Google Cloud

1. Google Cloud Gen IA Benchmarking Study, julio de 2023

 Me llego el siguiente mail y queria compartirlo : 

Comienza a usar la IA generativa Aprende cómo alcanzar el éxito sin contratiempos con la IA generativa. desde tu primer caso de uso hasta lograr un valor continuo. Descargar guía

Hola Emanuel,

Cuatro de cada cinco responsables de toma de decisiones empresariales creen que la IA generativa transformará su industria en los próximos 12 meses.1 La IA generativa no tardará mucho en influir en casi todos los sectores de todos los negocios, ya sea con respecto a la creación de contenido, la programación colaborativa, la búsqueda empresarial o la creación de resúmenes.

Ningún líder empresarial puede permitirse quedarse atrás. Para ayudarte a mantenerte al día con la información más reciente, nos complace compartir contigo “La guía para ejecutivos sobre la IA generativa”.

En esta guía completa, encontrarás lo siguiente:

Una guía paso a paso de 30 días para comenzar KPI para medir el impacto de la IA generativa Casos de uso específicos de la industria junto con historias de clientes, como Deutsche Bank, TIME y muchos más

1. Google Cloud Gen AI Benchmarking Study, julio de 2023

Descargar guía

Nos vemos en la nube, El equipo de Google Cloud

Más información   Ver el blog   Contactar a ventas