Cómo funciona la IA generativa (y por qué importa)¶
La idea central: predice, no piensa¶
No hace falta entender las matemáticas que hay debajo para usar bien una herramienta de IA, pero sí conviene interiorizar una idea, porque explica casi todos sus comportamientos —los buenos y los problemáticos:
Un modelo de lenguaje no consulta una base de datos de hechos: predice la siguiente palabra más probable, una tras otra, a partir de los patrones que aprendió.
Es, en esencia, el autocompletado del móvil llevado al extremo. Cuando se escribe "Voy a comer con mi…", el teclado sugiere "familia" o "madre" porque son continuaciones frecuentes. Un modelo de IA hace lo mismo, pero en lugar de una palabra encadena párrafos enteros, y lo hace tan bien que parece que razona. No razona: acierta la continuación más plausible.
De aquí se derivan dos consecuencias que recorren todo este marco:
- La IA prioriza sonar coherente sobre ser veraz. La verdad, para ella, es un efecto secundario. Por eso puede entregar una respuesta impecable en la forma y equivocada en el fondo (esto son las alucinaciones).
- La IA no comprende el contenido ni asume responsabilidad por él. Es una herramienta que produce borradores; el criterio y la firma son siempre de una persona.
Qué significa "GPT"¶
Las siglas que casi todo el mundo usa sin descifrar resumen cómo funciona la herramienta sin una sola fórmula:
| Letra | Significado | Qué implica en la práctica |
|---|---|---|
| G — Generativo | Genera texto nuevo a partir de la instrucción | No copia y pega de una fuente: redacta. Por eso dos respuestas a la misma pregunta pueden diferir. |
| P — Pre-entrenado | Viene "leído": aprendió de grandes cantidades de texto antes de que tú lo uses | Su conocimiento está congelado en una fecha. Puede desconocer hechos recientes y no lo advierte. |
| T — Transformer | El tipo de modelo que hay debajo | Es lo que le permite tener en cuenta el contexto de toda la instrucción. No necesitas saber más. |
El punto operativo es el "Pre-entrenado": el modelo tiene fecha de caducidad en su conocimiento. Para datos recientes o propios de la organización, hay que dárselos en la instrucción, no confiar en su memoria.
Tokens y ventana de contexto: la "memoria de trabajo"¶
Tokens: la unidad de cuenta¶
La IA no lee "palabras": parte el texto en piezas pequeñas llamadas tokens (un token equivale, de media, a unos 4 caracteres). Todo lo que entra y lo que sale se mide en tokens. Es la unidad de cuenta de estas herramientas, como los minutos en una tarifa de móvil antigua.
Esto tiene dos efectos prácticos:
- Coste. En las soluciones corporativas (que funcionan por API) se paga por token, y de forma distinta lo que se envía y lo que se genera. Los modelos más potentes cuestan varias veces más que los económicos: conviene usar el modelo adecuado para cada tarea, no el más caro para todo.
- Velocidad. Más tokens significa más tiempo de respuesta. Instrucciones y respuestas concisas son más rápidas y más baratas.
Detalle poco conocido y útil: el mismo texto cuesta más o menos tokens según el idioma. Como los modelos se entrenaron mayoritariamente en inglés, trabajar en otras lenguas puede consumir bastantes más tokens para decir lo mismo (un "impuesto lingüístico"). No obliga a trabajar en inglés, pero ayuda a entender que el idioma y la longitud tienen un coste real.
Ventana de contexto: lo que cabe "encima de la mesa"¶
La ventana de contexto es la memoria de trabajo del modelo durante una conversación: todo lo que puede tener delante a la vez —la instrucción, los documentos pegados y las respuestas anteriores—, también medido en tokens. La regla a interiorizar: lo que se sale de la ventana, se olvida.
Conviene imaginar una mesa de trabajo: cuando se llena, para poner un papel nuevo hay que retirar uno viejo, y lo retirado deja de tenerse en cuenta.
Además, las ventanas grandes engañan. Aunque un fabricante anuncie cientos de miles de tokens, el rendimiento real se degrada mucho antes del límite, y aparece el efecto "perdido en el medio": el modelo recuerda bien el principio y el final de un texto largo, pero la información del medio se le escapa.
Qué hacer con esto¶
- No pegar un documento enorme esperando que la herramienta "lo domine" entero; darle solo la sección relevante.
- Poner el dato crítico al principio o al final de la instrucción, no enterrado en medio.
- Cuanto más llena está la ventana, peor la respuesta: menos es más.
- Para una tarea nueva, abrir una conversación nueva en lugar de arrastrar un hilo interminable.
El ecosistema: no todo es ChatGPT¶
No existe "una IA", sino un mercado con opciones que conviene distinguir:
- Modelos propietarios (cerrados): los grandes asistentes comerciales. Cómodos y potentes, pero las versiones gratuitas tienen implicaciones de privacidad (ver Privacidad y seguridad).
- Modelos abiertos: modelos de calidad cuyo código y pesos están disponibles. Importan porque permiten desplegar soluciones privadas e internas: usar IA sin que la información salga de entornos controlados.
- Modelos multimodales: más allá del texto, manejan imágenes, audio o datos. Amplían los casos de uso (por ejemplo, interpretar una foto o un documento escaneado).
La existencia de la opción "abierta/privada" es la que permite a una organización usar IA sin regalar sus datos, y enlaza directamente con las decisiones de gobierno y selección de herramientas del marco.
Un modelo mental para todo el marco¶
Si hay que quedarse con una sola frase, esta resume el resto del documento y debería guiar cualquier uso de IA en la organización:
La IA es un colaborador brillante pero sin criterio: predice, no comprende. Hace el borrador; tú pones el juicio y la firma.
Todo lo demás —revisar siempre los resultados, no subir información sensible a herramientas públicas, pedir bien las cosas, conocer las obligaciones legales— son consecuencias prácticas de esta idea. Los siguientes capítulos del bloque las desarrollan.