Tokens especiales que nunca ves

Además de tu texto y del mensaje del sistema, la IA utiliza tokens especiales: marcadores invisibles que estructuran la conversación. Se parecen a <|user|>, <|assistant|> o <|end|>, aunque el formato exacto varía según el modelo.

Estos tokens marcan dónde comienza y termina cada mensaje, y quién está hablando. Sin ellos, el modelo no sabría de quién es el turno. Nunca los escribes ni los ves, pero consumen espacio en la ventana de contexto.

Por eso incluso una conversación vacía no equivale a cero tokens y por eso el recuento de tokens a veces parece ligeramente superior a lo esperado. En conversaciones largas de ida y vuelta, estos marcadores se acumulan: cada límite de mensaje requiere su propio conjunto.

No necesitas gestionar directamente los tokens especiales. Pero saber que existen ayuda a explicar de dónde provienen esos tokens «adicionales».