Inicio / Qué es un modelo de lenguaje, sin jerga

Cómo aprendió Claude a responder, y hasta cuándo

Claude atraviesa tres etapas de entrenamiento antes de cualquier conversación, una lectura amplia del mundo, un ajuste para convertirse en un asistente útil, y después una autocorrección basada en principios escritos, y el conocimiento que resulta de ello se detiene en una fecha que varía según el modelo utilizado.

Claude no aprende nada mientras te responde. Todo su conocimiento viene de un entrenamiento terminado antes de su puesta a disposición, y ese entrenamiento se desarrolla en varias etapas bien distintas, cada una añadiendo una capa diferente a lo que el modelo sabe hacer.

Tres etapas antes de cualquier conversación

La primera etapa consiste en leer una cantidad considerable de textos variados para adquirir una capacidad de lenguaje general, incluso antes de saber mantener una conversación útil. Una segunda etapa, llamada posentrenamiento, transforma esta base en un asistente capaz de responder a una petición real en lugar de limitarse a prolongar un texto. Una tercera etapa enseña al modelo a criticar y revisar sus propias respuestas a partir de un conjunto de principios escritos, un texto de referencia que fija lo que cuenta como una respuesta útil y prudente, y después un segundo pase refuerza la elección de las respuestas menos problemáticas apoyándose en esos mismos principios en lugar de en juicios humanos recogidos uno por uno. La figura de abajo recoge estas tres etapas en el orden en que se producen.

Una fecha de corte que varía según el modelo

Una vez terminadas estas etapas, el conocimiento de Claude queda fijado, no sabe nada de lo que ha ocurrido después de cierta fecha, llamada fecha de corte. Esta fecha no es la misma para todos los modelos de la familia, la figura da un ejemplo preciso para uno de ellos. Plantear una pregunta sobre un acontecimiento reciente sin aportar contexto equivale a pedirle a alguien que comente una noticia que nunca ha leído.

Aportar una fuente reciente

El correctivo se aplica mensaje por mensaje, pegando el texto de un documento reciente directamente en la conversación antes de plantear la pregunta.

Aquí tienes el artículo publicado hoy por nuestra asociación, pegado a continuación:
[texto del artículo]
Responde únicamente a partir de este texto, sin apoyarte en lo que sabías antes.

Esta frase de anclaje no repara la fecha de corte, la rodea únicamente para la pregunta planteada. El principio visto en la lección anterior, la posición de una información cambia su peso, también se aplica a una fuente reciente, gana si se encuentra cerca de la pregunta en lugar de sumergida en medio de un mensaje largo.