¿Qué es el entrenamiento en IA?

El entrenamiento es cómo se construye un modelo. Se le muestran cantidades enormes de material, normalmente texto pero a menudo también imágenes y código, y sus ajustes internos se modifican hasta que sus predicciones dejan de mejorar. Etapas posteriores moldean cómo responde más que lo que sabe. Los ajustes se congelan para el lanzamiento solo después de todo eso, y nada de lo que escribas en una conversación los cambia.

Un modelo empieza como millones de números puestos al azar, produciendo puro ruido. El entrenamiento esconde la siguiente palabra de un fragmento, compara la predicción del modelo con la respuesta real y empuja los números un poco hacia equivocarse menos, un método llamado descenso de gradiente estocástico. Repite eso unos cuantos billones de veces y los números se asientan en algo que predice el lenguaje bien. ¿Por qué no programar directamente las reglas del idioma? Porque nadie sabe enunciarlas: explicar por qué «té cargado» suena bien y «té potente» no llevaría una vida entera, y esa es una expresión entre millones. Aprender de ejemplos evita tener que escribir ninguna regla. Tres etapas se suceden: el preentrenamiento sobre el grueso del material, el ajuste fino sobre un conjunto más estrecho de ejemplos, y el aprendizaje por refuerzo con retroalimentación humana, donde personas ordenan respuestas. El preentrenamiento es la etapa cara y termina mucho antes del lanzamiento, y por eso cada modelo tiene una fecha de corte de conocimiento.

Aprender a coger una pelota al vuelo. Nadie te da las ecuaciones de una parábola, y leerlas tampoco ayudaría mucho. Sacas las manos, fallas, y algo se ajusta muy ligeramente. Unos miles de capturas después se te da bien, y sigues sin poder escribir la regla que aprendiste.