Qué es un LLM
También se dice modelo de lenguaje grande, large language model o modelo extenso de lenguaje.
En dos frases
Modelo de inteligencia artificial entrenado con enormes cantidades de texto para predecir cómo sigue una secuencia, lo que le permite redactar, resumir, traducir o responder preguntas en lenguaje natural.
- Bloque
- Fundamentos
- Nivel
- Básico
- Actualizado
Definición amplia
Un LLM (del inglés large language model, modelo de lenguaje grande) es un modelo de aprendizaje profundo entrenado con cantidades muy grandes de texto. Google lo define como un modelo de lenguaje con un número muy alto de parámetros y, de manera más informal, como cualquier modelo de lenguaje basado en la arquitectura Transformer. Son LLM los modelos que hay detrás de asistentes como ChatGPT, Claude o Gemini.
Cómo funciona
En el preentrenamiento, el modelo lee el texto dividido en tokens y aprende a predecir el siguiente. No necesita que nadie etiquete los datos: la respuesta correcta es el propio texto que sigue, y por eso se habla de aprendizaje autosupervisado. Repetido a gran escala, este ejercicio le da una capacidad general para redactar, resumir, traducir, clasificar o escribir código. Después suele ajustarse con fine-tuning y con técnicas como el RLHF, en las que personas valoran respuestas y el modelo aprende a preferir las mejor valoradas.
Por qué importa en la empresa
Un mismo LLM sirve para muchas tareas distintas sin construir un modelo para cada una. Eso permite empezar un proyecto sin entrenar un modelo propio y explica que aparezca en las herramientas de ofimática, en el CRM o en la atención al cliente. Conviene recordar lo que es: un sistema que genera texto a partir de las probabilidades que aprendió, no una base de datos que consulta hechos.
Límites
- Alucinaciones: puede generar información falsa que suena plausible.
- Conocimiento con fecha: lo que sabe llega hasta su fecha de corte, salvo que se le den documentos o acceso a búsquedas.
- Sesgos: puede reflejar y amplificar los sesgos de sus datos de entrenamiento.
- Coste: su uso por API suele pagarse por tokens procesados, y entrenarlo y ejecutarlo consume muchos recursos.
Ejemplos de uso
Dirección y estrategia
En dirección, se usa para resumir informes largos y preparar el resumen ejecutivo de una reunión.
Marketing
En marketing, es la base de las herramientas que proponen titulares, textos para la web o respuestas a comentarios.
Atención al cliente
En atención al cliente, está detrás de los asistentes que entienden preguntas escritas con las palabras del propio cliente.
Datos y analítica
En analítica, permite hacer preguntas a los datos en lenguaje natural y obtener la consulta o el resumen correspondiente.
Términos relacionados
Fuentes
Del término a aplicarlo en tu empresa.
Lo que explica este glosario se trabaja en los programas de Kynetik, área por área.