Introducción a Alibaba Qwen 2.5 Max: Guía para principiantes sobre cómo ajustarlo

Los modelos de IA son herramientas poderosas, pero ¿qué pasaría si pudieras convertir a uno de ellos en un verdadero experto en tu campo? 

Ahí es donde entra en juego el ajuste fino. 

Al ajustarlo, puede tomar un modelo de IA general y entrenarlo aún más para especializarlo en su caso de uso único, ya sea:

• Cuidado de la salud
• Finanzas
• Educación, o algo completamente distinto.

Un modelo que vale la pena explorar es Qwen 2.5 de Alibaba, un modelo de lenguaje grande, robusto y versátil, diseñado para diversas tareas. 

Para profundizar en todo lo que ofrece Qwen y por qué es importante, Este desglose del LLM de Alibaba Es un buen lugar para empezar.

En este blog aprenderás:

• ¿Qué es el ajuste fino?
• Cómo ajustar Qwen 2.5 (sin conocimientos técnicos)
• Mejores prácticas para perfeccionar Qwen 2.5 (que también puedes aplicar a otros LLM)
  

Esta sencilla guía lo guiará a través de todo el proceso de ajuste, haciéndolo simple y fácil para principiantes.

¿Qué es el ajuste fino y por qué es necesario saber sobre él?

El ajuste es el proceso de tomar un modelo previamente entrenado y entrenar al menos uno de sus parámetros internos, como los pesos o sesgos dentro de una red neuronal, para que se adapte mejor a sus necesidades específicas.

Digámoslo de esta manera: si Qwen es un diamante recién salido de una mina de carbón, entonces el ajuste es el proceso de cortar y pulir ese diamante para convertirlo en algo funcional, como un anillo de diamantes. 

Toma algo poderoso en su forma cruda y lo hace más:

• Práctico
• Útil
• Alineado a un caso de uso específico.

Esto es exactamente lo que sucede cuando un modelo base como Qwen se perfecciona hasta convertirse en algo como Qwen 2.5 Max. 

¿El resultado? 

Un modelo más preciso, más eficiente y mejor adaptado para aplicaciones del mundo real.

¿Por qué es importante el ajuste fino?

Esta es la idea clave: un modelo más pequeño y ajustado a menudo puede superar a un modelo genérico más grande. 

OpenAI lo demostró por primera vez con sus modelos InstructGPT y sigue siendo válido hoy en día.

Esta es una de las mayores ventajas del ajuste fino.

No siempre es necesario contar con un LLM masivo y de propósito general para obtener un alto rendimiento en una tarea particular.

Puede:

• Adopte un modelo de código abierto
• Ajústalo desde tu computadora portátil,

¿Y la mejor parte? 

No es necesario ser desarrollador o científico de datos.

Si eres un poco experto en tecnología, estás listo para empezar.

Por qué el perfeccionamiento hace que los LLM sean realmente útiles

Probablemente hayas notado esto después de jugar con los LLM: son excelentes para preguntas generales, pero no tan precisos cuando se trata de tareas específicas del dominio.

Ahí es donde el ajuste fino realmente brilla.

Esto es especialmente cierto cuando se observa cómo Empresas emergentes de inteligencia artificial y gigantes tecnológicos chinos están aprovechando el ajuste fino para crear modelos que rivalizan con los mejores de Occidente.

Digamos que quieres que un modelo se comporte como un ajustador de reclamaciones de seguros.

Podrías seguir recordándolo en tu mensaje para que respondas con un tono profesional y con conocimiento de las pólizas de seguros…

O

Podrías simplemente afinarlo con ejemplos de cómo habla y trabaja un ajustador de reclamos.

De esa manera, el modelo ya “sabe"cómo actuar, no se necesitan instrucciones constantes.

Eso es exactamente lo que se obtiene con el ajuste fino.

• Respuestas mejores y más precisas con indicaciones más breves
• Tiempo de respuesta más rápido (menor latencia de inferencia)
• Costos computacionales más bajos
• Un modelo que entiende tu dominio como un profesional

Tipos de ajuste fino

Hay tres formas comunes de ajustar un modelo:

1. Aprendizaje autosupervisado:

El modelo aprende de datos no etiquetados al predecir partes del texto (por ejemplo, palabras faltantes).

2. Aprendizaje supervisado:

Le das al modelo pares de entrada-salida (preguntas + respuestas correctas).

3. Aprendizaje por refuerzo:

El modelo aprende al recibir retroalimentación (como pulgares arriba o abajo) y ajusta su comportamiento en consecuencia.

¿Qué es Qwen 2.5 y por qué usarlo?

Qwen 2.5 es un modelo de lenguaje grande (LLM) desarrollado por Alibaba. 

Es parte de la familia Qwen, que incluye diferentes tamaños de modelos como 0.5B, 7B e incluso 72B (la "B" representa miles de millones de parámetros).

Hay dos tipos de modelos Qwen:

1. Modelos base:

Estos son modelos pre-entrenados en bruto. 

Han aprendido patrones generales del lenguaje a partir de una gran cantidad de datos, pero no los han adaptado para tareas específicas. 

Por ejemplo: Qwen2.5-7B.

2. Modelos ajustados a las instrucciones:

Estos modelos están ajustados para seguir instrucciones o responder como un chatbot. 

Están capacitados en tareas específicas como:

• Respondiendo preguntas
• Resumiendo el texto
• Tener conversaciones. 

Por ejemplo: Qwen2.5-7B-Instruct.

Y si te preguntas cómo se compara el enfoque de Alibaba a nivel mundial, Este cara a cara entre OpenAI y Alibaba LLMs Proporciona un contexto útil.

Cuando te refieres a Qwen 2.5 Max, es posible que te refieras a la versión más grande o más potente de la serie Qwen 2.5. 

Podría ser un modelo base o uno ajustado por instrucciones, dependiendo de qué versión estés usando.

Si desea ajustar Qwen para su propia tarea (como resumir correos electrónicos o clasificar tickets de atención al cliente), generalmente querrá comenzar con un modelo base y entrenarlo más con sus propios datos. 

Pero si estás construyendo un chatbot o algo más interactivo, comenzar con un modelo basado en instrucciones podría facilitar tu trabajo.

¿Por qué deberías usarlo?

Además de todas las características interesantes mencionadas anteriormente, también analizamos en profundidad lo que dicen los usuarios reales. 

¿Y las reseñas? 

Bastante sólido:

• “Qwen 2.5 es revolucionario”.
• “Qwen Max es bueno.”
• "Está siendo dormido."
• “Es fácil de usar y gratuito; lo uso todo el tiempo”.

Entonces, si eres un desarrollador, investigador o fundador de una startup y buscas un modelo de IA inteligente, rápido y flexible, vale la pena probar Alibaba Qwen 2.5 Max.

Esos sentimientos reflejan lo que hemos visto en la comunidad. 

De hecho, Estos consejos de expertos sobre el uso de Qwen 2.5 Max muestra lo flexible y amigable para los desarrolladores que es.

Introducción a Alibaba Qwen 2.5 Max

¿Estás emocionado por probar Alibaba Qwen 2.5 Max? 

¡Genial! Es fácil de acceder y configurar, incluso si estás empezando.

Dónde acceder a Qwen 2.5 Max

Puedes comenzar a utilizar Qwen 2.5 Max e incluso perfeccionarlo a través de:

• GitHub:

Alibaba ha publicado el modelo en código abierto. Simplemente visita su página de GitHub y sigue las instrucciones de configuración.

• Cara abrazada:

Si te sientes más cómodo con Hugging Face, puedes explorar y ejecutar el modelo allí mismo usando sus herramientas.

• Nube de Alibaba:

¿Prefieres una configuración en la nube? Puedes acceder al modelo a través de Model Studio de Alibaba Cloud sin necesidad de configurar tu propio hardware.

Una vez que tengas los conceptos básicos listos, estarás listo para comenzar a experimentar con Alibaba AI Qwen 2.5 Max, ya sea que quieras crear un chatbot, analizar datos o ajustarlo para tu propio caso de uso.

Preparación de su conjunto de datos para el ajuste fino

Antes de ajustar Qwen 2.5 Max, debes preparar tu conjunto de datos.

Piense en ello como si estuviera alimentando su modelo: cuanto más limpios y relevantes sean sus datos, mejor funcionará.

¿Qué tipo de datos funcionan mejor?

Depende de lo que quieras que haga el modelo:

• Para un chatbot de soporte → Utilice chats reales o preguntas frecuentes.
• Para resumir textos → Utilice textos largos con sus respectivos resúmenes.
• Para la explicación del código → Utilice fragmentos de código con explicaciones simples.
  

En resumen: simplemente asegúrate de que cada ejemplo muestre claramente lo que quieres que el modelo aprenda.

Trucos sencillos sobre cómo formatear, cambiar el tamaño y limpiar

Aquí hay algunos consejos para mantener sus datos limpios y útiles:

Formato:

Su conjunto de datos debe estar en formato JSON, CSV o de texto, el que admita su script o marco de entrenamiento.

Cada ejemplo debería verse así:

Tamaño:

• Comience con 500 a 1000 ejemplos, eso es suficiente para ver resultados útiles.
• Más ejemplos = mejor aprendizaje, pero la calidad es más importante que la cantidad.

Consejos de limpieza:

• Elimine cualquier error ortográfico, oraciones interrumpidas o información irrelevante.
• Mantenga el lenguaje consistente (evite mezclar demasiados estilos).
• Recorte las respuestas largas si no agregan valor.
  

Por ejemplo, digamos que desea entrenar al modelo para responder preguntas como un asistente médico:

Continúe repitiendo este tipo de estructura con diferentes preguntas y respuestas, y tendrá un conjunto de datos sólido para ajustar.

¡Ahora que sus datos están listos, pasemos a cómo ajustar Qwen 2.5 paso a paso!

Cómo perfeccionar Alibaba AI Qwen 2.5 Max (paso a paso)

La ingeniería rápida (dar las instrucciones correctas a un modelo de IA) es poderosa y, para muchas tareas, funciona bien.

Pero a veces, las indicaciones por sí solas no son suficientes. 

Ahí es donde entra en juego el ajuste fino.

Ajustar significa tomar un modelo existente, como Qwen 2.5 Max, y entrenarlo más a fondo con sus propios datos para que funcione mejor para su tarea específica.

Aquí tienes una guía paso a paso para ayudarte a empezar.

Paso 1: Instalar las bibliotecas necesarias

Antes de comenzar a ajustar el modelo Qwen 2.5 Max, debe configurar su entorno Python con las herramientas adecuadas. 

Aquí te explicamos cómo:

• Asegúrate de tener Python instalado

Necesitarás Python 3.8 o superior. Puedes descargarlo desde python.org.

• Abra su terminal o símbolo del sistema
• Instale las bibliotecas necesarias usando pip

Ejecute este comando:

Esto le brinda las herramientas para cargar modelos, preparar sus datos y ejecutar el entrenamiento.

Paso 2: Cargue el modelo Qwen 2.5

Puede cargar el modelo base desde Hugging Face o Alibaba Cloud.

Se verá algo así como esto en el código:

Paso 3: Prepare y tokenice sus datos

Primero, decide qué quieres que haga el modelo:

• Resumen de texto
• Generación de texto
• Clasificación binaria
• Preguntas y respuestas, etc.

Luego, crea tu conjunto de datos en pares de entrada-salida.

Ejemplo:

Una vez que tengas tus datos, los tokenizas (los conviertes en números que el modelo entiende):

Paso 4: Elija su enfoque de ajuste fino

Ahora viene una decisión clave: ¿cómo quieres entrenar el modelo?

• Ajuste fino completo (actualización de todos los parámetros)

Esto significa volver a entrenar todo el modelo, cada peso y sesgo.

Te da control total pero requiere un enorme poder computacional y es muy costoso.

• Aprendizaje por transferencia (actualizar solo algunas capas)

Aquí se congelan la mayoría de las capas y solo se entrenan las últimas.

Es más asequible y funciona bien para muchos casos.

• Ajuste fino de parámetros eficiente (PEFT)

Esta es la opción más ligera.
No cambias en absoluto el modelo original. 

En lugar de ello, agrega algunos parámetros adicionales (como adaptadores) y entrena sólo esos.

Un método popular aquí es LoRA (Adaptación de bajo rango). 

Es barato, rápido y sorprendentemente potente.

Paso 5: Definir los parámetros de entrenamiento

Ahora, configure cómo debe ejecutarse el entrenamiento:

• Tamaño del lote
• Tasa de aprendizaje
• Número de épocas de entrenamiento
  

Ejemplo:

Paso 6: Comienza el entrenamiento

Utilice el entrenador de Hugging Face o cualquier bucle de PyTorch para comenzar el entrenamiento.

Verás que la pérdida disminuye a medida que el modelo aprende.

Paso 7: Evaluar el rendimiento del modelo

Es importante comprobar el rendimiento de su modelo.
Puede utilizar métricas básicas como precisión o métricas personalizadas según su tarea.

Esto le ayudará a supervisar si su ajuste realmente está mejorando los resultados.

Paso 8: Guardar y probar el modelo

Una vez realizado el entrenamiento, guarde su modelo:

¡Luego cárgalo en cualquier momento y pruébalo con ejemplos reales!

Verá, el ajuste fino le permite enseñar a un modelo de IA poderoso como Qwen 2.5 Max a comprender sus datos, su tono y sus objetivos.

No es necesario ser desarrollador ni científico de datos.

Si sabes un poco de Python y estás dispuesto a experimentar, ya estás a mitad de camino.

Si todavía estás decidiendo qué modelo se adapta mejor a tus necesidades, Esta comparación de los mejores modelos de IA ofrece un desglose claro del rendimiento en todos los ámbitos.

Mejores prácticas para perfeccionar los modelos LLM 

Ajustar modelos de lenguaje grandes (LLM) como Qwen 2.5 puede parecer complejo, pero con los pasos correctos, se vuelve mucho más fácil. 

A continuación se presentan algunas prácticas recomendadas para ayudarlo a obtener mejores resultados, ahorrar tiempo y evitar desperdiciar recursos informáticos.

1. Evite el sobreajuste:

El sobreajuste significa que su modelo aprende demasiado bien sus datos de entrenamiento, pero tiene un rendimiento deficiente con datos nuevos. 

Para evitar esto:

• Utilice datos de validación (un conjunto separado) para comprobar qué tan bien se generaliza el modelo.
• Intente detenerse temprano: detenga el entrenamiento cuando la pérdida de validación deje de mejorar.
• Mantenga los datos de entrenamiento limpios y diversos, no repetitivos.
• Utilice métodos de ajuste fino con parámetros eficientes (PEFT) como LoRA o LoRA+ para reducir los riesgos de sobreajuste al entrenar solo una pequeña parte del modelo.
  

2. Pérdida y rendimiento del monitor:

Durante el entrenamiento, siempre tenga en cuenta lo siguiente:

• Pérdida de entrenamiento: qué tan bien está aprendiendo el modelo de los datos que ve.
• Pérdida de validación: qué tan bien funciona con datos no vistos.
• Métricas como precisión, puntuación F1 u otras, según su tarea.
  

Consejo: ¡Los gráficos son tus amigos!

Visualizar la pérdida puede ayudarle a detectar problemas de forma temprana, como si la pérdida de entrenamiento disminuye pero la pérdida de validación aumenta (una señal clásica de sobreajuste).

3. Sepa cuándo dejar de entrenar:

No ejecutes el entrenamiento durante 20 épocas simplemente “porque suena bien”. 

En cambio:

• Detenerse cuando la pérdida de validación se estabilice o comience a aumentar
• Utilice devoluciones de llamadas como early_stopping en bibliotecas de entrenamiento
• Confíe en sus gráficos: si no muestran ninguna mejora, es hora de parar.

En el ajuste fino, normalmente elegirás cuántas épocas quieres en función de:

• ¿Qué tan grande es su conjunto de datos?
• ¿Cuánto tiempo estás dispuesto a entrenar?
• Cuando el modelo empieza a dar buenos resultados.

4. Experimente con diferentes técnicas de ajuste fino:

No todos los métodos de ajuste fino funcionan de la misma manera. 

Intentar:

• LoRA (adaptación de bajo rango): rápida, eficiente y excelente para recursos limitados.
• LoRA+: una versión mejorada que ofrece un mejor rendimiento en tareas difíciles. Está disponible en la biblioteca peft y no ralentiza el entrenamiento.
• DoRA: las primeras pruebas sugieren que no mejora mucho, pero siéntete libre de intentarlo.
• GaLore o QGaLore: utiliza la memoria de forma inteligente y es un buen punto intermedio entre LoRA y el ajuste fino completo.
  

Solo si LoRA o GaLore le brindan resultados sólidos, considere realizar un ajuste completo (que consume muchos recursos).

5. Elija los módulos adecuados para ajustar:

Al utilizar el ajuste fino basado en LoRA:

• Evite la afinación v_proj y capas down_proj—no se benefician mucho de las actualizaciones de bajo rango (según el artículo de WeLoRA).
• Concéntrese en las capas donde los cambios importan más (normalmente, las capas de atención y MLP).
  

6. Ahorre dinero y agilice el proceso:

El ajuste fino puede resultar costoso. 

Algunas herramientas para hacerlo más barato y rápido:

• Utilice QLoRA de 4 bits en modelos livianos como Mistral para realizar pruebas.
• Pruebe herramientas de ahorro de costos como Liger, FlashAttention (FA), DeepSpeed ZeRO Stage 3 y Unsloth (a través del marco Axolotl).

Estas opciones le ayudan a entrenar modelos más rápido, con menos memoria y dinero.

7. Sigue mejorando tu conjunto de datos:

Su modelo es tan bueno como sus datos.

• Continúe perfeccionando su conjunto de datos hasta que sea claro, preciso y diverso.
• Eliminar el ruido, la repetición y los ejemplos irrelevantes.
• Si es necesario, genere mejores datos sintéticos utilizando un modelo más sólido.
  

8. Ajuste sus hiperparámetros:

Los hiperparámetros (como la tasa de aprendizaje, el tamaño del lote, etc.) controlan cómo aprende su modelo.

• Realice un barrido de parámetros: pruebe algunas combinaciones y vea qué funciona mejor.
• Busque esa “zona Ricitos de Oro”: ni demasiado rápido, ni demasiado lento, justo lo correcto.
  

9. Aprenda a leer gráficos:

Los gráficos te ayudan a ver la historia detrás de los números.

• Utilice herramientas como TensorBoard o W&B (Pesos y sesgos).
• Esté atento a caídas suaves y constantes en las pérdidas, no a picos bruscos.
• Realice un seguimiento de las métricas a lo largo del tiempo para detectar mejoras o problemas.
  

Para concluir…

No te estreses por las pequeñas mejoras del 10% cuando no has dominado el núcleo del 90%.

Empieza con algo sencillo. Ajusta gradualmente. Prueba con frecuencia. 

Y lo más importante, comprenda qué está haciendo su modelo y por qué.

Conclusión: Haga que Alibaba Qwen 2.5 funcione para usted

Ajustar el Alibaba AI Qwen 2.5 Max o cualquier modelo madre significa hacerlo verdaderamente suyo, adaptado para adaptarse a su dominio o tarea específicos. 

Ya sea:

• Cómo escribir mejores resúmenes
• Responder consultas de clientes
• Comprender documentos legales.

Puedes obtener mejores resultados simplemente comenzando con el modelo base correcto y utilizando el tipo correcto de datos de entrenamiento.

No es difícil, solo ten claro qué quieres que haga el modelo y enséñalo con ejemplos que coincidan con eso. 

Esa es la belleza del ajuste fino: mejor rendimiento sin necesidad de un modelo enorme.

Así que adelante, experimente con Qwen 2.5, pruebe cosas y haga que funcione en su mundo.

¿Quieres ver qué más está construyendo China en el espacio de la IA? Aquí hay cinco startups chinas de inteligencia artificial audaces y sigilosas que están haciendo olas silenciosamente.

¿Quieres recibir los últimos conocimientos y tendencias en IA directamente en tu bandeja de entrada? 

Suscríbete a Boletín informativo de AI Business Asia Hoy y mantente a la vanguardia.