2.3. Ollama y prototipo

2.3. Instalación de infraestructura: Elige tu camino

Para ejecutar Llama, necesitamos un "motor". En este taller ofrecemos dos rutas de implementación. Ambas son válidas, pero atienden a perfiles distintos.

circle-exclamation

Herramienta: LM Studio / Ollama

Esta ruta descarga el "cerebro" a tu disco duro. Funciona sin internet.

Paso 1: Instalación del motor

  1. Descarga LM Studio desde su sitio oficial.

  2. Instala y ejecuta la aplicación.

Paso 2: Adquisición del modelo (Llama 3.2)

  1. En la barra de búsqueda (lupa), escribe: llama 3.2 3b.

  2. Selecciona la opción "Quantization q4_k_m" (Balance ideal velocidad/calidad).

  3. Clic en Download.

Paso 3: Inferencia

  1. Ve a la pestaña de Chat (burbuja).

  2. Selecciona el modelo cargado arriba al centro.

  3. Prueba de fuego: Desconecta tu WiFi y escribe: "Hola, ¿estás funcionando?"

Resultado: Tienes una IA privada, soberana y gratuita de por vida.

Validación de Instalación

Antes de pasar al siguiente módulo, asegúrate de cumplir este checklist:

Última actualización