Mellum 2.1 Thinking

por JetBrains

Un modelo que razona, en tu propio PC.

↓ 17,6 k descargas Apache-2.0 GratisLocalPesos abiertos

Ver en Hugging Face →

Qué hace

12 000 millones de parámetros, solo 2,5 activos: rápido
Razonamiento visible y 131 000 tokens de contexto
Versión de 4 bits: 8 GB, cabe en una tarjeta de 12 GB

Instalarlo

Requisitos: Unos 8 GB de memoria para la versión de 4 bits (Q4_K_M). Ollama, LM Studio o llama.cpp.

Con Ollama

ollama run hf.co/JetBrains/Mellum2.1-12B-A2.5B-Thinking-GGUF:Q4_K_M

Con llama.cpp (API compatible con OpenAI)

llama-server -hf JetBrains/Mellum2.1-12B-A2.5B-Thinking-GGUF:Q4_K_M --ctx-size 131072 --temp 0.6 --top-p 0.95 --top-k 20

El prompt para tu agente

Pégalo en tu agente de código: comprueba los requisitos y lo instala por ti.

Claude CodeCodexCursorGemini CLIopencode

Prompt

Instala en local el modelo Mellum 2.1 Thinking de JetBrains.
1. Comprueba cuánta memoria hay disponible (GPU y RAM): la versión Q4_K_M necesita unos 8 GB.
2. Comprueba que Ollama está instalado; si no lo está, pregúntame antes de instalarlo.
3. Ejecuta: ollama run hf.co/JetBrains/Mellum2.1-12B-A2.5B-Thinking-GGUF:Q4_K_M
4. Hazle una pregunta de prueba y muéstrame su respuesta, razonamiento incluido (etiquetas <think>).

Revisa siempre lo que tu agente va a ejecutar, sobre todo los comandos de instalación.