Ejecuta Ripple-65B Preview localmente: configuración de RAM, VRAM y agente de programación

Ripple-65B Preview puede ejecutarse localmente, pero para empezar de forma práctica hace falta una máquina con memoria suficiente para un paquete de Ollama de aproximadamente 39–46 GB más el entorno de ejecución, la caché y el sistema operativo. Una tarjeta gráfica de 24 GB no puede alojar todo el paquete en la VRAM. Una máquina con 64 GB de memoria unificada puede servir para una prueba con un contexto corto, según la etiqueta seleccionada y la presión de memoria real. Un conjunto de memoria más amplio da a un agente de programación más espacio para mantener disponibles los archivos, la salida de las pruebas y el historial de conversación.

Ricursive Intelligence lanzó este modelo denso de 65B bajo Apache 2.0 y publica pesos BF16 y NVFP4. Ollama incorporó Ripple Preview en la versión v0.40.16. Esta guía empieza con la decisión sobre la máquina y el entorno de ejecución y luego muestra cómo probar una carga de trabajo de programación real. Los niveles de memoria que se indican a continuación son estimaciones para planificar. Los resultados de pruebas publicados se identifican por separado.

¿Qué diferencia a Ripple de un agente de programación con un nombre parecido?

Ripple es el modelo. Puede proponer cambios y llamadas a herramientas, mientras que un arnés de programación controla a qué archivos y comandos puede acceder realmente. Ejecutar el modelo en la misma red que un repositorio no le concede acceso a Git. El arnés decide cómo montar el espacio de trabajo, ejecutar pruebas y solicitar aprobación. Esta distinción importa al comparar una sesión de chat de Ollama con una prueba de referencia en terminal.

La tarjeta oficial del modelo describe un Transformer denso de 65B entrenado desde cero, con 80 capas y compatibilidad con hasta 1,048,576 tokens. La arquitectura densa utiliza el modelo completo con cada token generado. El ancho de banda de memoria y la precisión efectiva de los pesos son importantes incluso cuando el punto de control cabe en la memoria. Ricursive informa una puntuación de 80.52 en Terminal-Bench 2.1 con su propia configuración de pruebas. Los resultados pueden variar con otro ejecutor, una cuantización distinta y otro arnés de pruebas. Consulta el informe de lanzamiento para ver los detalles de la arquitectura y las pruebas de referencia.

¿Cuánta RAM o VRAM deberías presupuestar?

Con dos bytes por parámetro, 65.000 millones de parámetros requieren unos 130 GB de almacenamiento para los pesos BF16, antes de contar la sobrecarga del entorno de ejecución. Este cálculo en GB decimales no corresponde a una asignación medida. Del mismo modo, multiplicar por cuatro bits da una estimación mínima aproximada para los pesos empaquetados, sin incluir escalas, tensores que se conservan con mayor precisión ni metadatos del paquete. Usa el tamaño del artefacto concreto para estimar la descarga y la telemetría del entorno de ejecución para calcular los recursos necesarios de la máquina.

Una versión NVIDIA NVFP4 y una etiqueta de Ollama son artefactos diferentes. Consulta la ficha oficial de NVFP4 antes de elegir ese formato y confirma a qué arquitectura de GPU y pila de servicio está destinado. Además, un equipo con varias GPU necesita un entorno de ejecución que admita explícitamente la distribución de este punto de control entre ellas. Sumar las capacidades anunciadas de dos GPU no basta para determinar si un modelo cabe en la memoria ni si se ejecutará de forma eficiente.

¿Qué entorno de ejecución local deberías elegir?

La opción más sencilla es usar el listado del modelo en Ollama junto con la versión v0.40.16 o una versión posterior compatible. Consulta el listado para comprobar la etiqueta actual, el tamaño del paquete y las notas sobre las plataformas antes de descargarlo. Para una prueba sencilla, ejecuta:

ollama run ripple-preview
ollama ps

El primer comando descarga el modelo si es necesario e inicia una sesión. El segundo te ayuda a ver la asignación y el contexto cargado. En los dispositivos Apple con silicio de Apple, la versión incluye una ruta MLX específica para Ripple. Si quieres reproducir los resultados del desarrollador en NVIDIA, sigue las instrucciones actuales de la ficha del modelo y captura la configuración completa del servicio. Los resultados entre formatos solo se pueden comparar tras tener en cuenta las diferencias entre núcleos, precisiones y decodificación especulativa.

Deja espacio para el almacenamiento del modelo, una descarga temporal, tu copia de trabajo y los artefactos de prueba. En los equipos que también ejecutan servicios de almacenamiento o copias de seguridad, comprueba la unidad que realmente contiene la caché del entorno de ejecución. Un SSD casi lleno puede interrumpir la primera descarga aunque el tamaño nominal del modelo parezca seguro.

¿Qué significa un contexto de un millón de tokens en una máquina local?

Es el contexto admitido por el punto de control, no un ajuste inicial útil. Un agente de programación puede enviar al modelo cientos de archivos, la salida del shell y la conversación anterior. Esa entrada aumenta la asignación de caché y el tiempo hasta el primer token generado. Los prefijos largos también ralentizan el ciclo de comentarios si el entorno de ejecución vuelve a enviar registros antiguos una y otra vez.

Empieza con una entrada deliberadamente pequeña y una sola tarea. Mantén una instantánea fija del repositorio y mide la memoria máxima después de cargar el modelo y, de nuevo, al final de la solicitud más larga; luego amplía el contexto paso a paso. Vigila la memoria residente real o la presión sobre la memoria unificada y comprueba si el uso de la memoria de intercambio se mantiene. Borra los registros de pruebas innecesarios antes de ampliar el contexto. Las compensaciones descritas en esta guía para implementar Qwen3.8-27B localmente sirven como referencia útil para un modelo más ligero.

¿Cómo se prueba una sesión de programación real?

Crea una copia de trabajo desechable y elige una tarea acotada: explicar una prueba fallida, identificar los archivos implicados y proponer un parche. Usa solo datos sintéticos o aprobados del repositorio. Indícale al entorno de ejecución qué archivos puede leer y dale una breve lista de comandos de prueba permitidos localmente. Revisa el diff y ejecuta las pruebas por tu cuenta antes de confiar en el resultado. Esta guía sobre Git worktrees explica cómo mantener los experimentos separados de la copia de trabajo principal.

Registra el tiempo hasta la primera respuesta útil, la velocidad de generación después del prellenado, la memoria máxima y si el cambio sugerido supera la prueba. Cuenta los intentos fallidos o truncados en la comparación. Si un modelo pasa cinco minutos generando un parche plausible pero inutilizable, una cifra máxima de tokens por segundo ocultará el problema. Otra tarea útil es revisar un diff pequeño sin editar archivos. Así sabrás si la misma máquina sirve para tareas de revisión de menor riesgo.

¿Cuándo vale la pena usar un modelo local de 65B en una máquina más potente?

Usa Ripple si puedes darle espacio para ejecutarse y tienes una carga de trabajo que se beneficia de su comportamiento al programar. Un checkpoint más pequeño que permanezca en el acelerador puede ofrecer una mejor experiencia diaria en un ordenador de escritorio con recursos limitados. Las ejecuciones largas requieren un tratamiento distinto al de las consultas rápidas: el ancho de banda, la memoria de intercambio y el tráfico de almacenamiento en segundo plano se acumulan durante una sesión con un agente.

Si un NAS almacena las instantáneas de tu repositorio y los resultados, mantén esos servicios de almacenamiento separados del presupuesto de cómputo del modelo. Monta solo las entradas que necesite la tarea y guarda las escrituras en un directorio de experimentación. Para tener un punto de comparación con un modelo más grande, consulta qué determina los requisitos de memoria local de Kimi K3.

Preguntas frecuentes

¿Ripple necesita una GPU NVIDIA?

No se requiere una sola marca de GPU para todas las opciones de ejecución local. Ollama ofrece una opción MLX para Apple Silicon. Las instrucciones de precisión y aceleración orientadas a NVIDIA se aplican a la pila compatible de NVIDIA que especifica el desarrollador del modelo.

¿Una RTX 4090 puede alojar el modelo completo?

El paquete de Ollama descrito arriba supera el límite de 24 GB de VRAM antes de contar la sobrecarga de inferencia. La descarga de capas a la CPU es una configuración aparte, con un perfil de rendimiento distinto.

¿El tamaño de descarga equivale al uso máximo de memoria?

No. El tiempo de ejecución, el asignador, los procesos de herramientas, la caché de atención y el sistema operativo influyen en el uso máximo. El tamaño de descarga es un punto de partida útil para calcular el espacio en disco.

¿El contexto máximo anunciado es el ajuste inicial adecuado?

Empieza con el contexto más corto que complete la tarea y luego mide el tiempo de prellenado y el uso de memoria a medida que lo aumentas. La compatibilidad con el contexto máximo no garantiza un rendimiento práctico en local.

¿Terminal-Bench es una estimación para mi propio repositorio?

Úsalo para entender la evaluación del desarrollador y luego prueba tu propia carga de trabajo con un entorno de pruebas, límites y un tiempo de ejecución fijos. El benchmark publicado no garantiza el mismo resultado en local.

Conclusión

Empieza con una etiqueta exacta de Ollama o un formato de NVIDIA compatible con el desarrollador, deja margen además del archivo de pesos y prueba una tarea acotada. Ripple-65B Preview amplía las opciones de modelos de programación locales. Su utilidad en tu hardware depende de si puede completar tareas útiles dentro de tus límites de memoria y latencia.