Permite correr modelos de lenguaje abiertos en tu propia computadora con un solo comando.
Cómo se usa, paso a paso
Escrito para quien nunca la abrió. Si ya la usás, saltate al ejemplo.
- Descargá Ollama desde ollama.com e instalalo.
- En la terminal, bajá un modelo con el comando que indica el sitio.
- Conversá con el modelo desde la terminal.
- Conectalo a tus aplicaciones por su API local.
Un caso práctico
Caso práctico. Querés resumir actas internas que no pueden salir de la red. Corrés un modelo abierto en un equipo propio y procesás todo localmente.
Ojo con esto
- Los modelos locales suelen rendir menos que los servicios en la nube.
- Necesita memoria y, mejor, tarjeta gráfica.
- Cada modelo tiene su licencia: revisala antes de un uso comercial.
- El precio y los planes cambian seguido: confirmalos en el sitio oficial antes de decidir.
Alternativas
LM Studio, Hugging Face, llama.cpp
Comentarios
Todavía no hay comentarios. El primero puede ser el tuyo.
¿La estás usando en tu equipo?
Abrí el chat y contame cómo les fue. Me sirve para mejorar la ficha.