Permite correr modelos de lenguaje abiertos en tu propia computadora con un solo comando.
How to use it, step by step
Written for someone who never opened it. If you already use it, skip to the example.
- Descargá Ollama desde ollama.com e instalalo.
- En la terminal, bajá un modelo con el comando que indica el sitio.
- Conversá con el modelo desde la terminal.
- Conectalo a tus aplicaciones por su API local.
A practical case
Caso práctico. Querés resumir actas internas que no pueden salir de la red. Corrés un modelo abierto en un equipo propio y procesás todo localmente.
Watch out for this
- Los modelos locales suelen rendir menos que los servicios en la nube.
- Necesita memoria y, mejor, tarjeta gráfica.
- Cada modelo tiene su licencia: revisala antes de un uso comercial.
- El precio y los planes cambian seguido: confirmalos en el sitio oficial antes de decidir.
Alternatives
LM Studio, Hugging Face, llama.cpp
Comments
No comments yet. Yours can be the first.
Are you using it on your team?
Open the chat and tell me how it went. It helps me improve the card.