Permite correr modelos de lenguaje abiertos en tu propia computadora con un solo comando.
Como se usa, passo a passo
Escrito para quem nunca abriu. Se já usa, pule para o exemplo.
- Descargá Ollama desde ollama.com e instalalo.
- En la terminal, bajá un modelo con el comando que indica el sitio.
- Conversá con el modelo desde la terminal.
- Conectalo a tus aplicaciones por su API local.
Um caso prático
Caso práctico. Querés resumir actas internas que no pueden salir de la red. Corrés un modelo abierto en un equipo propio y procesás todo localmente.
Atenção com isto
- Los modelos locales suelen rendir menos que los servicios en la nube.
- Necesita memoria y, mejor, tarjeta gráfica.
- Cada modelo tiene su licencia: revisala antes de un uso comercial.
- El precio y los planes cambian seguido: confirmalos en el sitio oficial antes de decidir.
Alternativas
LM Studio, Hugging Face, llama.cpp
Comentários
Ainda não há comentários. O primeiro pode ser o seu.
Você está usando na sua equipe?
Abra o chat e me conte como foi. Ajuda a melhorar a ficha.