Uso de Ollama, Llama3, Continuar y Open WebUI para brindar una experiencia de asistente virtual segura, local, de código abierto y gratuita.
Le digo a la gente todo el tiempo que uso LLM locales para optimizar mi flujo de trabajo diario, incluida una interfaz de usuario similar a ChatGPT alojada localmente junto con una integración de autocompletado de codificación gratuita (similar a Copilot) en VSCode, y la respuesta más común que recibo es “Wow”. , parece complicado configurarlo”. ¡Y normalmente reprocho que solo me tomó unos minutos!
A partir de ahí, para ayudar a esta persona, le envío una colección de enlaces, instrucciones y tutoriales, todo solo para cubrir algo que se puede lograr tan rápidamente. Esto lo llevará por todo el proceso de principio a fin en el tiempo que le llevará terminar su café.
Este tutorial se dividirá en dos secciones, una para la interfaz de usuario web y otra para la asistencia con el código (ya que no todos estarán interesados en esa parte). Si está interesado en la integración de VSCode, primero complete la sección de la interfaz de usuario web y luego continúe.
¿Por qué locales?
Si tiene secretos comerciales y código propietario o está utilizando claves privadas e PII, no desea que esa información se convierta en…