Este proyecto presenta una interfaz de usuario conversacional (chat UI) desarrollada con Vue 3, Vite y Element UI, diseñada para interactuar con grandes modelos de lenguaje (LLM) alojados localmente a través de Ollama. Actualmente, la aplicación soporta la gestión de etiquetas de pensamiento independiente para modelos como DeepSeek, así como la capacidad de cambiar entre diferentes modelos instalados.
Preparación Previa
1. Instalación de Ollama
Para comenzar, es indispensable tener el entorno de ejecución de Ollama configurado. Puede descargar la versión más reciente desde el sitio web oficial de Ollama.
Si es nuevo en Ollama y busca una comprensión detallada de sus funcionalidades y características, considere revisar guías de introducción que explican su uso básico. Es importante tener en cuenta que la instalación predeterminada de Ollama suele ubicarse en la unidad del sistema (por ejemplo, C:\\Users\\TU_USUARIO\\AppData\\Local\\Programs\\Ollama en Windows). Para evitar la sobrecarga del disco del sistema, especialmente al almacenar múltiples modelos grandes, se recomienda mover la instalación de Ollama a otra unidad. Existen tutoriales específicos que detallan cómo realizar esta migración de manera segura.
2. Descarga de Modelos
Una vez que Ollama esté instalado, abra una terminal (CMD o PowerShell) y proceda a descargar los modelos de lenguaje que desee utilizar. La elección del modelo dependerá del rendimiento de su hardware y los requisitos específicos de sus tareas. Puede consultar el repositorio de modelos de Ollama para explorar las opciones disponibles.
A continuación, se presentan algunos ejemplos de modelos recomendados para diferentes propósitos:
# Modelo ligero (ideal para empezar)
ollama run deepseek-r1:1.5b
# Modelo optimizado para código
ollama run deepseek-coder-v2:16b
# Modelo de propósito general
ollama run qwen2.5-coder:7b
Para esta demostración, utilizaremos el modelo deepcoder:1.5b como referencia. Simplemente ejecute el siguiente comando:
ollama run deepcoder:1.5b
La descarga y ejecución exitosa del modelo se indicará cuando la terminal muestre el mensaje: Send a message(? for help).
Inicio del Servicio Ollama
Con los modelos listos, el siguiente paso es activar el servicio de Ollama. Abra una nueva ventana de terminal y ejecute el comando:
ollama serve
Espere a que el servicio se inicialice completamente.
Nota: Si al ejecutar ollama serve recibe una advertencia sobre un puerto ya en uso, es probable que el servicio de Olama ya se esté ejecutando en segundo plano. En tal caso, puede proceder directamente al siguiente paso sin necesidad de reiniciar.
Configuración y Ejecución del Proyecto Frontend
Requisitos del Entorno
- Versión de Node.js: Imprescindible
v18.10.0.
Puede descargar el instalador de Node.js v18.10.0 (se recomienda el formato .msi para una instalación directa) desde el sitio oficial de Node.js.
Pasos de Operación
Después de clonar el repositorio del proyecto, navegue a su directorio raíz en la terminal y siga estos pasos:
- Instale las dependencias necesarias del proyecto:
npm install
- Inicie el servidor de desarrollo:
npm run dev
Tras una ejecución exitosa, la terminal mostrará la dirección local donde la interfaz de usuario estará accesible en su navegador web.
Personalización de la Configuración
Si necesita ajustar la configuración del proyecto, puede modificar los siguientes archivos:
src/api/aiSystem/ollama.js: Contiene las configuraciones relacionadas con las llamadas a la API de Ollama.vite.config.js: Configuración del proceso de construcción de Vite. Este archivo generalmente no requiere modificaciones a menos que tenga necesidades de compilación específicas.
La aplicación permite a los usuarios interactuar con los modelos locales de Ollama, alternar entre diferentes modelos disponibles y utilizar características específicas como las etiquetas de "pensamiento" para DeepSeek, ofreciendo una experiencia de chat rica y personalizable.