Friki Work

Introducción a SecGPT-14B para Seguridad Cibernética SecGPT-14B es un modelo de lenguaje grande de código abierto, especializado y optimizado para el dominio de la ciberseguridad. Sus capacidades fundamentales inculyen la comprensión del lenguaje natural, la generación de código y el razonamiento basado en conocimientos de seguridad. Esto permi ...

¿Alguna vez has experimentado fallos en la invocación de modelos LLM debido a una configuración incorrecta de las claves API? ¿Te has sentido abrumado al gestionar archivos de configuración durante el cambio entre distintos entornos? Esta guía te presentará de manera sistemática el sistema de configuración de OpenCode, abarcando desde variables ...

En el ecosistema actual del desarrolllo con Inteligencia Artificial, la calidad de la respuesta depende directamente de la precisión de las instrucciones suministradas. prompt-optimizer surge como una solución integral diseñada para transformar requerimientos simples en instrucciones estructuradas de alto rendimiento, eliminando la fricción de ...

La cuantización de modelos de lenguaje grandes (LLMs) es crucial para desplegarlos en hardware con recursos limitados. Un modelo LLM sin cuantizar, como Qwen3:30b, puede ocupar cerca de 60GB, lo que impide su ejecución en una sola GPU de consumo (por ejemplo, una 4090/5090). La cuantización, especialmante a 4 bits (q4), permite la inferencia en ...

El ajuste fino de un modelo de gran escala (LLM) es una tarea compleja que requiere una comprensión técnica profunda. Este tutorial proporciona un flujo de trabajo práctico paso a paso para realizar un ajuste fino básico, centrándose en el proceso más que en los detalles teóricos subyacentes. Utilizaremos el marco de código abierto LLaMA-Factor ...

Fundamentos de la Seguridad en APIs de Grandes Modelos de Lenguaje (LLM) Al desarrollar aplicaciones basadas en Python que consumen modelos de IA, la seguridad en la capa de API es crítica. La implementación de una lista blanca (whitelist) permite restringir el acceso solo a clientes confiables, mitigando riesgos de uso no autorizado y protegie ...

Introducción al framework vLLM vLLM es una biblioteca de código abierto de alto rendimiento para la inferencia y el servicio de modelos de lenguaje grandes (LLM), diseñada para ofrecer despliegues rápidos y eficientes. Originada en el laboratorio de computación en la nube de la Universidad de California, Berkeley, el proyecto ha evolucionado ha ...

La integración de modelos de lenguaje grandes (LLM) con la experiencia en administración de bases de datos ha dado lugar a nuevas herramientas de operaciones inteligentes. El asistente de IA para PolarDB encapsula estas capacidades en un Agent Skill estandarizado, permitiendo que cualquier cliente compatible ejecute diagnósticos y análisis sobr ...

OpenClaw es un framework popular para el desarrollo de agentes que permite a los desarrolladores integrar y utilizar una variedad de modelos de lenguaje grandes (LLMs). Si deseas que OpenClaw acceda a estos modelos a través de la plataforma Taotoken, la configuración es un proceso sencillo. A continuación, te guiamos a través de dos métodos pri ...

Este documento detalla el proceso de despliegue del modelo de lenguaje grande IQuest-Coder-V1-40B-Instruct utilizando imágenes Docker. IQuest-Coder-V1-40B-Instruct es un modelo avanzado diseñado para ingeniería de softwrae autónoma, destacando en el manejo de contextos extensos, razonamiento multi-paso y evolución de código del mundo real. Ha d ...