El uso de modelos de lenguaje grandes (LLMs) se está integrando cada vez más en nuestro trabajo diario. Herramientas como Dify y Lemonade permiten a los desarrolladores crear y desplegar aplicaciones de inteligencia artificial de manera rápida mediante una interfaz visual basada en nodos, sin necesidad de ser expertos en aprendizaje automático. Lemonade Server, en particular, aprovecha la aceleración de hardware en PCs con AMD Ryzen™ AI, ofreciendo un rendimiento más rápido y seguro al ejecutar los modelos localmente.
Dify es una plataforma de código abierto que facilita la construcción de aplicaciones de IA. Permite diseñar flujos de trabajo visuales con nodos para entradas, recuperación de datos, agentes y herramientas, y cambiar de modelo sin reescribir código. Entre sus características destacan la integración con bases de conocimiento, conectores y APIs para servicios externos, y la posibilidad de despliegue flexible, tanto local como remoto.
Por su parte, Lemonade es un framework de inferencia que simplifica el despliegue de LLMs en Windows y Linux, utilizando la aceleración de NPU y GPU. Soporta modelos como Qwen, Llama y DeepSeek, y permite ejecutar los modelos localmente, mejorando la privacidad y seguridad de los datos. Lemonade Server ofrece además un runtime local compatible con la API de OpenAI, facilitando la integración de LLMs locales en aplicaciones existentes.
Un ejemplo práctico es Ask My Docs, donde Dify permite cargar documentos como FAQs o archivos README en formato Markdown. Estos se indexan automáticamente y se usan como contexto para los LLMs, generando respuestas precisas y fundamentadas. Gracias a la combinación de Dify con Lemonade en PCs AMD, es posible crear aplicaciones de LLM potentes de manera local, manteniendo control total sobre los datos y el rendimiento.
El proceso de implementación es sencillo: instalar Docker Desktop, configurar Lemonade Server como proveedor de modelos en Dify, agregar los modelos deseados y construir flujos de trabajo conectando nodos de entrada, recuperación, LLM y salida. Todo se realiza localmente, garantizando que la información no salga del entorno del usuario y ofreciendo control completo sobre las consultas y el comportamiento del modelo.
En resumen, la combinación de Dify y Lemonade ofrece una solución de IA segura, accesible y de alto rendimiento. Permite automatizar tareas como búsqueda en bases de conocimiento, resúmenes de conversaciones o atención al cliente, todo visualmente y sin salir del equipo local. Con la aceleración de AMD Ryzen AI y GPUs Radeon, las organizaciones pueden aprovechar la IA generativa de manera eficiente y privada, creando flujos de trabajo personalizados sin comprometer la seguridad de los datos.
