¿Qué es Ollama?
Ollama es una aplicación gratuita y de código abierto que permite a las empresas ejecutar modelos de IA localmente en su propio hardware, en lugar de utilizar servicios basados en la nube. Su diseño fácil de usar y su amplia compatibilidad con diferentes sistemas informáticos lo han hecho increíblemente popular, con una base de usuarios que creció un 46% en solo tres meses. Como un proyecto relativamente nuevo, ha obtenido más estrellas en GitHub que PyTorch, un framework históricamente popular, e incluso ha superado a Llama.cpp, el conocido código base de inferencia de LLM en el que está construido.
Alerta de Seguridad: Vulnerabilidades en Ollama
Nuestro equipo de investigación de seguridad ha recopilado información sobre múltiples vulnerabilidades críticas de seguridad en el framework Ollama de diversas fuentes. Estas vulnerabilidades varían en gravedad de moderada a alta, y algunas siguen presentes incluso en el parche más reciente. Todas las vulnerabilidades identificadas representan riesgos comerciales significativos para las organizaciones que implementan modelos de IA. Las organizaciones que utilizan Ollama en entornos de producción deben tomar medidas inmediatas para evaluar su exposición e implementar las salvaguardias adecuadas.
Entendiendo las Vulnerabilidades en Detalle
Las vulnerabilidades que hemos investigado se pueden categorizar en dos tipos principales, cada una con vectores de ataque distintos y posibles impactos:
Vulnerabilidades de Divulgación de Archivos (CVE-2024-39722 y CVE-2024-39719): Estos fallos permiten a los atacantes enumerar archivos en su servidor a través de las rutas API/Push y CreateModel de Ollama. Los atacantes pueden mapear metódicamente la estructura de directorios de su servidor sin autorización, lo que permite ataques de seguimiento más dirigidos al revelar la configuración de su sistema. Las versiones anteriores a la 0.1.46 siguen siendo vulnerables a este patrón de ataque.
Vulnerabilidades de Seguridad en Modelos: El envenenamiento de modelos ocurre cuando los atacantes introducen modelos comprometidos en su sistema al descargar desde fuentes no confiables. Igualmente preocupante es el robo de modelos, donde modelos propietarios pueden ser exfiltrados a servidores externos sin autorización. Estos ataques exponen potencialmente la propiedad intelectual y las ventajas competitivas. Las organizaciones que utilizan modelos personalizados o ajustados enfrentan un riesgo particularmente alto, dado el impacto comercial potencial de la pérdida de propiedad intelectual.
Estas vulnerabilidades son especialmente preocupantes dada la creciente adopción de Ollama en entornos empresariales donde se pueden procesar datos sensibles y modelos propietarios.
Detección de Vulnerabilidades con RidgeBot
RidgeBot de Ridge Security ofrece pruebas automatizadas impulsadas por IA que pueden identificar rápidamente estas vulnerabilidades en toda su infraestructura de red. Nuestros módulos de escaneo especializados detectan instalaciones de Ollama y determinan si son susceptibles a las vulnerabilidades identificadas sin interrumpir sus operaciones. Al escanear en busca de estos problemas, RidgeBot adopta un enfoque no invasivo para verificar las vulnerabilidades con cargas útiles reales. Una vez que se descubren las vulnerabilidades, RidgeBot proporciona informes completos que incluyen el tipo de vulnerabilidad, la gravedad, la descripción y los pasos detallados de remediación.
Fig 1: Vulnerabilidades de Ollama encontradas por RidgeBot
Fig 2: Informe de Vulnerabilidades
Por qué esto es importante
La seguridad de los sistemas de IA es cada vez más importante a medida que más organizaciones adoptan esta tecnología. El rápido crecimiento de Ollama demuestra el deseo de las organizaciones de contar con soluciones de IA accesibles, pero esta accesibilidad debe equilibrarse con medidas de seguridad adecuadas.
Nuestro equipo está comprometido a apoyar la identificación y remediación de vulnerabilidades en los sistemas de IA para ayudar a proteger los activos y datos valiosos de su organización.