Ollama es un marco diseñado para facilitar la interacción con modelos de IA al ofrecer una interfaz intuitiva para la selección y descarga de modelos. Sin embargo, la investigación de Upguard, publicada exclusivamente por Hackread.com, indica que estas APIs pueden estar expuestas al acceso público. Las funciones de estas APIs, que incluyen la capacidad de empujar, tirar y eliminar modelos, pueden poner en riesgo datos sensibles. Además, usuarios no autenticados pueden enviar múltiples solicitudes a los modelos, lo que podría derivar en costos significativos para los propietarios de recursos de computación en la nube. También existe la posibilidad de que las vulnerabilidades de Ollama sean explotadas para atacar a sus sistemas.
La investigación de Upguard incluso ha documentado indicios de explotación de esta vulnerabilidad, señalando direcciones IP que están apuntando activamente a estas APIs. Se presentó una captura de pantalla que muestra un caso en el que varios modelos de Ollama parecen haber sido eliminados, lo que refuerza las preocupaciones sobre la seguridad.
Se teme que estas APIs de Ollama estén siendo utilizadas por aficionados en redes domésticas, pequeñas empresas o entornos universitarios. Esto podría dar lugar a que estos sistemas comprometedores se integren en botnets para futuros ataques cibernéticos.
Un análisis posterior por parte de Upguard se enfocó en la distribución de modelos de Deepseek que funcionan en estas APIs expuestas. Se encontró que las versiones con 14 y 7 mil millones de parámetros son las más comúnmente observadas, señalando que muchos usuarios prefieren estos modelos intermedios. Actualmente, alrededor de 7,000 direcciones IP exponen las APIs de Ollama, lo cual representa un aumento del 70% en solo tres meses desde la última encuesta, donde se registraron 4,000 direcciones IP en noviembre de 2024. De estas, 700 están ejecutando alguna variante de Deepseek, con 334 utilizando el modelo Deepseek-V2 y 434 el Deepseek-R1 más reciente.
Geográficamente, la mayor concentración de IP que ejecutan modelos de Deepseek se encuentra en China, seguido por los EE. UU. y Alemania. En China hay 171 direcciones IP (24.4%), en EE. UU. 140 (20%) y en Alemania 90 (12.9%). Un análisis más detallado dentro de EE. UU. revela una variedad de proveedores de servicio de internet, desde grandes corporaciones como Google y AT&T, hasta entidades más pequeñas y universitarias.
Greg Pollock, director de investigación en Upguard, expresó su asombro por el rápido crecimiento en la exposición de las APIs de Ollama y la rápida expansión de modelos como Deepseek, indicando que esto podría tener serias implicaciones futuras.
Es importante destacar que las preocupaciones sobre Deepseek han llevado a restricciones por parte de entidades gubernamentales, como la Marina de los EE. UU., NASA y gobiernos como el de Italia, debido a temores sobre posibles fugas de datos al gobierno chino. Si bien estas inquietudes pueden no aplicarse a los modelos de código abierto, es poco probable que la mayoría de los usuarios realicen revisiones de código profundo.
Para mitigar las potenciales fugas de datos en IA, es fundamental que las organizaciones realicen auditorías de su superficie de ataque en relación con las APIs de Ollama expuestas y mantengan una vigilancia constante sobre los modelos y productos de IA que pueden ser significativos en la gestión de riesgos de terceros. Esta estrategia garantizará un enfoque proactivo para manejar las amenazas emergentes en el entorno digital en constante evolución.
Enlace de la fuente, haz clic para tener más información