Los riesgos de DeepSeek: los datos que recopila, su uso y almacenamiento y los cibertaques

"La aparición de nuevas empresas como DeepSeek presenta tanto oportunidades como preocupaciones de seguridad para los usuarios", afirma el experto en Ciberseguridad en NordVPN, Adrianus Warmenhoven, quien insta a a interaccionar con este tipo de plataformas con cierto «grado de precaución».

En motivo se encuentra en las diferencias que presentan las leyes sobre la privacidad en los distintos países. "DeepSeek, al ser una startup China de IA, opera en un entorno regulatorio en el que la supervisión gubernamental de los datos es estricta. Esto plantea riesgos potenciales en relación con la recopilación, el almacenamiento y el uso de datos", explica.

La aplicación ofrece un asistente de IA, un 'chatbot', que puede descargarse de manera gratuita en la App Store y en Google Play Store, y que da respuesta a las dudas del usuario en forma de conversación. Para ello, también tiene acceso a la web, e incluso tiene un modo de pensamiento profundo que, aunque tarda unos segundos más, ofrece una respuestas más concienzuda.

Uno de los principales problemas que se han detectado es la posible parcialidad del modelo, que ya «se ha enfrentado a una creciente reacción negativa por su negativa a abordar temas políticos», lo que hace sospechar de "posibles sesgos e influencias externas en las políticas de moderación de contenidos de la plataforma", señala Warmenhoven.

En lo que respecta a la política de privacidad, esta se encuentra en la página web oficial de DeepSeek, en inglés, e indica que recopila información personal tanto del perfil como de la información que comparte el usuario con la IA (no solo del historial de conversaciones, sino también fotos, vídeos y audio que cargue), así como la que facilite al contactar con la propia empresa.

También información procedente del dispositivo desde el que el usuario use la aplicación, como "modelo del dispositivo, sistema operativo, patrones o ritmos de pulsaciones de teclas, dirección IP e idioma del sistema", y de la red en la que esté conectado. A ello se suman los datos del uso de la 'app', de la 'cookies' y de la información de pago, y los procedentes de fuentes como los servicios vinculados o de empresas de anunciantes.

Estos datos se almacenan en China. "Esto genera inquietud, no solo por la recopilación de datos descrita, sino también por los riesgos potenciales asociados con el almacenamiento de dichos datos en una jurisdicción con diferentes estándares de privacidad y seguridad", añade el experto en ciberseguridad.

En este contexto, Warmenhoven aconseja a los usuarios que sean conscientes de que "cualquier dato compartido con la plataforma podría estar sujeto al acceso del gobierno bajo las leyes de ciberseguridad de China, que exigen que las empresas proporcionen acceso a los datos cuando lo soliciten las autoridades".

También preocupa la falta de transparencia en torno a los modelos de inteligencia artificial que ha desarrollado la empresa, ya que falta información sobre los entrenamietnos y la forma en la que trabajan.

Por ello, el experto advierte que "los usuarios deben considerar si sus interacciones o los datos cargados podrían contribuir inadvertidamente a los procesos de aprendizaje automático, lo que podría conducir al uso indebido de los datos o al desarrollo de herramientas que podrían explotarse de forma maliciosa".

Warmenhoven refiere también el riesgos de sufrir ciberataques, por la atención que esta aplicación está atrayendo, y no solo entre los usuarios. De hecho, este lunes, la propia compañía anunció que limitaba las inscripciones debido a un ciberataque, del que no dio más detalles.

"A medida que las plataformas de IA se vuelven más sofisticadas, también se convierten en objetivos principales para los piratas informáticos que buscan explotar los datos de los usuarios o la propia IA", señala el experto de NordVPN.

Warmenhoven concluye que "para mitigar estos riesgos, los usuarios deben adoptar un enfoque proactivo en materia de ciberseguridad", lo que incluye «examinar los términos y condiciones de cualquier plataforma con la que interactúen, comprender dónde se almacenan sus datos y quién tiene acceso a ellos».