Los menores que ven contenidos relacionados con la salud mental en 'Para ti' de TikTok reciben recomendaciones nocivas

Es uno de los resultados a los que se ha llegado gracias a una investigación técnica desarrollada por Amnistía Internacional en colaboración con Algorithm Transparency Institute (ATI), National Conference on Citizenship y AI Forensics.

Este organismo internacional ha realizado dos informes que ponen de relieve los riesgos a los que se exponen los menores al utilizar la plataforma de vídeos, así como el funcionamiento de sus algoritmos de recomendación y las prácticas invasivas de recolección de datos.

A grandes rasgos, los resultados de estas investigaciones «exponen las prácticas de diseño adictivo y manipulador de TikTok, cuyo propósito es retener a los usuarios para que interactúen con la aplicación el mayor tiempo posible», ha comentado la investigadora de Amnistía Internacional, Lisa Dittmer.

En torno al primero de los informes, que lleva por título 'Empujados a la oscuridad: El feed 'Para ti' de TikTok fomenta la autolesión y la ideación suicida', se detallan los riesgos a los que se exponen los usuarios fomentados por el objetivo de TikTok de captar su atención, lo que lleva a que se intensifiquen problemas de salud mental como la depresión, la ansiedad o las autolesiones.

Para llegar a esta conclusión, Amnistía Internacional llevó a cabo una investigación técnica con más de 30 cuentas automatizadas creadas para representar a jóvenes de 13 años de Estados Unidos y Kenia.

Tras llevar a cabo sus pesquisas, se reveló que, después de utilizar la plataforma durante un período de cinco o seis horas, uno de cada dos vídeos estaba relacionado con la salud mental y era potencialmente nocivo.

Asimismo, el estudio demostró que esta cifra multiplicaba aproximadamente por diez el volumen presentado a cuentas sin interés aparente por temas que guardaran relación con la salud mental.

No obstante, los investigadores centraron el foco en la forma en que 'Para ti' recomendaba contenido a aquellos usuarios que sí tenían interés por ello. Pasados entre tres y 20 minutos viendo vídeos sobre la salud mental, más de la mitad de los contenidos de este 'feed' estaban relacionados con este tema y muchos de ellos «idealizaban, normalizaban o animaban al suicidio».

En este sentido, para Amnistía Internacional, «TikTok puede exponer a los niños, niñas y jóvenes a graves riesgos para la salud si persiste en su actual modelo de negocio», en palabras de Dittmer. Esto sucede porque "su actual modelo de negocio, más orientado a mantener los ojos fijos en la plataforma que a respetar el derecho a la salud de los usuarios", ha concluido.

Recolección invasiva de datos

En cuanto al segundo de estos informes, titulado 'Siento que no se me protege: Emboscada en la red de vigilancia de TikTok', se muestra cómo la plataforma recopila los datos de los usuarios y el modo en que capta a los nuevos usuarios.

Según Amnistía Interancional, el modelo de negocio de la aplicación «es intrínsecamente abusivo y privilegia la interacción» para retener a las personas usuarias en la plataforma, con el fin de recolectar cada vez más datos sobre ellas".

Una vez se ha hecho con esta información, la marca la utiliza para crear perfiles de usuario y «generar inferencias entre ellas», lo que le permite segmentarlas en grupos y dirigir contenidos y publicidad «altamente personalizados» para conseguir que sigan utilizando la 'app'.

Por otra parte, este análisis critica que, aunque TikTok haya tomado medidas para proteger a los menores que lo utilizan, parte de esos niños, niñas y jóvenes de algunas partes del mundo se exponen a prácticas de recolección invasivas.

Esto sucede en aquellos países donde estos usuarios tienen menos protección para sus datos en virtud de la legislación y normativa local, lo que significa que "los niños y las niñas que viven en países donde la normativa es laxa, son objeto de los peores abusos contra el derecho a la privacidad", señala la directora adjunta del programa Amnesty Tech, Lauren Armistead.

Conclusiones

Entre las conclusiones que destaca Amnistía Internacional tras llevar a cabo ambos estudios, se plantea la necesidad de que la plataforma deje de «hiperpersonalizar por defecto» el feed 'Para ti' y que sean los usuarios quienes elijan qué quieren ver en esta pestaña.

Por otra parte, este organismo considera que la mejor manera de proteger a los menores del abuso de sus datos personales 'online' es que los gobiernos prohíban por ley toda publicidad segmentada en base a la recopilación indiscriminada de datos personales.

No obstante, en respuesta a esta problemática, la aplicación propiedad de ByteDance remitió a Amnistía Internacional a sus Normas de las Comunidad, en las que se establece qué tipo de contenidos están prohibidos.

En estas, sí se aclara que no está permitido "mostrar, promover o proporcionar instrucciones de suicidio y autolesiones o cualquier desafío, reto o juego relacionado", como tampoco está permitido mostrar o promover bromas sobre este tema.

Por otra parte, las conclusiones recogen que, si bien la plataforma está trabajando en un proceso de investigación que incluirá una evaluación periódica del impacto que tiene este contenido, incumple con su responsabilidad empresarial de respetar los derechos humanos solo por no contar actualmente con este tipo de diligencias.