Instagram implementa innovadoras medidas para resguardar a los más jóvenes de la sextorsión

Meta lanza herramientas de inteligencia artificial para proteger a los menores

Este jueves, Meta anunció la implementación de nuevas herramientas, basadas en inteligencia artificial, dirigidas a salvaguardar a los jóvenes de la "sextorsión" y el abuso de imágenes íntimas en Instagram.

La compañía explicó que está probando funciones diseñadas para dificultar que estafadores y delincuentes se conecten e interactúen con adolescentes. Según Capucine Tuffier, responsable de protección infantil en Meta Francia, estas medidas buscan contribuir a un entorno más seguro para los usuarios menores de 18 años.

Funciones de Protección

Una de las principales características que se introducirá será la detección automática de imágenes desnudas recibidas a través de la mensajería de la aplicación. Estas imágenes serán difuminadas de forma predeterminada para los usuarios que son menores de edad, permitiéndoles decidir si desean o no ver el contenido. Tuffier destacó que esta acción tiene como objetivo reducir la exposición involuntaria a contenidos íntimos.

Asimismo, se enviarán notificaciones a los usuarios para concienciarlos sobre el riesgo de sextorsión y recordarles la importancia de ser cautelosos al compartir imágenes sensibles.

Implementación Global

Las nuevas medidas serán probadas desde mayo en varios países de América Central y América Latina, con planes de expansión global en los próximos meses. Meta reafirmó su compromiso en la protección de los jóvenes mediante el uso de "aprendizaje automático" para detectar imágenes inapropiadas.

Privacidad y Seguridad

A pesar de las preocupaciones relacionadas con la privacidad y el manejo de datos, la empresa aseguró que no tendrá acceso a las imágenes, a menos que los usuarios decidan denunciarlas. Además, se implementará inteligencia artificial para identificar cuentas involucradas en estafas de sextorsión, restringiendo sus interacciones con menores. Esto incluye limitar su capacidad de enviar mensajes privados y acceder a la lista de seguidores de los adolescentes.

Por último, Meta también se compromete a notificar a los jóvenes que pudieran haber sido contactados por posibles chantajistas, derivándolos a expertos o líneas de ayuda disponibles.