Peor que Black Mirror: Crean espeluznante app que crea nudes falsas en segundos
Lo que debes saber...
Tecnología en las manos equivocadas.
Esta aplicación podría ser usada para intimidar, acosar y abusar a mujeres
Una de las formas más comunes de extorsión en Internet es a través de nudes falsas han arruinado la reputación y vida de muchas mujeres. Ahora, hacer esto requiere de mucho tiempo y conocimiento de programadas dedicados, pero, ¿qué tal si aparece una app que simplifica el proceso?
Surgió hace poco una aplicación en línea llamada DeepNude la cual genera nudes falsas con gran facilidad gracias a una inteligencia artificial. Lo único necesario es una foto para que el proceso sea casi en automático. La calidad llega a variar entre una versión gratuita y otra de paga.
Si bien el servicio se vende como una actividad de broma y falsa, puede llegar a dañar seriamente la reputación de una persona por haberse tomado una foto cualquiera.
La app deja claro que son ediciones con resultados falsos, pero…
La aplicación te entrega una imagen con una marca de agua que dice claramente que se trata de una edición con un resultado falso, sin embargo, con un poco de conocimiento de programas de edición, es posible borrar la marca sin mayor problema.
Esto haría que cualquiera, tomando una foto de Facebook o cualquier otra red social, pueda subirla al servicio y obtener la nude falsa de regreso y usarla a su gusto.
A esto debemos añadir que, por ahora, el servicio solo está pensado para editar las imágenes de las mujeres en automático.
Un problema adiciona alrededor de esta app es que cualquiera podría confundir una imagen editada por el servicio con algo real y eso puede dar pie a una serie de problemas que van desde el acoso y la intimidación, detalle que no debería suceder.
En estos momentos el servicio está offline porque está siendo usado de un modo desmedido y los servidores no pueden soportar tanto.
El creador está preocupado por la acciones legales
Por otro lado, el creador de la aplicación está preocupado por los problemas legales que puedan suceder. El acuerdo de licencia para la app dice que cada foto editada a través del software es considerada una parodia falsa y que se trata de un servicio de entretenimiento que no promueve imágenes sexuales explícitas.
Con esto salió un área gris legal en la que los abogados pueden decir que una imagen generada por Inteligencia Artificial no significa una difamación, pero removerla de Internet sería un ataque a la primera enmienda.
La cuestión aquí es que este tipo de aplicaciones tienen resultados maliciosos los cuales pueden terminar muy mal y fastidiar la vida y reputación muchas mujeres.
En más de una ocasión, la tecnología termina fastidiando más a la gente que apoyarla.