Google prohíbe la formación de Deepfake en Colab

Google prohíbe la formación de Deepfake en Colab

Este sitio puede ganar comisiones de afiliados de los enlaces en esta página. Términos de Uso.

(Foto: Shahadat Rahman/Unsplash)
Sin fanfarria, Google tomó l. a. decisión de prohibir a los usuarios crear deepfakes en su servicio informático Colaboratory.

Colaboratory (más conocido como Colab) se lanzó en 2017 como una forma de permitir a los usuarios escribir y ejecutar código Python a través de su navegador internet. El recurso, en su mayoría de uso gratuito, proporciona a los usuarios una serie de herramientas para potenciar el análisis de datos, el aprendizaje automático y otros proyectos complejos, que son supuesto ser en nombre de l. a. investigación científica. Desafortunadamente, este no siempre ha sido el caso.

Deepfakes, para los no iniciados, son movies fabricados hiperrealistas de cosas que en realidad no sucedieron. Si bien a veces están hechos para reírse bien intencionadamente, a menudo se crean para difundir información política errónea o hacer que parezca que alguien protagonizó pornografía con l. a. que en realidad no tuvo nada que ver (es decir, “pornografía involuntaria”). Antes de las elecciones presidenciales de 2020, l. a. gente generado deepfakes de candidatos que “dicen” cosas discordantes; otros han usado herramientas como las de Colab para crear “pornografía de venganza” que involucra a exparejas románticas.

Los trucos digitales como estos son posibles gracias a los algoritmos de aprendizaje automático y las herramientas de edición complejas, l. a. primera de las cuales los usuarios pueden entrenar en las CPU, GPU y TPU de Colab. El proceso generalmente implica un algoritmo de reconocimiento facial, que permite al usuario hacer que parezca que l. a. character objetivo está haciendo ciertas expresiones faciales o diciendo cosas específicas. Las posibilidades son prácticamente infinitas, lo que puede ser peligroso, especialmente cuando se trata de noticias falsas y pornografía en l. a. que alguien nunca consintió estar.

@deeptomcruise No voy a mentir… Me encantan los nerds 👨‍🎓@harvard ♬ original geluid – Tom

No se sabe si este usuario de TIkTok u.s. Colab para hacer sus deepfakes de Tom Cruise, pero sus movies son bastante convincentes, especialmente para el ojo inexperto.
Un gran poder conlleva una gran responsabilidad y todo eso, y algunos usuarios de Colab podrían haber abusado de ese poder… o Google pensó en cortar un problema potencial de raíz debido a preocupaciones éticas. (Me gustaría creer que es lo último, pero aquí estamos hablando de una gran empresa de tecnología). Dado que el entrenamiento de deepfake eat una gran cantidad de recursos computacionales, es posible que Google también haya derribado el martillo de prohibición por razones financieras.

Independientemente de su razón de ser, Google prohibió el entrenamiento de deepfake a mediados de mayo. Los angeles compañía también prohibió una serie de otras prácticas cuestionables con las que, comprensiblemente, no quiere asociarse, como el descifrado de contraseñas, l. a. minería de criptomonedas y los torrents. Cualquiera que intente participar en estas prácticas ahora recibe un código de error que cube: “Es posible que esté ejecutando un código que no está permitido y esto puede restringir su capacidad para usar Colab en el futuro. Tenga en cuenta las acciones prohibidas especificadas en nuestras preguntas frecuentes”.

Como computadora pitido Señalalos entusiastas de las falsificaciones profundas a menudo referirse novatos en Colab para probar suerte en l. a. creación de medios falsos muy detallados. Esto significa que l. a. prohibición de Google podría tener implicaciones de gran alcance para l. a. “comunidad” de deepfake, ya sea que los desarrolladores individuales tengan malas intenciones o no.

Ahora lee:


Pasaporte En Linea