Hay mucho que la aplicación de edición de fotos virales podría hacer con una base de datos gigante de rostros.
El contexto: FaceApp, la aplicación de edición de fotos que utiliza la inteligencia artificial para retocar tu rostro, ha sido objeto de escrutinio desde que se convirtió en una aplicación viral. Ha existido desde 2017, pero una nueva característica añadida que permite a los usuarios ver cómo se verán cuando envejezcan la ha catapultado de nuevo a la popularidad. Ahora el hecho de que sea propiedad de la empresa con sede en Rusia Wireless Lab ha asustado a la gente.
La preocupación: Según algunos informes, la aplicación ha acumulado más de 150 millones de fotos de rostros de personas desde su lanzamiento, y sus condiciones de servicio estipulan que la empresa puede utilizar las fotos como quiera, a perpetuidad. La compañía ya ha dicho en una declaración que elimina la mayoría de las imágenes de sus servidores dentro de las 48 horas de la carga, y no comparte los datos con terceros. A pesar de ello, algunos miembros demócratas del Congreso de EE.UU. piden ahora que el FBI investigue la empresa. Los usuarios también están preocupados de que su cara pueda ser utilizada para rastrearlos en el futuro a través del reconocimiento facial.
La realidad: De acuerdo, imaginemos que FaceApp decidió usar las fotos que ha reunido más allá de la razón por la que los usuarios las han subido. ¿Qué podrían hacer en realidad? Es muy poco probable que los usen para entrenar algoritmos para identificar tu cara. En primer lugar, la mayoría de los usuarios no dan a FaceApp su nombre u otra información de identificación, que sería necesaria para el reconocimiento. Segundo, aunque es técnicamente posible que un sistema aprenda a reconocer a alguien a partir de una sola foto, la precisión sería pobre. También habría medios mucho más fáciles para obtener las fotos específicas de un individuo objetivo, como por ejemplo a través de sus perfiles en los medios sociales y las subidas a Flickr.
Por la madriguera del conejo: Sin embargo, hay otras formas de utilizar una base de datos gigante de caras. Aquí hay sólo unos pocos:
- Modificación de la cara: Quizás el uso más obvio sería que FaceApp mejorara sus propios algoritmos. La capacidad de la aplicación para modificar y alterar la imagen de una cara se basa en una red neuronal ya entrenada en toneladas de fotos de la cara. Tendría sentido que la compañía continuara dándole más imágenes para afinar sus capacidades. Tal base de datos también podría ser usada para construir más características de modificación de caras que la aplicación no tiene.
- Análisis facial: Mientras que el reconocimiento facial identifica a individuos específicos, el análisis facial simplemente implica predecir características sobre ellos, como su género o edad. Muchos sistemas comerciales de análisis facial están entrenados en bases de datos de código abierto que se parecen mucho a las que FaceApp podría haber retenido.
- Detección de rostros: Del mismo modo, la detección de rostros consiste en identificar si hay un rostro en una foto y dónde está. Una vez más, estos sistemas podrían construirse o mejorarse con más fotos de la cara.
- Generación de Deepfakes: Y finalmente, tal base de datos podría ser usada para crear caras de personas que no existen, lo cual vendría con una gran cantidad de problemas. Se dice que los espías ya han utilizado la generación de rostros falsos para falsificar identidades, por ejemplo.
¿Importa eso? Aunque estos casos de uso plantean importantes problemas de privacidad, vale la pena señalar que existen muchas otras bases de datos de código abierto de fotos de rostros y vídeos de personas que pueden o no incluir ya su imagen.
Tales bases de datos, hechas de medios públicos raspados de Internet, han sido durante mucho tiempo la base de la investigación de la IA. Incluso si FaceApp no tuviera su propia reserva de imágenes, sería fácil encontrar otras de la plétora de opciones que hay. Tal vez ese sea el punto más importante de la historia: FaceApp simplemente destaca lo mucho que ya hemos perdido el control de nuestros datos digitales.
Via
Hay mucho que la aplicación de edición de fotos virales podría hacer con una base de datos gigante de rostros.
El contexto: FaceApp, la aplicación de edición de fotos que utiliza la inteligencia artificial para retocar tu rostro, ha sido objeto de escrutinio desde que se convirtió en una aplicación viral. Ha existido desde 2017, pero una nueva característica añadida que permite a los usuarios ver cómo se verán cuando envejezcan la ha catapultado de nuevo a la popularidad. Ahora el hecho de que sea propiedad de la empresa con sede en Rusia Wireless Lab ha asustado a la gente.
La preocupación: Según algunos informes, la aplicación ha acumulado más de 150 millones de fotos de rostros de personas desde su lanzamiento, y sus condiciones de servicio estipulan que la empresa puede utilizar las fotos como quiera, a perpetuidad. La compañía ya ha dicho en una declaración que elimina la mayoría de las imágenes de sus servidores dentro de las 48 horas de la carga, y no comparte los datos con terceros. A pesar de ello, algunos miembros demócratas del Congreso de EE.UU. piden ahora que el FBI investigue la empresa. Los usuarios también están preocupados de que su cara pueda ser utilizada para rastrearlos en el futuro a través del reconocimiento facial.
La realidad: De acuerdo, imaginemos que FaceApp decidió usar las fotos que ha reunido más allá de la razón por la que los usuarios las han subido. ¿Qué podrían hacer en realidad? Es muy poco probable que los usen para entrenar algoritmos para identificar tu cara. En primer lugar, la mayoría de los usuarios no dan a FaceApp su nombre u otra información de identificación, que sería necesaria para el reconocimiento. Segundo, aunque es técnicamente posible que un sistema aprenda a reconocer a alguien a partir de una sola foto, la precisión sería pobre. También habría medios mucho más fáciles para obtener las fotos específicas de un individuo objetivo, como por ejemplo a través de sus perfiles en los medios sociales y las subidas a Flickr.
Por la madriguera del conejo: Sin embargo, hay otras formas de utilizar una base de datos gigante de caras. Aquí hay sólo unos pocos:
¿Importa eso? Aunque estos casos de uso plantean importantes problemas de privacidad, vale la pena señalar que existen muchas otras bases de datos de código abierto de fotos de rostros y vídeos de personas que pueden o no incluir ya su imagen.
Tales bases de datos, hechas de medios públicos raspados de Internet, han sido durante mucho tiempo la base de la investigación de la IA. Incluso si FaceApp no tuviera su propia reserva de imágenes, sería fácil encontrar otras de la plétora de opciones que hay. Tal vez ese sea el punto más importante de la historia: FaceApp simplemente destaca lo mucho que ya hemos perdido el control de nuestros datos digitales.
Via
Compartir esto: