Por Partido Pirata de Chile (@piratachile)
Considerando el anuncio de la implementación de medios con reconocimiento facial en diversos lugares (Metro de Valparaíso, comuna de Lo Barnechea y la ciudad de Temuco), se deben resaltar ciertas cosas. Básicamente se captura una imagen (o video), se evalúan ciertas características y luego se compara con una base de datos existente.
Esta decisión parece basarse en la idea de que la tecnología es imparcial. A esta característica se le conoce como sesgo algorítmico (puedes leer más aquí). Se produce cuando un sistema informático refleja los valores implícitos de los seres humanos que participan en la recopilación, selección o utilización de datos. Puedes leer sobre como discrimina por raza o por género.
La privacidad con esta tecnología es un riesgo común a considerar. Si no existe una debida protección de datos personales así como un control humano adecuado, la segregación es un problema muy importante. Se ha demostrado que el reconocimiento facial puede ser racista e incapaz de reconocer personas transgénero. Camuflar la discriminación con nuevas tecnologías parece más una solución apresurada y donde el balance entre seguridad y privacidad se ignora.
Por Partido Pirata de Chile (@piratachile)
Considerando el anuncio de la implementación de medios con reconocimiento facial en diversos lugares (Metro de Valparaíso, comuna de Lo Barnechea y la ciudad de Temuco), se deben resaltar ciertas cosas. Básicamente se captura una imagen (o video), se evalúan ciertas características y luego se compara con una base de datos existente.
Esta decisión parece basarse en la idea de que la tecnología es imparcial. A esta característica se le conoce como sesgo algorítmico (puedes leer más aquí). Se produce cuando un sistema informático refleja los valores implícitos de los seres humanos que participan en la recopilación, selección o utilización de datos. Puedes leer sobre como discrimina por raza o por género.
La privacidad con esta tecnología es un riesgo común a considerar. Si no existe una debida protección de datos personales así como un control humano adecuado, la segregación es un problema muy importante. Se ha demostrado que el reconocimiento facial puede ser racista e incapaz de reconocer personas transgénero. Camuflar la discriminación con nuevas tecnologías parece más una solución apresurada y donde el balance entre seguridad y privacidad se ignora.
Fuente
Compartir esto: