Imprimir
Inicio » Noticias, Ciencia y Tecnología  »

¿Cuáles son los riesgos del ‘big data’? (+ Video)

Por: Ernest Davis
| 6
Foto tomada Zonamovilidad.es.

Un peligro del ‘big data’ es que se lo puede engañar. Cuando la gente sabe qué conjunto de datos se utiliza para tomar decisiones importantes, puede inclinar la balanza a su favor. . Foto tomada Zonamovilidad.es.

En los últimos 15 años hemos presenciado una explosión en la cantidad de datos digitales a nuestra disposición y en las tecnologías informáticas usadas para procesarlos. El ‘big data’, como se la conoce, sin duda aportará importantes avances científicos, tecnológicos y médicos, y podría mejorar significativamente la formulación de políticas gubernamentales; pero también plantea serios riesgos si se abusa de él o se lo utiliza de manera inadecuada.

Tener más datos no es un sustituto de tener datos de alta calidad. Por ejemplo, aunque uno puede encontrar innumerables opiniones políticas en las redes sociales, estas no representan de manera fiable a los votantes. De hecho, una parte sustancial de los tuits y mensajes de Facebook sobre política son generados por computadoras.

Los programas automatizados basados en conjuntos de datos han causado numerosos escándalos. Hace poco, un estudiante buscó imágenes de Google sobre “peinados de aspecto no profesional para ir a trabajar”. Los resultados mostraron, en su mayoría, imágenes de personas de raza negra. Cuando el estudiante quitó el ‘no’ antes de ‘profesional’, Google arrojó principalmente imágenes de personas blancas. Esto no fue resultado de un sesgo de los programadores de Google, sino un reflejo del modo en que la gente etiqueta imágenes en internet.

Yo no construí la bomba, sólo demostré que existía

Pues bien, un programa de ‘big data’ que usara este resultado de búsqueda para evaluar las decisiones de contratación y ascensos podría penalizar a los candidatos negros. Y esto no es solo una posibilidad hipotética. Una investigación de ProPublica sobre modelos de riesgo de reincidencia delincuencial demostró que una metodología de amplio uso para determinar las sentencias para los convictos sobrestima sistemáticamente la probabilidad de que los acusados de raza negra cometan delitos en el futuro y subestima la de los blancos.

Otro peligro del ‘big data’ es que se lo puede engañar. Cuando la gente sabe qué conjunto de datos se utiliza para tomar decisiones importantes, puede inclinar la balanza a su favor. Por ejemplo, si a los profesores se los juzga según los resultados de sus estudiantes, pueden ser más propensos a “enseñar para el examen”.

Ni siquiera el motor de búsqueda de Google es inmune. No obstante estar alimentado por una inmensa cantidad de datos y supervisado por varios de los principales científicos de datos del mundo, sus resultados son susceptibles de manipulación por medio de técnicas como el Google ‘bombing’ o el ‘spamdexing’, entre otros métodos.

Un tercer peligro es la violación de la privacidad. En los últimos años se han robado grandes conjuntos de datos confidenciales de sitios empresariales y gubernamentales, y los investigadores han demostrado cómo las opiniones políticas o, incluso, las preferencias sexuales de las personas se pueden recoger con precisión en publicaciones en línea aparentemente inocuas, como las opiniones sobre películas, incluso si se publican bajo seudónimo.

Develan cómo el “Big Data” fue clave en las victorias de Trump y el Brexit

Por último, el big data plantea un reto para la rendición de cuentas. Si alguien siente que ha sido tratado injustamente por la decisión de un algoritmo, a menudo no tiene forma de apelar, ya sea porque los resultados no se pueden interpelar o porque las personas que los han creado se niegan a proporcionar detalles sobre cómo funcionan. Hace poco, la Unión Europea adoptó una medida que garantiza a las personas afectadas por los algoritmos el ‘derecho a una explicación’, pero solo el tiempo dirá cómo funcionará en la práctica.

Y los alcances de esto pueden ser muy tóxicos, como explica Cathy O’Neil en su libro ‘Weapons of Math Destruction’ (‘Armas de destrucción matemática’), en el cual analiza el poder de los algoritmos en nuestra vida cotidiana y cómo muchos de ellos fomentan la desigualdad y la discriminación.

La buena noticia es que los peligros del ‘big data’ se pueden evitar. Pero no será así a menos que protejamos celosamente la privacidad de las personas, detectemos y corrijamos las injusticias, utilicemos prudentemente las recomendaciones algorítmicas y mantengamos una comprensión rigurosa del funcionamiento interno de los algoritmos y los datos, objetivos y visiones que alimentan sus decisiones.

Lea más:

Obama y Trump usaron el Big Data para lavar cerebros, asegura experto en redes

En video, ¿qué es el Big Data?

(Tomado de El Tiempo)

Se han publicado 6 comentarios



Este sitio se reserva el derecho de la publicación de los comentarios. No se harán visibles aquellos que sean denigrantes, ofensivos, difamatorios, que estén fuera de contexto o atenten contra la dignidad de una persona o grupo social. Recomendamos brevedad en sus planteamientos.

  • ernesto dijo:

    Toda tecnología trae implicito el riesgo de que se puede utilizar para propósitos mezquinos (la energía atómica, la manipulación genética, etc, etc) y las tecnologías de la información no escapan de este riesgo. La lógica de la ley de la acumulación del capital descrita por Marx hace 200 años lleva a muchos a pasar por encima de toda ética con tal de obtener el mayor “éxito” económico posible que es la única forma de éxito que entiende el capital. No es la tecnología la que trae los riesgos, es la avaricia, la falta de escrúpulos y los anti-valores morales que promueve la sociedad capitalista donde todo vale con tal de acumular más que el prójimo.

    • Ni Cas(i)o dijo:

      “la avaricia, la falta de escrúpulos y los anti-valores morales “. No sabía que fuesen valores intrínsecos y exclusivos del capitalismo. Pensé que lo eran de la naturaleza humana.

  • yariel dijo:

    Ser ignorante de su existencia y si nó, no utilizarla.

  • cmam dijo:

    Bueno, denle gracias a los miles de millones (si ya estamos en esos números) de usuarios de las redes sociales que gustosamente dan “Acepto” a las políticas de uso de datos de estas compañías, y gustosamente hacen su vida pública, para el beneficio de la parte inmoral que tiene este mercado, por mi parte sigo las siguientes reglas:
    1 – Linux
    2 – Tor + TorBrowser
    3 – GoGoDuck
    4 – Telegram

  • c. oro dijo:

    y el cable?

  • Michel dijo:

    Los focos tienen que estar sobre las técnicas deep learnig. La big data solo es eso, datos.
    Saludos

Se han publicado 6 comentarios



Este sitio se reserva el derecho de la publicación de los comentarios. No se harán visibles aquellos que sean denigrantes, ofensivos, difamatorios, que estén fuera de contexto o atenten contra la dignidad de una persona o grupo social. Recomendamos brevedad en sus planteamientos.

Vea también