Daniel Maniega
“Los desafíos éticos del big data” es el título de la conferencia anual que organiza el Instituto Empresa y Humanismo con Telefónica, y que este año se enmarca en el tema genérico del humanismo digital.
Ana Azurmendi, profesora titular de Derecho de la Comunicación de la Universidad de Navarra, y Carme Artigas, co-fundadora y CEO de Synergic Partners, del Grupo Telefónica, han analizado el tema en un encuentro moderado por Elena Valderrábano, Directora de Ética Corporativa y Sostenibilidad de Telefónica.
En la presentación de la sesión Ricardo Martí Fluxá, presidente del Instituto Empresa y Humanismo, destacó la importancia del big data en el mundo actual y señaló que las cuatro Vs -volumen, variedad, velocidad y veracidad- son la base de la transformación que están suponiendo los datos. También resaltó la responsabilidad a la hora de usar los datos y para ese uso la ética es clave.
Ana Azurmendi: “La tecnoética o consideración de aspectos éticos en el mismo diseño de las herramientas de gestión de datos ayuda a evitar excesos en su utilización”
Posteriormente, Ana Azurmendi resaltó tanto el crecimiento de los teléfonos inteligentes como la cada vez más temprana edad de inicio en el uso de Internet. Considera que el uso de los datos facilita el seguimiento de la conducta humana y su predicción y por lo tanto debemos adaptar las leyes a este nuevo fenómeno. Sin embargo, las nuevas tecnologías van más rápido que la legislación.
Para remarcar la importancia que los datos están teniendo puso algunos ejemplos como su utilización para campañas políticas y la segmentación de los votantes y los mensajes o la utilización de nuestros datos por compañías y como estas utilizan nuestros datos para generar ingresos.
Por último, destacó la importancia de la ética en relación con el uso de datos y señaló algunas iniciativas como la de la UE en relación con la privacidad de los datos como una posibilidad de enfocar desde la legislación este dilema ético.
LOS OCHO DESAFÍOS DEL USO DEL BIG DATA
Carme Artigas detalló los ocho desafíos que suponen el uso del big data. No sin antes hacer una puntualización indicando que existe una quinta, que es el valor de los datos.
El primer desafío es la privacidad, pero el concepto de privacidad va cambiando, por ejemplo, nuestros hijos tienen un concepto de privacidad diferente al nuestro y eso se refleja en el uso que hacen de las redes sociales. También están cambiando las definiciones de big data así hoy en día ya hablamos de “machine learning”, “image recognition” o “artificial intelligence”.
El segundo desafío es la dictadura de los algoritmos, el big data utiliza algoritmos, pero el uso de estos no sirve para todo y estamos utilizándolos hasta tal punto que estamos llegando a cuotas absurdas de segmentación de la población y podrían ser discriminatorios.
El tercer desafío son los prejuicios del machine learning, que puede tener errores debido a los datos utilizados. Por ejemplo, si son históricos pueden estar predeterminados hacia ciertos sectores de la sociedad. Otro ejemplo son los coches autónomos y las situaciones críticas. Siendo así, el machine learning tiene que estar muy tutelado para no caer en comportamientos poco éticos.
El cuarto desafío son los riesgos del deep learning, que también revolucionará la utilización del big data pero se pueden producir errores, como ocurrió con el chatbotTay, creado por Microsoft, que se volvió xenófobo y racista.
El quinto desafío tiene que ver con las nuevas relaciones con las máquinas. Aquí Artigas destacó el contacto cada vez más habitual con las máquinas a través de Siri, Cortana o Faciometrics de Facebook y con los robots, donde la UE ha propuesto una ley de la robótica, siendo una de las propuestas la prohibición de crear vínculos emocionales con los robots.
Carme Artigas: “Hay que crear un nuevo contrato social en el que sean clave la transparencia, la responsabilidad de las personas y su derecho a controlar sus datos”
El sexto desafío tiene que ver con el impacto social, un tema que está en plena discusión a nivel social y político, por el efecto de las nuevas tecnologías en el empleo o mejor dicho en el futuro del empleo. Se calcula que la pérdida de empleos puede llegar al 77% en China o al 57% en la OCDE. También se está discutiendo por ejemplo en EEUU la posibilidad de establecer una renta básica para las personas sólo por el hecho de ser persona.
Finalmente, los últimos desafíos tienen que ver, según Carme, con las nuevas habilidades humanas y el control sobre las nuevas tecnologías. En relación con las nuevas habilidades de los directivos, una vez que las tareas rutinarias y administrativas ya han sido resueltas por la tecnología, los directivos deberán desarrollar nuevas habilidades enfocadas a la resolución de problemas. En relación al control de las nuevas tecnologías, señaló que el control tiene que ser ex ante, es decir, la ética tiene que formar parte del diseño de los nuevos productos y servicios. La sociedad del futuro solo se puede construir con la ética de hoy.
NECESITAMOS UN NUEVO CONTRATO SOCIAL
Una vez terminadas las dos intervenciones Elena Valderrábano, moderadora de la sesión, dio comienzo al debate y planteó a las dos ponentes si estábamos asistiendo al nacimiento de una ética diferente. Para Ana la ética hay que aplicarla a esta nueva realidad y apuesta por una ética aplicada a la tecnología que denominó tecno-ética. Para Carme hay que crear un nuevo contrato social debido a la transformación tan enorme que se está produciendo y donde la transparencia, la responsabilidad de las personas y su derecho a controlar sus datos sean clave.
El público asistente participó activamente haciendo preguntas y comentarios sobre la sesión, cerrando el acto Carme con una frase que creo que resume muy bien el tema de la sesión “Lo que hay que tener con el uso de las nuevas tecnologías y del big data es criterio”.
