La ética del uso de datos y algoritmos

Alberto Ortiz de ZárateSenior Manager DesideDatum

Cuando en desideDatum decidimos que nuestro lema sería “construir organizaciones movidas por los datos” éramos medianamente conscientes de la magnitud del cambio y de su complejidad multifactorial. 

Pues bien, uno de los retos más relevantes para todo tipo de organizaciones y especialmente para el sector público es el de asegurar un marco ético del uso de los datos que prevenga de todo posible daño y que aumente el bienestar social. Por lo tanto, entendemos que en toda estrategia de transformación digital, donde los datos son la materia prima, debe contemplarse la dimensión ética. Mucho más cuando entramos en escenarios de toma de decisiones algorítmica. 

Recientemente, hemos tenido la maravillosa oportunidad de poner en práctica estas ideas con el Gobierno de Navarra. En este artículo vamos a resumir el proyecto.

Navarra antepone la ética

El Gobierno de Navarra ha iniciado una reflexión estratégica en ingeniería de datos, con la meta de implantar la gobernanza de datos e impulsar su uso para producir innovación. Esta estrategia contempla la gestión de los datos, la organización y procesos internos, la cultura del dato, las plataformas tecnológicas y, por fin, la ética del uso de los datos.

En seguido se vio que el apartado ético debía ganar relevancia y que un código ético debería ser el primer producto a implantar. Además, se decidió que este código debería formularse en versión beta para dar espacio a un debate ciudadano donde acabar de formularlo.  

La nota de prensa es muy precisa al respecto. En ella se explican los beneficios que la sociedad navarra puede obtener mediante la inteligencia artificial y se formula un compromiso con la innovación, al tiempo que se aclara que, en todo caso, se antepondrá la ética para salvaguardar los intereses de la ciudadanía.

Este manifiesto ético se inserta en un sistema de valores de nivel superior que explicita cuatro atractores mayores: sostenibilidad, igualdad, innovación y buen gobierno.

Versión 1 del Manifiesto Ético del Dato

Un manifiesto pionero

La redacción actual del manifiesto ha bebido de una gran cantidad de fuentes, partiendo de manifiestos, declaraciones y artículos científicos muy variados. Lo que tiene de nuevo y original, en cambio, es el alcance con el que se ha concebido.

Materias que aborda:

A diferencia de la gran mayoría de declaraciones existentes, Navarra reúne en un solo texto principios de cuatro ámbitos:

  1. Los datos personales y la identidad digital
  2. Los datos públicos y su reutilización
  3. La gobernanza de los datos
  4. La inteligencia artificial

Por lo tanto, este manifiesto contiene una declaración de proactividad en algunas áreas ya bien reguladas, como la protección de datos personales y la transparencia, pero también en otras áreas donde aún se precisa completar la normativa existente.

Doble enfoque:

Frente a otros textos meramente represivos, aquí se pretende generar un entorno de confianza que genere buenas prácticas.

Negativo: proteger.  La protección frente a los daños, la seguridad y gestión de riesgos, las restricciones y prohibiciones.

Positivo: progresar. El fomento de la confianza, la promoción del uso de datos, el desarrollo del bien común mediante la innovación.

Tres tipos de principios:

El manifiesto pretende ser ambicioso al tiempo que realista. Por eso incluye tanto principios de exigible cumplimiento, como compromisos de futuro en los que se comienza a trabajar ahora.

  • Obligaciones para el ejecutivo foral.
  • Derechos que se otorgan a la ciudadanía.
  • Compromisos de futuro en los que se va a trabajar.

Implantación del Manifiesto:

Tal como se ha señalado, el manifiesto se dirige a cuatro ámbitos, con un doble enfoque y con tres tipos de principios. Además, se ha procurado que sea breve e inteligible por lo que no puede agotar los detalles de esta gigantesca materia.

Ahora corresponde poner en marcha la estrategia de ingeniería de datos y así convertir en procesos lo que todavía son principios. El siguiente grafo muestra cómo los compromisos de futuro pueden ir institucionalizándose para adquirir en algún momento carácter de obligación y de derecho.

En estas fechas, Navarra ha lanzado el Manifiesto a exposición pública, para completarlo y matizarlo con la participación ciudadana. Sin embargo, lo más importante y trabajoso está aún por llegar y ahí los aportes ciudadanos van a resultar absolutamente necesarios. Se abre un camino emocionante y muchos queremos andarlo.

2020-02-10T11:48:52+00:00

Leave A Comment