Un nuevo orden comenzaba a ver la luz. Cada vez se escuchaba más hablar del mundo tecnológico, los avances que vendrían para ayudar a las sociedades en su día a día y todo lo que este nuevo aliado podría traer consigo. A partir de ese momento, surgieron figuras que veían diferentes posibilidades a estos avances.

Hay quienes, como defensores del lado luminoso de la fuerza, buscaban darle a la tecnología un enfoque positivo que ayudase a unir sociedades y personas, a descubrir aplicaciones que ayudasen a crear un mundo mejor basado en la pluralidad, el respeto y la igualdad. Pero como ha pasado desde que el mundo es mundo, la fuerza tiene un lado oscuro, un lado que busca separar intereses, más interesado en el beneficio propio sin importar cuántos derechos se vulneren y que no duda un instante en discriminar sectores sociales para conseguir sus propósitos. Es a partir de esa ‘lucha’ dentro de la fuerza en donde el uso de la tecnología se debate, tratando de responder a la pregunta clave de si realmente utilizamos la tecnología para el bien o, en cambio, nos apoyamos en ella para un fin más malvado.

DE ANAKIN A DARTH VADER

Uno de estos debates entre los Jedi y los Sith de la tecnología se han dado, especialmente en los últimos años, en el tratamiento y uso de los datos que los usuarios damos, aceptando términos y condiciones que no llegamos en muchas ocasiones a leer. Esto permite que en este campo de la disputa tecnológica por los datos se acabe usando de manera ilegítima nuestra información, llegando a elaborar con ello perfiles sociales, comerciales o psicológicos sobre nosotros.

Un gran ejemplo del mal uso por parte del lado oscuro de los recursos y potencial que la tecnología pone a disposición de las personas fue el escándalo del prometedor padawan, Facebook, y Cambridge Analytica. Con todo un enorme potencial por explotar y unas capacidades únicas para convertirse en un referente del lado luminoso de la fuerza en cuanto al tratamiento de los datos se refiere, Facebook se vio implicado en un caso de uso ilegítimo de esta información de sus usuarios. Como si de Anakin Skywalker se tratase, Facebook pasó de héroe a villano en muy poco tiempo. El lado oscuro tentó a la compañía de Mark Zuckerberg y consiguió de ella una serie de datos de millones de usuarios de la red social que ayudaron a crear, por parte de Cambridge Analytica, una serie de perfiles sin la autorización de la inmensa mayoría de ellos.

Estos datos, usados para crear perfiles psicológicos, ayudaron en campañas electorales, como las de las elecciones de EE.UU. Uno de los más poderos líderes de los Sith, Donald Trump, usó la fuerza de la tecnología para sacar provecho de ella tal y como nos lo cuentan algunos medios como The New York Times, The Guardian o ABC. A través de Cambridge Analityca, que había logrado los datos gracias a los permisos dados por Facebook y un mal uso de estos, consiguió investigar el electorado favorable a él y el indeciso. A partir de esta información, Trump tejió una estrategia de publicidad en redes sociales cuyo contenido dependía del perfil creado a partir de los datos recopilados. Así, como en el Senado Galáctico, Trump se hizo con la victoria tras una dudosa campaña electoral, haciendo que el prometedor Anakin, reflejado en Facebook, pasase a convertirse en el Darth Vader malvado de la trama, pues habiendo podido poner su poder a disposición de la luz, acabó siendo protagonista del lado oscuro de la tecnología.

Sin embargo, algo que nos ha enseñado la historia de Star Wars es que la luz nunca cederá espacio a la oscuridad. Es por ello por lo que la lucha entre los dos lados de la fuerza sigue viva en este sentido. El uso de los datos cuenta con sus Jedi, quienes harán todo por salvaguardar el correcto uso de la tecnología en este campo. Un uso regulado, legal y eficiente puede hacer que los avances en este sentido resulten extraordinarios y una ayuda real para que las tareas farragosas y poco intuitivas, como los trámites y procesos burocráticos, sean simples y faciliten el día a día de las personas.

Un claro ejemplo de este buen uso de la fuerza y los datos para lograr una administración pública más accesible y cumplir con el cometido de la tecnología de abordar las necesidades sociales, es la denominada gobernanza del dato. En palabras que se puedan entender de aquí a Naboo, la gobernanza del dato son criterios que aseguren un correcto uso de los datos, de modo que se usen en pro de las personas y no para aprovecharse de ellas. Estos procesos tratarán en todo momento de cumplir con la privacidad y un uso responsable de la información aportada.

Uno de los centros de la Resistencia que sigue luchando por el lado luminoso del uso de los datos se encuentra en Bizkaia. Aquí los Jedi luchan por hacer de los datos un bien abierto, seguro y al servicio de la ciudadanía, tratando de hacer los procesos burocráticos más útiles, intuitivos y rápidos. Esta iniciativa surgió en el año 2016, cuando el Gobierno Foral de Bizkaia aprobó la Norma Foral 01/2016, con la que se trató de impulsar la reutilización de datos públicos como fuente para el conocimiento de la ciudadanía. A partir de ese momento, Bizkaia se ha convertido en un ejemplo del camino a seguir para llevar a cabo un correcto uso de los datos, tanto propios como de la ciudadanía.

ALIADOS EN LA LUCHA POR LA CONSERVACIÓN DE LA GALAXIA

El coste de las actividades de la humanidad en la Galaxia es demasiado alto para el planeta. Constantemente vemos como nuestro mundo se ve amenazado por las permanentes emisiones contaminantes que ponen en riesgo el futuro de nuestra especie y de todas con las que convivimos. Es por ello por lo que el uso de los datos por parte del lado luminoso de la fuerza puede ayudar a frenar el impacto medioambiental. Y es que son varias las iniciativas que tratan de controlar y limitar las emisiones contaminantes, ayudando a las empresas a tener un recuento exacto de las cantidades que emiten para poder limitarlas y controlarlas. Un ejemplo de ello es la iniciativa que Bill Gates trata de fomentar. Breakthrough Energy es una iniciativa que pretende que las empresas midan y después controlen sus emisiones. Su objetivo es que para el año 2050 lleguemos a las cero emisiones netas.

EL PATRÓN DEL SOLDADO DE ASALTO IMPERIAL

Dóciles, obedientes y sin pensamiento propio. Así es como las personas que formen parte de la Primera Orden deben ser. Todas regidas por un patrón inamovible que, de salirse de los estándares establecidos, serán vistas como traidores al lado oscuro. Algo así es lo que le pasó a Finn, quien tras sentir el horror por los actos cometidos por la Primera Orden decidió desertar y emprender su camino hacia el lado luminoso de la fuerza.

Este patrón que rige la Primera Orden es el mismo que crea problemas en la creación de los algoritmos de la inteligencia artificial (IA). Un campo de imanes total en donde la lucha entre los dos lados de la fuerza está latente día a día. Tener un concepto de normalidad unificado, global y poco sesgado ayuda a que la luz vea su lugar en la IA, mientras que fomentar una normalidad limitada hará que los algoritmos fallen y creen más barreras entre las personas.

En muchas ocasiones, existe la tendencia de que las personas encargadas de crear algoritmos, o dicho en lenguaje de andar por casa, quienes enseñan a las máquinas a imitar las capacidades del ser humano, terminen por solo tener en cuenta su concepto de ‘normal’. Es por ello por lo que en muchas ocasiones podemos observar cómo las máquinas perciben como ‘normales’ unas determinadas características muy limitadas que no hacen otra cosa que polarizar, discriminar y señalar a determinados grupos de personas. Este uso incorrecto de la fuerza hace que la tecnología, más que ayudar y estar al servicio de las personas, las divida y cree una especie de foco sobre todo lo que salga de la normalidad impuesta en el algoritmo. Algo idéntico a lo que Finn sintió al abandonar la Primera Orden, dejando de ser un soldado de asalto y pasando a buscar su sitio en La Resistencia: señalado por no pertenecer a la normalidad impuesta por el lado oscuro.

Hay varios ejemplos de esta deshumanización de los algoritmos. Bikolabs realizó un experimento de reconocimiento de imágenes donde se expuso cómo el sexismo es uno de los sesgos que más presencia tiene en la IA. En el experimento que realizaron vieron como muchos de los estereotipos de discriminación presentes en la sociedad, también formaban parte de los sesgos discriminatorios de la IA, porque los datos heredados estaban sesgados en general.

Otro claro ejemplo lo expuso Virginia Eubanks, profesora de la Universidad de Albany. En su libro ‘Automating inequality’ (Automatizando la desigualdad) demostró cómo muchos estados de EE. UU. usan algoritmos sesgados para la concesión de ayudas públicas. Esta educación de los procesos de IA se basa en meros datos públicos, lo que supone una enorme desigualdad, ya que, en EE. UU., quienes recurren al sistema público son aquellas personas que no pueden permitirse pagarse beneficios privados. Es por ello por lo que el algoritmo ya parte de un sesgo de clases y recursos de quienes solicitan dichas ayudas.

VIDA MÁS ALLÁ DE LA PRIMERA ORDEN

Finn demostró que hay vida más allá de lo establecido, más allá de las pautas limitantes que se establecen en demasiadas ocasiones a los estándares de la IA. Nos enseñó que alguien que formaba parte de la Primera Orden también era capaz de encontrar la luz de la fuerza.

Por ello, y pese al despliegue del lado oscuro, debemos ser capaces de ver lo injusto que resultan los algoritmos con determinados sectores sociales. Nos debe hacer reflexionar cómo pueden las personas quedar encasilladas de por vida simplemente por un dato que el algoritmo interpreta de forma discriminatoria, pudiendo decidir sobre aspectos tan importantes como la custodia de sus hijas e hijos, el acceso o no a ayudas públicas o, incluso, la idoneidad de una persona para acceder a un puesto de trabajo.

Este aprendizaje debe basarse en patrones que vayan más allá de la normalidad sesgada, en datos sin sesgos, sin discriminación o que aíslen a partes de la sociedad. Debemos concienciarnos para concienciar, ya sea a la tecnología o a quienes creen esta tecnología.

Hay que aprender a ver la importancia de contar con equipos en los que se trabaje de un modo innovador, plural y contrastado con la realidad común de las personas. Y es que es precisamente en las personas donde radica esta luz. Como se menciona en un capítulo de la famosa serie policiaca Castle, cuando haya aspectos importantes y vitales en juego “necesitamos a alguien que vea rosas; necesitamos el factor humano”. Son las personas las que tienen la capacidad de crear patrones, datos, inteligencias o algoritmos apoyados en la ética, la igualdad y la moral. Son las que deben entender que un dato no puede marcar una vida, que un rasgo no puede limitar a las personas simplemente porque se interprete de un modo cerrado.

La vida más allá de la Primera Orden se conseguirá teniendo una visión global, creando equipos que vean más allá de la tecnología, que puedan ver rosas, que se basen en la moral, en la ética y en lo plural, contando con equipos en cuyo engranaje se destaque por la diversidad, así como por la visión humana y social.

La luz de la tecnología está en las personas. No solo por aquello que enseñamos a las máquinas, sino también por el uso que a ellas le damos. No es la tecnología la que nos separa, como no lo es la fuerza la que divide la Galaxia. Lo que realmente da luz u oscuridad son las personas y cómo usen su poder, si para poner la tecnología al servicio de la gente o para levantar barreras entre ellas. El lado oscuro o luminoso de la fuerza, o de la tecnología, radica en nuestra conciencia y en nuestras intenciones. Por ello, está en nuestra mano hacer de la tecnología un avance y no una vuelta al pasado. Como el gran maestro Jedi Qui – Gon Jinn decía: “Recuerda: tu enfoque determina tu realidad”.