Por: Ariadna Rousaud

El Disseny Hub Barcelona acaba de inaugurar el CUB, un nuevo espacio dedicado a procesos experimentales y residencias de investigación. Domestic Data Streamers lo estrenan con su Oficina Ciudadana de Memorias Sintéticas. Habablamos con Natalia Santolaria, directora creativa de DSS, sobre cómo las herramientas de Inteligencia Artificial pueden ponerse al servicio de las personas para recuperar memorias perdidas.

Datos que hablan de nosotros

Las casualidades a veces son caprichosas. El mismo día en el que se ponía en marcha la Oficina Ciudadana de Memorias Sintéticas de Domestic Data Streamers (DDS), la revista Science publicaba un artículo firmado por 25 científicos expertos en Inteligencia Artificial (IA) donde se alertaba sobre los peligros que supone el avance incontrolado de los sistemas informáticos autónomos. Tanto es así, que mencionaban la posibilidad de que la IA provoque «daños sociales a gran escala». Ante este inquietante panorama, proyectos como los de DDS representan un soplo de esperanza al que agarrarnos para entender que, como todo en la vida, esto también depende del uso que le demos.

En DDS se sirven de las herramientas de IA para recopilar datos. Datos que hablan de nosotros. Datos que, expuestos y explicados desde el diseño, invitan a conocer nuestro presente, futuro y, en este caso, pasado. Porque preservar la historia (nuestras historias) es una forma de amparar a las generaciones venideras.

© Júlia Arnau

¿Qué es la Oficina Ciudadana de Memorias Sintéticas?

Natalia Santolaria – Es el capítulo más largo sobre un proyecto más grande llamado Memorias Sintéticas donde invitábamos a la gente a reconstruir memorias que no tienen documentadas o que en su momento fueron documentadas pero se han perdido por diversas causas (desplazamientos forzados, procesos de demencia…). Reconstruimos estos recuerdos de forma visual con un equipo especializado que utiliza herramientas de inteligencia artificial.

¿Cómo?

La oficina tiene dos servicios. Uno es la reconstrucción personalizada de memorias. Se hace una entrevista de una hora como máximo, con un equipo compuesto por un entrevistador y un prompter, que es la persona que va dando las instrucciones a la interfaz de la herramienta de IA para obtener una descripción detallada de una imagen.

A partir de ahí, comienza el proceso de refinamiento de la memoria. Mostramos esta primera imagen a la persona entrevistada, nos da su feedback y comenzamos a editarla hasta que esta persona se reconoce en ella y la da por buena.

El otro servicio es la exposición: un archivo de memorias sintéticas donde podemos descubrir la metodología que utilizamos. Todas las herramientas que ofrecemos son abiertas. Es algo que podríamos hacer tú y yo en casa con nuestras familias y amigos.

¿La persona se va con la imagen de su recuerdo?

Sí. Lo primero que hacemos es encontrar un recuerdo que esté congelado en el tiempo, que no esté documentado. El entrevistador le hace todo tipo de preguntas, desde qué emoción sentía, hasta de qué año estamos hablando, para entender cómo serán, por ejemplo, los muebles de esa casa o el color de las paredes. Esta serie de detalles harán que la memoria sea lo más cercana posible al recuerdo de la persona.

¿Cómo es esa imagen?

Utilizamos los primeros modelos de IA porque no buscamos una imagen hiperrealista. Buscamos una imagen que tenga una materialidad borrosa y casi onírica. Por dos motivos. Primero, porque ayuda más a las personas a conectar con su recuerdo. Y segundo, porque no queremos que las memorias sintéticas sustituyan documentos que tienen el estatus de pruebas históricas. El valor de las memorias sintéticas es evocar un recuerdo y representar la verdad perceptiva y emocional de cada persona.

«No queremos que las memorias sintéticas sustituyan documentos que tienen el estatus de pruebas históricas. El valor de las memorias sintéticas es evocar un recuerdo y representar la verdad perceptiva y emocional de cada persona.» _ Natalia Santolaria

© Júlia Arnau

¿Qué tipo de recuerdos abundan más?

Hay dos patrones. Memorias de personas, lugares, rituales o familiares que hacían felices a estas personas. Y otras que no son necesariamente felices, pero que son importantes para la identidad de la persona. Vino una señora que recordaba cómo habían tirado la estatua de Franco al suelo, en Plaza Universidad, después de la dictadura. Otra recordó cuando vivía en su ciudad natal, en Latinoamérica, y una vecina la ayudó a salir de una situación de violencia que estaba sufriendo en su casa. Otra nos explicó cómo recuerda cuando se metía dentro de los refugios, durante los bombardeos de Barcelona, y los hombres se quedaban fuera con los picos y las palas para poder sacar a la gente si caía una bomba sobre el refugio.

Será interesante ver si, al final, priman los recuerdos positivos o si la gente se queda con los momentos oscuros de su vida…

En general suelen ser recuerdos felices o muy importantes en la construcción de la identidad de la persona.

¿Qué se hará después con todo este material recogido?

La idea es crear un archivo digital en la web del proyecto y que estén disponibles para consultar; que sea un archivo que se vaya ampliando a medida que escribimos nuevos capítulos de este proyecto.

Este proyecto pone de manifiesto las bondades de la IA, pero también hay una parte oscura. Justo hoy, la revista Science publicaba un artículo alertando de sus peligros. ¿Qué visión y posición tenéis al respecto?

En este escenario polarizado entre los tecnófilos y los tecnófobos hay un espacio en medio donde se tocan estos dos mundos. Decimos que es un espacio de crisis de imaginación. Encontramos a faltar una visión más humana y más social de aplicar esta herramienta. Cómo aplicarla para que sirva de alguna forma a la comunidad.

Aquí es donde Pau Garcia (CEO & Founding partner DDS), que es la persona que ha liderado más esta división de IA dentro del estudio, comienza con un equipo de personas a experimentar y crear el recuerdo de una chica que había perdido a su padre. Es una forma de utilizar una herramienta futurística para mirar al pasado y usarla para acercar generaciones entre ellas. Una herramienta que quiere acercar la tecnología y, también, desmitificarla.

«Nosotros siempre decimos que la IA no es nada inteligente. Solo es una máquina muy buena de probabilística con una gran base de datos.» Natalia Santolaria

El primer contacto de la mayoría de gente con la IA se hace a través de ChatGPT o Copilot. Tengo la sensación, sin embargo, de que en realidad estas herramientas son solo buscadores que, en lugar de listar los resultados, te los juntan, cogiendo lo más destacado que encuentra en la red. ¿Es así como funcionan los asistentes inteligentes?

Lo que hace la IA Generativa, sea de imágenes o de texto, es predecir muy bien cuál es la palabra que viene después de la que tiene antes. No es mucho más. Lo que pasa es que es una herramienta muy potente que nos puede servir para muchas cosas. Y aquí está la responsabilidad de las personas que la utilizan.

«La IA Generativa es una herramienta muy potente. Y aquí está la responsabilidad de las personas que la utilizan.» _ Natalia Santolaria

¿Existe algún tipo de normativa o regularización en el uso de IA?

Este terreno está muy verde. Hay una situación donde hay violaciones éticas.

En DDS tenemos un código de conducta y ética de la oficina, donde nosotros decidimos no boicotear esta tecnología. Queremos involucrarnos para poder reflexionar críticamente sobre nuestra propia práctica y ser parte de las conversaciones de construcción de la tecnología.

Podemos decidir cómo nos relacionamos con ella. Por ejemplo, nuestros prompters no mencionan nunca el nombre de ningún artista, ni ningún estilo, en las descripciones. Esto lo hacemos para no interferir en temas de copyright. Por tanto, sí que hay una forma donde nosotros podemos decidir qué uso hacemos de la tecnología, que sea responsable y ético, mientras esperamos a que los modelos sean más transparentes.

«En DDS tenemos un código de conducta y ética de la oficina, donde nosotros decidimos no boicotear esta tecnología. Queremos involucrarnos para poder reflexionar críticamente sobre nuestra propia práctica y ser parte de las conversaciones de construcción de la tecnología.»_ Natalia Santolaria

¿La IA incrementa la brecha entre ricos y pobres?

Pau Garcia – Si no hacemos nada por evitarlo, es muy probable que sí. La experiencia con empresas como Facebook (Meta), Amazon o Google, así como la aparición de los ordenadores personales, muestran que estas tecnologías no han mejorado el nivel adquisitivo medio de la sociedad. Por el contrario, han aumentado la desigualdad entre los perfiles adquisitivos altos y bajos. Si no se actúa, esta nueva tecnología centralizará aún más poder en manos de pocos.

¿Cómo actuar?

Pau Garcia – Luchando por una legislación que equilibre más la protección de los intereses de las personas y las comunidades frente al de las empresas. Eliminando los monopolios tecnológicos y protegiendo los proyectos opensource. Y mejorando la tasación de estas grandes empresas tecnológicas. En 2011, Apple Sales International registró beneficios por valor de 16.000 M€, pero gracias a un acuerdo con el Gobierno de Dublín, únicamente grabó 50 M€, lo que proporcionó a las arcas públicas sólo 10 M€ en concepto de Sociedades para el año, un tipo efectivo del 0,05 %.

Fuera de vuestro entorno laboral, ¿vuestras familias entienden a qué os dedicáis? 

Natalia Santolaria – Hace unos años, para celebrar nuestro aniversario, hicimos un vídeo preguntando a nuestros padres a qué nos dedicábamos y salió un popurrí de cosas…

Cuando tengo que explicar qué hacemos, digo que usamos herramientas del mundo del arte, como pueden ser las metáforas o las esculturas, para humanizar unos datos que normalmente son muy fríos.

«Usamos herramientas del mundo del arte, como pueden ser las metáforas o las esculturas, para humanizar unos datos que normalmente son muy fríos.»_ Natalia Santolaria

Nosotros no trabajamos con big data. Recopilamos datos y cada dato explica una historia, que ampliamos y humanizamos. No debemos olvidar que un dato es una información que habla sobre nosotros. Sobre una persona, sobre una comunidad y sobre cómo nos comportamos en el mundo. Si lo explicamos a través del storytelling, a través de lenguajes más artísticos, incluso nos puede llegar a emocionar. Hay una cita, que dice que solo entendemos una cosa cuando está relacionada con algo que ya conocemos previamente.

La Oficina Ciudadana de Memorias Sintéticas es un proyecto impulsado por el estudio creativo Domestic Data Streamers con la colaboración del Ayuntamiento de Barcelona y Ciudad Proactiva BIT Habitat. Estará en marcha en el Disseny Hub Barcelona hasta el 29 de septiembre 2024.