He vuelto a ver una de las charlas en las que el colectivo Haunted Machines desarrollaba la idea de “la máquina hermética”, y donde Tobias Revell lanzaba la siguiente pregunta: are we too late to define the ethics of our machines?
Esta pregunta de Revell resulta más densa de lo que aparenta y en la que todo me llama la atención. ¿Es realmente tarde para definir la ética de nuestras máquinas? ¿Y qué pasa si es tarde? ¿Nos damos cuenta ahora que las máquinas no tienen definida la ética con la que operan? ¿Por qué habla de ”nuestras” máquinas? ¿Por qué nos incluye a “nosotros” en la pregunta si la mayoría no participamos de este proceso? Siento que soy un sujeto pasivo de este juego, me utilizan para recoger mis datos y ni siquiera los comparten conmigo. Si una máquina fuera mía no haría eso.
De todas estas preguntas aparentemente sencillas, lo único que creí inicialmente entender era el concepto de “ética”. Pero después de una pequeña reflexión caí en la cuenta de que incluso ese término está viciado de origen, que ética no es más que lo que mi entorno y yo, como mujer blanca, urbana, joven, desde la cultura liberal y capitalista europea, considero bueno y malo. ¿Es esta el contexto desde el que Revell quiere definir la ética de nuestra tecnología? Lo dudo.
¿Cuántas éticas hay? ¿Hay una ética por cada marco cultural o hemos llegado ya a una ética global a través de la tecnología?
El imaginario tecnológico se ha hipernormalizado allá donde voy. En cada tecnología, en cada uso y proceso se esconde una intención asignada por las personas que deciden y que se crea desde un marco económico, ideológico, religioso y cultural determinado. Pero como usuarios de esta tecnología no podemos saber cual es esa intención. La ética y el propósito de las máquinas son totalmente opacos.
Esta opacidad parece relacionada con el concepto de “caja negra” del profesor Bruno Latour. El mecanismo interno de cualquier artefacto tecnológico llega a tal nivel de complejidad que hemos dejado de preguntarnos cómo funcionan, lo hemos asimilado y solo esperamos que la magia se cumpla. Es por ello que las intenciones de la tecnología también se vuelven opacas, inaccesibles a nuestra comprensión y en consecuencia herméticas a nuestras preguntas. De la tecnología tan sólo esperamos la ejecución eficiente de una tarea y un resultado, sin espacio a más preguntas ni más porqués.
¿Se aprovechan las corporaciones de nuestra ignorancia para hacerse con los espacios íntimos de lo humano? El debate sobre la vigilancia digital está ahí. Internet responde a esta visión, es una tecnología inmaterial, incomprensible en algunos casos e inalcanzable para las demás especies. Una vez escuché decir a la artista Joana Moll que si no podemos ver, con nuestros propios ojos, el comportamiento de un algoritmo o la complejidad de Internet nunca llegaremos a entenderlo y por lo tanto jamás llegaremos a conocerlo.
Ahora entiendo un poco más la pregunta de Revell, se trataba de una pregunta retórica.
Y sí, ya es tarde. Es tarde porque ya toda tecnología se ha tornado invisible. Pero que sea invisible no quiere decir que sea imposible retar sus principios.
Puede que nuestras máquinas intenten cumplir los deseos que el hombre occidental ansía: redimirse y ser un poco más semejante a la imagen de Dios, alcanzar su eternidad y omnipotencia. El Transhumanismo, la Singularidad o Dataísmo parecen mostrar el camino.
¿Pero qué deseos se manifiestan en la tecnología oriental y qué aspecto divino querrán alcanzar?
Occidente es hija del cristianismo y de la filosofía dualista platónica, aristotélica, cartesiana… Todo se entiende desde la ruptura: Dios y los hombres, el bien y el mal, entre la realidad y las ideas, el cuerpo y el alma, la material y la mente. Era de esperar que al imaginar el futuro repitamos y proyectemos el mismo modelo: Lo artificial y lo biológico, la máquina y lo humano.
Pero este marco es cultural y por lo tanto arbitrario. Según el antropólogo Edward Tylor, las creencias animístas no distinguen entre sujetos naturales y los objetos que “hacemos”, El Sintoísmo venera a los espíritus de la naturaleza por igual que a los objetos artificiales. Y las religiones politeístas de China e India conviven con cientos de deidades que les acompañan y ayudan en todos los aspectos de su vida. Quizá no se traten de sociedades que quieran tener el poder divino y colonizar la naturaleza desde fuera de ella, como en Occidente, puede que tan solo busquen interactuar y convivir con las almas de lo que estamos creando en armonía, como llevan haciendo miles de años. Siento curiosidad por saber si debido a esta diferencia mitológica, la sociedad oriental entiende y convive, en consecuencia, con la máquina de una manera también diferente.
Sin embargo veo que por encima del marco cultural y político se superpone una capa única colonizada por las metáforas de la digitalización, donde el lenguaje y el imaginario narrativo y metafórico hacen referencia a un todo común, por encima de las culturas y las geografías. Metáforas como la Nube, lo Smart, la cartografía digital, los datos… son ahora elementos que surgen como atributos universales.
Vivimos en la era de la aceleración tecnológica y de la deceleración cultural como bien dice Benjamin Bratton. Y ante esta colonización y deceleración:
¿Podemos pensar en contra-narrativas alternativas que devuelvan las metáforas a las culturas? ¿Desde el feminismo, desde el ecologísmo, desde África, Asia o Sudamérica, desde la creatividad, desde el humanismo, la política, desde los márgenes, desde el arte o la filosofía? ¿Desde nuevas maneras de entender el tiempo y el espacio?
Stef Silva
Strategic & Future Designer en Soulsight