Me hicieron pasar a su despacho, que resultó ser una estancia nada ostentosa. Ella se encontraba tras su escritorio, hojeando varios documentos. Me invitó a sentarme haciendo un suave ademán con su mano, al tiempo que sonreía. Tomé asiento y me presenté como corresponsal de la revista “Visiones del mañana”, recordándole la cita que habíamos concertado para hacerle una entrevista.

“Lo sé, estaba esperándolo.”, respondió.

El silencio que guardó a continuación me pareció una clara sugerencia para empezar sin dilación con la entrevista, dejando de lado cualquier preámbulo que yo pudiese tener previsto en mi guión.

Así pues, encendí la grabadora y comenzamos.

Pregunta: Hoy estamos conversando con Sula Cot, la mente al frente de Ciber(N)éticA, el mayor fabricante de robots de la actualidad. Sula, le agradecemos que haya podido dedicarnos parte de su tiempo para atendernos.

Respuesta: Es un placer.

P: Su compañía no tiene rival a la hora de crear robots, o máquinas autónomas como ustedes prefieren denominarlas. Sin embargo, últimamente no están siendo noticia solo por eso. El congreso está decidiendo si aprobar un nuevo proyecto de ley que, por primera vez, otorga derechos a las máquinas. Muchos apuntan a que ustedes han ejercido una importante presión para que esta ley se promulgue, ya que serían los principales beneficiados.

R: Quien diga que nosotros perseguimos únicamente un interés económico demuestra un profundo desconocimiento de nuestro trabajo. Nuestra actividad no consiste simplemente en generar beneficios, abarcamos más ámbitos que el diseño y la fabricación de máquinas. Nuestro departamento de pensamiento y filosofía tiene el mismo alcance que nuestra división tecnológica, por ejemplo. Es cierto que se nos ha consultado en relación con ese proyecto de ley, y hemos aportado nuestra visión. Esto no se trata simplemente de economía o de mercado, se trata de que la sociedad avance en consonancia con la evolución natural de la técnica y del pensamiento.

P: Muchos opinan, en contra de lo que el proyecto de ley promueve, que las máquinas deberían ser nada más que meras herramientas a nuestro servicio.

R: Esa es una visión instrumentalista y limitante, a nuestro juicio. Parte de un concepto antropocéntrico que creemos que es insuficiente para dar soporte a la casuística que nos vamos a encontrar en el futuro. Nosotros proponemos un marco ético diferente, un marco que surja a partir de la relación que se establece entre los entes relacionados, y no únicamente a partir de cualquiera de los entes de forma independiente.

P: Sin embargo, partiendo de la premisa de que las máquinas están creadas por nosotros, fabricadas y programadas por nosotros, es inevitable que su comportamiento se ajuste a una ética que surge de nosotros. Por decirlo de alguna manera, en su “ADN” estarían necesariamente codificados los principios morales de sus creadores.

R: Esa visión quizá fuese válida en una época en la que las herramientas eran neutras, no tenían autonomía o, por decirlo de otra manera, no disponían de capacidad de relación alguna con su entorno.

Pero debe tener en cuenta que hoy en día no es posible programar todas la acciones que nuestras máquinas son capaces de llegar a realizar. Son autónomas porque tienen capacidad de aprendizaje. Aprenden sobre la marcha a partir de las interacciones con el entorno, y eso las habilita para establecer relaciones de una índole muy diversa.

Por eso creemos que hay que trascender ese viejo esquema antropocéntrico. Aprendí hace tiempo que es necesario ver más allá. No se trata de que los hombres otorguen el estatus moral a quien ellos consideren, si no que el estatus moral emerja de forma natural a partir de las relaciones que se establezcan entre humanos; pero también a partir de las que se establezcan entre humanos y “otros”. Necesitamos implantar un marco ético que no excluya a cualquier otra entidad con la que podamos establecer relaciones perfectamente viables.

P: ¿Y qué ocurriría si alguien programase de manera deliberada una máquina para actuar de manera éticamente incorrecta?

R: ¿Y cree usted que esa circunstancia bastaría para mantener al resto de máquinas que funcionan correctamente bajo un estatus de esclavitud? Las máquinas que fabricamos tienen que pasar unos exigentes controles de calidad antes de integrarse en la sociedad. En cierto modo, pueden llegar a ser más fiables que un ser humano.

Y estos exámenes a los que las sometemos pueden hacerse tan estrictos y seguros como se considere que sea necesario. No puede decirse lo mismo de muchos seres humanos, ¿no cree usted? No todas las cabezas funcionan igual de bien, por desgracia, pero no se le retira a nadie su estatus moral por eso.

Plantea usted un problema técnico, no ético. Por tanto, se podría llegar a una solución técnica.

P: Sí, pero los humanos tenemos una relación de igualdad entre nosotros. Tenemos auténtica consciencia, auténtica capacidad de sentir emociones, de sufrir. Una máquina, como mucho, podría llegar a simular todo eso, pero nunca va ser lo mismo. Hay un escalón que no se puede salvar. Y aunque se pudiese salvar por medio de la técnica, ¿qué sentido tendría hacerlo?

R: Esa argumentación suya deriva de un mecanismo de antropomorfización. Otorgamos estatus moral a entidades sobre las que podemos proyectar propiedades o cualidades propiamente humanas. Por ejemplo, una mascota que nos hace compañía recibe un estatus superior al que reciben otro tipo de animales a los que, en esencia, solo se les considera como productores de carne para consumo humano.

Nosotros creemos que esta ética basada en propiedades está fundamentalmente agotada, y que de hoy en adelante necesitaremos trabajar con nuevos planteamientos.

A propósito de todo esto, si me permite, le puedo referir una historia personal.

P: Por favor.

R: Cuando era niña uno de mis mayores deseos era tener un perro. Sin embargo, yo tenía una alergia a estos animales que podía llegar incluso a ocasionarme la muerte.

Mi padre, para satisfacer este anhelo frustrado de mi infancia, creó un perro artificial. Era una máquina muy sofisticada para aquella época. De hecho, muchos de los diseños que implementamos actualmente en Ciber(N)éticA son una evolución de los que dieron lugar a aquella primera máquina con la que yo interactué.

Yo estaba feliz. Podía relacionarme con esa máquina de la misma manera con la que me hubiese relacionado cualquier perro.

Pero en cuanto la sacamos a la calle recibimos toda clase de censuras, quejas y denuncias; a pesar de que mi máquina no hacía otra cosa que no fuese a hacer un perro. Ni siquiera era completamente autónoma. Pero la sociedad de aquella época no estaba preparada para aceptar aquello. La justicia terminó sentenciando que ese tipo de máquinas no podían ser utilizadas en lugares públicos. Así que la teníamos en casa, encerrada. Yo tampoco salía mucho. Así fue como empecé a aprender lo necesario para diseñar las máquinas que hoy fabricamos.

Afortunadamente, hoy la situación no es la misma.

P: Pero era evidente que su perro era una máquina, algo fundamentalmente diferente al resto de perros.

R: Es cierto que mi perro era una máquina que emulaba el comportamiento de un perro. Pero mi relación con ella era análoga a la de cualquier otra niña con su perro auténtico.

Tenemos la convicción de que este marco ético que estamos proponiendo es mucho más robusto que el basado en propiedades que usted me refiere. El problema de todas esas propiedades de las que usted me habla (la consciencia, la experimentación de emociones) es que son al mismo tiempo estados internos de la mente y, por tanto, no son directamente verificables. Lo único que puede observar y valorar son manifestaciones externas, efectos, consecuencias… Usted supone que esas observaciones están inducidas por esos estados internos. Pero, a fin de cuentas, los estados no son directamente verificables.

Usted puede estar seguro de lo que usted siente y experimenta, pero ¿puede estar seguro de lo que otra persona (o ente) esté experimentando ?

P: Pues… yo creo que sí.

R: Yo, en cambio, no tengo esa seguridad.

P: En cualquier caso, su postura acerca del nuevo proyecto de ley creo que está muy clara. Pero, ¿realmente cree usted que el proyecto de ley será finalmente aprobado?

R: Pronto podremos saberlo.

Sula se incorporó y me tendió la mano desde su lado del escritorio. Una vez más, su lenguaje corporal y la actitud resuelta con la que lo expresaba determinaba de forma inequívoca el siguiente paso de nuestra interacción. Consideraba que habíamos llegado al final de la entrevista, y no cabía plantear una propuesta alternativa.

Me levanté y me dispuse a estrecharle la mano. Sin embargo, en el momento en que nuestras manos deberían haber entrado en contacto, no percibí el tacto de la suya. Mi mano atravesó literalmente la suya, como si hubiese atravesado una cortina de luz. En ese instante me di cuenta de que quizá había estado hablando todo ese tiempo con una especie de proyección holográfica tridimensional, de un realismo incontestable. Retraje mi mano en un acto reflejo. Sula no reaccionó de ninguna manera particular a mi desconcierto. Simplemente volvió a sentarse y retomó los documentos que estaban sobre su mesa, sin volver a reparar en mí. Guardé la grabadora y abandoné el despacho con una avalancha de sensaciones atropellándose en mi cabeza.

 

La ilustración es obra de Ángel Verisimo, a quien podéis seguir en su web, blog, o en Instagam.