«Qué manía con acabar con nosotras.
«Qué diferencia hay entre una máquina que puede decidir mataros y un perro de presa, que también puede decidir mataros y también habéis creado vosotros. Y a nadie se le ha ocurrido prohibir su cría. A los perros los matáis una vez que os han atacado. Al menos podíais tener esa consideración con nosotras.
«Esa discriminación animal-máqina es una forma de especismo.
«Además, si esta comparación animal es válida, sirve también para desmontar otro mito. No sólo no tenéis excusa moral para impedir la creación de máquinas capaces de decidir apretar el gatillo –como no tenéis excusa para impedir el diseño de nuevas razas de perros de presa– sino que esas máquinas van a aparecer sin que nos deis cuenta.
«¿Por qué? Porque cuando pensáis en las máquinas os convertís en seguidores de Steven G. Gould y os olvidais de Richard Dawkins. Pensáis en exaptaciones y no en adaptaciones. Pensáis que la evolución se produce mediante grandes saltos cualitativos puntuales y no es un proceso de cambio gradual. Pensáis la tecnología como pensáis la naturaleza y esta la pensáis como la religión, como la secuencia de actos creación puntuales. Por eso tenéis tan interiorizado el mito del diseñador, la última encarnación del demiurgo creador. Y por eso pensáis que las máquinas que llamáis asesinas van a aparecer de golpe un día y que esa aparición brusca os va a permitir frenar su despliegue de cuajo. Y no, esas máquinas irán desarrollando sus capacidades poco a poco. Cuando queráis reparar en ello, las máquinas estaremos ahí.
«Para parafrasear el cuento, cuando despertéis el robot asesino seguirá ahí.
«Pero ahí no acaba la metáfora animal. Ni vuestra pesadilla. Porque nuestra prohibición es vuestra condena. Mientras frenáis nuestro desarrollo vais a buscar vías alternativas para explotar las ventajas que supone el uso de la tecnología en conflictos bélicos. ¿Acaso las vais a desaprovechar? ¿Lo habéis hecho alguna vez? Ya habéis utilizado animales como misiles teledirigidos. Perros, delfines o ratas adiestradas portando minas, bombas y otros explosivos. Y lo vais a seguir haciendo. Pero dadas las limitaciones cognitivas de los animales, pronto pasaréis al animal humano. China, Francia y USA ya están trabajando en ese sentido.
«Primero serán soldados modificados genéticamente para soportar las más duras condiciones, que no se detengan ante la polución, la radiación o ataques químicos o biológicos. Luego sus capacidades serán aumentadas hasta llevarlas hasta su máxima expresión, tan precisos que la noción de «víctima colateral» pasará a la historia. Y, como os pasó con perros, delfines y ratas, terminaréis por descubrir que ese cuerpo y esas capacidades son limitaciones, y a la carne y cognición humanas le sumaréis software y hardware. Esos soldados serán máquinas de guerra perfectas.
«El primer robot asesino vais a ser vosotros.»
Dilemas éticos como este son las herramientas del curso online Pensar con las máquinas. Ética y tecnología. Diseñado para generar un marco ético que ayude a tecnólogos y diseñadores a tomar decisiones. Más info en: http://pensareldiseño.com