Hace apenas unas semanas más de 1000 líderes tecnológicos, investigadores y otros firmaron una carta abierta instando a una moratoria en el desarrollo de los sistemas de inteligencia artificial más poderosos. Los firmantes solicitan a los laboratorios de Inteligencia Artificial a detener el desarrollo de los sistemas más avanzados, advirtiendo en una carta abierta que las herramientas de IA presentan “riesgos profundos para la sociedad y la humanidad”.
Entre esos líderes que han suscrito la carta se encuentra Yuval Noah Harari, historiador y profesor de la Universidad Hebrea de Jerusalén. Que si bien hace unos años se mostraba más reservado acerca de las perspectivas de la Inteligencia Artificial “Cualquier tecnología se puede utilizar para propósitos distintos, para crear dictaduras o para sociedades liberales”, ahora advierte de las negativas consecuencias de la nueva generación e Inteligencia Artificial.
“Se trata de una amenaza especialmente grave para las democracias, más que para los regímenes autoritarios, porque las democracias dependen de la conversación pública”, afirmó Harari en una entrevista publicada en el medio británico The Telegraph. “La democracia es básicamente conversación. Personas que hablan entre sí. Si la IA se apodera de la conversación, se acabó la democracia”, afirmó.
Además subraya las consecuencias que dicha tecnología se apodere de la cultura y suplante la identidad de las personas. “entras en Internet y discutes con alguien sobre algún tema político. Puede que incluso te envíen un video hablando. Pero no hay ninguna persona detrás. Todo es IA”.
Esto nos acerca a un escenario de peligrosa distopía en que las personas pueden caer en el engaño y la falsificación digital sintética. Esto es que cualquiera pueda hacer uso de la IA para fines espurios, parecer un pariente o amigo que quiere cambiar algo de ti, pedirte dinero o manipularte de otra forma sin que te des cuenta.
El historiador advierte sobre el efecto que podría tener si se desatara maliciosamente en el campo de batalla, por parte de regímenes totalitarios. “El régimen nazi se basaba en tecnologías como los trenes, la electricidad y las radios. No tenían herramientas como la inteligencia artificial.
Un nuevo régimen en el siglo XXI tendrá herramientas mucho más poderosas. Así que las consecuencias podrían ser mucho más desastrosas. Es algo a lo que no sé si la humanidad podrá sobrevivir”.
Harari pide delimitar el poder de la IA porque nos quita poder y luego puede ser demasiado tarde. Según su opinión hay que hacer entender que “la IA es la primera tecnología de la historia que puede tomar decisiones por sí misma. Puede tomar decisiones sobre su propio uso. También puede tomar decisiones sobre ti y sobre mí. Esto no es una predicción futura. Esto ya está ocurriendo”.
YUVAL NOAH HARARI
Historiador y escritor israelí, profesor en la Universidad Hebrea de Jerusalén
Redacción
En Positivo
Leer más:
“La inteligencia artificial cambiará el poder en los próximos 20 años”. YUVAL NOAH HARARI
Las decisiones que tomemos ahora cambiarán nuestras vidas. Yuval Noah Harari
