Cada vez hay más voces autorizadas desde que hace unas semanas más de 1000 líderes tecnológicos, investigadores y otros firmaron una carta abierta instando a una moratoria en el desarrollo de los sistemas de inteligencia artificial.
Es el caso de la profesora australiana Kate Crawford quien ya avisó en 2016 de que el diseño de la inteligencia artificial propiciaba la discriminación.
Crawford es profesora investigadora de comunicación y estudios de ciencia y tecnología en la Universidad del Sur de California e investigadora principal sénior en Microsoft Research. Hace años viene investigando las implicaciones sociales y políticas de la inteligencia artificial y es autora de libros como el último “Atlas de IA” (Nuevos emprendimientos editoriales) donde analiza lo que se necesita para hacer Inteligencia Artificial y lo que está en juego a medida que remodela nuestro mundo.
Al igual que otros compañeros del sector la investigadora ha sido valiente a la hora de denunciar la deriva que se está dando al uso de la Inteligencia Artificial: “Ha habido momentos en la historia en que la IA era influyente, pero ha solido estar en un segundo plano. Ahora no: ChatGPT es la tecnología más rápida de la historia de la humanidad hasta el momento” explica en una reciente entrevista para el País.
Lo cierto es que para el común de los mortales la IA es aún una gran desconocida desde una visión abstracta e inmaterial. Por esos con su libro quiere mostrar cómo se fabrica la IA en un sentido más amplio: sus costos de recursos naturales, sus procesos laborales y sus lógicas clasificatorias.
Tal y como explica “Uno de los aspectos menos conocidos de la IA es la cantidad de empleados mal remunerados que se necesitan para construir, mantener y poner a prueba estos sistemas. Es lo que se llama “el trabajo fantasma” o “la automatización alimentada por humanos”, que se aplica desde la minería hasta el crowdsourcing, pasando por el software. ChatGPT extrae sus respuestas de internet, que está repleto de toxicidad. Se sabe que hay trabajadores en África cobrando dos euros por hora por eliminar manualmente las frases violentas, sexuales y los discursos de odio. Es deshumanizante.
Por otro lado, es un sistema que ocasiona grandes problemas medioambientales. Hacer 20 preguntas a ChatGPT equivale a desperdiciar medio litro de agua”.
En este punto la IA está fallando por lo que Crawford propone una visión alternativa basada en la cooperación social y la equidad “Wikipedia podría ser un ejemplo”.
La profesora denuncia la permisividad que se está dando a la Inteligencia Artificial para invadir nuestros espacios sin ningún tipo de regulación, y sin embargo se necesita fijar unos límites.
“La pregunta más importante es cómo vamos a garantizar que los sistemas de inteligencia artificial generativa sean justos, que su interpretación de la realidad sea la adecuada desde un punto de vista ético y que no haya sesgo a consecuencia del poder. El mejor ejemplo hasta el momento es The AI Act, la propuesta de ley para regular la inteligencia artificial en la Unión Europea, pero costó años llegar a un consenso”.
De lo contrario advierte de la irresponsabilidad de que unos pocos poderosos se adueñen de los mecanismos de IA “Lo que vemos una y otra vez, desde el reconocimiento facial hasta el seguimiento y la vigilancia en los lugares de trabajo, es que estos sistemas están empoderando a instituciones que ya son poderosas: corporaciones, militares y policías”.
KATE CRAWFORD
Es una escritora, compositora, productora y académica australiana. Es investigadora principal en Microsoft Research
Redacción
En Positivo
Leer más:
Yuval Noah Harari versus Yann Le Cun: debate sobre la inteligencia artificial
La Inteligencia Artificial cambiará la forma de vivir y amar en el futuro. JEANETTE WINTERSON
