Contra pronóstico muchos de los expertos en Inteligencia Artificial están haciendo un ejercicio de honestidad para paralizar los procesos de IA aún en detrimento de los intereses económicos que hay en el sector.
Muy recientemente docenas de líderes de la industria de la IA, académicos e incluso algunas celebridades han solicitado reducir el riesgo de aniquilación global debido a la inteligencia artificial, argumentando en una breve declaración que la amenaza de un evento de extinción de la IA debería ser una prioridad mundial.
También hace unas semanas más de 1000 líderes tecnológicos, investigadores y otros firmaron una carta abierta instando a una moratoria en el desarrollo de los sistemas de inteligencia artificial más poderosos. Los expertos instaban a los laboratorios de inteligencia artificial a detener el desarrollo de los sistemas más avanzados, advirtiendo en una carta abierta que las herramientas de IA presentan “riesgos profundos para la sociedad y la humanidad”.
Gracias a este nivel de conciencia se está advirtiendo para que la humanidad tome el control sobre las tecnologías que está creando.
En esta línea la periodista, escritora y activista canadiense, Naomi Klein, llama a salvar la humanidad de las dinámicas perversas que puede ocasionar una Inteligencia Artificial descontrolada y sin límites de acuerdo a un artículo de opinión para The Guardian.
Klein crítica a los directores ejecutivos de tecnología que quieren que creamos que la IA generativa beneficiará a la humanidad, pero ellos mismos se están engañando.
Dentro de los muchos debates que giran en torno al rápido despliegue de la llamada inteligencia artificial, hay una escaramuza relativamente oscura centrada en la elección de la palabra “alucinar”.
Este es el término que los arquitectos y promotores de la IA generativa han elegido para caracterizar las respuestas proporcionadas por los chatbots que están completamente fabricados o son completamente incorrectos.
Como, por ejemplo, cuando le pides a un bot una definición de algo que no existe y, de manera bastante convincente, te da una, completa con notas al pie inventadas. “Nadie en el campo ha resuelto aún los problemas de alucinaciones”, dijo Sundar Pichai, director ejecutivo de Google y Alphabet, a un entrevistador recientemente.
Eso es cierto, pero ¿por qué llamar a los errores “alucinaciones”? ¿Por qué no basura algorítmica? ¿O fallas? Bueno, la alucinación se refiere a la misteriosa capacidad del cerebro humano para percibir fenómenos que no están presentes, al menos no en términos materialistas convencionales. Al apropiarse de una palabra comúnmente utilizada en psicología, psicodélicos y diversas formas de misticismo, los promotores de la IA, al tiempo que reconocen la falibilidad de sus máquinas, al mismo tiempo alimentan la mitología más preciada del sector: que al construir estos grandes modelos de lenguaje y entrenarlos en todo lo que los humanos hemos escrito, dicho y representado visualmente, ellos están en el proceso de dar a luz una inteligencia animada a punto de provocar un salto evolutivo para nuestra especie. ¿De qué otra forma podrían bots como Bing y Bard estar tropezando en el éter?
Sin embargo, las alucinaciones distorsionadas están en marcha en el mundo de la IA, pero no son los bots los que las tienen; son los directores ejecutivos de tecnología quienes los desencadenaron, junto con una falange de sus fanáticos, quienes están en las garras de alucinaciones salvajes, tanto individual como colectivamente. Aquí estoy definiendo la alucinación no en el sentido místico o psicodélico, estados alterados de la mente que de hecho pueden ayudar a acceder a verdades profundas, previamente no percibidas. No.
Estas personas simplemente están tropezando: viendo, o al menos afirmando ver, evidencia que no existe en absoluto, incluso conjurando mundos enteros que utilizarán sus productos para nuestra elevación y educación universal.
La IA generativa acabará con la pobreza, nos dicen. Curará todas las enfermedades. Resolverá el cambio climático. Hará que nuestros trabajos sean más significativos y emocionantes. Dará rienda suelta a vidas de ocio y contemplación, ayudándonos a recuperar la humanidad que hemos perdido a causa de la mecanización del capitalismo tardío. Acabará con la soledad. Hará que nuestros gobiernos sean racionales y receptivos. Estas, me temo, son las verdaderas alucinaciones de la IA y todos las hemos estado escuchando en bucle desde que se lanzó Chat GPT a fines del año pasado.
Existe un mundo en el que la IA generativa, como poderosa herramienta de investigación predictiva y ejecutora de tareas tediosas, podría organizarse para beneficiar a la humanidad, a otras especies y a nuestro hogar compartido.
Pero para que eso suceda, estas tecnologías tendrían que implementarse dentro de un orden económico y social muy diferente al nuestro, uno que tuviera como propósito satisfacer las necesidades humanas y la protección de los sistemas planetarios que sustentan toda la vida.
Y como bien entendemos aquellos de nosotros que actualmente no estamos tropezando, nuestro sistema actual no es nada de eso. Más bien, está construido para maximizar la extracción de riqueza y ganancias, tanto de los humanos como del mundo natural, una realidad que nos ha llevado a lo que podríamos considerar como la etapa tecno-necro del capitalismo.
En esa realidad de poder y riqueza hiperconcentrados, la IA, lejos de estar a la altura de todas esas alucinaciones utópicas, es mucho más probable que se convierta en una temible herramienta de mayor despojo y expolio.
¿Qué trabajo están haciendo estas historias benévolas en la cultura a medida que nos encontramos con estas nuevas y extrañas herramientas? Aquí hay una hipótesis: son las poderosas y tentadoras historias de tapadera de lo que puede llegar a ser el robo más grande y con más consecuencias en la historia de la humanidad. Porque lo que estamos presenciando es que las empresas más ricas de la historia (Microsoft, Apple, Google, Meta, Amazon…) se apropian unilateralmente de la suma total del conocimiento humano que existe en forma digital y desechable y lo guardan dentro de productos patentados, muchos de los cuales apuntar directamente a los humanos cuya vida de trabajo entrenó a las máquinas sin dar permiso o consentimiento.
Esto no debería ser legal. En el caso del material con derechos de autor que ahora sabemos entrenó a las modelos (incluido este periódico), se han presentado varias demandas que argumentarán que esto fue claramente ilegal. ¿Por qué, por ejemplo, debería permitirse a una empresa con fines de lucro introducir pinturas, dibujos y fotografías de artistas vivos en un programa como Stable Diffusion o Dall-E 2 para que luego pueda usarse para generar versiones dobles de esos mismos artistas? trabajo, con los beneficios fluyendo para todos menos para los propios artistas?
La pintora e ilustradora Molly Crabapple está ayudando a liderar un movimiento de artistas que desafían este robo. “Los generadores de arte de IA están capacitados en enormes conjuntos de datos, que contienen millones y millones de imágenes con derechos de autor, recopiladas sin el conocimiento de su creador, y mucho menos compensación o consentimiento. Este es efectivamente el mayor robo de arte en la historia. Perpetrado por entidades corporativas de apariencia respetable respaldadas por capital de riesgo de Silicon Valley. Es un robo a la luz del día”, afirma una nueva carta abierta que ella coescribió.
(…)
En The Age of Surveillance Capitalism de Shoshana Zuboff detalla meticulosamente cómo los mapas de Street View de Google arrasaron con las normas de privacidad al enviar sus automóviles equipados con cámaras para fotografiar nuestras vías públicas y los exteriores de nuestros hogares. Para cuando comenzaron las demandas que defendían los derechos de privacidad, Street View ya era tan omnipresente en nuestros dispositivos (y tan genial y tan conveniente…) que pocos tribunales fuera de Alemania estaban dispuestos a intervenir.
Ahora lo mismo que pasó con el exterior de nuestros hogares está pasando con nuestras palabras, nuestras imágenes, nuestras canciones, toda nuestra vida digital. Actualmente, todos están siendo incautados y utilizados para entrenar las máquinas para simular el pensamiento y la creatividad.
Estas empresas deben saber que están involucradas en robos, o al menos que se pueda presentar un caso sólido de que lo están. Solo esperan que el viejo libro de jugadas funcione una vez más: que la escala del atraco ya es tan grande y se desarrolla con tanta velocidad que los tribunales y los legisladores una vez más se darán por vencidos ante la supuesta inevitabilidad de todo.
También es por eso que sus alucinaciones sobre todas las cosas maravillosas que la IA hará por la humanidad son tan importantes. Porque esas nobles afirmaciones disfrazan este robo masivo como un regalo, al mismo tiempo que ayudan a racionalizar los peligros innegables de IA.
A estas alturas, la mayoría de nosotros hemos oído hablar de la encuesta que pidió a los investigadores y desarrolladores de IA que estimaran la probabilidad de que los sistemas avanzados de IA causen “la extinción humana o una pérdida de poder similar, permanente y grave, de la especie humana”. De manera escalofriante, la respuesta promedio fue que había un 10% de posibilidades.
¿Cómo se racionaliza ir a trabajar y sacar herramientas que conllevan tales riesgos existenciales? A menudo, la razón que se da es que estos sistemas también conllevan enormes ventajas potenciales, excepto que estas ventajas son, en su mayor parte, alucinantes.
(…)
NAOMI KLEIN
Es una periodista, escritora y activista canadiense, conocida por su crítica a la globalización y el capitalismo
Redacción
En Positivo
Leer más:
Salvar a la humanidad de la extinción, según expertos en Inteligencia Artificial
Evitar que los malos usen la Inteligencia Artificial para hacer cosas malas. GEOFFREY HINTON
Yuval Noah Harari versus Yann Le Cun: debate sobre la inteligencia artificial
