En esta primera sesión colectiva del curso os contaremos cómo hemos pensado el funcionamiento general del curso, los objetivos que nos hemos propuesto para este curso y algunos de los planteamientos y preguntas esenciales que nos hemos planteado a la hora de proponeros este curso.

También aprovecharemos este momento de encuentro para presentarnos y dialogar entre todas las personas participantes y juntas podamos afrontar algunas preguntas que nos sirvan para conocernos un poco más y empezar a abordar algunos de los contenidos y discusiones que desarrollaremos a lo largo del curso.

Dice Matteo Pasquinelli que la IA es la epistemología hegemónica hoy en día; es una manera de pensar donde la IA se vende como un paradigma de inteligencia, pero en verdad es un paradigma de automatización estadística. Una aproximación estadística que se convierte en régimen de verdad, prueba científica, normatividad social y racionalidad.

Entender esta forma maquínica de aprendizaje es esencial, por ejemplo para comprender qué sesgo de clase, género y raza que los sistemas de IA amplifican notoriamente debe considerarse, de hecho, no como un error, sino como una de sus características constitutivas.

En esta sesión hablaremos de la historia de la IA,  el machine learning; de sus sesgos históricos, de datos y algorítmicos, de su forma de comprender la información o los problemas que no ve. Una historia de experimentos, fallas máquinicas, controversias académicas y rivalidades épicas, que distan mucho de una lectura lineal y neutral que a menudo nos hacen creer.

"Queremos Inteligencia Artificial, pero creada por y para todos, no sólo para unos pocos"

El pasado mes de diciembre se lanzó  el "Manifiesto de la sociedad civil por una IA ética", una iniciativa innovadora que pretende orientar las políticas de IA hacia la salvaguarda de los derechos y la descolonización del discurso sobre la IA. Promovido por una coalición mundial de más de 50 organizaciones de la sociedad civil y de derechos humanos de más de 30 países, que de forma conjunta se han preguntado ¿de quién son las voces, ideas y valores que importan en la IA?

El Manifiesto de la Sociedad Civil por una Inteligencia Artificial Ética se pregunta cuáles son los riesgos potenciales de utilizar los actuales sistemas de Inteligencia Artificial para tomar decisiones en el futuro, especialmente en términos de reforzar las disparidades existentes.  

En esta sesión abordaremos la dimensión legislativa de la IA, conoceremos las diferentes iniciativas que han surgido alrededor de la gobernanza de la IA desde la sociedad civil organizada y pensaremos cómo podemos pensar en una IA orientada a la redistribución de poder y no a la concentración.

En esta sesión profundizaremos sobre los  impactos ambientales de la inteligencia artificial (IA). Examinaremos las diversas manera en la que la IA afecta al medio ambiente. Este impacto material se refleja en todas las fases de su ciclo de vida: diseño, obtención de materias primas, manufactura, uso y consumo, y desecho o fin de vida (basura electrónica). En especial, cómo el entrenamiento de modelos de IA, especialmente aquellos de gran escala como GPT-4, requiere una cantidad significativa de energía, lo que puede contribuir a la huella de carbono global.

Si los centros de datos que sostienen la nube ya serían responsables del consumo del 1% de toda la energía global, añadir la IA a los buscadores de manera habitual como ya están haciendo Microsoft o Google implicaría aumentar cuatro o cinco veces la potencia computacional, y con ello la demanda de energía y sus consecuentes emisiones. Sólo entrenar estos modelos de lenguaje natural implica un alto consumo de energía: se estima que el entrenamiento de ChatGPT-3 habría consumido 1.287 megavatios hora (MWh), generando un volumen de emisiones superior a 550 toneladas de carbono (el triple que un avión de pasajeros que hiciera el trayecto ida y vuelta entre San Francisco y New York). A ello habría que sumar el consumo de cada consulta realizada con el chatbot (ChatGPT alcanzó en su primer mes de lanzamiento al público 57 millones de usuarios activos, batiendo los récords de cualquier red social). Según recoge El País, «el uso que se había hecho de electricidad en enero de 2023 en OpenAI, la empresa responsable de ChatGPT, podría equivaler al uso anual de unas 175.000 familias danesas».

A este consumo energético habría que sumar el consumo de agua: 700.000 litros para el desarrollo del GPT-3 (el equivalente a producir 370 coches BMW o 320 vehículos eléctricos Tesla) si hubiera sido entrenado en ordenadores en EE.UU. o tres veces más si lo hubiera sido en los centros de datos de Microsoft en Asia, una información que la compañía no ha facilitado; a lo que hay que sumar el medio litro que consumiría cada consulta media de 30-50 preguntas.

Si estas cifras parecen abultadas, anotemos otro dato: si el desarrollo de un modelo de Machine Learning en 2015-16 suponía de media la emisión de 487 toneladas de CO2e, para 2020-22 se había incrementado a 2020 toneladas.

Por supuesto, a la problemática del consumo de energía habría que sumar la derivada de la producción de nuevos equipamientos, con la demanda de nuevas materias primas y manufactura, más los desechos electrónicos que implica.

Una vez más, las empresas nos imponen un nuevo avance tecnológico sin ningún tipo de discusión pública al que rápidamente nos entregamos de forma acrítica. Sin duda traerá grandes aportes a esta sociedad donde toda la confianza se deposita en la tecnología, pero también grandes riesgos y sombras como su contribución a la crisis climática.