“La IA reduce el mundo a estereotipos” Karen Hao, periodista del Pulitzer Center
La inteligencia artificial continua generando gran eco mediático, social, económico y político en el mundo. Mucho se desconoce sobre el tema, existe también tanta desinformación y aparte, mucho de lo mismo se repite cuando hablamos sobre contenido para leer sobre la inteligencia artificial en los medios de comunicación.
Hace un mes estuve tomando un taller sobre los desafíos de la IA, auspiciado por el Festival Gabo en Bogotá y durante las cuatro horas de duración se abarcaron muchos temas dentro de la inteligencia artificial, que van más allá de lo genérico que se lee por ahí. Karen Hao, periodista del Pulitzer Center lideró el taller y estuvo acompañada de Tatiana Dias, periodista brasilera y editora de Intercept.
Aquí comparto lo más relevante e interesante que aprendí:
1. A pesar de que muchos creen que se trata de una nueva técnología, el término inteligencia artificial se cuñó en 1956 por un hombre llamado John McCarthy. Sorprendentemente, ya en este tiempo se hablaba sobre estas tecnologías. En la década de 1960, se inventó un chatbox llamado Eliza, que funcionaba a base de una serie de reglas (rule-based AI).
2. ChatGPT es una de las tecnologías de la IA más conocida a nivel mundial. Analiza patrones del lenguaje para producir una respuesta coherente (¡no siempre es así!). En un inicio la IA estuvo controlada por académicos y agencias del gobierno que financiaban proyectos, sin embargo, ahora la industria ha pasado a manos de grandes y poderosas empresas tecnológicas.
3. Cuando hablamos de IA, nos referimos a: «un nombre para un conjunto de tecnologías que se supone imitan las capacidades humanas». Hao usó una metáfora para explicar el término cuándo dijo que, la inteligencia artificial es como la transportación, en el sentido que, existen diferentes modos de transporte que funcionan de diversas maneras, aunque esencialmente sirven el mismo propósito.
No podemos hablar de un solo tipo de inteligencia artificial, sino entender que se trata de muchos tipos de tecnologías diversas, complejas y variadas que sirven para diferentes fines y operan de maneras dispares. Los sectores que más impacta son: la salud, el transporte, el gobierno, la educación, entre otros.
4. Como periodistas, debemos evitar antropomorfizar y romantizar la IA como una «inteligencia» similar o equitativa a la humana. No se trata de un robot ni de un acto de magia.
También, como periodistas, debemos evitar citar como «expertos» a directivos de empresas de IA u otras personas con vínculos financieros con la industria de IA, sin reconocer dichos vínculos. Por último, se recomendó a los periodistas pensar que al cubrir la IA, se trata de una historia sobre las personas. No se puede perder el enfoque.
5. Cuando hablamos de IA, hablamos sobre todo de poder, dinero y recursos. También, existe un gran debate en torno al daño climatológico causado por la IA, aparte del dilema moral y ético que han generado algunos casos.
Conceptos de la IA con los que debemos familiarizarnos como comunicadores son: capitalismo de vigilancia, explotación laboral, abuso integrado, consumo y extracción energética, geopolítica, consentimiento, privacidad, entre otros.
6. ¿Cómo funciona la IA en términos muy sencillos? Existen dos ramificaciones principales de la IA: machine learning (datos) y deep learning (grandes datos). Esencialmente, un conjunto de datos se entra a un programa sistematizado para crear un modelo que establece relaciones entre diferentes algoritmos.
7. Según Hao, cualquier tipo de data puede convertirse en un modelo, aunque esto no es necesariamente ético. Por ejemplo, las caras pueden usarse para el reconocimiento facial en los celulares, los resultados de búsquedas personales pueden arrojar segmentación de ciertos anuncios y el historial de compras puede determinar recomendaciones de productos.
Entre sus desventajas, la IA ha mostrado ser la raíz de muchos problemas relacionados a: detenciones históricas, policía predictiva y el racismo (machine bias). La IA no es precisa y a menudo los datos reproducen sesgos.
8. También existe la IA generativa, que igualmente tiene ventajas y desventajas (basado en la generación de estereotipos, efectos para el mundo del arte, etc.). En este tipo de tecnología, se usan cantidades masivas de datos para generar imágenes u textos según una clave.
9. Por último (porque la lista podría no terminar nunca), la industria de la IA ha generado una ola de explotación laboral en países en vías de desarrollo. Resulta que algunas de estas grandes empresas aprovechan la vulnerabilidad socio-económica y política de algunos países para subcontratar a empleados bajo unas condiciones de violación laboral y ética, y sueldos muy por debajo del mínimo.
10. Durante el taller se discutió el caso de Brasil, uno de los mayores proveedores de mano de obra barata en la cadena mundial de la IA con trabajadores que realizan diversas tareas de clasificación desde sus computadores en el hogar y también otras poblaciones que buscan trabajo temporal fácil y rápido, como muchos migrantes venezolanos en Colombia.
Este tipo de explotación laboral, que según los antropólogos representa un trabajo fantasma, acrecentó durante la pandemia, cuando miles de personas se vieron obligadas a permanecer en sus hogares sin la posibilidad de generar ingreso. Hoy día, continúa representando un problema que amenaza el bienestar de estas personas y solidifica la idea de que la IA está creando un nuevo orden mundial colonial en el que unos pocos poderosos se enriquecen a costa de comunidades desposeídas e impulsadas por un nuevo tipo de esclavitud.
Colonialismo digital: otro término para añadir a la lista…
Morphologie 
Deja un comentario