¿Están los modelos de IA ignorando a América Latina (LATAM)?

El avance de la inteligencia artificial está estrechamente ligado a la calidad y diversidad de los datos que utilizamos para entrenarla. Sin embargo, un reciente estudio revela una realidad preocupante: Sud América y el Caribe (LATAM) tienen una representación mínima (menos del 0.2% de todo el contenido auditado) en los conjuntos de datos de entrenamiento de los modelos de IA más utilizados. Esto significa que la IA que utilizamos hoy en día puede estar perpetuando sesgos y dejando fuera las voces y realidades de una región que alberga a más de 630 millones de personas.

¿Por qué es importante?

1. Sesgos en los modelos de IA: La falta de datos representativos de LATAM puede llevar a modelos que no entiendan adecuadamente los contextos culturales, lingüísticos y sociales de la región. Esto afecta desde asistentes virtuales hasta sistemas de reconocimiento de voz y video.
2. Oportunidades perdidas: La subrepresentación limita la capacidad de las empresas y gobiernos de la región para desarrollar soluciones de IA que respondan a las necesidades locales. Además, frena la innovación y el crecimiento económico en un sector clave para el futuro.
3. Desafíos legales y éticos: Muchos de los datos utilizados para entrenar modelos de IA provienen de plataformas como YouTube, cuyos términos de servicio restringen su uso comercial. Esto dificulta el acceso a datos para desarrolladores académicos y de código abierto en LATAM, perpetuando la brecha tecnológica.
4. Afectación a las soluciones: Cuando la IA no se entrena con datos diversos y representativos, se generan sesgos que afectan la precisión y utilidad de las soluciones tecnológicas. Desde chatbots que no entienden nuestras expresiones hasta sistemas de reconocimiento de voz poco funcionales, el impacto es real y significativo.

¿Qué podemos hacer?

• Invertir en la creación de datos locales: Es crucial que los gobiernos, empresas y académicos de la región colaboren para generar conjuntos de datos que reflejen la diversidad lingüística y cultural de LATAM.
• Promover políticas de inclusión: Las organizaciones internacionales y las grandes empresas de tecnología deben priorizar la inclusión de datos de regiones subrepresentadas en sus modelos de IA.
• Fomentar la educación y la inversión en investigación de la IA: Formar y capacitar a más profesionales de la región en el desarrollo y uso ético de la IA puede ayudar a cerrar la brecha y asegurar que las soluciones tecnológicas sean más inclusivas.

La IA tiene el potencial de transformar nuestras sociedades, pero solo si representa a todas las voces. Es hora de que América Latina y el Caribe tengan un lugar en la mesa. 🌎💡¿Cómo crees que podemos mejorar la representatividad de LATAM en el ecosistema de IA? 💭👇

El documento del estudio aquí.

Cristóbal Morocho Moreno
PMP-DASM
Febrero 2025