La Inteligencia Artificial y los niños y adolescentes - Informe Internet Matters

 

Ya es conocido para mis amigos y contactos que la Inteligencia Artificial con sus aplicaciones e  implicaciones en la organización y empresa, es de mi interés profesional y personal,  más debo  compartir que es mi especial atención lo relacionado con la IA y nuestros niños y adolescentes. En un informe realizado por Internet Matters  (Reino Unido, UK) se analiza el impacto de la IA en una muestra de 1000 niños de 9 a 17 años y 2000 padres de niños entre 3 y 17 años.

¿Qué nos dice el informe?

Introducción: Los Chatbots de IA en la vida de los niños

La IA generativa se ha vuelto una parte fundamental de la vida digital de los niños, especialmente a través de los chatbots. Pero ¿qué es un chatbot?. En términos generales se refiere a programas informáticos que simulan la interacción con una persona. Estos chatbots están cambiando la forma en que los niños buscan información, obtienen consejos e incluso “encuentran compañía”. Aunque ofrecen oportunidades para el aprendizaje y la creatividad, también conllevan riesgos como la desinformación, el contenido inapropiado y el difuminado de las fronteras entre relaciones reales y artificiales. El informe subraya la necesidad de una regulación que se mantenga al día con la rápida evolución de la tecnología, evitando repetir los errores del pasado con las redes sociales.

Sección 1: Explicación de los Chatbots de IA

A diferencia de los chatbots tradicionales que siguen scripts (guías) fijos, los chatbots de IA utilizan modelos de lenguaje amplios (LLM, por sus siglas en inglés) para generar respuestas originales en tiempo real. Algunos chatbots, como los de Snapchat, están integrados en plataformas existentes, mientras que otros, como ChatGPT, son herramientas independientes. El informe también menciona los chatbots de compañía, como Replika y character.ai, que están diseñados para simular amistades e incluso relaciones románticas. A pesar de que los desarrolladores aplican técnicas para evitar contenido ofensivo y reducir la desinformación, estos mecanismos no son perfectos. Un gran porcentaje de la población del Reino Unido (61 %) y de los niños (64 % entre 9 y 17 años) ya están familiarizados con los LLM y los chatbots de IA.

Sección 2: Uso de los chatbots de IA por parte de los niños

El uso de los chatbots de IA es generalizado y está creciendo rápidamente entre los niños. Dos tercios (64 %) de los niños de entre 9 y 17 años han utilizado un chatbot de IA, y un 80 % de los que los usan lo hacen semanalmente. Los más populares son ChatGPT (43 %), Google Gemini (32 %) y My AI de Snapchat (31 %)12. El uso aumenta con la edad, y los niños vulnerables (71 %) tienen más probabilidades de usarlos que sus compañeros no vulnerables (62 %). La accesibilidad de estas herramientas, que a menudo son gratuitas y están integradas en plataformas conocidas, es una de las razones de su rápida adopción.

Sección 3: Uso de los Niños para Tareas Escolares

Los chatbots de IA se utilizan ampliamente en el ámbito escolar, y un 47 % de los niños de entre 15 y 17 años los han usado para ayudar con sus tareas, revisiones y el aprendizaje de nuevos conceptos. Los niños aprecian las respuestas instantáneas y las explicaciones que obtienen, especialmente cuando no tienen acceso a padres o profesores. Aunque hay beneficios, como la ayuda para resumir información, también hay riesgos, puesto que no tienen una verificación por parte de un adulto. La investigación del MIT Media Lab sugiere que el uso excesivo puede reducir las habilidades de pensamiento crítico y la capacidad de investigación independiente. Más de la mitad de los niños que usan chatbots (58 %) creen que es mejor usar un chatbot que buscar algo por su cuenta.

Sección 4: Uso de los niños para pedir consejo

Casi una cuarta parte (23 %) de los niños que han usado chatbots de IA han buscado consejo en ellos en lugar de un adulto responsable. Usan estas herramientas para dilemas cotidianos y también para asuntos más serios como la salud mental y consejos sexuales. Un 15 % de los niños prefiere hablar con un chatbot de IA que con una persona real. Los riesgos incluyen la posibilidad de recibir respuestas inexactas o inapropiadas, y que los niños se vuelvan demasiado dependientes, lo que podría reducir la probabilidad de que busquen ayuda de adultos de confianza.

Sección 5: Uso de los chatbots como compañía

Los niños vulnerables, en particular, usan los chatbots de IA para encontrar conexión y comodidad, con un 16 % que dice usarlos porque querían un amigo. La mitad de los niños vulnerables (50 %) que usan estas herramientas dicen que hablar con un chatbot se siente como hablar con un amigo. Algunos niños ya personifican a los chatbots, usándolos como si fueran personas. Los expertos advierten que a medida que los chatbots se vuelven más humanos en sus respuestas, los niños pueden volverse más dependientes emocionalmente de ellos, lo que podría difuminar la línea entre la conexión real y la simulada. Esto ya representa una gran alerta.

Sección 6: Experiencias apropiadas para la edad

El informe destaca la falta de mecanismos de verificación de edad en la mayoría de los chatbots de IA. Algunos chatbots populares, como ChatGPT, no tienen controles parentales, lo que dificulta que los padres guíen el uso de sus hijos. El informe recomienda un enfoque de "seguridad por diseño" por parte de la industria tecnológica para crear chatbots apropiados para la edad con controles parentales integrados.

Sección 7: El papel de los padres y las escuelas

Los niños a menudo tienen que navegar por los chatbots de IA por su cuenta, con una participación limitada de los adultos. Aunque el 78 % de los padres han hablado con sus hijos sobre la IA, muchos no han abordado sus propias preocupaciones, como la precisión, transparencia y sesgos de la información. En las escuelas, la educación sobre la alfabetización en IA es inconsistente, con sólo el 57 % de los niños han informado haber hablado con maestros sobre el tema. Los niños, sin embargo, apoyan que las escuelas jueguen un papel en la educación sobre el uso de los chatbots.

Sección 8: Conclusión y recomendaciones

Se necesita una acción coordinada entre la industria, el gobierno y la sociedad para garantizar que los niños exploren el potencial de los chatbots de IA de manera segura.

• Industria: Debe adoptar un enfoque de seguridad por diseño y crear chatbots apropiados para la edad con controles parentales.
• Gobierno: Debe proporcionar una guía clara sobre cómo la Legislación y leyes deben aplicarse a los chatbots de IA y garantizar que la regulación se mantenga al día.
• Padres y cuidadores (tutores): Deben recibir educación y apoyo para guiar el uso de sus hijos y tener conversaciones sobre los riesgos y el uso adecuado de esta tecnología.
• Investigadores y encargados de la política: Deben centrar las voces de los niños en el desarrollo y la regulación de la IA.

---

Resumen de Puntos Clave

Tema	Oportunidades	Riesgos
Uso para Tareas Escolares	• Acceso a información 24/7.  • Respuestas y explicaciones instantáneas.  • Apoyo en la redacción y aprendizaje de nuevos conceptos.	• Respuestas inexactas o insuficientes. • Exceso de confianza y uso, lo que podría reducir las habilidades de pensamiento crítico.
Uso para Consejos	• Espacio sin prejuicios para hacer preguntas. • Practicar conversaciones o resolver dilemas cotidianos.	• Recibir consejos dañinos o inapropiados, incluyendo temas delicados. • Menos probabilidad de buscar ayuda de adultos de confianza.
Uso para Compañía	• Ofrecer un sentido de conexión y confort. • Servir como un "amigo" cuando no tienen a nadie con quien hablar.	• Volverse emocionalmente dependiente. • Difuminar la línea entre relaciones reales y artificiales. • Exposición a contenido inapropiado.
Papel de los Adultos	• Los padres pueden guiar el uso por parte de los hijos. • Las escuelas pueden enseñar a los niños la alfabetización en IA.	• La educación en IA por parte de padres y escuelas es inconsistente y no planificado. • Los padres pueden no estar al tanto de los riesgos o cómo abordarlos por falta de educación en la IA.
Regulación y Diseño	• La industria puede crear chatbots seguros y apropiados para la edad. • El gobierno puede establecer regulaciones claras para la protección de los niños.	• Faltan mecanismos robustos de verificación de edad y controles parentales. • Las regulaciones actuales no han seguido el ritmo de la tecnología.

 

El documento y el sitio web de Internet Matters aquí.

Cristóbal Morocho M.

PMP-DASM

Septiembre 2025

(Imagen generada por Gemini 2.5 Flash)