Desafíos éticos en el desarrollo de IA para niños

Investigadores del Programa Oxford Martin sobre Arquitecturas Éticas de la Web y los Datos (EWADA, por sus siglas en inglés) de la Universidad de Oxford han llamado a un enfoque más considerado al incrustar principios éticos en el desarrollo y la gobernanza de la inteligencia artificial (IA) para niños. En un artículo de perspectiva publicado en Nature Machine Intelligence, los autores destacan que, aunque hay un consenso creciente sobre cómo deberían verse los principios éticos de alto nivel en la IA, se sabe muy poco sobre cómo aplicarlos efectivamente en principio para los niños.

El estudio mapeó el panorama global de las directrices éticas existentes para la IA e identificó cuatro desafíos principales en la adaptación de tales principios para beneficiar a los niños. Uno de estos desafíos es la falta de consideración por el papel de los guardianes (como los padres) en la infancia.

Otro desafío es la falta de evaluaciones centradas en el niño que consideren los intereses y derechos de los niños.

También se destaca la ausencia de un enfoque coordinado, multi-sectorial y multidisciplinario para formular principios éticos sobre la IA para niños que sean necesarios para efectuar cambios prácticos e impactantes.

Ante estos desafíos, los investigadores recomiendan aumentar la participación de actores clave, proporcionar más apoyo directo a diseñadores e desarrolladores de la industria de sistemas de IA, establecer mecanismos de responsabilidad legal y profesional centrados en el niño, e incrementar la colaboración multidisciplinaria en torno a un enfoque centrado en el niño.

Los autores delinearon varios principios éticos de la IA que especialmente deben ser considerados para los niños, como garantizar un acceso digital justo, equitativo e inclusivo, ofrecer transparencia y responsabilidad en el desarrollo de sistemas de IA, resguardar la privacidad y prevenir la manipulación y explotación, garantizar la seguridad de los niños y crear sistemas apropiados para su edad involucrándolos activamente en su desarrollo.