El uso de algoritmos y de otras herramientas de la inteligencia artificial (IA), incluida la infancia y la adolescencia, ya no es una hipótesis y está pasando, lento pero seguro, a ser una demostrable realidad. Aún siendo la infancia actual “nacidos digitales”, sorprende que las escasas normativas existentes sobre la IA no profundizan en las necesidades específicas de la infancia y la adolescencia.
Los algoritmos son secuencias ordenadas de instrucciones diseñadas para realizar tareas específicas, como clasificar datos o tomar decisiones basados en la información disponible de ese tema.
Foch y Villaronya (2023) ya expusieron que se ha creado un ecosistema digital en el que la infancia son usuarios y hacen recolección de datos, lo que les convierte en sujetos expuestos a manipulación y ser víctimas de un poder que emplea armas muy desiguales.
La IA es creada por humanos y refleja sus valores y creencias (Williams et al, 2019), estos principios no siempre son visibles de forma explícita, ni siquiera garantizan que su aplicación sea ética o equitativa, tal y como avisa UNESCO desde el año 2021.
La IA se está difundiendo en el mundo educativo porque existen trabajos donde se defiende que se optimiza la enseñanza (Gianini, 2023) y en otros trabajos se expone que defiende la relación alumno-profesor (Jean y Lee, 2023) y sobre todo tiene una gran utilidad en la alfabetización temprana (Yang, 2022). Se sabe que la IA permite la creación de contenidos educativos personalizados y automatizados (Dÿkstra, 2022) crean textos, imágenes y simulaciones que transforman el aprendizaje (Williams et al, 2011). Pero no todo es favorable, puesto que desde la IA se puede tener acceso a contenidos inapropiados, como el hiperconsumo de pornografía con todas sus consecuencias de desinformación sexual (Su y Yang, 2022, 2023). Es decir, la IA es un arma de doble filo en la educación infantil, tal y como previenen Chen y Li (2023), pero bien orientado este uso podría cambiar la relación entre la infancia y la tecnología.
Existen muchas diferencias entre los marcos regulatorios a nivel internacional. Por ello hay que resaltar la recomendación de Wang (2023) en la necesidad inexcusable de buscar un marco común que responda a las necesidades cognitivas, emocionales y sociales de la infancia.
Existe unas exigencias éticas básicas mínimas que, de forma operativa se podrían formular como: equidad, sostenibilidad, justicia social como: equidad, sostenibilidad, justicia social como: equidad, sostenibilidad y justicia social que en la infancia deben integrarse en respetar la equidad educativa, promover la protección de la infancia y la justicia social al proveer un entorno educativo seguro, inclusivo y centrado en el niño.
Las tendencias internacionales intentan definir estándares de respeto a la privacidad, equidad, seguridad, transparencia y uso responsable de la IA en la infancia. equidad, seguridad, transparencia y uso responsable de la IA en la infancia. Pero para conseguir estas metas, la IA tiene unos desafíos a superar: la reproducción de sesgos y prejuicios (Fyeld, 2020; Navigli, 2003); evitar la manipulación intelectual; superar los riesgos para y la protección de datos; la falta de responsabilidad legal (Hooper, Livingston, 2002; Henderson, 2023) ya que debe asumirse esa responsabilidad por los presuntos daños que pudieran causar la utilización de algoritmos; el acceso gratuito a la IA disminuye la brecha digital y avanza en la dirección de la justicia social.
Por todo lo anterior la regulación de la IA debiera guiarse por la Convención de los Derechos de la Infancia (Artículo 12 de la participación, Artículo 16 de la privacidad y Artículos 19, 34 y 36 sobre la protección de los datos personales control parental en la infancia y ejercicio de la protección a la explotación) y la Declaración Universal de los Derechos Humanos (Artículo 25).
Todo lo expuesto con anterioridad, previene para contemplar, de forma activa, la formulación de políticas adecuadas de protección de la infancia. Los algoritmos basados en daos históricos pueden reproducir sesgos de género, raza, clase social, libertades sexuales o sociales acerca de la orientación o identidad sexual y originar casos de discriminación en plataformas de IA (Wang, 2022).
También cabe el peligro de la manipulación emocional, ya que los algoritmos pueden modificar comportamientos e incrementar la vulnerabilidad a estrategias de marketing (Pomery, 2022).
El Consejo de Europa advierte sobre los peligros del uso de la IA en la educación, por el posible impacto negativo que pudieran tener en los derechos humanos, la democracia y el estado de derecho (Holmes, 2022).
Según UNICEF, el respeto a la equidad y la justicia social en la utilización de IA, requieren la participación de los niños, las niñas y sus familias en las decisiones acerca de la privacidad y la seguridad en el uso de la IA por parte de la infancia y la adolescencia.
Por lo tanto, se precisan unos principios éticos claros:
- Centrar el diseño de los algoritmos para el bienestar, el desarrollo y la participación de los niños, niñas y adolescentes.
- Transparencia y explicabilidad, tanto la infancia como sus familias deben comprender y controlar las decisiones automatizadas.
- Privacidad y seguridad, tendiendo a que la recolección de datos sea mínima, lo que facilita la protección de la información personal.
- Accesibilidad universal, facilitando el acceso equitativo a las plataformas.
Según el marco 3A2S (Luo et al, 2024; Xi y Li, 2020) la ética del uso de los algoritmos y de la IA en la infancia y la adolescencia debe incluir cinco dimensiones: Accesibilidad, asequibilidad, responsabilidad, sostenibilidad y justicia social.
Para que estos principios éticos sean eficaces esa ética debe iniciarse desde el diseño de los algoritmos, para lo que se integrarán y adaptarán los principios básicos de la bioética: Principio de autonomía, por el que los individuos toman sus decisiones de una manera informada; principio de beneficencia, por el que se pretende hacer el bien ocasionando un mínimo de daño; principio de no maleficencia, por el que se evita causar daño de forma activa; principio de justicia, por el que existe un compromiso de ser equitativos y no discriminatorios, a ellos se añade el principio de transparencia, por el que la toma de decisiones algorítmicas deben ser explicables y auditables.
La UNESCO lo resume en: Protección de datos y de la privacidad; prohibición del puntaje social y la vigilancia masiva; ayuda para monitorizar y evaluar los algoritmos; protección del medio ambiente; equidad de género; transparencia y explicabilidad.
Para enfocar todo lo expresado con anterioridad se puede focalizar en cuatro puntos clave con puntos concretos a contemplar y desarrollar:
Desafíos éticos:
- Sesgo y discriminación: se abordan diversificando los equipos de la IA; estableciendo auditorías algorítmicas de forma regular y, por fin, utilizando técnicas de “debiasing” en el entrenamiento.
- Privacidad y consentimiento informado: L Unión Europea la ha intentado con una directiva reciente, con gran participación del Gobierno de España, pero queda pendiente de dilucidar dos temas fundamentales: la protección de datos en la IA y el derecho al “olvido”.
- Transparencia y explicabilidad: Debe dar respuesta al equilibrio entre rendimiento del algoritmo y su explicabilidad; cómo restablecer estándares de transparencia algorítmica y el papel de la educación pública sobre el valor de la IA.
Papel de la IA en la ética:
- La IA como herramienta de análisis ético: La IA puede almacenar un corpus de textos éticos, establecer modelos de simulación ética en diferentes marcos morales de referencia y puede tomar decisiones éticas en tiempo real.
- Ética de la máquina: La máquina puede formalizar principios éticos en lenguaje computacional; define el desarrollo de algoritmos de aprendizaje para internalizar valores éticos y, por fin, establece la consideración de diferentes marcos éticos y culturales en los sistemas globales.
- Implicaciones filosóficas:
-
- ¿La IA puede desarrollar per se comprensión ética, o solo imita razonamientos éticos?
- ¿Cómo se modifica o cambia la responsabilidad moral, cuando las decisiones se toman por medio de la IA?
- ¿Existe riesgo de erosión de la ética basada en la IA y que erosione la capacidad humana en el razonamiento moral y ético?
Perspectivas de futuro y recomendaciones:
- Gobernanza algorítmica: Es importante la constitución de juntas de revisión algorítmica, para que un equipo sea capaz de dilucidar los temas más complicados. Es preciso que se definan unos estándares internacionales para establecer una auditoría algorítmica. Por fin, se precisan “sandboxes” regulatorios con el fin de probar nuevas tecnologías de IA en entornos controlados.
- Educación: Se precisa integrar la enseñanza de los principios éticos de la IA en la enseñanza de las ciencias de la computación. Contribuir a la divulgación pública sobre los impactos sociales de la IA. Todo ello implica establecer y desarrollar un diálogo interdisciplinar, sereno y riguroso.
El derecho y los algoritmos: El debate actual se está centrando en si se deben reconocer derechos a los algoritmos por ser entidades inteligentes, que pueden tener autonomía y tomar decisiones por sí mismos.
- Atribuir derechos a los algoritmos plantea problemas de responsabilidad, ya que si una respuesta del algoritmo fuera contra un individuo o una comunidad ¿quién es el responsable? ¿son responsables los diseñadores del algoritmo? ¿son responsables las personas que los implementan?
- Los derechos de los algoritmos plantean interrogantes sobre la justicia y la equidad, ya que el diseño tiene el sesgo de la idea histórica o bien de las creencias o prejuicios de los diseñadores.
- ¿El derecho a la privacidad genera opacidad de información?
- Si los algoritmos tienen derechos podría verse implicada la toma de decisiones y la propia confianza en la tecnología basada en la IA.
- Reconocer derechos a los algoritmos podría ser una cesión de autoridad a “no humanos” y que son “imparciales”, por lo que se alterarían principios tales como la democracia y la participación ciudadana.
Estos planteamientos éticos representan dilemas no resueltos en el uso/abuso de los algoritmos y la IA, incluso en la infancia. A pesar de las llamadas de atención se llegó tarde a regular el uso/abuso de teléfonos móviles de alta gama en la infancia y la adolescencia, con consecuencias no deseadas: la adicción comportamental al dispositivo, el incremento del acoso/ciberacoso y el hiperconsumo de pornografía en la infancia y la adolescencia con todas sus implicaciones en la distorsión de la conducta sexual en la adolescencia. Son problemas reales a los que se ha llegado tarde, mal y nunca.
En el caso de los algoritmos y la IA en la infancia y la adolescencia ¿se está llegando tarde? ¿será confirmada, una vez más, que los humanos somos los animales que caemos ante obstáculos similares de forma repetida y reiterada?
Desde aquí queda dicho y expuesto el problema…
