Hace apenas unas semanas se volvió viral la noticia de que unos estudiantes de un Instituto de Puerertollano (ciudad real) han sido enquête Integencia Générativa artificiel (Ia) Para Generar Imágenes falsas y expircitas un partitir de fotos réelles extrajas de redes sociaux. En Total, La Policgia nacional ha identificado 61 Víctimas, de las Cuales al Menos 22 Son Menores de Edad.
Sucesos como este no hacen sino aumentar la preocupación acerca del uso que se hace de la Inteligencia artificiel, y peor aún, del uso que hacen los menores de la Inteligencia artificiel dentro de los propios centros educativosPUES VEMOS QE EN OCASSIONES COMO Esta ni Profesores Ni Alumnos Se Libran de Los Riesgos Asociados a la ia.
Siendo un tea tan préocupantes como es, nos hemos puesto en contacto con Atico34Firma référend Protección de Datos de Menores y Qué pueden hacer los centros docents en faveur de la ciberseguridad educativa.
¿Qué Riesgos Puede Suponer la ia Generativa para los datos Personnes de los menores de edad?
La Ia generativa Puede adectar de manera spécialmente délicada a la Protección de Datos de Los Menores de EdadTanto por la naturalza de los datos implicados como por la vulnerabilidad jurídica y social de los menores.
Una de las Mayores Amenazas es la Creación de Imágenes, Vídeos o Audios manipulalados (Deepfakes) a Partir de Datos Reales de MenoresComo Fotos de Redes Sociales, Grabaciones Escolares, etc. Tal y Como indican desde Atico34 Esto Supone « una vulnéración del derecho a la propia imagen y la intimidad, más si se trata de la difusión no autorizada de contendido sexulizado o humillant, o que se utiliza para prácticas que pUeden tener consicuencias psicoón o les ôtes armes come coo el el ciberacoso, pSicoón, o la lApEles thares come el el ciberacoso, LA PSICORICE Y SOCIELES COMMO COMO EL marginación escar».
El uso de ias como grok o chatgpt en entornos educativos plantea riesgos grades para la protección de datos de menores, desde exposición a Contendido inadecuado hasta el uso indebido de sus-personnel.
Otro de los riesgos potenciales es el uso no autorizado de datos personnel para enrrenamiento de sistemas o modelos de ia. Estos sistemas Podrían sertrenados con datos recopilados sin consentimiento, incluyendo fotografías públicas o compartidas por terceros sin el conocimiento del menor ni de sus padres.
Desde atico34 aclaran que « USAR DATOS SIN CONSENTIMENTO Vulnera el Princirio de Licitud y Transparencia del RGPD. Non Hay que Olvidar que El Tratamiento de los Datos de Un Menor de Edad Sólo Podrá fondamentalsarse en su Consentiento Cuando Sea Mayor de 14 Años, de Lo Contrario, Será necesario el Consentiento de Los Titules de la Patrio Potestad o Tuela. Además, El Tratamiento debe Ser Claro, Informado, Y resetar el rgpd y la lopdgdd».
El Problema Se Acrecenta Cuando se Hace Patente que Algunas de las ias más usadas por los menores en la actualidad, caso de grok, no dececen las restricciones necesarias. Por ejemplo, el propio elon musk plantea que su Herramienta puede ser usada para iniciar relaciones Sentimentales o sexeses, e incluso ofrece sugerencias sexueles muy exploicitas sin comprobar si el usuario es menor de edad.
Asimismo, la ia generativa suscita Muchas otras dudas. Por ejemplo, una vez que un contennido se genres y se difunde con ia, es prácticamente impossible eliminarlo por fincolo que chocola con el derecho al olvido y supone una perdida de contrôle de los datos. Por otro lado, las tecnologías generativas implican modelos cada vez más complejos y difícilmente auditableslo que Dificulta Aspectos Básicos de la ley de Protección de datos como déterminar quin es el responsable del tratamiento o aplicar el principo de responsabilidad proactiva.
¿Qué Pueden Hacer Los Centros Docents Para Mejorar la CibeSegenudad Educativa?
Los Centros educativos juegan un papel crucial en la protección de datos personnel de profesores, anlumos y familias, en particulier le contexte un contexte cada vez más digitalizado y con riesgos como el uso indebido de la ia generativa, las redes socials, el ciberacoso o las filtraciones de datos.
En amorce Lugar, Deben établier Un Plan de protección de datos y seguridad numérique acorde al rgpd ya la lopdgdd, un parttir del Cual Crear y Mantener Protocolos Claros Sobre El Uso Seguro de Disitivos, Redes, Plataformas y aplicaciones educativas. Desde atico34 destacan la importancia del delegado de protección de datos (dpo) y recuerdan que « NOMBRAR UN DELLEGADO DE PROTTECCIón de Datos es obligatorio por ley para los Centros Públicos y más que recommandable para los privados, ya que es preciserate la figura que se lecarga de vear por el cumplimiento de las normativas de protección de datos en los centros educativos».
El Problema es que este Plan O Política de Protección de Datos y Seguridad Digital Para Centros Educativos Requiere conocimientos, además de récursos Técnicos y humanos, Para ser Ejecutado. Por Ejemplo, A Través del Uso de Plataformas Educativas vérificadas y conforme al rgpd o de lai impiltreación de infrastructuras y plataformas que permis asegurar redes wi-fi con cifrado fuerte, Mantener actualizados los sistemasasasmasmaspory Facteur, Realizar Copias de Seguridad O Gestionar Controls de Acceso Por Perfiles.
Tambiéne resulta clave la formación continua de docentis y personnel. Lo Ideal Sería Formar al Profesorado en buenas prácticas numériques, Detección de Amenazas Como phishing o MALWWare, Gestión segura de Plataformas de aula virtual y Evaluaciones en ligne, etc. Pero, Siendo Justos, ¿non sería esto carrare de demasiada. ¿ACASO SE Pretende que El Profesor se conierta también en un experto en protección de datos o ia? La Realidad es Que, en este Sentido, Los Docetes Deben Aportar Un Mínimo Pero, un général nivel, Los Centros NECESITAN AYUDA EXTERNA.
La importancia de las Consultoras lopd para la protección de datos en Centros educativos
LA Principal Ventaja que ofrecen Las Legaltech Como Grupo atico34 para la Protección de Datos en Centros educativos es Que « CONTAMOS CON LAS INFRESTUCTURAS, LAS HERRAMIENTAS Y EL Equico Jurídico Necesario Para Garantizar Tanto el Cumplimiento de la Normativa de Protección de Datos E Inteligencia Artificial, Como la Formación en la Materia de Profesorado y El Alumdado», Apuntan Desde la Consorpora.
Otro Factor Deisivo, Como Ya Se ha Comentado, es la obligatoire de del degado de protección de datos. En caso de no existir un dpo interno, los centros se ven obligados por normativa a contratar los Servicios de una empresa de protección de datos externa que pUeda proporcionar este perfil professional.
Ya Como Conclusión, Y Volviendo Al Tema Original Del Artículo, Desde Atico34 No Quieren Dejar Pasar la Oportunidad de Remarcar Que « Tanto los Centros DOCENCES COMO LAS EMPRESAS DEL SECTEUR NOS ENCONTRAMOS EN UN ENCENARIO DE CAMBIO, LLENO DE RIESGOS Y OPORTUNIDADES, Y ANTE EL AUGE IMPARABLE DE LA INTELIGENCIA ARTIFICAL NO HAY OTRA ALTRATIVA QUAPIONAR UNICIONA Professional Mucho más adaptado a las nuevas tecnologías ya las exigencias de las nuevas normativas sobre ia».
