🚀 SESIÓN 5: Ética, sesgos y el futuro de la IA (Cierre)
¡Hemos llegado a la última sesión del bloque! Ya sabéis cómo ve una IA, cómo escucha, cómo se entrena y hasta cómo genera imágenes con vuestros prompts. Habéis demostrado ser unos ingenieros e ingenieras espectaculares.
Pero hoy nos toca hacernos las preguntas más importantes: ¿Es la IA siempre justa? ¿Puede equivocarse y hacer daño? ¿Cómo podemos usarla de forma responsable? Hoy nos convertiremos en los jueces de la tecnología.
⚠️ 1. El gran peligro: Los Sesgos (Prejuicios de máquina)
A lo largo de las clases hemos repetido una frase clave: la IA solo sabe lo que nosotros le enseñamos. Si los datos que le damos para entrenar están incompletos, están mal elegidos o reflejan nuestros propios prejuicios humanos, la IA aprenderá a ser injusta.
A esto en informática se le llama Sesgo de la IA (AI Bias). Una IA no tiene maldad, pero si la entrenas mal, tomará decisiones equivocadas sin darse cuenta.
Ejemplo real y preocupante:
Una empresa multinacional creó una IA para leer currículums y contratar a los mejores programadores. Para entrenar a la IA, le dieron los currículums de los trabajadores que habían contratado en los últimos 10 años. Como en el pasado casi todos eran hombres, la IA llegó a la conclusión matemática de que "ser hombre" era un patrón de éxito, y empezó a descartar automáticamente a todas las mujeres candidatas. ¡La IA se había vuelto machista por culpa de los datos del pasado!
🕵️♂️ 2. Las Fake News y los Deepfakes
Hoy en día, las IA generativas son tan potentes que pueden clonar la voz de una persona o cambiar su cara en un vídeo para que parezca que está diciendo algo que jamás ha dicho. A esto se le llama Deepfake (Falso profundo).
Como ciudadanos digitales en 2º de la ESO, vuestro superpoder a partir de ahora debe ser la antena crítica: no os podéis creer un vídeo o una noticia que veáis en redes sociales solo porque "parezca real". ¡Siempre hay que dudar y verificar la fuente!
🎮 3. Actividad Práctica: Salvando el planeta con AI for Oceans
Hoy vais a entrenar a una IA para solucionar un problema real: limpiar la basura de los océanos sin dañar a los animales marinos. Usaremos el simulador oficial de Code.org.
🛠️ Paso a paso para la misión ecológica:
- Entra en la actividad interactiva: IA para los Océanos (Code.org).
- Haz clic en "Empezar" y visualiza el minivídeo explicativo.
- Fase de Entrenamiento: Aparecerán objetos en pantalla. Tendrás que pulsar el botón verde si es un "Pez" o el botón rojo si es "Basura" (plásticos, latas, neumáticos). Entrena a la máquina al menos con 30 o 40 objetos.
- Fase de Testeo: Haz clic en "Continuar". La IA activará una red de pesca automática en el océano basada en lo que tú le has enseñado. Mira la pantalla fijamente: ¿ha dejado pasar a todos los peces y ha atrapado solo la basura? ¿O ha atrapado sin querer a un pulpo o a una ballena?
- Avanza de nivel. En los siguientes niveles podrás enseñarle conceptos más difíciles, como etiquetas de emociones ("Peces que dan miedo" o "Peces divertidos"). ¡Mira cómo cambia la cosa según tu criterio!
📝 4. Cuaderno de Clase: El veredicto final
Para cerrar este bloque de tecnología, responde en tu cuaderno a estas preguntas de reflexión:
Pregunta 1: El error en el océano
Durante el juego de Code.org, ¿la IA ha clasificado alguna vez a un animal marino (como una ballena o un calamar) como si fuera basura? Si ha pasado, explica por qué ha cometido ese error tan grave. ¿De quién es la culpa: de la máquina o de tus datos de entrenamiento?
Pregunta 2: Filtros de selección
En los niveles avanzados, cuando le enseñas a la IA a clasificar peces "bonitos" o "feos"... ¿coincide siempre tu opinión con la de tus compañeros? ¿Qué pasa si una IA tiene que decidir qué es bonito o feo basándose solo en los gustos de una sola persona?
Pregunta 3: Tu compromiso con la IA
Escribe una norma o consejo que le darías a un alumno de 1º de la ESO para que use las inteligencias artificiales (como los chats que hacen trabajos o los creadores de imágenes) sin volverse perezoso y de forma segura.
No hay comentarios:
Publicar un comentario