Transparencia: en Europa hay leyes que regulan la IA
Transparencia significa que las empresas tienen que ser abiertas sobre como funciona su IA. Y gobernanza son las reglas y controles para que nadie use la IA de forma irresponsable. En Europa ya hay leyes que obligan a las empresas a explicar como usan la IA. Esto os afecta directamente.
Que tiene que saber todo el mundo
Que datos se usan para entrenar el modelo
Como funciona el modelo por dentro
Que porcentaje de acierto tiene
Cuando se actualiza y quien lo mantiene
Que limitaciones y riesgos conocidos tiene
Quien es responsable de que?
La IA no se gestiona sola. Hay personas con roles concretos:
Ley de IA de la UE (EU AI Act, 2024)
La Union Europea (UE) ha creado la primera ley del mundo que regula la Inteligencia Artificial. Clasifica los sistemas segun lo peligrosos que puedan ser. Esto os interesa porque os protege:
Riesgo inaceptable
PROHIBIDO: manipulacion psicologica, puntuacion social (como en Black Mirror), vigilancia masiva
Alto riesgo
MUY REGULADO: IA en salud, educacion, empleo, justicia. Necesita auditorias obligatorias
Riesgo limitado
TRANSPARENCIA OBLIGATORIA: chatbots (tienen que avisarte de que no son humanos), deepfakes
Riesgo minimo
LIBRE: filtros de spam, IA en videojuegos (los NPCs de Fortnite), autocorrector
Gobernanza = reglas del juego
La gobernanza de IA establece reglas claras, procesos definidos y controles periodicos para que nadie use la IA de forma irresponsable. Es como el reglamento de LaLiga: sin reglas, no hay juego limpio.
Lo que teneis que recordar
En Europa existe la primera ley del mundo que regula la IA (EU AI Act). Clasifica los sistemas por nivel de riesgo y obliga a las empresas a ser transparentes. La gobernanza son las reglas internas que aseguran que la IA se usa bien. Si no hay reglas, no hay juego limpio.