Desde el 2 de agosto, el artículo 50 del AI Act aplica nuevas obligaciones de transparencia para determinados sistemas y contenidos generados o manipulados mediante IA. Pero la respuesta no es simplemente "todo contenido generado con IA debe llevar una etiqueta".
La regulación distingue entre proveedores y responsables del despliegue de sistemas de IA, tipos de contenido y contextos de utilización. Los proveedores de sistemas generativos tienen obligaciones de marcado legible por máquina; los responsables del despliegue deben informar a las personas en determinados supuestos, como los ‘deepfakes’ o ciertos textos sobre asuntos de interés público.
Existe además un período transitorio hasta el 2 de diciembre para determinadas obligaciones de marcado de sistemas generativos que ya estaban en el mercado antes del 2 de agosto.
Parece un detalle jurídico. Aunque creo que revela algo bastante mayor.
Entre aprobar una regulación y conseguir que una organización o una sociedad sepa cómo aplicarla existe un enorme espacio de gobernanza.
Y ese espacio no se resuelve únicamente con cumplimiento normativo.
Actualmente estoy participando en el desarrollo de una consultoría vinculada a una auditoría sobre gobernanza de IA y aplicación del AI Act para organizaciones internacionales dentro y fuera de la región de Europa. Una cuestión aparece una y otra vez: cumplir una norma y conseguir que una organización la entienda, la incorpore a sus procesos y sea capaz de explicarla son capacidades diferentes.
- Una política puede estar aprobada y no haberse convertido todavía en procedimiento.
- Un procedimiento puede existir y no haber llegado a quien toma decisiones.
- Una obligación de transparencia puede estar vigente y seguir siendo desconocida para quienes deberían beneficiarse de ella.
Ahí aparece uno de los grandes retos de la siguiente fase de la IA en Europa: cerrar la distancia entre regulación e implementación.
El propio Reglamento explica que estas obligaciones persiguen, entre otras cosas, que las personas puedan reconocer cuándo interactúan con IA o están expuestas a determinados contenidos generados por IA y tomar decisiones informadas.
Por eso la comunicación no llega al final de la gobernanza. Forma parte de ella.
Europa ha dedicado los últimos años a construir las reglas de la IA. El reto inminente será convertir esas reglas en comportamientos, procesos y decisiones que organizaciones y ciudadanos puedan realmente entender y utilizar.
La gobernanza empieza en la norma. Pero solo funciona cuando llega a la persona.
¿Dónde creéis que está hoy la mayor brecha: en conocer la regulación, interpretarla correctamente o convertirla en procesos reales dentro de las organizaciones?
La regulación distingue entre proveedores y responsables del despliegue de sistemas de IA, tipos de contenido y contextos de utilización. Los proveedores de sistemas generativos tienen obligaciones de marcado legible por máquina; los responsables del despliegue deben informar a las personas en determinados supuestos, como los ‘deepfakes’ o ciertos textos sobre asuntos de interés público.
Existe además un período transitorio hasta el 2 de diciembre para determinadas obligaciones de marcado de sistemas generativos que ya estaban en el mercado antes del 2 de agosto.
Parece un detalle jurídico. Aunque creo que revela algo bastante mayor.
Entre aprobar una regulación y conseguir que una organización o una sociedad sepa cómo aplicarla existe un enorme espacio de gobernanza.
Y ese espacio no se resuelve únicamente con cumplimiento normativo.
Actualmente estoy participando en el desarrollo de una consultoría vinculada a una auditoría sobre gobernanza de IA y aplicación del AI Act para organizaciones internacionales dentro y fuera de la región de Europa. Una cuestión aparece una y otra vez: cumplir una norma y conseguir que una organización la entienda, la incorpore a sus procesos y sea capaz de explicarla son capacidades diferentes.
- Una política puede estar aprobada y no haberse convertido todavía en procedimiento.
- Un procedimiento puede existir y no haber llegado a quien toma decisiones.
- Una obligación de transparencia puede estar vigente y seguir siendo desconocida para quienes deberían beneficiarse de ella.
Ahí aparece uno de los grandes retos de la siguiente fase de la IA en Europa: cerrar la distancia entre regulación e implementación.
El propio Reglamento explica que estas obligaciones persiguen, entre otras cosas, que las personas puedan reconocer cuándo interactúan con IA o están expuestas a determinados contenidos generados por IA y tomar decisiones informadas.
Por eso la comunicación no llega al final de la gobernanza. Forma parte de ella.
Europa ha dedicado los últimos años a construir las reglas de la IA. El reto inminente será convertir esas reglas en comportamientos, procesos y decisiones que organizaciones y ciudadanos puedan realmente entender y utilizar.
La gobernanza empieza en la norma. Pero solo funciona cuando llega a la persona.
¿Dónde creéis que está hoy la mayor brecha: en conocer la regulación, interpretarla correctamente o convertirla en procesos reales dentro de las organizaciones?