Capítulo 01
Por qué fracasan la mayoría de las políticas de IA
Si has leído una política de IA recientemente, hay muchas posibilidades de que te haya hecho sentir mejor por tener una sin decirte realmente qué hacer. Este es el modo de fallo más común: una política que es completa, cuidadosamente redactada y completamente desconectada de las decisiones que las personas toman cuando construyen o despliegan sistemas de IA.
La razón por la que esto ocurre es estructural. Las políticas de IA típicamente las escriben equipos legales o de cumplimiento que entienden el lenguaje regulatorio pero no las pipelines de aprendizaje automático. Las revisan ejecutivos que quieren demostrar responsabilidad pero no los ingenieros que necesitan implementar los requisitos. Se publican con un plan de comunicación pero sin ningún mecanismo de aplicación o responsabilidad.
El resultado es un documento que marca una casilla. Existe, así que si alguien pregunta si la organización tiene una política de IA, la respuesta es sí. Pero el ingeniero que decide si usar un modelo particular, el científico de datos que elige qué datasets de entrenamiento incluir, y el product manager que aprueba una característica que usa IA están tomando decisiones sin referencia a la política porque la política no habla a sus decisiones en términos que puedan actuar.
La buena gobernanza de IA no es más difícil de escribir que la mala. Requiere un punto de partida diferente: comenzar con las decisiones que realmente necesitan tomarse y trabajar hacia atrás hasta las reglas y principios que deben guiarlas, en lugar de comenzar con un conjunto de principios y esperar que se traduzcan en decisiones.