A continuación Charters de IA y el caso Salesforce, ejemplo que mejor ilustra la función de un charter. Tarde o temprano, todo equipo que desarrolla o adopta IA se enfrenta a las mismas preguntas.

  • ¿Quién tiene autoridad para decidir sobre cada tipo de sistema?
  • ¿Qué evidencia hay que reunir antes de decidir?
  • ¿En qué momento un asunto tiene que salir del equipo y llegar a la dirección?

Cuando esas respuestas no están escritas, cada decisión relevante obliga a reconstruir quién debía participar y con qué información, y esa reconstrucción suele tomar más tiempo que la decisión misma.

La gobernanza de IA se maneja generalmente como un proyecto más de TI o, peor aún, como una carga de cumplimiento. En esos casos la organización puede declarar su compromiso con la IA responsable y aprobar marcos muy bien diseñados, y aun así los equipos siguen construyendo y comprando sistemas igual que antes.

Lo que separa un marco que se usa de uno que se archiva es el respaldo ejecutivo que recibe mientras madura y ese respaldo tiene que ser visible para toda la organización. Una de las formas más efectivas de dejarlo establecido desde el comienzo es un charter de gobernanza de IA.

Qué es un charter de IA

Un charter de IA es el instrumento con el que la alta dirección constituye el programa de gobernanza de IA y le otorga autoridad. En una o dos páginas responde tres preguntas: quién puede aprobar qué, qué evidencia se exige antes de cada decisión y en qué momento un asunto debe escalar más allá del equipo que lo gestiona.

La relación con la política es de jerarquía. La política define cómo se usa la IA (clasificación de riesgo, usos prohibidos, evaluaciones de impacto, etc), mientras el charter define quién tiene el mandato para hacerla cumplir y ante quién responde. Una política sin charter es una norma sin autoridad que la respalde, y un charter sin política es un mandato vacío de contenido. Por eso conviene diseñarlos en ese orden, primero el mandato y luego las reglas.

ISO/IEC 42001 recoge esta lógica en su cláusula 5, que pide a la alta dirección demostrar liderazgo y compromiso con el sistema de gestión de IA, establecer una política de IA y asignar responsabilidades y autoridades para los roles pertinentes. El charter es la forma más económica de dejar evidencia de las tres cosas en un solo documento firmado.

Salesforce: del principio a la prohibición

El caso que mejor ilustra la función de un charter es el de Salesforce. En 2018 la compañía creó su Oficina de Uso Ético y Humano de la Tecnología, y en enero de 2019 incorporó a Paula Goldman como su primera Chief Ethical and Humane Use Officer, con reporte al Chief Equality Officer. La decisión llegó en medio de presión pública por los contratos de la empresa con agencias migratorias de Estados Unidos, un recordatorio de que el impulso para formalizar la gobernanza a menudo llega con una crisis reputacional y no espera a una convicción previa.

Salesforce presenta la oficina como resultado de tratar el uso ético como estrategia de negocio, le asignó un mandato transversal sobre producto, derecho, política pública y ética, y definió sus principios rectores mediante una encuesta a toda la compañía en la que los propios empleados los priorizaron. Esos principios terminaron convertidos en reglas contractuales. Su Política de Uso Aceptable exige dejar claro al usuario que un bot no es humano, impide usar Einstein para decisiones jurídicas automatizadas y prohíbe la identificación biométrica, incluido el reconocimiento facial, con Einstein Vision.

Ahí está la lección para cualquier comité directivo; un charter gobierna cuando sus principios desembocan en una decisión que alguien puede tomar, una cláusula que alguien puede exigir o un producto que la empresa decide no vender.

Charters de IA y el caso Salesforce

Una plantilla sugerida: ocho artículos para un charter que gobierna

Propongo una estructura de ocho artículos, probada en ejercicios de diseño con comités directivos colombianos. Cada artículo existe para cerrar una pregunta concreta, y cada uno tiene un error típico que lo vuelve decorativo.

A continuación va cada artículo con una propuesta de redacción que puedes adaptar. Los textos entre corchetes se reemplazan con los datos de tu organización.

Artículo 1. Nuestro compromiso

[Organización] se compromete a implementar y mejorar de forma continua un programa de gobernanza de inteligencia artificial guiado por la gestión del riesgo. Su propósito es usar la IA para [objetivo de negocio], protegiendo la confianza de [colaboradores, clientes y aliados] y asegurando una IA segura, explicable y conforme a la ley, incluida la Ley 1581 de 2012, en todo sistema que construye, compra o usa.

Este Charter da mandato y autoridad a la [Política de Gobernanza de IA] y a las metodologías que la operativizan.

Artículo 2. Cómo cumplimos este compromiso

[Organización] cumple este compromiso mediante las siguientes prácticas:

  • Cada sistema de IA se clasifica como de riesgo bajo, medio o alto, y los controles escalan con el nivel.
  • Todo sistema de IA adquirido, construido o creado por usuarios se registra en el inventario antes de usarse.
  • Ningún sistema de riesgo medio o alto se despliega sin una evaluación de impacto documentada.
  • Cualquier colaborador puede consultar por un canal único y recibe respuesta en [48] horas o menos.

Artículo 3. Estructura de gobierno

El [Comité de Gobernanza de IA] es la instancia estratégica de la gobernanza de IA y depende de [comité existente], que reporta a [Junta Directiva o máxima instancia de dirección]. La [Oficina de Coordinación de IA] es su instancia táctica.

Las mismas personas pueden integrar varias instancias, pero cada decisión tiene un solo dueño.

Artículo 4. Funciones, límites y escalamiento

Cada instancia ejerce únicamente las funciones que le asigna este Charter.

4.1. Son funciones del [Comité de Gobernanza de IA]:

  • Definir hacia dónde y para qué usa [Organización] la IA.
  • Fijar el apetito y la tolerancia al riesgo en el uso de IA.
  • Aprobar o rechazar el despliegue de sistemas de riesgo alto, previa revisión de la evaluación de impacto y del plan de mitigación.
  • Aprobar la Política de Gobernanza de IA y sus actualizaciones, y supervisar su implementación.
  • Asegurar los recursos para la gobernanza y la seguridad de la IA.
  • Resolver conflictos éticos o técnicos complejos relacionados con la IA.

Al [Comité de Gobernanza de IA] no le compete aprobar sistemas de riesgo bajo o medio.

4.2. Son funciones de la [Oficina de Coordinación de IA]:

  • Registrar y mantener actualizado cada sistema de IA en el inventario.
  • Realizar la evaluación de impacto inicial y las revisiones periódicas de cada sistema.
  • Aprobar los sistemas de riesgo bajo junto con el dueño de negocio, y los de riesgo medio junto con el área Legal.
  • Atender el canal único de consultas en el plazo fijado.
  • Asesorar a los equipos de proyecto y coordinar la formación en IA responsable.
  • Acompañar cada sistema de IA desde su concepción hasta su retiro.
  • Monitorear el cumplimiento de la Política y reportar al [Comité de Gobernanza de IA].

A la [Oficina de Coordinación de IA] no le compete aprobar sistemas de riesgo alto.

4.3. Se notifica al [Comité de Gobernanza de IA] dentro de [X] horas cuando sube el nivel de riesgo de un sistema, ocurre un incidente significativo o se sospecha un incumplimiento legal. Los casos con posible daño material o implicaciones legales se notifican de inmediato a [sponsor ejecutivo].

Artículo 5. Integrantes

5.1. El [Comité de Gobernanza de IA] está integrado por [Nombre], sponsor ejecutivo, quien lo preside; [Nombre], responsable de Tecnología; [Nombre], responsable de Legal; y [Nombre], responsable de [área de negocio]. La secretaría técnica está a cargo de [nombre o cargo].

5.2. La [Oficina de Coordinación de IA] está integrada por un delegado del área de Tecnología y por el dueño de negocio de cada iniciativa de IA, que cambia según el caso.

Artículo 6. Cadencia

La [Oficina de Coordinación de IA] sesiona de forma ordinaria cada [quince días], el [Comité de Gobernanza de IA] cada [mes], y este último reporta cada [trimestre] a [órgano superior].

Artículo 7. Revisión continua

Este Charter se revisa cada [año] y además cada vez que cambie la Política de Gobernanza de IA, ocurra un incidente significativo o cambie el marco regulatorio aplicable. Los hallazgos se reportan a [órgano superior].

Artículo 8. Aprobación

Con su firma, los sponsors ejecutivos aprueban este Charter. Los integrantes del [Comité de Gobernanza de IA] aceptan su mandato con su firma.

[Nombre], sponsor ejecutivo. Firma: ________ Fecha: ________

* * *

Tres decisiones de diseño relevantes por mencionar. 

1. Que cada decisión tenga un solo dueño, aunque las mismas personas participen en varias instancias. 

2. Que cada instancia tenga una cláusula expresa de lo que no le compete, por ejemplo que la oficina táctica no aprueba sistemas de riesgo alto y el comité estratégico no aprueba los de riesgo bajo. Esa cláusula negativa es la que convierte un organigrama en un sistema de derechos de decisión. Si al adaptar la plantilla se pierden esas dos reglas, el documento vuelve a ser decorativo.

3. Esta estructura de dos niveles está pensada para empresas medianas y grandes. En una organización pequeña basta con que el charter asigne responsables con nombre propio, por ejemplo una persona de la dirección que fija el apetito de riesgo y aprueba los sistemas de riesgo alto, y otra que mantiene el inventario, evalúa el riesgo y responde las consultas. Las funciones, los límites y los disparadores de escalamiento se conservan, y la cadencia puede reducirse a una revisión mensual entre ambas personas. Crear comités donde no hay volumen de decisiones solo añade reuniones y burocracia, y termina restándole credibilidad al charter.

Lo que el charter significa en Colombia

Colombia no tiene una ley de IA, y eso lleva a muchas empresas a tratar el charter como un ejercicio voluntario de buenas prácticas. Me parece una lectura equivocada, por lo menos por dos interpretaciones de la normatividad que ya está vigente:

  • La Circular Externa 002 de 2024 de la Superintendencia de Industria y Comercio ya exige a quienes tratan datos personales en sistemas de IA identificar, medir, controlar y monitorear los riesgos de ese tratamiento, bajo el principio de responsabilidad demostrada. Esa responsabilidad se prueba con documentos que muestran quién decidió, con qué evidencia y en qué momento, y un charter con derechos de decisión claros es precisamente esa prueba.
  • El artículo 23 de la Ley 222 de 1995 exige a los administradores obrar con la diligencia de un buen hombre de negocios. Cuando la alta dirección firma un charter, fija ella misma el estándar de diligencia que se le podrá exigir. Si el documento promete inventario, evaluaciones de impacto y reportes trimestrales que nunca ocurren, la firma deja de proteger y pasa a documentar el incumplimiento.

Para una empresa mediana colombiana mi recomendación es empezar pequeño y escalar, con un charter de una página, conectado al comité que ya existe y con tres prácticas que de verdad se ejecuten. Esto vale más que un documento ambicioso que termina convertido en evidencia en contra.

Fuentes

* * *

Sobre el autor: José Daniel Sánchez Quiñones es consultor en Gobernanza de IA de Innovaitors.

Déjanos algún comentario

Tus comentarios contribuyen al debate de la innovacion en inteligencia artificial

Entrenamos Humanos y Maquinas para innovar en la era de la Inteligencia Artificial.

CONTÁCTANOS

hola@innovaitors.ai

+57  350 313 5128

+57 301 790 1097

LEGAL

Política de tratamiento de datos

SÍGUENOS