Cómo empezar a desarrollar una estrategia equilibrada de gobernanza de la IA

Lo que puede ser obvio para los equipos de datos puede estar fuera de la vista y de la mente de las partes interesadas de la empresa. Heather Gentile, directora de gestión de productos de riesgo y cumplimiento de IA en IBM, sugiere reforzar que los resultados de un modelo son tan buenos como los datos en los que se basa y entrena. “La transparencia y la explicabilidad de la gobernanza también aceleran y escalan con éxito las iniciativas de IA y el impacto empresarial”, afirma Gentile.

Adoptar nuevas prioridades de gobernanza de datos de IA

Los CDO, la gobernanza de datos y los científicos de datos también deben tener en cuenta las capacidades específicas de la IA. Por ejemplo, modelops es la disciplina de supervisar los modelos de ML para detectar desviaciones y otras condiciones que requieran un nuevo entrenamiento. Para la IA generativa, los equipos de datos deben ser explícitos sobre qué datos se utilizaron para entrenar un LLM, RAG, agentes de IA y otras capacidades de IA.

“Una lista de materiales de datos de IA (AI DBoM) es la base para una IA responsable a escala y debe formar parte de la estrategia de gobernanza del CDO”, afirma Kapil Raina, evangelista de seguridad de datos de Bedrock Security. “Una AI DBoM rastrea todos los datos que alimentan los modelos de IA (entrenamiento, ajuste e inferencia), lo que garantiza una rápida ejecución de los proyectos con total transparencia sobre lo que los sistemas de IA acceden y generan. Sin ella, los CDO van a ciegas, expuestos a brechas de seguridad, incumplimiento del panorama regulatorio en rápida evolución e innovación atrofiada”.