생성형 AI 프로그램 관리법··· '거버넌스, 교육, 중제'

감독 : 리더십, 집행, 자동화 

새로운 기술 이니셔티브를 감독하기 위해서는 참여하는 모든 팀에 적용되는 소수의 공통 표준 모음을 만들어야 한다. 생성형 AI 프로젝트의 경우 프롬프트 레시피 관리, 에이전트 개발 및 테스트, 개발자 툴과 통합에 대한 액세스에 적용되는 일관적인 접근 방법을 만드는 것이 포함될 수 있다. 규정 준수를 쉽게 달성할 수 있도록 이런 규칙은 간단하되 엄격한 집행이 필요하다. 이 접근 방식은 시간이 지나면서 표준에서 이탈하는 경우를 줄이고 관리 오버헤드와 기술 부채를 줄여준다. 

예를 들어, 프로젝트에서 데이터 사용을 관리하려면 이런 규칙이 필요하다. 생성형 AI 프로젝트의 경우 고객 데이터를 취급하고 배포하는 경우가 많은데, 이를 실무적으로 어떻게 구현해야 할까? 고객 개인 식별 정보(personally identifiable information, PII)와 회사 IP의 경우 이 데이터를 안전하게, 기반 LLM과 분리해 따로 보관하면서도 프로젝트 내에서 사용할 수 있도록 해야 한다. PII와 IP는 프롬프트 엔지니어링을 통해 유용한 부가적인 컨텍스트를 제공할 수 있지만 LLM이 재학습 또는 보존의 일부로 이런 데이터를 사용하지 못하도록 해야 한다. 

거버넌스를 위한 최선의 접근 방식은 실용적인 방식이다. 이를 위해서는 어느 부분에 집중할 것인지를 신중하게 선택해야 한다. 규칙을 억압적이거나 과도하게 강제하면 팀의 작업에 방해가 되고 규정 준수와 관련된 비용이 증가할 수 있기 때문이다. 또한 필요한 작업이지만 개인정보가 위험에 노출되거나 윤리적 데이터 사용이 위태로워지거나 시간이 지나면서 비용이 지나치게 커져 실험을 중단해야 하는 경우도 있다. 전체적인 목표는 거추장스러운 기준을 강제하거나 열정을 억제하는 상황을 피하고 베스트 프랙티스를 표준으로 장려할 방법에 집중하는 것이다.