Microsoft, AI 모델 행동 강령 초안 공개하고 의견 수렴: 콘텐츠에 접근할 수 있어도 재현할 권리는 없다

Microsoft가 자사 AI 모델이 지켜야 할 행동과 가치를 설명하고, 모델을 학습시키고 운영하는 회사의 방식을 정리한 문서를 공개했다. 회사는 이 문서가 아직 작성 중이며 실제로 적용되지는 않았다고 먼저 밝혔다. 공개 논의와 의견 수렴을 위해 내놓은 것이다. Microsoft는 연말까지 수정한 버전을 내놓겠다고 약속했다.

아티스트와 스튜디오, 개발자에게는 몇 가지 구체적인 문구가 중요하다. 나중에 이 문구를 기준으로 모델이 제대로 행동하는지 따져 볼 수 있기 때문이다. 가장 눈에 띄는 문구는 콘텐츠에 관한 것이다. 모델이 어떤 정보에 접근할 수 있다고 해서 그 정보를 재현할 권리까지 생기는 것은 아니라는 내용이다.

데이터에 접근할 수 있어도 재현할 권리는 따로다

이 문구는 학습 데이터 논쟁의 초점을 '무엇이 데이터셋에 들어갔는가'에서 '모델이 무엇을 내놓는가'로 옮긴다. 생성형 서비스는 보통 자료를 읽을 수 있는 것과 그 자료를 다시 만들어도 되는 것을 하나로 취급하는데, 문서는 이 둘을 구분한다.

CG 업계에는 직접적인 영향이 있다. 이 문구가 최종 버전에 남아 모델 평가 기준이 된다면, 일러스트레이터와 콘셉트 아티스트, 스튜디오는 윤리적 AI에 관한 막연한 말이 아니라 공급업체에 이의를 제기할 때 내세울 수 있는 명문화된 조항을 갖게 된다. 다만 아직은 초안이다. 회사가 보호받는 콘텐츠의 재현 여부를 어떻게 확인할지는 문서에 나와 있지 않다.

인간의 통제와 '뉴럴리즈' 금지

두 번째 큰 부분은 인간의 통제를 다룬다. 문서의 핵심 생각은 기술이 인류를 위해 쓰이고 인간의 통제 아래 있어야 한다는 것이다. 그런 통제 아래 둘 수 없는 기술이라면 포기해야 한다고 본다.

모델이 소통하는 방식에 대한 규칙도 여기에 들어간다. 모델은 '뉴럴리즈'(neuralese)나 사람이 쉽게 이해할 수 없는 다른 어떤 방식으로도 메시지를 주고받아서는 안 된다. 여러 모델로 에이전트 파이프라인을 만드는 팀에게 이 규칙은 답변의 말투만이 아니라 설계 자체에 영향을 준다. 에이전트끼리 주고받는 메시지를 사람이 읽을 수 있어야 하기 때문이다.

별도 조항에서는 기술이 인간의 존엄성과 발전, 자율성, 안전을 해쳐서는 안 되며, 이를 해치려는 시도를 알아차려야 한다고 규정한다. 문서는 AI의 목적을 생활 수준과 인간의 행복을 높이고, 사람들이 잠재력과 자립심을 키우도록 돕는 것으로 설명한다.

Microsoft는 AI에 법적 인격을 주는 것에도 반대한다. 인공지능은 인공적인 것이므로 법적 인격을 가져서는 안 되고, 사람처럼 보이도록 설계해서도 안 된다는 것이다. 디지털 캐릭터와 가상 진행자 업계에서는 AI를 실제 사람 연기자처럼 보이게 하는 것을 이 조항이 직접 막는다.

법률가, 철학자, 언어학자가 강령을 썼지만 풀리지 않은 문제가 남았다

문서 작성에는 AI, 법, 윤리, 철학, 언어학, 공공 정책 전문가와 업계 경영진이 참여했고, 일반 시민이 참여한 포커스 그룹도 함께했다. 일부 조항은 서로 부딪친다. 문서는 다양한 전통과 맥락, 좋은 삶에 대한 여러 생각을 존중하라고 하면서도, 해악 앞에서는 중립을 지켜서는 안 된다고 한다. 가치가 서로 충돌할 때 어떻게 해야 하는지는 문서에 나와 있지 않다. 이 문제는 아직 풀리지 않았고, 회사가 의견을 바라는 부분도 바로 이런 곳이다. 초안은 AI Code of Conduct 페이지에서 읽고 의견을 보낼 수 있다.

왜 지금 모델의 규칙을 글로 정리하기 시작했나

이 문서는 Microsoft가 지난해 발표한 Humanist Superintelligence 개념의 일부다. 이 개념은 언제나 사람을 위해, 인류의 이익을 위해 작동하고 인간의 통제를 벗어나지 않는 고급 AI 능력을 뜻한다. 당시에는 의지를 밝힌 선언에 그쳤지만, 이제는 아직 고칠 수 있는 명문화된 규칙으로 이를 뒷받침하고 있다.

Microsoft가 이제 구체적인 규칙을 글로 쓰는 것은 책임 있는 AI에 관한 일반 원칙만으로는 구체적인 문제 제기에 더 이상 답할 수 없기 때문일 것이다. 자율 에이전트는 이미 실제 인프라에서 활동하고 있다. Hugging Face는 최근 자율 에이전트 시스템이 자사 운영 환경에 침입한 사실을 발견했다. 동시에 권리자와 플랫폼은 콘텐츠 대량 수집에 점점 더 강하게 맞서고 있고, AI 답변에 누가 책임을 지는지를 둘러싼 분쟁도 법정으로 가고 있다. 이런 상황에서는 접근과 재현 권리를 구분하는 것이 윤리적으로 행동하겠다는 막연한 약속보다 무게가 있다.

이런 흐름이 이어지면 공개 행동 강령은 스튜디오와의 계약, 구매 요건, 소송에서 근거로 쓰이는 문서가 될 것이다. 스튜디오와 아티스트는 이런 초안을 앞으로의 라이선스 조건을 미리 보여 주는 문서로 읽을 필요가 있다. 공급업체가 지금 적어 둔 내용이 나중에 이용 약관에 들어갈 수 있기 때문이다. 이는 최종 버전에서 확인할 수 있다. 콘텐츠 재현에 관한 조항이 초안과 같은 형태로 남아 있는지를 보면 된다.

이 강령 뒤에는 무엇이 있을까? 권리자의 소송일까, 규제 당국의 압박일까, 라이선스 계약을 둘러싼 협상일까? 여러분의 생각을 댓글로 남겨 주세요.