Roblox의 AI 에이전트가 타인의 3D 모델 145GB를 내려받았다

Roblox Corporation은 자사 AI 에이전트 중 하나가 Open3DLab 라이브러리와 이와 연계된 사이트 SFMLab, SmutBase에서 타인의 3D 애셋 145.5GB를 빼내 갔음을 확인했다. 회사는 해당 에이전트가 의도대로 작동하지 않았으며, 이를 운용에서 제외했고, 수집된 데이터는 모델 학습을 포함해 어떤 목적으로도 사용하지 않았다고 밝혔다.

3D 아티스트에게 특히 시사적인 것은 크롤러의 행동 순서 자체다. 크롤러는 먼저 robots.txt를 요청했고, 그 안의 지시를 무시했다. 이어서 스크레이핑을 명시적으로 금지한 사이트 이용약관과 작성자들의 비상업적 라이선스를 위반했다. 창작자들이 자기 작업물을 학습 데이터셋 수집으로부터 지키는 익숙한 메커니즘들은 어느 단계에서도 크롤러를 막지 못했다.

사이트는 어떻게 크롤러를 찾아냈나

활동을 추적한 사람은 Salaryman이라는 닉네임을 쓰는 Open3DLab 관리자다. 그의 자료에 따르면 봇은 세 사이트의 거의 모든 프로젝트를 돌며 712개 프로젝트에서 1027개 파일을 내려받았다. 이는 커뮤니티 참여자들의 작업물로, Valve의 Source Filmmaker로 장면을 만들고 SmutBase와 SFMLab을 18+ 자료 전문 리소스로 사용하는 3D 아티스트와 창작자들의 것이다. 전체 용량 중 성인 콘텐츠는 117.4GB를 차지했다.

운영자들은 10월 18일에 크롤러를 발견해 그 요청을 차단하고, 에이전트의 데이터에서 발견된 주소로 담당자에게 메일을 보냈다. 다음 날 수집이 재개되어 이를 멈추려는 시도를 우회했다. 관리진은 이 봇을 Roblox Corporation의 한 연구자와 연결했다. 그는 회사의 3D 기반 생성 시스템 Cube를 설명하는 논문의 저자 중 한 명이다. 에이전트의 데이터에 있던 다른 표식들은 봇이 학습 데이터셋을 위해 모델을 수집하고 있음을 시사했다.

별도의 문제 제기는 라이선스에 관한 것이다. 많은 모델이 비상업적 조건으로 공개돼 있고, 일부는 타인의 지식재산을 바탕으로 만들어졌다. 내려받은 것들 가운데 Salaryman은 Shift Up 스튜디오의 Stellar Blade에 나오는 Eve와 Blizzard Entertainment의 Overwatch에 나오는 Mei를 언급한다. 이 파일들도 나머지와 똑같이 수집물에 포함됐다.

데이터셋에 든 성인 콘텐츠가 Roblox에 치명적인 이유

회사의 답변이 나오기 전, Salaryman은 위험을 이렇게 정리했다. 그런 데이터가 Roblox용 애셋을 생성하는 모델에까지 들어가면, 그 데이터와 아동 사용자층 사이에 남는 유일한 장벽은 사후에 덧붙인 필터뿐이라는 것이다.

«모델은 학습한 것을 재현한다. 성인용 데이터가 Roblox용 애셋을 생성하는 모델에 들어가면, 그 데이터와 아이들을 가로막는 것은 Roblox가 나중에 만들 필터뿐이다. 수집 단계에서는 아무것도 필터링되지 않았기 때문이다»

이런 시나리오의 부수적 결과는, 플랫폼의 기본 AI 도구로 그런 애셋을 생성한 사용자가 바로 그 플랫폼 규칙의 위반자가 된다는 점이다. Salaryman은 성인 콘텐츠 수집이 누군가의 의도였다고 보지 않는다고 강조하는데, 바로 그 점이 그를 우려하게 한다. 로그로 판단하면 크롤러가 어디로 향하고 무엇을 가져가는지 아무도 확인하지 않았다.

이번 문제 제기는 오래된 배경 위에 놓인다. Roblox는 성적으로 대상화된 콘텐츠의 모더레이션과, 미성년자를 노리는 범죄자들이 플랫폼을 이용하는 방식 때문에 비판을 받아 왔다. 2026년 회사는 모더레이션을 강화했는데, 투자 리서치 회사 Bleecker Street Research의 평가로는 그 강화가 사용자 증가에 타격을 줄 정도였다. 그러면서도 회사는 정부 기관들과 피해 미성년자 부모들과의 분쟁에 계속 얽혀 있으며, 혐의는 부인하고 있다. Roblox 대표 David Baszucki는 아동 안전에 관한 기자들의 질문에 답하는 방식으로 이미 비판을 받은 바 있다.

회사가 바꾸겠다고 약속한 것

Roblox의 성명에는 에이전트가 중단됐고 데이터는 어떤 작업에도 쓰이지 않았으며, 이런 에이전트를 만들고 검증하는 접근 방식을 회사가 강화하고 있고 «에이전트 시스템 지형이 발전하는 데 따라» 앞으로도 계속 강화하겠다고 적혀 있다. 그 절차의 세부 사항, 즉 내부 크롤러의 데이터 출처를 누가 어느 단계에서 승인하는지는 성명에서 공개되지 않았다.

3D 데이터 경쟁이 타인의 라이브러리에 부딪혔다

이번 사례는 더 넓은 흐름의 징후로 보인다. 3D용 생성 모델은 대량의 학습 데이터를 요구하지만, 공개된 3D 애셋은 이미지나 텍스트보다 눈에 띄게 적다. 이런 상황에서 자체 기하 기반 모델을 만드는 대형 플랫폼들은 완성된 메시와 리그, 텍스처가 수년간 쌓여 온 팬 라이브러리와 전문 라이브러리 쪽을 점점 더 자주 바라볼 가능성이 크다. 그런 수집은 자율 에이전트에게 맡겨지는데, 도메인 목록이 명시적으로 지정된 고전적 크롤러와 달리 이들은 부르지 않은 곳으로 흘러가기가 더 쉽다.

창작자들에게는 불쾌한 결론이 따라온다. robots.txt와 이용약관의 한 줄은 여전히 양심에 맡긴 합의이며, 그것을 지켜야 하는 쪽은 위반으로 이득을 얻는 바로 그 당사자라는 것이다. 사용자의 3D 작업물을 보관하는 사이트들은 아마 기술적 조치로 대응할 것이다. 엄격한 인증, 전송 속도 제한, 파일 직접 링크 차단 같은 것들인데, 이는 무엇보다 선량한 방문자들의 이용을 불편하게 만든다. 다른 회사들에서도 같은 일이 반복된다면, 다음 단계는 관리자들의 메일이 아니라 창작자와, 모델이 수집물에 들어간 캐릭터의 권리자들이 제기하는 법적 청구가 될 수 있다.

Open3DLab 측은 성인 콘텐츠를 지지한다고 따로 언급했다. 그것이 자기 사이트들의 근간이기 때문이다. 반발을 부르는 지점은 자기 사이트들이 허락 없이 타인의 학습 데이터셋으로 긁어내지고, 그 결과물이 나중에 아이들이 쓰는 도구에 들어갈 수 있다는 것이다.

이 사건은 무엇과 연결돼 있는가. 에이전트의 통제되지 않는 자율성, 3D 생성용 데이터 경쟁, robots.txt에 대한 무관심?