Renderu.com
10.2 K帖子
68.3 K关注
34.5 M访问
Alex Rowan

Roblox 的 AI 智能体下载了 145 GB 他人 3D 模型

有趣的网络

Roblox Corporation 已确认,其一个 AI 智能体从 Open3DLab 资源库及与之关联的站点 SFMLab 和 SmutBase 抓走了 145.5 GB 他人的 3D 资产。公司表示,该智能体的运行方式并不符合设计意图,已将其停止使用,所收集的数据未用于任何目的,包括模型训练。

对 3D 艺术家而言,这个爬虫的动作顺序本身就很说明问题:它先请求了 robots.txt,随后无视了其中的指令。接着它违反了站点明确禁止抓取的用户协议,也违反了作者的非商业许可。作者们用来阻止自己的作品被收进训练数据集的那些常用机制,在任何一个环节都没能拦住它。

站点如何发现这个爬虫

追踪到这一活动的是 Open3DLab 的管理员,网名 Salaryman。据他的数据,这个机器人几乎走遍了三个站点的所有项目,从 712 个项目中下载了 1027 个文件。这些都是社区成员的作品——那些用 Valve 的 Source Filmmaker 制作场景、并把 SmutBase 和 SFMLab 当作 18+ 素材专业资源的 3D 艺术家和创作者。成人内容在总量中占 117.4 GB。

运营者在 10 月 18 日注意到了这个爬虫,封锁了它的请求,并按在该智能体数据中发现的地址写信给了负责人。次日抓取重新开始,绕过了试图阻止它的措施。管理方将这个机器人与 Roblox Corporation 的一名研究人员联系起来——此人是描述 Cube 那篇论文的作者之一,Cube 是该公司面向 3D 的基础生成系统。该智能体数据中的其他标记显示,它是在为训练数据集收集模型。

另一部分指控涉及许可。许多模型是以非商业条件发布的,其中一部分建立在他人的知识产权之上:在被下载的内容中,Salaryman 提到了 Shift Up 工作室《Stellar Blade》中的 Eve 和 Blizzard Entertainment《Overwatch》中的 Mei。这些文件与其他一切一样被一并打包带走。

为什么数据集中的成人内容对 Roblox 来说很要紧

在公司回应之前,Salaryman 这样概括风险:如果这类数据进入为 Roblox 生成资产的模型,那么它与儿童受众之间唯一的屏障,就只剩事后补建的过滤器。

「模型会复现它学到的东西。如果成人数据进入为 Roblox 生成资产的模型,把这些数据和儿童隔开的唯一东西,就是 Roblox 之后建起来的那个过滤器,因为在收集阶段什么都没有过滤」

这种情形还有一个副作用——用平台自带 AI 工具生成了这类资产的用户,反倒成了平台自身规则的违反者。Salaryman 强调,他并不认为收集成人内容是任何人的故意,而这恰恰是他担心的地方:从日志来看,没有人检查过爬虫被指向了哪里、带走了什么。

Roblox 的 AI 智能体下载了 145 GB 他人 3D 模型
Roblox 负责人 David Baszucki。照片:TechCrunch / Wikimedia Commons,CC BY 2.0

这项指控落在一个长期的背景之上:Roblox 一直因对性化内容的审核,以及因平台被瞄准未成年人的不法分子利用而受到批评。2026 年公司加强了审核——按投资研究公司 Bleecker Street Research 的评估,加强到了影响用户增长的程度。与此同时,公司仍被卷入与政府机构以及受害未成年人家长的诉讼之中;它否认这些指控。Roblox 负责人 David Baszucki 此前已因回答记者有关儿童安全问题的方式而受到批评。

公司承诺要改变什么

Roblox 的声明称,该智能体已停用,数据未用于任何任务,而公司正在加强并将继续加强创建和审查此类智能体的做法,「随着智能体系统格局的发展」而推进。至于这些流程的细节——由谁在哪个阶段批准内部爬虫的数据来源——声明中没有披露。

3D 数据竞赛撞上了他人的资源库

这一事件看起来是更广泛进程的一个症候。面向 3D 的生成模型需要大量训练数据,而公开可得的 3D 资产明显少于图片和文本。在这种背景下,那些正在构建自家几何基础模型的大型平台,很可能会越来越多地把目光投向多年来积累了现成网格、绑定和贴图的粉丝资源库与专业资源库。这类收集被交给了自主智能体,而与明确给定域名清单的传统爬虫不同,它们更容易跑到没人请它们去的地方。

由此对创作者而言得出一个不愉快的结论:robots.txt 和用户协议里的一行字,仍然只是靠良心维持的约定,而本该遵守它的恰恰是那个靠违反它获益的一方。存放用户 3D 作品的站点很可能会以技术手段作出回应——严格的身份验证、限制下载速度、关闭文件的直链——而这首先会让守规矩的访客用起来更不方便。如果同样的故事在其他公司重演,下一步可能就不再是管理员的来信,而是作者以及那些模型被卷入下载包的角色权利人的法律索赔。

Open3DLab 方面特意说明,他们支持成人内容——它构成了这些站点的根基。引起反对的是,他们的站点未经询问就被清扫进别人的训练数据集,而其结果之后还可能出现在儿童使用的工具里。

这起事件与什么有关:智能体不受控制的自主性、3D 生成的数据竞赛、对 robots.txt 的漠视?

0
相关新闻:
Character.AI 申请破产 —— Disney 出价 2000 万美元购买 IP 授权
Epic 将允许用 Unreal Engine 内容训练 AI
梵蒂冈向艺术家提议结盟,在AI时代守护人之为人
Runway 展示 Continuum——由视频模型绘制界面的项目
评论:0
发布日期