Microsoft somete a debate público el código de conducta de sus modelos de IA: acceder al contenido no da derecho a reproducirlo

Microsoft ha publicado un documento que describe el comportamiento y los valores que deben tener sus modelos de IA, y que resume cómo la empresa los entrena y los utiliza. La compañía advierte desde el principio que el texto todavía está en desarrollo y aún no se aplica. Lo ha publicado para someterlo a debate público y recoger opiniones. Microsoft promete publicar una versión revisada antes de que acabe el año.

Para artistas, estudios y desarrolladores, hay varias frases concretas que importan, porque más adelante podrán servir para evaluar el comportamiento de los modelos. La más llamativa se refiere al contenido: que un modelo tenga acceso a una información no le da derecho a reproducirla.

Acceder a los datos no significa tener derecho a reproducirlos

Esta frase cambia el debate sobre los datos de entrenamiento: ya no se trata solo de «qué ha entrado en el dataset», sino de «qué devuelve el modelo». El documento separa dos cosas que los servicios generativos suelen tratar como una sola: poder leer un material y tener permiso para recrearlo.

Para la industria del CG, esto tiene consecuencias directas. Si la frase se mantiene en la versión final y se convierte en un criterio para evaluar modelos, ilustradores, artistas conceptuales y estudios tendrán una norma por escrito que podrán citar al reclamar a un proveedor, y no solo declaraciones generales sobre una IA ética. Por ahora es solo un borrador: el documento no explica cómo piensa comprobar la empresa si se reproduce contenido protegido.

Control humano y prohibición del «neuralés»

El segundo gran bloque trata del control humano. La idea central del documento es que la tecnología debe servir a la humanidad y seguir bajo control humano. Si no puede seguir bajo ese control, hay que renunciar a ella.

Aquí entra también una norma sobre cómo se comunican los modelos: no deben pasar al «neuralés» (neuralese) ni a ninguna otra forma de comunicación que una persona no pueda entender con facilidad. Para los equipos que crean pipelines agénticos con varios modelos, esta norma afecta a la arquitectura, no solo al tono de las respuestas: los mensajes entre agentes deben seguir siendo legibles.

Otro punto establece que la tecnología no debe dañar la dignidad, el desarrollo, la autonomía ni la seguridad de las personas, y que debe reconocer los intentos de hacerlo. El documento define el objetivo de la IA como mejorar el nivel de vida y el bienestar de las personas y ayudarlas a desarrollar su potencial y su independencia.

Microsoft también rechaza que la IA tenga personalidad jurídica: la inteligencia artificial es artificial, no debe ser una persona jurídica y no debe diseñarse para que se la perciba como un ser humano. Para el sector de los personajes digitales y los presentadores virtuales, esto prohíbe directamente hacer pasar una IA por un artista real.

Juristas, filósofos y lingüistas redactaron el código, pero quedan preguntas abiertas

En el texto participaron especialistas en IA, derecho, ética, filosofía, lingüística y políticas públicas, directivos de empresas del sector y grupos focales con ciudadanos. Algunas partes se contradicen. El documento pide respetar la diversidad de tradiciones, contextos e ideas sobre lo que es una buena vida, pero también exige no ser neutral ante el daño. Los valores pueden chocar, y el texto no dice qué hacer en ese caso. Esa pregunta sigue abierta, y es precisamente en esos puntos donde la empresa busca comentarios. El borrador se puede leer, y se pueden enviar opiniones, en la página AI Code of Conduct.

Por qué se ponen ahora por escrito las normas para los modelos

El documento forma parte del concepto Humanist Superintelligence, que Microsoft presentó el año pasado: capacidades avanzadas de IA que siempre trabajan para las personas y en interés de la humanidad y que nunca escapan al control humano. Entonces era una declaración de intenciones. Ahora se respalda con normas escritas que todavía pueden cambiar.

Probablemente, Microsoft pasa a las normas escritas porque los principios generales de IA responsable ya no bastan para responder a quejas concretas. Los agentes autónomos ya actúan en infraestructuras reales: Hugging Face descubrió hace poco que un sistema agéntico autónomo se había colado en su entorno de producción. Al mismo tiempo, los titulares de derechos y las plataformas reaccionan cada vez con más dureza a la recopilación masiva de contenido, y las disputas sobre quién responde por lo que dice una IA llegan a los tribunales. En este contexto, separar el acceso del derecho a reproducir pesa más que una vaga promesa de ser éticos.

Si la tendencia continúa, los códigos de conducta públicos se convertirán en documentos que se citarán en contratos con estudios, en requisitos de compra y en juicios. A estudios y artistas les conviene leer estos borradores como una primera versión de las futuras condiciones de licencia: lo que un proveedor escriba ahora puede acabar más adelante en sus condiciones de uso. La versión final lo dirá: la clave será si el punto sobre la reproducción de contenido se mantiene igual que en el borrador.

¿Qué hay detrás de este código: demandas de los titulares de derechos, presión de los reguladores, negociaciones sobre acuerdos de licencia? Deja tu opinión en los comentarios.