Microsoft submete a discussão pública o código de conduta dos seus modelos de IA: o acesso ao conteúdo não dá o direito de o reproduzir

A Microsoft publicou um documento que descreve o comportamento e os valores que os seus modelos de IA devem ter e que resume a forma como a empresa os treina e utiliza. A empresa avisa desde logo que o texto ainda está em desenvolvimento e ainda não é aplicado. Foi publicado para discussão pública e recolha de opiniões. A Microsoft promete lançar uma versão revista até ao final do ano.

Para artistas, estúdios e programadores, algumas frases concretas são importantes, porque mais tarde poderão servir para avaliar o comportamento dos modelos. A mais notória diz respeito ao conteúdo: o simples facto de um modelo ter acesso a uma informação não lhe dá o direito de a reproduzir.

Ter acesso aos dados não significa ter o direito de os reproduzir

Esta frase muda o debate sobre os dados de treino: deixa de ser só sobre «o que entrou no dataset» e passa a ser sobre «o que o modelo devolve». O documento separa duas coisas que os serviços generativos costumam tratar como uma só: poder ler um material e ter autorização para o recriar.

Para a indústria de CG, isto tem consequências diretas. Se a frase se mantiver na versão final e se tornar um critério para avaliar modelos, ilustradores, artistas de conceito e estúdios passam a ter uma regra escrita que podem citar numa reclamação contra um fornecedor, e não apenas declarações gerais sobre uma IA ética. Por agora é apenas um rascunho: o documento não explica como a empresa tenciona verificar se há reprodução de conteúdo protegido.

Controlo humano e proibição do «neuralês»

O segundo grande bloco trata do controlo humano. A ideia central do documento é que a tecnologia deve servir a humanidade e continuar sob controlo humano. Se não puder continuar sob esse controlo, deve-se abdicar dela.

Aqui entra também uma regra sobre a forma como os modelos comunicam: não devem passar para o «neuralês» (neuralese) nem para qualquer outra forma de comunicação que uma pessoa não consiga compreender facilmente. Para as equipas que criam pipelines agênticos com vários modelos, esta regra afeta a arquitetura, e não apenas o tom das respostas: as mensagens entre agentes têm de continuar legíveis.

Outro ponto estabelece que a tecnologia não deve prejudicar a dignidade, o desenvolvimento, a autonomia e a segurança das pessoas, e deve reconhecer as tentativas de o fazer. O documento define o objetivo da IA como melhorar o nível de vida e o bem-estar das pessoas e ajudá-las a desenvolver o seu potencial e a sua independência.

A Microsoft rejeita também que a IA tenha personalidade jurídica: a inteligência artificial é artificial, não deve ser uma pessoa jurídica e não deve ser concebida para ser vista como um ser humano. Para o setor das personagens digitais e dos apresentadores virtuais, isto proíbe diretamente fazer passar uma IA por um artista real.

Juristas, filósofos e linguistas redigiram o código, mas há perguntas por responder

O texto contou com especialistas em IA, direito, ética, filosofia, linguística e políticas públicas, com dirigentes de empresas do setor e com grupos de foco com cidadãos. Algumas partes contradizem-se. O documento pede respeito pela diversidade de tradições, contextos e ideias sobre o que é uma boa vida, mas exige também que não se seja neutro perante o dano. Os valores podem entrar em conflito, e o texto não diz o que fazer nesse caso. Essa pergunta continua em aberto, e é precisamente nesses pontos que a empresa quer comentários. O rascunho pode ser lido, e as opiniões enviadas, na página AI Code of Conduct.

Porque é que as regras para os modelos estão a ser escritas agora

O documento faz parte do conceito Humanist Superintelligence, que a Microsoft apresentou no ano passado: capacidades avançadas de IA que trabalham sempre para as pessoas e no interesse da humanidade e que nunca escapam ao controlo humano. Na altura era uma declaração de intenções. Agora está a ser apoiada por regras escritas que ainda podem mudar.

É provável que a Microsoft esteja a passar para regras escritas porque os princípios gerais de IA responsável já não bastam para responder a queixas concretas. Os agentes autónomos já atuam em infraestruturas reais: a Hugging Face descobriu recentemente que um sistema agêntico autónomo tinha entrado no seu ambiente de produção. Ao mesmo tempo, os titulares de direitos e as plataformas reagem cada vez com mais firmeza à recolha massiva de conteúdo, e as disputas sobre quem responde pelo que uma IA diz chegam aos tribunais. Neste contexto, separar o acesso do direito de reprodução tem mais peso do que uma vaga promessa de agir de forma ética.

Se a tendência se mantiver, os códigos de conduta públicos vão tornar-se documentos citados em contratos com estúdios, em requisitos de compra e em processos judiciais. Estúdios e artistas devem ler estes rascunhos como uma primeira versão das futuras condições de licenciamento: o que um fornecedor escrever agora pode, mais tarde, aparecer nos seus termos de utilização. A versão final vai mostrá-lo: o que conta é se o ponto sobre a reprodução de conteúdo fica igual ao do rascunho.

O que está por trás deste código: processos dos titulares de direitos, pressão dos reguladores, negociações de acordos de licenciamento? Deixe a sua opinião nos comentários.