IA nas Indústrias Criativas: Uso Indevido, Controvérsia e a Pressão por Regulamentação Focada no Uso

Resumido

O uso indevido de IA está a gerar controvérsias de alto perfil, levando reguladores em todo o mundo a perseguir medidas de transparência, consentimento e responsabilização focadas no uso, enquanto os debates continuam sobre se os quadros atuais conseguem acompanhar a rápida evolução da tecnologia.

A IA está a transformar rapidamente a prática criativa, mas o seu uso indevido está a proliferar na mesma velocidade. Escrita assistida por IA não divulgada, clonagem de voz e semelhança, e imagens geradas por IA aparecem repetidamente após serem publicadas ou até premiadas, provocando controvérsias de alto perfil e a perda de confiança nas instituições culturais.

Reguladores e plataformas estão a correr contra o tempo para responder com uma combinação de requisitos de divulgação, propostas de rotulagem de conteúdo, padrões de proveniência e marcas de água, e ações específicas de fiscalização. No entanto, o quadro atual continua fragmentado, lento e muitas vezes pouco claro. Como podem os legisladores proteger criadores e consumidores sem sufocar a inovação? Serão as regras existentes capazes de acompanhar o ritmo acelerado do panorama da IA? Estas questões estão no centro de um dos debates mais urgentes na tecnologia e criatividade atualmente.

Entre as controvérsias mais notáveis de IA dos últimos anos está a Sympathy Tower Tokyo de Rie Qudan, vencedora do Prémio Akutagawa de 2024. A autora revelou que cerca de 5% do romance—principalmente as respostas de um chatbot na história—foi gerado usando o ChatGPT. A revelação acendeu o debate sobre autoria e transparência na literatura. Os críticos dividiram-se: alguns elogiaram a obra como uma utilização inovadora de IA para explorar linguagem e tecnologia, enquanto outros a viam como um desafio às normas tradicionais de autoria original e integridade literária. A cobertura em grandes meios destacou os temas do livro—justiça, empatia e os efeitos sociais da IA—e as questões processuais levantadas ao incorporar modelos generativos em obras premiadas, levando a pedidos de padrões de divulgação mais claros e de uma reconsideração dos critérios de prémios. O caso tornou-se um ponto de referência em conversas mais amplas sobre agência criativa, direitos de autor e limites éticos do auxílio de IA nas artes, com implicações duradouras para editores, comitês de prémios e normas de autoria.

Outro incidente de alto perfil envolveu Darkhollow Academy: Year Two de Lena McDonald, onde os leitores descobriram um prompt de IA e uma nota de edição embutidos no capítulo três. Esta divulgação acidental revelou que a autora usou uma ferramenta de IA para imitar o estilo de outro escritor, provocando uma reação imediata e ampla cobertura. O acontecimento destacou os limites dos fluxos de trabalho atuais na publicação e a necessidade de normas claras em torno da escrita assistida por IA. Intensificou os apelos por transparência, provocou discussões sobre supervisão editorial e controlo de qualidade, e alimentou debates mais amplos sobre atribuição, mimetismo estilístico e riscos de propriedade intelectual na ficção comercial.

Nas artes visuais, o fotógrafo alemão Boris Eldagsen gerou controvérsia recentemente ao revelar que uma imagem submetida aos Sony World Photography Awards foi totalmente gerada por IA. A obra inicialmente venceu na categoria Creative Open, levantando debates sobre os limites entre conteúdo gerado por IA e fotografia tradicional. O fotógrafo acabou por recusar o prémio, enquanto críticos e figuras da indústria questionaram como as competições devem tratar entradas assistidas ou geradas por IA.

A indústria musical enfrentou desafios semelhantes. A faixa de EDM britânica “I Run” de Haven tornou-se uma controvérsia de IA de alto perfil em 2025, após se revelar que as vozes principais da música tinham sido geradas usando tecnologia de voz sintética semelhante a um artista real. As principais plataformas de streaming removeram a faixa por violar regras de impersonificação e direitos de autor, provocando condenação generalizada, renovando os pedidos de consentimento explícito e atribuição quando a IA imita intérpretes vivos, e acelerando debates políticos e legais sobre como os serviços de streaming, detentores de direitos e reguladores devem gerir a música assistida por IA para proteger artistas, fazer cumprir direitos de autor e preservar a confiança na atribuição criativa.

Reguladores Enfrentam Desafios com Danos de IA: UE, EUA, Reino Unido e Itália Implementam Quadros Baseados em Risco

O problema dos danos causados pelo uso de IA—incluindo casos em que criadores apresentam trabalhos gerados por IA como feitos por humanos—tornou-se uma questão premente, e os quadros regulatórios emergentes começam a abordá-lo.

A Lei de IA da União Europeia estabelece um quadro jurídico baseado em risco que entrou em vigor em 2024, com obrigações faseadas até 2026–2027. A lei exige transparência para sistemas generativos, incluindo rotulagem de conteúdo gerado por IA em certos contextos, avaliações de risco e governança para aplicações de alto risco, e confere ao Escritório de IA da UE e aos reguladores nacionais o poder de fiscalizar o cumprimento. Estas disposições visam desafios como mídia não divulgada gerada por IA e treino de modelos opacos.

Legisladores nacionais também estão a avançar rapidamente em algumas áreas. A Itália, por exemplo, aprovou uma lei nacional abrangente de IA em 2025, impondo penalizações mais severas para usos prejudiciais como crimes de deepfake, e codificando requisitos de transparência e supervisão humana—demonstrando como a legislação local pode complementar as regras a nível da UE. A Comissão Europeia está a desenvolver instrumentos não vinculativos e códigos de prática setoriais, especialmente para IA de Propósito Geral, embora a implementação tenha enfrentado atrasos e resistência da indústria, refletindo a dificuldade de criar regras oportunas, práticas e para tecnologias em rápida evolução.

O Reino Unido adotou uma abordagem regulatória “pró-inovação”, combinando documentos de orientação do governo, orientações específicas do setor de reguladores como Ofcom e ICO, e princípios de supervisão que enfatizam segurança, transparência, equidade e responsabilidade. Em vez de impor um código único ao estilo da UE, as autoridades britânicas concentram-se em orientações e na construção gradual de capacidade de supervisão.

Nos Estados Unidos, os formuladores de políticas seguiram uma estratégia setorial, liderada por ações de agências, ancorada na Ordem Executiva 14110 de outubro de 2023, que coordena ações federais para uma IA segura, confiável e segura. Esta abordagem enfatiza gestão de riscos, testes de segurança e regras específicas, com documentos interagências como o Plano de Ação de IA dos EUA a fornecer orientações, desenvolvimento de padrões e regras de aquisição, em vez de uma lei única e abrangente.

Martin Casado Defende Regulação de IA Focada no Uso Para Proteger Criadores Sem Sufocar a Inovação

Para criadores e plataformas, as implicações práticas são claras. Reguladores estão a pressionar por requisitos de divulgação mais rigorosos, incluindo rotulagem clara de conteúdo gerado por IA, regras de consentimento para clonagem de voz e semelhança, padrões de proveniência e marcas de água para mídia gerada, e regulações mais restritas de direitos de autor e uso derivado. Estas medidas visam evitar impersonificação, proteger intérpretes e autores, e melhorar a responsabilização de plataformas que hospedam conteúdo potencialmente enganoso—implementando essencialmente a abordagem regulatória “focada no uso” recomendada por Martin Casado, sócio-gerente da Andreessen Horowitz, no episódio do podcast a16z.

Ele argumenta que a política deve priorizar como a IA é implementada e os danos concretos que pode causar, em vez de tentar fiscalizar o desenvolvimento de modelos de IA, que é uma atividade de ritmo acelerado, difícil de definir e fácil de evitar. O investidor de risco alerta que regras demasiado amplas, focadas no desenvolvimento, podem inibir a pesquisa aberta e enfraquecer a inovação.

Martin Casado enfatiza que atividades ilegais ou prejudiciais realizadas com IA devem continuar a ser processáveis sob a legislação existente, e que a regulação deve primeiro garantir que leis criminais, de proteção ao consumidor, direitos civis e antitruste sejam aplicadas eficazmente. Onde existam lacunas, ele defende uma nova legislação baseada em evidências empíricas e direcionada a riscos específicos, em vez de mandatos amplos e especulativos que possam sufocar o progresso tecnológico.

Segundo o especialista, é importante manter a abertura no desenvolvimento de IA, como apoiar modelos de código aberto, para preservar a inovação e competitividade a longo prazo, ao mesmo tempo que garante que as medidas regulatórias sejam precisas, práticas e focadas nos danos do mundo real.