Regulamento da IA: Tem Mesmo de Identificar o Conteúdo Gerado por IA?

Pergunte por aí e vai ouvir que a lei europeia agora obriga a assinalar tudo o que escrever com ajuda de inteligência artificial. Há agências a vender serviços de conformidade com base nisso.

Não é o que o Regulamento da IA diz. As regras existem, aplicam-se, e são bastante mais estreitas do que o alarme faz crer. A maior parte do que a sua empresa publica não está abrangida, e a razão está escrita no próprio texto.

Não somos juristas e isto não é aconselhamento jurídico. O que se segue é o regulamento citado diretamente, para poder ler a redação e decidir o que se aplica ao seu caso.

Tenho de identificar conteúdo gerado por IA?

Na maioria das situações de empresa, não. A obrigação de marcar recai sobre quem constrói os sistemas, não sobre quem os usa. O dever de avisar o leitor aplica-se a deep fakes e a texto publicado para informar o público sobre questões de interesse público. Conteúdo que passou por revisão humana e tem alguém responsável está expressamente excluído.

A quem é que as regras se aplicam

O regulamento divide a responsabilidade por dois papéis, e quase toda a confusão sobre este tema vem de os trocar.

Prestadores são as empresas que constroem e fornecem os sistemas de IA. OpenAI, Google, Anthropic, Mistral.

Responsáveis pela implantação são todos os que usam esses sistemas no seu trabalho. É você, e somos nós.

A maior parte das obrigações de marcação fica do lado dos prestadores. As obrigações de divulgação que recaem sobre quem usa estão limitadas a situações concretas.

O que os prestadores têm de fazer

Duas coisas interessam-lhe, mesmo não sendo trabalho seu.

A primeira é que as pessoas saibam quando estão a falar com uma máquina. Os prestadores têm de conceber os sistemas destinados a interagir diretamente com pessoas de modo a que estas percebam que estão perante um sistema de IA, exceto quando isso for óbvio para alguém razoavelmente atento e informado.

Essa ressalva vale alguma coisa. Se o chatbot do seu site é manifestamente um chatbot, não é obrigada a pôr lá um aviso.

A segunda é a marcação invisível. Os prestadores de sistemas que geram conteúdos de áudio, imagem, vídeo ou texto sintéticos têm de garantir que o resultado fica marcado num formato legível por máquina e detetável como artificialmente gerado.

Isto já acontece. O SynthID, da Google DeepMind, insere marcas de água em imagens, áudio, texto e vídeo gerados nos produtos de IA para consumidores da Google, e a própria empresa descreve-as como impercetíveis para humanos mas detetáveis pela tecnologia dela.

Vale a pena parar aqui um momento. O texto que gerar pode levar consigo um sinal que não consegue ver, colocado pela empresa cujo modelo usou, por imposição de lei europeia.

O que você tem de fazer

Esta é a disposição que a maioria dos artigos sobre o tema salta ou conta mal. Cito-a por inteiro, da versão portuguesa publicada no Jornal Oficial:

"Os responsáveis pela implantação de um sistema de IA que gere ou manipule texto publicado com o objetivo de informar o público sobre questões de interesse público devem revelar que o texto foi artificialmente gerado ou manipulado. Esta obrigação não se aplica se a utilização for autorizada por lei para detetar, prevenir, investigar e reprimir infrações penais ou se os conteúdos gerados por IA tiverem sido objeto de um processo de análise humana ou de controlo editorial e se uma pessoa singular ou coletiva for responsável editorial pela publicação do conteúdo."

Leia a segunda metade outra vez. Se uma pessoa reviu o conteúdo, e se há alguém que assume a responsabilidade editorial pela publicação, o dever de divulgar não se aplica.

Para um artigo de blog, uma página de serviços, uma newsletter ou uma publicação nas redes que alguém editou e aprovou, a análise acaba aqui. E note que há duas condições antes de sequer se chegar à isenção: o texto tem de ser publicado para informar o público, e tem de tratar de questões de interesse público. Uma página com o seu horário não é nem uma coisa nem outra.

O sítio onde é preciso ter cuidado é nos deep fakes. Quando se gera ou manipula imagem, áudio ou vídeo que se assemelha a pessoas, lugares ou acontecimentos reais, o dever de divulgar aplica-se e não há isenção por revisão editorial.

Situação	De quem é a responsabilidade	Tem de avisar o leitor?
Artigo escrito com apoio de IA, editado e publicado por si	Sua, como responsável pela implantação	Não, havendo revisão humana e responsável
Chatbot no seu site	O prestador concebe, você implanta	Só se não for óbvio que é uma máquina
Vídeo sintético de uma pessoa real	Sua, como responsável pela implantação	Sim
Fotografia de produto gerada de raiz	Sua, como responsável pela implantação	Não como deep fake, se não retrata nada real
Marcação legível por máquina	Do prestador	Não é trabalho seu

Porque é que a ideia contrária pegou

Duas razões, e nenhuma delas é a lei.

A primeira é que o medo anda mais depressa do que os diplomas. Uma regra com isenção é mais difícil de resumir do que uma regra sem ela, por isso a isenção cai no resumo. Ao terceiro artigo já desapareceu.

A segunda é que "conformidade" vende. Uma obrigação vaga que ninguém leu é um excelente pretexto para vender um serviço.

Preferimos que leia o parágrafo e tire as suas conclusões, e é por isso que ele está aqui citado por inteiro.

O que faríamos no seu lugar

Saber quais das suas ferramentas são prestadores. Se usa um modelo através de uma interface, a obrigação de marcar é de quem o fornece. Vale a pena saber isso, e não vale a pena pagar a ninguém para lho dizer.

Manter a revisão humana a sério. A isenção depende disso. Se ninguém lê o rascunho antes de sair, perdeu a isenção e ganhou um blog pior ao mesmo tempo. É o raro caso em que a resposta legal e a resposta de qualidade apontam para o mesmo lado.

Escrever quem é o responsável. A responsabilidade editorial é de uma pessoa ou de uma empresa, com nome. Na maioria das empresas pequenas é a gerência ou quem trata do marketing. Decidir não custa nada e é o que sustenta a isenção.

Ser honesta com media sintética de pessoas reais. É a parte com risco verdadeiro, e é a parte em que a maioria das empresas nunca mexe.

Não acrescentar avisos que não deve. Pôr "este artigo foi escrito com apoio de IA" numa página onde uma pessoa pensou e editou não é conformidade. É desvalorizar o seu próprio trabalho.

Nada disto é razão para publicar texto de máquina sem edição. A qualidade continua a ser julgada por quem lê, e a IA já substituiu uma parte do trabalho sem substituir quem o assina. A posição legal e a posição de qualidade são conversas diferentes, e passar na primeira não diz nada sobre a segunda.

Perguntas frequentes

Isto aplica-se à minha empresa em Portugal?

Sim. É um regulamento europeu, aplica-se diretamente em todos os Estados-Membros e Portugal não é exceção. Alcança também empresas de fora da União cujo resultado de IA seja usado dentro dela.

O que conta como questão de interesse público?

O regulamento não dá uma lista fechada. O sentido corrente é o de informação e comentário sobre assuntos públicos, e não conteúdo comercial sobre os seus próprios produtos. Se publica sobre matérias genuinamente públicas, procure aconselhamento jurídico e não a opinião de um blog.

Se eu editar muito o texto da IA, continua a ser conteúdo gerado por IA?

Para efeitos do dever de divulgação, a pergunta fica em grande parte respondida pela isenção. A revisão humana e a responsabilidade editorial tiram-no da obrigação, independentemente de quanto do rascunho começou por ser texto de máquina.

Os leitores conseguem perceber que usei IA?

Às vezes, e cada vez menos por causa de como o texto se lê. A marcação é inserida no momento em que o conteúdo é gerado, por isso pode sobreviver a uma edição que enganaria uma pessoa. Trate isso como razão para fazer o trabalho seu de verdade, e não como razão para o disfarçar.

O que acontece se eu falhar?

A fiscalização cabe às autoridades nacionais e as coimas do regulamento são fixadas como percentagem do volume de negócios mundial. A exposição realista de uma empresa pequena que publica conteúdo de marketing revisto é muito baixa, que é precisamente o ponto deste artigo.

Devemos ter uma política interna de IA?

Se produz conteúdo com regularidade, uma nota curta sobre que ferramentas são permitidas, quem revê e quem aprova compensa. Não porque a lei exija um documento, mas porque é assim que se garante que a revisão humana é real e não apenas presumida.

Se quiser ajuda a transformar isso em algo prático para a sua equipa, escreva para hello@saltylavender.com.

Fontes

• Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, artigo 50.º, Jornal Oficial da União Europeia, versão portuguesa: eur-lex.europa.eu
• Google DeepMind, SynthID: deepmind.google