Inteligência Artificial no Mercado Editorial: Possibilidades e desafios éticos

Gabriel Cunha Leal de Araújo, 09/04/2024

O uso da Inteligência Artificial Generativa (IAG) e suas repercussões têm sido acompanhados nas mais diversas esferas, devido principalmente à facilidade que ela traz para produção de conteúdo e operacionalização das atividades de maneira automatizada. Um dos mercados mais impactados por essas novidades é o mercado editorial. Como veremos a seguir, a IA, apesar de trazer várias facilidades ao trabalho, também coloca a nossa frente novos desafios e exigências de seus profissionais. Requer, pois, um olhar crítico e aprofundado sobre as desigualdades que ela pode produzir, se for utilizada de forma incorreta.

O mercado editorial, e aqui pretendo me referir a ele em todas as suas possíveis ramificações, não apenas relacionadas aos grandes conglomerados editoriais de livros tradicionais, mas também à editoração científica e de conteúdo num geral, tem se beneficiado da utilização das diversas atribuições da IAG que fazem parte do seu rol de atividades. Desde a geração automática de conteúdo, passando pela revisão gramatical e até pela própria criação de ilustrações para publicação.

Algumas dessas tarefas, como a revisão gramatical, podem ser entediantes e dispendiosas, porém a utilização da IA pode favorecer o trabalho e facilitar essa rotina. Escrever um artigo científico e verificar se a normalização está de acordo com o solicitado pela revista é um compromisso muitas vezes mais técnico do que intelectual. Para quem já se esforçou intelectual e criativamente para a elaboração de ideias e de conteúdo, ter que se preocupar com a normalização pode ser muitas vezes frustrante. Nesse contexto, as ferramentas de IA são um importante auxílio para o autor e revisores. Podem ser ampliadas, por exemplo, se utilizadas como auxiliadoras no processo de tradução ou na geração de resumos, sob um posterior olhar profissional qualificado.

Entretanto, as possibilidades que a IA traz para o trabalho editorial, se forem usadas indiscriminadamente, podem muitas vezes esbarrar em uma área cinzenta: onde o que é ético ou não. Quando utilizamos a ferramenta não para correção, mas para geração de conteúdo, é correto aceitar uma autoria que na verdade não existe? É esperado que não saibamos as fontes exatas do que colocamos para publicação? É bom senso que consideramos como abstração intelectual um resultado proveniente de uma ferramenta estatística sofisticada de prospecção de palavras que imitam a linguagem humana? Até esse ponto podemos considerar uma ferramenta algorítmica como fonte de informação e de autonomia científica, criativa e intelectual?

Esses questionamentos, apesar de importantes, não abarcam nem a metade dos problemas que podemos ter com as IAs. Essas ferramentas também apresentam (em seu estado atual da arte) diversas questões complexas sobre sua construção. Os modelos de aprendizado profundo de máquina (Deep Learning) possuem um enorme custo de energia, e os recursos computacionais usados para treinar esses modelos produzem uma grande pegada de carbono. Além disso, questões intrínsecas à sua construção, como a opacidade algorítmica por trás dessas ferramentas e os próprios dados usados para alimentar e fomentar o aprendizado da máquina levantam questões relacionadas à privacidade e aos problemas relacionados ao treinamento por dados invejados e com potencial desinformativo.

A IA deve ser entendida como uma facilitadora para as atividades editoriais, e ser utilizada como os softwares de apoio no nosso dia a dia de trabalho. Ela precisa ser parte auxiliar do processo editorial, e não o processo editorial em si. Realmente queremos renunciar à sensibilidade artística dos ilustradores para terceirizar esse serviço às ferramentas de IA? O quão nocivo seria quebrar o contrato implícito entre o autor e seu público, que espera que ler algo produzido por ele, e não por uma inteligência artificial?

Não existe uma solução fácil nem definitiva quando tratamos do avanço da tecnologia de IA nas práticas editoriais. Assim como muitas das tecnologias disruptivas anteriores, ela vem consolidando seu espaço, e seu papel na otimização dessas práticas é inegável. Diante desse cenário, cabe a nós, como profissionais e cidadãos interessados, estabelecer os limites éticos de sua boa utilização, sempre tendo como norte a importância da atenção artística e intelectual humana na produção de conteúdo.

Disponível: https://portal.fgv.br/en/node/31487. Acesso em: 15/08/2024. Adaptação.

Inteligência Artificial no Mercado Editorial: Possibilidades e desafios éticos

Gabriel Cunha Leal de Araújo, 09/04/2024

O uso da Inteligência Artificial Generativa (IAG) e suas repercussões têm sido acompanhados nas mais diversas esferas, devido principalmente à facilidade que ela traz para produção de conteúdo e operacionalização das atividades de maneira automatizada. Um dos mercados mais impactados por essas novidades é o mercado editorial. Como veremos a seguir, a IA, apesar de trazer várias facilidades ao trabalho, também coloca a nossa frente novos desafios e exigências de seus profissionais. Requer, pois, um olhar crítico e aprofundado sobre as desigualdades que ela pode produzir, se for utilizada de forma incorreta.

O mercado editorial, e aqui pretendo me referir a ele em todas as suas possíveis ramificações, não apenas relacionadas aos grandes conglomerados editoriais de livros tradicionais, mas também à editoração científica e de conteúdo num geral, tem se beneficiado da utilização das diversas atribuições da IAG que fazem parte do seu rol de atividades. Desde a geração automática de conteúdo, passando pela revisão gramatical e até pela própria criação de ilustrações para publicação.

Algumas dessas tarefas, como a revisão gramatical, podem ser entediantes e dispendiosas, porém a utilização da IA pode favorecer o trabalho e facilitar essa rotina. Escrever um artigo científico e verificar se a normalização está de acordo com o solicitado pela revista é um compromisso muitas vezes mais técnico do que intelectual. Para quem já se esforçou intelectual e criativamente para a elaboração de ideias e de conteúdo, ter que se preocupar com a normalização pode ser muitas vezes frustrante. Nesse contexto, as ferramentas de IA são um importante auxílio para o autor e revisores. Podem ser ampliadas, por exemplo, se utilizadas como auxiliadoras no processo de tradução ou na geração de resumos, sob um posterior olhar profissional qualificado.

Entretanto, as possibilidades que a IA traz para o trabalho editorial, se forem usadas indiscriminadamente, podem muitas vezes esbarrar em uma área cinzenta: onde o que é ético ou não. Quando utilizamos a ferramenta não para correção, mas para geração de conteúdo, é correto aceitar uma autoria que na verdade não existe? É esperado que não saibamos as fontes exatas do que colocamos para publicação? É bom senso que consideramos como abstração intelectual um resultado proveniente de uma ferramenta estatística sofisticada de prospecção de palavras que imitam a linguagem humana? Até esse ponto podemos considerar uma ferramenta algorítmica como fonte de informação e de autonomia científica, criativa e intelectual?

Esses questionamentos, apesar de importantes, não abarcam nem a metade dos problemas que podemos ter com as IAs. Essas ferramentas também apresentam (em seu estado atual da arte) diversas questões complexas sobre sua construção. Os modelos de aprendizado profundo de máquina (Deep Learning) possuem um enorme custo de energia, e os recursos computacionais usados para treinar esses modelos produzem uma grande pegada de carbono. Além disso, questões intrínsecas à sua construção, como a opacidade algorítmica por trás dessas ferramentas e os próprios dados usados para alimentar e fomentar o aprendizado da máquina levantam questões relacionadas à privacidade e aos problemas relacionados ao treinamento por dados invejados e com potencial desinformativo.

A IA deve ser entendida como uma facilitadora para as atividades editoriais, e ser utilizada como os softwares de apoio no nosso dia a dia de trabalho. Ela precisa ser parte auxiliar do processo editorial, e não o processo editorial em si. Realmente queremos renunciar à sensibilidade artística dos ilustradores para terceirizar esse serviço às ferramentas de IA? O quão nocivo seria quebrar o contrato implícito entre o autor e seu público, que espera que ler algo produzido por ele, e não por uma inteligência artificial?

Não existe uma solução fácil nem definitiva quando tratamos do avanço da tecnologia de IA nas práticas editoriais. Assim como muitas das tecnologias disruptivas anteriores, ela vem consolidando seu espaço, e seu papel na otimização dessas práticas é inegável. Diante desse cenário, cabe a nós, como profissionais e cidadãos interessados, estabelecer os limites éticos de sua boa utilização, sempre tendo como norte a importância da atenção artística e intelectual humana na produção de conteúdo.

Disponível: https://portal.fgv.br/en/node/31487. Acesso em: 15/08/2024. Adaptação.