A Fox Corp. causou repercussão nos círculos da mídia na terça-feira, quando anunciou que estava lançando o “Verify”, uma novidade utensílio baseada em blockchain para verificar a autenticidade da mídia do dedo na era da IA.
O projeto aborda dois problemas cada vez mais incômodos: a IA está facilitando o surgimento de teor “deepfake” e enganando os leitores, e os editores descobrem frequentemente que seu teor foi usado para treinar modelos de IA sem permissão.
Uma opinião cínica poderia ser a de que tudo isto não passa de uma grande jogada de relações públicas. Misturar “AI” e “Blockchain” em um ensopado de palavras da voga para ajudar a erigir “crédito nas notícias” parece um ótimo material para a prensa, principalmente se você é um conglomerado de mídia envelhecido com questões de credibilidade. Todos nós vimos Sucessão, não é?
Mas vamos deixar a ironia de lado por um momento e levar a sério a Fox e sua novidade utensílio. No lado falso, Fox diz que as pessoas podem carregar URLs e imagens no sistema Verify para prescrever se são autênticas, o que significa que um editor as adicionou ao banco de dados Verify. No que diz saudação ao licenciamento, as empresas de IA podem usar o banco de dados Verify para acessar (e remunerar por) teor de maneira comportável.
Blockchain Creative Labs, braço de tecnologia interno da Fox, fez parceria com Polygon, o blockchain de grave dispêndio e cimalha rendimento que funciona no topo da extensa rede Ethereum, para nutrir as coisas nos bastidores. Somar novo teor ao Verify significa essencialmente aditar uma ingresso a um banco de dados no blockchain Polygon, onde seus metadados e outras informações são armazenados.
Ao contrário de tantos outros experimentos de criptografia, a relação do blockchain pode ter um sentido desta vez: o Polygon fornece ao teor do Verify uma trilha de auditoria inalterável e garante que editores terceirizados não precisem responsabilizar na Fox para comandar seus dados.
O Verify em seu estado atual parece um verificador de banco de dados glorificado, um aplicativo da web simples que usa a tecnologia do Polygon para rastrear imagens e URLs. Mas isso não significa que seja inútil – principalmente quando se trata de ajudar editores legados a velejar em acordos de licenciamento no mundo dos grandes modelos de linguagem.
Verifique para consumidores
Seguimos em frente e carregamos qualquer teor no aplicativo da web do Verify para ver porquê ele funciona muito no uso quotidiano, e não demorou muito para percebermos as limitações do aplicativo para o caso de uso do consumidor.
O aplicativo Verify possui uma caixa de ingresso de texto para URLs. Quando colamos um item da Fox News de terça-feira sobre Elon Musk e deep fakes (que apareceram com destaque no site) e pressionamos “enter”, um monte de informações apareceu atestando a proveniência do item. Junto com um hash de transação e assinatura – dados para a transação blockchain Polygon representando a secção do teor – o aplicativo Verify também mostrou os metadados associados ao item, informações de licenciamento e um conjunto de imagens que aparecem no teor.
Em seguida, baixamos e recarregamos uma dessas imagens na utensílio para ver se ela poderia ser verificada. Quando o fizemos, foram-nos mostrados dados semelhantes aos que vimos quando inserimos o URL. (Quando tentamos outra imagem, também poderíamos clicar em um link para ver outros artigos da Fox nos quais a imagem foi usada. Permitido!)
Embora o Verify tenha realizado essas tarefas simples conforme anunciado, é difícil imaginar que muitas pessoas precisarão “verificar” a natividade do teor obtido diretamente do site da Fox News.
Em sua documentação, o Verify sugere que um provável usuário do serviço pode ser uma pessoa que se depara com um item nas redes sociais e deseja desvendar se ele vem de uma natividade suposta. Quando executamos o Verify nesse cenário do mundo real, encontramos problemas.
Encontramos uma postagem solene da Fox News no X (a plataforma anteriormente conhecida porquê Twitter) apresentando o mesmo item que verificamos originalmente e, em seguida, carregamos a versão do X do URL do item no Verify. Mesmo que clicar no link X ligeiro alguém diretamente para a mesma página da Fox News que verificamos originalmente – e o Verify conseguiu obter uma prévia do item – o Verify não foi capaz de nos expor se o item era fidedigno desta vez. .
Em seguida, capturamos a imagem em miniatura da postagem da Fox News: uma das mesmas imagens da Fox que carregamos da última vez. Desta vez, fomos informados de que a imagem não poderia ser autenticada. Acontece que se uma imagem for manipulada de alguma forma – o que inclui miniaturas ligeiramente cortadas ou capturas de tela cujas dimensões não são exatamente corretas – o aplicativo Verify ficará confuso.
Algumas dessas deficiências técnicas certamente serão resolvidas, mas há problemas de engenharia ainda mais complicados que a Fox terá de enfrentar se quiser ajudar os consumidores a desvendar o teor gerado pela IA.
Mesmo quando o Verify está funcionando porquê anunciado, ele não pode expor se o teor foi gerado por IA – somente que veio da Fox (ou de qualquer outra natividade que o carregou, presumindo que outros editores usem o Verify no porvir). Se o objetivo é ajudar os consumidores a discernir o teor gerado pela IA do teor humano, isso não ajuda. Até mesmo veículos de notícias confiáveis, porquê a Sports Illustrated, tornaram-se envolvido em polêmica por usar teor gerado por IA.
Depois, há o problema da indiferença do usuário. As pessoas tendem a não se importar muito se o que estão lendo é verdade, porquê Fox certamente sabe. Isto é principalmente verdadeiro quando as pessoas quero que um tanto seja verdade.
Para que um tanto porquê o Verify seja útil para os consumidores, imagina-se que ele precisará ser integrado diretamente nas ferramentas que as pessoas usam para visualizar o teor, porquê navegadores da web e plataformas de mídia social. Você poderia imaginar uma espécie de símbolo, à la notas da comunidade, que aparecem no teor que foi adicionado ao banco de dados do Verify.
Verifique para editores
Parece injusto criticar esta versão básica do Verify, visto que a Fox foi bastante proativa em rotulá-la porquê beta. A Fox também não está focada somente nos consumidores de mídia em universal, porquê fizemos em nossos testes.
O parceiro da Fox, Polygon, disse em um enviado de prensa compartilhado com a CoinDesk que “Verify estabelece uma ponte técnica entre empresas de mídia e plataformas de IA” e tem recursos adicionais para ajudar a fabricar “novas oportunidades comerciais para proprietários de teor, utilizando contratos inteligentes para definir condições programáticas para aproximação ao teor.”
Embora os detalhes cá sejam um tanto vagos, a teoria parece ser que o Verify servirá porquê uma espécie de banco de dados global para plataformas de IA que vasculham a web em procura de teor de notícias – fornecendo uma maneira para as plataformas de IA obterem autenticidade e para os editores controlarem seu teor. por trás de restrições de licenciamento e aproximação pago.
A Verify provavelmente precisaria da adesão de uma volume sátira de editores e empresas de IA para que esse tipo de coisa funcionasse; por enquanto, o banco de dados inclui somente murado de 90.000 artigos de editoras de propriedade da Fox, incluindo Fox News e Fox Sports. A empresa também afirma que abriu a porta para outros editores adicionarem teor ao banco de dados Verify, e também abriu seu código para aqueles que desejam fabricar novas plataformas baseadas em sua tecnologia.
Mesmo em seu estado atual, o caso de uso de licenciamento para Verify parece uma teoria sólida – principalmente à luz das espinhosas questões jurídicas que os editores e as empresas de IA estão enfrentando atualmente.
Em um registo recentemente arquivado processo contra OpenAI e Microsoft, o New York Times alegou que seu teor foi usado sem permissão para treinar modelos de IA. O Verify poderia fornecer uma estrutura padrão para as empresas de IA acessarem teor on-line, dando assim aos editores de notícias uma vantagem em suas negociações com empresas de IA.
