Muitos americanos tiveram a primeira visão dos bastidores do tirocínio de máquina quando os detalhes da tecnologia “Just Walk Out” da Amazon se tornaram públicos. Em vez de pura tecnologia contabilizar as compras dos clientes e cobrá-las quando saíam da loja, as vendas eram verificadas manualmente por muro de 1.000 pessoas reais que trabalhavam na Índia.
Mas estes trabalhadores eram a metade humana do que a maior secção da IA realmente é – uma colaboração entre a aprendizagem por reforço e a lucidez humana.
O elemento humano tende a ser ignorado nas discussões sobre a segurança da IA, o que é um pouco perturbador, oferecido o impacto que a IA provavelmente terá nos nossos mercados de trabalho e, em última estudo, nas nossas vidas individuais. É cá que a descentralização, a falta de crédito inerente e a segurança da tecnologia blockchain podem desempenhar um papel importante.
O Center for Safe AI identifica quatro grandes categorias de risco de IA. Para estrear, existe o uso malicioso, em que os utilizadores podem “aproveitar propositadamente IAs poderosas para motivar danos generalizados”, concebendo “novas pandemias ou (utilizando-as) para propaganda, exprobação e vigilância, ou (liberando IAs) para perseguir autonomamente objectivos prejudiciais. ”
Uma preocupação mais subtil é o risco de uma corrida à IA, em que as empresas ou os Estados-nação competem para erigir rapidamente sistemas mais poderosos e assumem riscos inaceitáveis no processo. A guerra cibernética descontrolada é um resultado potencial; outro é permitir que os sistemas evoluam por si próprios, escapando potencialmente ao controlo humano; ou um resultado mais prosaico, mas não menos perturbador, poderia ser o desemprego em tamanho devido à concorrência desenfreada.
Os riscos organizacionais com IA são semelhantes aos de qualquer outro setor. A IA pode motivar acidentes industriais graves ou programas poderosos podem ser roubados ou copiados por agentes maliciosos. Finalmente, existe o risco de as próprias IA se tornarem desonestas, “optimizando objectivos falhos, afastando-se dos seus objectivos originais, tornando-se procuradoras de poder, resistindo ao fechamento ou envolvendo-se em fraudes”.
A regulamentação e a boa governação podem sustar muitos destes riscos. O uso malicioso é resolvido restringindo consultas e aproximação a vários recursos, e o sistema judicial pode ser usado para responsabilizar os desenvolvedores. Os riscos de IA desonesta ou problemas organizacionais podem ser mitigados pelo bom siso e pela promoção de uma abordagem consciente da segurança no uso da IA.
Mas estas abordagens não abordam alguns dos efeitos de segunda ordem da IA. Nomeadamente, a convergência e os incentivos perversos remanescentes das empresas legadas da Web2. Por muito tempo, trocamos nossas informações privadas por aproximação a ferramentas. Você pode cancelar, mas é um problema para a maioria dos usuários.
A IA não é dissemelhante de qualquer outro algoritmo, pois o que você obtém com ela é o resultado direto do que você investe – e já existem enormes quantidades de recursos dedicados à limpeza e preparação de dados a serem usados para IA. Um bom exemplo é o ChatGPT da OpenAI, que é treinado em centenas de bilhões de linhas de texto retiradas de livros, blogs e comunidades uma vez que Reddit e Wikipedia, mas também depende de pessoas e bancos de dados menores e mais personalizados para ajustar o resultado.
Leia mais em nossa seção de opinião: O que o blockchain pode fazer pela IA? Não é o que você ouviu.
Isto levanta uma série de questões. Mark Cuban salientou recentemente que a IA acabará por precisar de ser treinada em dados que as empresas e os indivíduos poderão não querer partilhar, a término de se tornar mais útil comercialmente para além da codificação e da redação. E, à medida que mais empregos são afetados pela IA – mormente à medida que os agentes de IA tornam acessíveis aplicações personalizadas de IA – o mercado de trabalho tal uma vez que o conhecemos poderá eventualmente implodir.
A geração de uma estrato blockchain em uma rede de IA descentralizada poderia mitigar esses problemas.
Podemos erigir uma IA que rastreie a proveniência dos dados, mantenha a privacidade e permita que indivíduos e empresas cobrem pelo aproximação aos seus dados especializados se utilizarmos identidades descentralizadas, estaca de validação, consenso e tecnologias cumulativas, uma vez que provas optimistas e de conhecimento zero. Isto poderia desviar o estabilidade de instituições grandes, opacas e centralizadas e proporcionar aos indivíduos e às empresas um sistema parcimonioso inteiramente novo.
Na frente tecnológica, é necessária uma forma de confirmar a integridade dos dados, a propriedade dos dados e a sua legitimidade (auditoria de padrão).
Portanto, você precisaria de um método de proveniência (para pegar emprestada uma frase do mundo da arte), o que significa ser capaz de ver a trilha de auditoria de qualquer oferecido para gratificar adequadamente os dados de quem está sendo usado.
A privacidade também é importante – um utilizador deve ser capaz de proteger os seus dados nos seus próprios dispositivos eletrónicos e controlar o aproximação aos seus dados, incluindo a possibilidade de revogar esse aproximação. Fazer isso envolve criptografia e um sistema de certificação de proteção de segurança.
Oriente é um progresso em relação ao sistema existente, onde informações valiosas são meramente coletadas e vendidas para empresas centralizadas de IA. Em vez disso, permite uma ampla participação no desenvolvimento da IA.
Os indivíduos podem desempenhar diversas funções, uma vez que fabricar agentes de IA, fornecer dados especializados ou oferecer serviços intermediários, uma vez que rotulagem de dados. Outros podem contribuir gerenciando infraestrutura, operando nós ou fornecendo serviços de validação. Esta abordagem inclusiva permite um ecossistema de IA mais diversificado e colaborativo.
Poderíamos fabricar um sistema que beneficie todos os participantes do sistema, desde os clérigos digitais a um continente de intervalo até os compradores do qual teor do carrinho fornece dados brutos aos desenvolvedores nos bastidores. A criptografia pode fornecer uma colaboração mais segura, justa e centrada no ser humano entre a IA e o resto de nós.
Sean é o CEO e cofundador da Sahara, uma plataforma que constrói infraestrutura alimentada por blockchain que não exige crédito, permissão e preserva a privacidade para permitir o desenvolvimento de ferramentas de IA autônomas e personalizadas por indivíduos e empresas. Ou por outra, Sean é professor associado em Ciência da Computação e presidente de início de curso Andrew e Erna Viterbi na Universidade do Sul da Califórnia, onde é o investigador principal (PI) do Laboratório de Pesquisa de Perceptibilidade e Invenção de Conhecimento (INK). No Allen Institute for AI, Sean contribui para pesquisas de bom siso sobre máquinas. Antes, Sean foi consultor de ciência de dados no Snapchat. Ele completou seu doutorado em ciência da computação na Universidade de Illinois Urbana-Champaign e foi pesquisador de pós-doutorado no Departamento de Ciência da Computação da Universidade de Stanford. Sean recebeu vários prêmios em reconhecimento por sua pesquisa e inovação no espaço de IA, incluindo Samsung AI Researcher of the Year, MIT TR Innovators Under 35, Forbes Asia 30 Under 3 e muito mais.
