O cofundador da Ethereum, Vitalik Buterin, levantou preocupações sobre os perigos potenciais de programas de Perceptibilidade Sintético (IA) não verificados.
Numa publicação de 10 de janeiro no X, Buterin alertou que a IA gerida de forma inadequada poderia fabricar entidades inteligentes auto-replicantes que representam riscos para a humanidade.
Ele afirmou:
“A IA feita de forma errada está criando novas formas de vida inteligente independente e auto-replicável. A IA feita da maneira certa é um traje mecânico para a mente humana. Se fizermos a primeira sem a última, corremos o risco de desempoderamento humano permanente. Se fizermos o último, florescerá uma cultura humana superinteligente.”
Ele explicou que embora alguns sistemas de IA, porquê chatbots projetados para melhorar as interfaces do usuário, sejam benéficos, outros podem levar a riscos significativos. Especificamente, os agentes de IA que funcionam de forma autónoma durante longos períodos podem eventualmente desafiar o controlo humano e enfraquecer a sociedade.
Para mitigar estes riscos, Buterin propôs concentrar-se em sistemas de IA que complementem a lucidez humana, transformando-os em ferramentas que amplifiquem as capacidades colectivas em vez de as substituir.
Segundo ele, tal abordagem transformaria a IA numa utensílio poderosa para melhorar as capacidades humanas, evitando riscos desnecessários.
d/Acc
Grande secção de sua estratégia envolve o noção de Aceleração Defensiva Diferencial Descentralizada e Democrática (d/Acc). Esta abordagem enfatiza o desenvolvimento de ferramentas descentralizadas para enfrentar ameaças emergentes relacionadas com a IA.
Buterin elaborou essa teoria em uma postagem recente no blog, descrevendo o d/Acc porquê uma estrutura projetada para descentralizar tecnologias defensivas. O objetivo é capacitar indivíduos e comunidades para se protegerem dos perigos potenciais representados pelos rápidos avanços da IA.
Esta estratégia permite uma distribuição mais democrática do poder tecnológico, colocando capacidades defensivas nas mãos das comunidades. Por exemplo, os sistemas descentralizados poderiam monitorizar, neutralizar ou mesmo neutralizar atividades prejudiciais de IA sem depender do controlo de cima para insignificante dos governos ou das empresas.
Buterin explicou que o d/Acc poderia servir porquê uma salvaguarda em cenários onde as tecnologias de IA avançam de forma imprevisível. Ou por outra, a democratização da resguardo garante que nenhuma entidade possa dominar ou explorar o potencial da IA avançada, promovendo um ecossistema tecnológico mais equilibrado e resiliente.
O cofundador da Ethereum também enfatizou as responsabilidades éticas dos desenvolvedores neste campo em rápida evolução. Ele argumentou que abordagens descentralizadas porquê d/Acc melhoram a segurança coletiva e incentivam a transparência e a colaboração no desenvolvimento da IA.
Buterin escreveu:
“Uma teoria que é muito favorável ao d/acc é responsabilizar os proprietários ou operadores de qualquer equipamento que uma IA assuma (por exemplo, por hacking) no processo de realização de alguma ação catastroficamente prejudicial. Isto criaria um incentivo muito extenso para fazer o trabalho difícil para tornar a infraestrutura mundial (principalmente computacional e biológica) tão segura quanto provável.”
Mencionado neste cláusula
