Tecnologia
A inteligência artificial pode causar a extinção da humanidade? Entenda a declaração de alerta dos especialistas
Especialistas em inteligência artificial (IA), incluindo os líderes da OpenAI e do Google DeepMind, emitiram um alerta preocupante sobre os perigos que a IA pode representar para a humanidade. Eles apoiaram uma declaração publicada pelo Center for AI Safety, uma organização de pesquisa e desenvolvimento sediada em São Francisco, nos Estados Unidos. A declaração destaca que a preocupação com a diminuição do risco de extinção causado pela IA deve ser uma prioridade global.
Além dos perigos das ações das IAs, corremos outros riscos sociais em grande escala, como pandemias e guerra nuclear. A declaração descreve uma série de possíveis cenários de desastre relacionados à IA, incluindo o armamento das IAs, a disseminação de desinformação, a concentração de poder nas mãos de poucos e a dependência excessiva da IA pelos humanos.
Não é para tanto?
Diversos líderes proeminentes no campo da IA, como Sam Altman, CEO da OpenAI, Demis Hassabis, CEO do Google DeepMind, e Dario Amodei, da Anthropic, expressaram seu apoio à declaração do Center for AI Safety. Geoffrey Hinton, um dos pioneiros da IA, Yoshua Bengio, professor de Ciências da Computação na Universidade de Montreal, e Yann LeCunn, professor da Universidade de Nova York e pesquisador da Meta (empresa proprietária do Facebook), também estão entre os apoiadores.
No entanto, nem todos concordam com a gravidade dos riscos apontados. Yann LeCunn, por exemplo, considera os avisos apocalípticos exagerados e afirma que muitos pesquisadores de IA se sentem constrangidos em relação a essas previsões de destruição. Além disso, há especialistas que argumentam que os cenários de desastre de ficção científica são improváveis, pois a IA atual não possui capacidades suficientes para materializar esses riscos.
O texto do Center for AI Safety sugere uma série de possíveis cenários de desastre:
- As IAs podem ser armadas — por exemplo, com ferramentas para descobrir drogas que podem ser usadas na construção de armas químicas;
- A desinformação gerada pela IA pode desestabilizar a sociedade e “minar as tomadas de decisões coletivas”;
- O poder da IA pode se tornar cada vez mais concentrado em poucas mãos, permitindo que “regimes imponham valores restritos por meio de vigilância generalizada e censura opressiva”;
- Enfraquecimento, a partir do qual os humanos se tornam dependentes da IA, “num cenário semelhante ao retratado no filme Wall-E”.
Apesar das divergências de opinião, a discussão sobre os riscos associados à IA tem aumentado. Em março de 2023, Elon Musk, CEO da Tesla, e outros especialistas assinaram uma carta aberta pedindo a suspensão do desenvolvimento da próxima geração de tecnologia de IA. Agora, a nova declaração dos especialistas visa abrir a discussão e compara o risco da IA ao representado pela guerra nuclear.
Opiniões em destaque
Arvind Narayanan, um cientista da computação da Universidade de Princeton, nos EUA, disse à BBC que os cenários de desastre de ficção científica não são realistas:
“A IA atual não é nem de longe suficientemente capaz para que esses riscos se materializem. Como resultado, isso desvia a atenção dos danos de curto prazo da IA”, avalia ele.
Elizabeth Renieris, pesquisadora sênior do Instituto de Ética em IA da Universidade Oxford, no Reino Unido, disse à BBC News que se preocupa com os riscos mais próximos:
“Os avanços na IA ampliarão a escala da tomada de decisão automatizada que é tendenciosa, discriminatória, excludente ou injusta. Ao mesmo tempo em que é inescrutável e incontestável”, acredita ela.
Enquanto especialistas continuam a debater os riscos e benefícios da IA, é evidente que a discussão sobre a segurança e a regulamentação dessa tecnologia avançada está ganhando cada vez mais importância em níveis globais.
Fonte: BBC News
Saiba quem é a modelo de 60 anos que venceu concurso de beleza e pode virar candidata ao Miss Universo
Mundo – Aos 60 anos, Alejandra Rodríguez, advogada, jornalista e modelo argentina, conquistou o título de Miss Universo da província...
Anitta domina os Trending Topics do Twitter após lançamento do álbum “Funk Generation”
Brasil – Anitta estreou seu mais recente álbum de estúdio, “Funk Generation”, nesta sexta-feira (26), disponível em todas as plataformas...
Trágico: Incêndio mata 10 pessoas em pousada de Porto Alegre; VEJA VÍDEO
Um incêndio em uma pousada no centro de Porto Alegre, resultando em 10 mortos e 11 feridos na madrugada desta...
Ana Hickmann ganha na Justiça e tem dívida de R$735 mil suspensa
Brasil – Ana Hickmann obteve um resultado favorável na Justiça, livrando-se de uma dívida substancial vinculada aos seus negócios. A...
Palmas5 dias atrásAGORA: dupla de criminosos morre durante confronto com policiais militares no setor Santa Fé, em Palmas
Editorial4 dias atrásGreve na UFT? Maioria dos professores aprovam paralisação durante assembleia nesta terça (23)
Editorial4 dias atrásDINHEIRO NA CONTA! Wanderlei Barbosa anuncia pagamento do piso da enfermagem e antecipação do salário dos servidores estaduais
Editorial4 dias atrásO caso das pedras de vesícula de boi: por que elas são consideradas mais valiosas do que ouro?
Deixe o seu Comentário