Soam os alarmes no mundo da inteligência artificial?
Resumo do artigo
Os alertas sobre segurança e ética de investigadores que deixam empresas de inteligência artificial levantam questões sobre as regras de desenvolvimento de sistemas cada vez mais poderosos e sobre quem tem autoridade para as definir.
O artigo não considera as demissões motivadas por críticas uma prova de catástrofe iminente e salienta a ausência de dados completos que demonstrem uma aceleração das saídas no conjunto do setor.
Nos agentes capazes de executar ações, a segurança deve ser avaliada não apenas pelo desempenho do modelo, mas também por permissões limitadas, aprovação humana, deteção de erros, reversibilidade das ações e possibilidade de parar o sistema.
A comercialização de informações privadas, a transferência de valor dos criadores de conteúdos originais para as plataformas e a dependência de poucos fornecedores de infraestruturas críticas são analisadas à luz do feudalismo digital e da soberania tecnológica.
Defende-se um otimismo prudente que preserve os benefícios da tecnologia e reforce os testes independentes, a responsabilização efetiva, a proteção dos trabalhadores que alertam para riscos e uma supervisão humana com efeitos reais.