O plano de IA de Elon Musk para a Seguridade Social está causando grandes problemas

Na sexta-feira, a Administração da Seguridade Social lançou um novo chatbot no estilo ChatGPT chamado "Agency Support Companion". A ferramenta foi feita para ajudar a equipe a lidar com tarefas de rotina e aumentar a produtividade. Em vez disso, os funcionários dizem que mal funciona, e um lançamento mal gerenciado deixou muitos se perguntando se a automação é o caminho certo para a maior agência de serviços sociais da América.

Nos últimos meses, a organização de Musk, conhecida internamente como Doge , reduziu agressivamente as agências federais cortando empregos e orçamentos. O impulso em direção a um modelo "AI-primeiro" visa substituir trabalhadores humanos por software sempre que possível. Como parte dessa estratégia, o novo chatbot foi incorporado aos fluxos de trabalho diários dos funcionários da agência, relatados pela Wired, com a promessa de facilitar sua carga de trabalho.

Um email interno o descreveu como uma maneira de "ajudar os funcionários com tarefas diárias e melhorar a produtividade", mas na prática, o aplicativo recebeu pouca atenção.

Fontes dentro da agência dizem que o lançamento foi acompanhado por um vídeo de treinamento dolorosamente ruim, com uma mulher mal animada e de quatro dedos. O clipe deveria orientar os usuários através dos recursos do aplicativo, mas não alertou a equipe contra o upload de dados pessoais sensíveis. Esse deslize forçou a agência a enviar uma leitura de e-mail de acompanhamento, “Nossas desculpas pela supervisão em nosso vídeo de treinamento”, para alertar os funcionários sobre o risco.

Poucas pessoas levaram a sério o vídeo de treinamento da SSA ai

"Não tenho certeza se a maioria dos meus colegas de trabalho assistiu ao vídeo de treinamento", disse um funcionário do Seguro Social Wired. Eles acrescentaram que, quando testaram o chatbot, "várias das respostas que recebi foram incrivelmente vagas e/ou imprecisas". Outros funcionários zombaram dos gráficos grosseiros. "Ninguém que conheço é [usá -lo]. É tão desajeitado e ruim", disse a fonte.

Os críticos alertam que esse início de tropeço pode prenunciar falhas mais amplas.

Da mesma forma, no Brasil, durante 2018, uma empresa estatal chamada DataPrev lançou a MEU INSS, um aplicativo projetado para processar reivindicações de previdência social usando visão computacional e processamento de linguagem natural. No entanto, o sistema geralmente rejeitou reivindicações válidas devido a pequenos erros, desencadeando longos apelos legais.

Um exemplo envolve Josélia de Brito, 55 anos, uma ex-trabalhadora de cana-de-açúcar cuja solicitação de aposentadoria foi negada porque o sistema automatizadodentseu sexo. "Tenho todos os documentos que comprovam minha condição de saúde, provando tudo, e [o benefício] ainda é negado. É uma humilhação", disse ela ao resto do mundo.

Os trabalhadores rurais, muitos dos quais carecem de habilidades digitais básicas, lutam com a mudança para os serviços on -line. "As pessoas aqui não podem trabalhar com o Gmail, Facebook, Instagram", disse Francisco Santana,dent do sindicato para trabalhadores rurais da Barra do CORDA. "Os processos estão cada vez mais automatizados, e a sociedade não estava preparada para isso, especialmente mais longe, nos arredores, para pessoas que vivem em áreas rurais".

Esses obstáculos no exterior destacam possíveis armadilhas para os EUA

Os serviços sociais já estão sob pressão para "modernizar", um impulso que começou sob a equipe do governo de Trump dos chamados tecnocratas.

O Doge de Musk levou essa missão ainda mais, tentando cortar a força de trabalho federal pela metade. "Tudo o que pode ser automatizado de máquina será. E os tecnocratas substituirão os burocratas", disse uma pessoa familiarizada com os planos de Doge ao Washington Post.

A ênfase de Doge na automação criou confusão em vez de eficiência.

Um acidente recente na SSA ilustra as apostas. A equipe do Doge teria marcada "inúmeros" beneficiários de benefícios de vida como "mortos", cortando seus pagamentos. "Cerca de 4 milhões de pessoas, elas as marcaram como mortas", disse Rennie Glasgow, analista técnico de reivindicações de longa data da agência, falando com o Daily Beast. “Eles estão nos enviando um e -mail dizendo: 'Se essas pessoas entrarem no escritório com suadent, você poderá restabelecê -las'.” Esse processo de reintegração pode levar “cerca de três a quatro dias”, acrescentou Glasgow, pois a equipe deve “ressuscitar manualmente” cada receptor no sistema.

Além de interromper os benefícios, Doge também planeja reescrever toda a base de código de software da SSA em meses. Fontes dizem que, para cumprir esse prazo, a equipe quase certamente dependerá da IA para codificar, uma prática que exige uma supervisão estreita devido à alta taxa de erro no código gerado por máquina.

o disco rochoso de trac K  até agora, uma revisão automatizada poderia introduzir ainda mais caos.

Alguns observadores suspeitam que esses erros podem ser intencionais. Uma escola de críticos argumenta que o objetivo de Doge não é uma reforma genuína, mas a desestabilização da SSA para abrir caminho para a privatização. Nesse caso, os erros e o caos podem ser exatamente o que a equipe de Musk está buscando.