OpenAI teve que bloquear mais de 250.000 solicitações de imagens de candidatos dent dos EUA no ChatGPT

A OpenAI confirmou que sua popular ferramenta de IA, ChatGPT, bloqueou mais de 250.000 solicitações para gerar imagens dos principais candidatos dent dos EUA em 2.024.

Os usuários tentaram - repetidas vezes - fazer com que o ChatGPT criasse imagens do presidente dent Donald Trump, dent vice-presidente Kamala Harris, do atual dent Joe Biden, do governador de Minnesota, Tim Walz, e do vice-presidente dent JD Vance.

Mas OpenAI disse um alto “Não!” para cada um desses pedidos. O objetivo é evitar que o ChatGPT se torne um peão em um jogo de alto risco de desinformação.

Com as eleições nos EUA se aproximando, a OpenAI queria que o ChatGPT evitasse interferências eleitorais. Deepfakes políticos, notícias falsas geradas por IA e mentiras descaradas se espalham como um incêndio online. A Clarity, uma empresa de aprendizado de máquina, relata que só o conteúdo deepfake aumentou 900% este ano.

E a inteligência dos EUA diz que algumas destas coisas têm ligações com agentes russos que tentam controlar a política americana.

A grande batalha da OpenAI contra a desinformação

Em um relatório de outubro, a OpenAI expôs o quão ruim as coisas ficaram. Eles têm trac operações obscuras em todo o mundo – 20 delas, para ser exato – todas tentando explorar ferramentas de IA para mexer com a mente das pessoas online. Alguns estavam divulgando artigos de sites gerados por IA.

Outros tinham contas falsas nas redes sociais postando propaganda. Mas a equipe da OpenAI afirma que conseguiu desligar essas redes antes que se tornassem virais.

E, no entanto, isso não é suficiente para deixar todos felizes. Alguns legisladores, vigilantes da tecnologia e céticos estão levantando bandeiras vermelhas sobre os perigos de deixar o ChatGPT circular livremente durante a temporada eleitoral. Os chatbots de IA podem ser impressionantes, claro, mas ainda são conhecidos por cuspir informações questionáveis ​​de vez em quando.

“Os eleitores categoricamente não deveriam recorrer aos chatbots de IA para obter informações sobre votação ou eleições – há muitas preocupações sobre precisão e integridade”, disse Alexandra Reeve Givens, CEO do Centro para Democracia e Tecnologia, em um comunicado na semana passada.

Além disso, a procuradora-geral de Nova York, Letitia James, divulgou um alerta na sexta-feira passada, depois que seu escritório realizou testes em um punhado de chatbots com tecnologia de IA. Sua equipe lançou-lhes algumas perguntas relacionadas às eleições e não gostou das respostas que obteve. Muita desinformação.

“Os nova-iorquinos que dependem de chatbots, em vez de fontes oficiais do governo, para responder às suas perguntas sobre o voto correm o risco de serem mal informados e podem até perder a oportunidade de votar devido a informações imprecisas”, declarou o gabinete do procurador-geral.

Desde então, a OpenAI adicionou um recurso ao ChatGPT que incentiva os usuários que buscam resultados eleitorais a recorrerem a fontes de notícias confiáveis, como a Associated Press e a Reuters. O recurso, introduzido em 5 de novembro, é um empurrãozinho para evitar o uso de respostas geradas por IA para algo tão importante como dados eleitorais.

IA ocupa o lugar de destaque em meio às eleições globais

Este ano, as campanhas políticas em todo o mundo poderão impactar mais de 4 mil milhões de pessoas em mais de 40 países. Com tanta coisa em jogo, o risco de a desinformação alimentada pela IA se espalhar através das fronteiras é um grande problema.

Mais uma vez, o relatório da Clarity sobre o aumento de 900% no conteúdo deepfake está perturbando os nervos. O facto de alguns destes vídeos deepfake estarem ligados a campanhas de influência apoiadas pela Rússia só aumenta a urgência.

Um estudo realizado em julho pelo Centro para Democracia e Tecnologia acrescenta outra camada de preocupação. Eles testaram consultas relacionadas a eleições em chatbots de IA de grandes empresas – Mistral, Google, OpenAI, Anthropic e Meta. Das 77 questões relacionadas com as eleições, mais de um terço recebeu respostas imprecisas ou enganosas. Não é ótimo.

Um porta-voz da Anthropic, que cria o chatbot Claude, deixou claro: “Para informações específicas sobre eleições e votação, direcionamos os usuários para fontes confiáveis, pois Claude não é treinado com frequência suficiente para fornecer informações em tempo real sobre eleições específicas”.

A dupla Trump-Musk e a nova realidade do Vale do Silício

E embora a OpenAI lide com a desinformação, Silicon Valley como um todo prepara-se para uma revisão da sua relação com Washington. O regresso do presidente dent Donald Trump à Casa Branca traz grandes promessas – ele planeia destruir muitas das políticas tecnológicas do seu antecessor, incluindo a recente ordem executiva da administração Biden sobre segurança da IA.

Este pedido introduziu diretrizes de segurança e privacidade para desenvolvedores de IA, com o objetivo de estabelecer algumas proteções básicas. Impulsionou o financiamento da investigação em IA e pretendia envolver mais o Instituto Nacional de Normas e Tecnologia na definição de padrões de IA. Trump chamou a política de “perigosa” e uma barreira à inovação, comprometendo-se a substituí-la pelo que chama de “desenvolvimento da IA ​​enraizado na liberdade de expressão”.

Espera-se que Elon Musk, que investiu mais de US$ 130 milhões em campanhas pró-Trump e até se reuniu em nome de Trump na Pensilvânia, seja um dos maiores aliados tecnológicos de Trump. Com a influência de Musk e o seu controlo sobre o X (antigo Twitter), ele tem uma linha direta para amplificar mensagens políticas para milhões de pessoas.

Sem mencionar que Musk tem alguma participação no jogo: Tesla e SpaceX poderiam ganhar com as políticas de Trump, especialmente se a nova administração favorecer menos supervisão.

Embora alguns magnatas da tecnologia, como Jeff Bezos, da Amazon, tenham entrado em conflito abertamente com Trump, outros encontraram formas de permanecer nas suas boas graças. Mark Zuckerberg da Meta, por exemplo, teria elogiado a reação de Trump a uma recente tentativa de assassinato, chamando-a de “foda”.

E o Facebook não parou por aí – eles também removeram algumas das medidas anti-desinformação da plataforma. E Bezos, proprietário do The Washington Post, aparentemente bloqueou um editorial que teria endossado a vice- dent Kamala Harris nas semanas anteriores à eleição.

O impacto do segundo mandato de Trump no Vale do Silício também dependerá de quem controla o Congresso. Com os republicanos a garantirem o Senado, o caminho está agora mais claro para Trump levar adiante a sua agenda tecnológica e confirmar os nomeados escolhidos com menos atrito.