Uma coalizão de 20 empresas de tecnologia assinou um acordo na sexta-feira para ajudar a prevenir deepfakes de IA nas eleições críticas de 2024 que ocorrerão em mais 40 países. OpenAI, Google, Meta, Amazon, Adobe e X estão entre as empresas que aderiram ao pacto para prevenir e combater conteúdos gerados por IA que possam influenciar os eleitores. No entanto, a linguagem vaga do acordo e a falta de aplicação vinculativa colocam em questão se este vai suficientemente longe.
A lista de empresas que assinam o “Acordo Técnico para Combater o Uso Enganoso de IA nas Eleições de 2024” inclui aquelas que criam e distribuem modelos de IA, bem como plataformas sociais onde os deepfakes têm maior probabilidade de surgir. Os signatários são Adobe, Amazon, Anthropic, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap Inc., Stability AI, TikTok, Trend Micro, Truepic e X (anteriormente Twitter).
O grupo descreve o acordo como “um conjunto de compromissos para implantar tecnologia que combata conteúdos nocivos gerados por IA destinados a enganar os eleitores”. Os signatários concordaram com os seguintes oito compromissos:
- Desenvolver e implementar tecnologia para mitigar riscos relacionados ao conteúdo eleitoral enganoso de IA, incluindo ferramentas de código aberto, quando apropriado
- Avaliação de modelos no escopo deste acordo para compreender os riscos que eles podem apresentar em relação ao conteúdo eleitoral enganoso de IA
- Buscando detectar a distribuição deste conteúdo em suas plataformas
- Buscando abordar adequadamente esse conteúdo detectado em suas plataformas
- Promover a resiliência intersetorial a conteúdo eleitoral enganoso de IA
- Fornecer transparência ao público sobre como a empresa aborda isso
- Continuar a colaborar com um conjunto diversificado de organizações globais da sociedade civil, acadêmicos
- Apoiar esforços para promover a consciência pública, alfabetização mediática e resiliência de toda a sociedade
O acordo se aplicará a áudio, vídeo e imagens gerados por IA. Aborda conteúdos que “falsificam ou alteram enganosamente a aparência, voz ou ações de candidatos políticos, funcionários eleitorais e outras partes interessadas importantes em uma eleição democrática, ou que fornecem informações falsas aos eleitores sobre quando, onde e como eles podem votar. ”