É de conhecimento geral que a evolução da inteligência artificial (IA) trouxe inúmeros avanços em diversas áreas. Mas o que ninguém pode esquecer é que ela, por melhor que possa ser, não substitui um ser humano: alguém que tenha, literalmente, humanidade, e que consiga discernir entre o certo e o errado.
Porém, o uso indiscriminado da IA levanta questões éticas, principalmente quando usada como referência em estudos e fatos históricos, como no caso do Holocausto. Em 18 de junho, data que é celebrado o Dia Internacional de Combate ao Discurso de Ódio, a Organização das Nações Unidas para a Educação, a Ciência e a Cultura, a Unesco, emitiu um alerta sobre os riscos associados ao uso irresponsável da IA, que pode distorcer a história e até mesmo promover o antissemitismo.
A organização publicou um relatório alarmante sobre como a IA vem sendo utilizada de maneira nociva, distorcendo informações completamente relevantes na história da humanidade. A ferramenta foi projetada para gerar conteúdo automaticamente, mas ela não é capaz de discernir informações precisas sobre o Holocausto, algo conhecido e lembrado no mundo inteiro. Isso gera interpretações erradas e pode até mesmo influenciar na propagação de teorias conspiratórias e notícias contraditórias sobre todo esse episódio de sofrimento – que não pode e nem deve ser apagado da história.
O relatório ainda destaca que outras plataformas, como X (antigo Twitter) e Telegram, são terrenos férteis para a disseminação de desinformação sobre o assunto. Cerca de metade do conteúdo relacionado ao genocídio judaico no Telegram é antissemita, enquanto aproximadamente 20% das mensagens no X sobre o tema apresenta distorções históricas. Isso representa um desafio educacional e, principalmente, uma ameaça à memória coletiva.
O relatório aponta diversos pontos preocupantes. Um deles são os chamados “deepfakes do Holocausto”, que são tecnologias que criam imagens e vídeos falsos com simulações com figuras como Adolf Hitler. Ou seja, o uso indevido dessas ferramentas pode alimentar um ambiente vasto e perigoso de desinformação e ódio na internet.
Para lidar com esses desafios, a organização recomenda uma regulamentação e diretrizes mais rigorosas por parte das empresas que desenvolvem e utilizam IA, além do reforço da educação em pensamento crítico, especialmente entre os jovens, que são a maioria dos usuários nessas plataformas. Museus e centros de arquivo são encorajados a digitalizar e disponibilizar materiais autênticos relacionados ao Holocausto, garantindo que as futuras gerações tenham acesso a fontes confiáveis de informação.
A Unesco ainda ressaltou a necessidade urgente de abordar essas questões éticas e educacionais. Segundo a instituição, caso não sejam tomadas medidas adequadas, há o risco real de que a distorção da história possa alimentar narrativas perigosas e prejudicar o entendimento humano sobre um dos períodos mais sombrios da humanidade.
Hoje, a inteligência artificial é usada em muitos segmentos, do consultório médico à geração de imagens, como uma pessoa para conversar até como alguém que possa dar Dicas e Estratégias de Poker para o usuário. Se a IA for utilizada de forma imprudente, o resultado pode ser devastador. A comunidade global, incluindo empresas de tecnologia, educadores e governos, precisa trabalhar em conjunto para garantir que a IA seja utilizada de maneira ética e responsável, preservando a integridade histórica e cultural de todo o mundo.
