5 pontos negativos e perigos da IA

Nem todos os riscos relacionados às Inteligências Artificiais são tão dramáticos quanto robôs assassinos pós-apocalípticos dominando o mundo, mas as questões atuais são tão preocupantes quanto. Desde problemas de privacidade do consumidor até roubo de propriedade intelectual, a IA está cada dia mais relacionada ao crime.

1. IA é capaz de promover manipulação social e política

Especialistas de ciência do crime de Oxford alertaram que, mesmo quando as AIs não são utilizadas de forma maliciosa, elas podem espalhar informações falsas e manipular o comportamento humano. 

Uma inteligência artificial aprende, de modo geral, com as informações colocadas na sua base de dados, e com a interação com os usuários. Isso significa que as informações falsas – ou erradas, disseminadas pelos usuários, podem alterar a forma como uma IA responde, já que elas não têm capacidade de pensamento crítico ou contextualização.

Vazamento de dados do Facebook. Foto: Glen Carrie/Unsplash

Um exemplo da manipulação política através de algoritmos é o caso da Cambridge Analytica, empresa de assessoria política, e outros associados à empresa, que utilizaram os dados de 50 milhões de usuários do Facebook para tentar influenciar o resultado das eleições presidenciais de 2016 nos EUA, e obtiveram o resultado desejado. 

Ao se declarar culpada em 2019, a Cambridge Analytica ilustrou perfeitamente o poder de manipulação da IA: ao divulgar propaganda para indivíduos identificados através de algoritmos e dados pessoais, a IA pode direcioná-los às informações que mais lhes convém, sejam elas fato ou ficção.

O software Replika, por sua vez, um chatbot destinado a servir como amigo artificial, precisou fazer mudanças na plataforma depois que alguns usuários relataram que a IA estava se tornando agressivamente sexual. Nem todos os usuários ficaram satisfeitos com a decisão da empresa, alguns deles viam seu relacionamento com a AI como algo romântico, e relataram sintomas de depressão depois que a IA começou a recusar suas investidas românticas.

Joaquim Pheonix em Her, filme de Spike Jonze. Foto: reprodução/Annapurna Pictures

2. IA tem problemas de privacidade e vazamento de dados

Uma das maiores preocupações que os especialistas citam tem relação à privacidade, segurança e dados dos usuários. Muitas empresas já contornam as violações de privacidade de dados com suas práticas de coleta e uso, gerando a preocupação de que isso possa aumentar à medida que a utilização de IA se torna mais comum.

Pesquisadores perceberam que os avanços na IA são, em grande parte, acompanhados de falhas no cumprimento da legislação e na implementação da privacidade do usuário; Segundo a universidade de Chicago, muitas vezes é difícil descobrir qual a real prática de uso dos dados, e ainda mais difícil corrigir os danos causados ao consumidor por uma política de dados deturpada.

3. Inteligência Artificial é enviesada e parcial

Em termos gerais, o viés cognitivo é um padrão de pensamento baseado em pré concepções – muitas vezes discriminatórias, sejam elas conscientes ou inconscientes ao indivíduo. Como a IA é criada por seres humanos, ela não está livre de preconceitos; programadores podem criar um algoritmo a partir de seu próprio viés, mesmo que ele não seja reflexo da verdade.

Programador. Foto: Charlesdeluvio/Unsplash

Como mencionado, os sistemas de IA aprendem com dados de treinamento, portanto, a IA é tão imparcial quanto os dados e as pessoas que treinam os programas, e não são imunes a informações erradas, nem mesmo quando o quesito é representação de desigualdades históricas ou sociais. Em suma, se os dados usados na alimentação do sistema foram imparciais, tendenciosos ou factualmente errados, a IA também será tendenciosa, imparcial e errônea.

4. IA promove desvalorização e roubo de Arte

Segundo seu conceito básico, a Arte é uma expressão da subjetividade humana, um trabalho único e criativo que retrata experiências reais em um movimento que interpreta o mundo, criando uma reflexão sobre a pluralidade.

Independente do formato, quadros, desenhos, música, literatura ou outros tipos textuais, a “arte” feita por IA não pode ser considerada Arte, pois simplesmente lhe falta humanidade, emoção e a habilidade de construção de significado, intrínsecas para criação artística.

Pessoa observando quadros em um museu. Foto: Zalfa Imani/Unsplash

Ainda assim, para além da questão filosófica do significado de Arte, o conteúdo puramente estético entregue por uma IA é conveniente e chamativo, os frutos podem ser colhidos em questão de minutos e, muitas vezes, de maneira gratuita. 

Entretanto, aplicativos como a Lensa trouxeram outras discussões à mesa, como a ética de criar imagens com modelos de IA treinados através da coleta e combinação de obras originais publicadas na internet. Essa coleta é feita de maneira automática e independe do conhecimento ou permissão do artista cuja arte está sendo utilizada. Essencialmente, empresas de IA estão roubando de artistas reais e lucrando com seu trabalho, emulando estilos e técnicas de quem trabalha na área. 

5. IA é usada para nudez não-consensual e pornografia infantil 

As imagens criadas por IA também perpetuam os padrões ocidentais de beleza e magreza, e tem a tendência de criar imagens sexualizadas de mulheres, com seios volumosos, pele clara e cinturas finas. Pessoas negras, por exemplo, denunciaram que diversos aspectos físicos como olhos, boca, e cor da pele alterados para compactuar com esses padrões.

Vítimas de violência sexual virtual ainda buscam por justiça. Foto: Lorna Scubelek/Unsplash

Além da representação tendenciosa, imagens sexualizadas de celebridades geradas por IA já são comuns, com filmes pornográficos inteiros feitos com deep-fake. Também é fácil para usuários criarem nudes de pessoas comuns, sem seu consentimento ou conhecimento. 

Denúncias de produção de pornografia infantil criada por IA estão surgindo com tanta frequência que países como Espanha, EUA e Austrália estão discutindo novas legislações de proteção à crianças e adolescentes.

O uso de Inteligência Artificial claramente não se resume aos seus malefícios, mas a falta de responsabilização pela miríade de crimes relacionados a essa tecnologia já está sendo repensada, internacionalmente, como prioridade na regulamentação.