Reflexões Sobre Ia

Alguns dias tenho pensado sobre IA. Hoje, todo lugar que você vai, sempre vai ter algo assim: “Use este prompt para gerar isso”, “faça upload do seu currículo para aquilo”, “dê acesso ao mais novo agente que automatizará tudo”. Pode enviar e-mails para você, pode gerenciar sua vida, pode automatizar a busca de emprego para você. Tudo isso é de uma facilidade enorme no dia a dia que nos ajuda a otimizar nosso tempo. Eu mesmo uso a IA para tudo: desde o estudo de programação, no trabalho, para estudar idiomas e tais.

Mas veio-me a pergunta: até onde isso pode nos levar? Que tipo de consequência pode nos trazer?

Este artigo é mais um devaneio de alguém que admira a IA, mas que questiona um possível problema no futuro. Hoje, o que vemos é todo mundo se beneficiando, e se você perguntar a alguém sobre a IA, ela vai mostrar N razões pelas quais a IA é o futuro, mudou o mundo e vai mudar.

O problema que vejo é que ninguém fala do ônus; todos nós só falamos do bônus referente à IA, e isso me preocupa. Porque, como arquiteto, tenho em mente uma coisa: toda tecnologia que eu implemento, tenho que saber os seus trade-offs. Se eu não sei os seus trade-offs, eu não estou pronto para poder implementar essa tecnologia ainda.

Minha preocupação é essa centralização de dados do mundo todo. Pessoas enviam suas fotos para melhorar, pessoas criam prompts para criação de teste ou de sistema, pessoas enviam currículos, pessoas enviam resultados de exames para a IA ler. Com toda essa informação, vai-se gerando padrões de comportamento, padrões de saúde e muitos outros padrões.

Com esses algoritmos que nos ajudam, penso eu, pode ser o mesmo algoritmo que pode nos prejudicar. Um exemplo que pode ser gerado é a negação de um empréstimo bancário: com padrões que a gente envia — foto para a IA, pesquisas de passagens com IA, recomendação de lugares a serem visitados pela IA — tudo isso pode ser um dado superimportante para bancos. Podem gerar padrões de que aquela pessoa pode ser uma possível pessoa que não vai pagar o empréstimo, pois ela gasta muito dinheiro com coisas, o que pode ser um possível devedor.

Uma seguradora pode negar um seguro de vida para uma pessoa porque, nos seus registros médicos, exames que enviamos para a IA ler, ela cria padrões de que tal pessoa pode ter uma chance maior de desenvolver uma certa doença ou uma perspectiva de vida bem menor.

Isso, falando só de big techs e outras empresas que podem e vão usufruir disso, também governos de todo o mundo podem usufruir dessas informações. E nós todos sabemos que a história nos mostra que governo sempre acumulou informações dos seus cidadãos para melhor entender e ajustar a máquina estatal: em alguns pontos, para melhoria de determinada região, e outra maioria, usando essa informação para perseguir seus opositores. Isso pensando em um mundo sem IA, no qual governos e empresas necessitavam de mais trabalho humano para fazer essa análise dos dados. E agora, com a IA, que consegue analisar dados sem descanso, encontrando padrões. O que o futuro nos aguarda?

Essa é mesmo só uma reflexão que gostaria de compartilhar sobre o futuro da IA. Será que estamos nos expondo demais? Será que a solução é usar ferramentas que se dizem defender a privacidade dos nossos dados?

Talvez o maior risco da IA não seja o que ela faz por nós, mas o que ela passa a saber sobre nós.