O Poder e os Riscos da Inteligência Artificial

Tendo em conta que trabalhamos em tecnologia e vivemos num mundo tão acelerado, muitas vezes somos forçados a refletir sobre o impacto do desenvolvimento que vivenciamos atualmente. Há cinquenta anos, as pessoas nunca teriam imaginado que pudessem ligar aos seus amigos e familiares, tirar fotos ou enviar mensagens, tudo só com um telemóvel, sem falar da tecnologia inteligente que poderia eliminar o trabalho humano de várias maneiras e em diversas indústrias.
À primeira vista, parece impensável, mas os avanços e as notícias mais recentes mostraram-nos que o futuro é agora. Como é que alguém poderia imaginar, há 10 anos, que uma máquina conseguiria criar imagens e obras de arte realistas a partir de uma descrição em linguagem natural? No mínimo, teria soado surrealista. Mas hoje, não passa de mais uma notícia.

Como consegue uma máquina fazer isso? Não querendo desiludir, uma resposta completa para essa pergunta é extremamente complexa e dificilmente poderíamos explicá-la em detalhes num único artigo. Simplificando, a Inteligência Artificial (IA) permite que as máquinas aprendam com várias experiências e executem ações/tarefas semelhantes às humanas numa ampla variedade de contextos. É capaz de ter ouvido falar de computadores que jogam xadrez, da Alexa e Siri e de carros autónomos como exemplos bastante conhecidos de IA. Todos eles dependem do Deep Learning, que permite que os computadores sejam treinados para executar tarefas específicas, processando grandes quantidades de dados e detetando padrões nos mesmos.

Neste artigo, não vamos entrar em detalhes sobre o que é IA, pois já existe muito material de qualidade na Internet (e também já falamos um pouco sobre este tema no nosso blog). Em vez disso, gostaríamos de falar sobre os benefícios e riscos associados à Inteligência Artificial que excede a imaginação humana e o que isso pode significar para a humanidade.
Como de costume, vamos começar pelas coisas positivas.

O Poder da Inteligência Artificial

1 – As tarefas manuais podem ser automatizadas para que a IA possa executar tarefas frequentes e em grande escala de maneira computadorizada. Desta forma, poupa-se muito tempo, aumentando a qualidade do produto final.

2 – IA dá inteligência ao produto. A maioria dos produtos que conhece hoje podem ser aprimorados recorrendo à IA. Provavelmente, a Siri, que já usa e conhece há anos, foi significativamente melhorada há 3, 5 ou 7 anos. Os seus recursos de automação e conversação tornaram-se muito mais precisos. Isso também se aplica para muitos outros produtos/áreas, tais como câmaras inteligentes, inteligência de segurança, análise de investimentos e muitos outros. O white paper Global Artificial Intelligence Industry da Deloitte prevê que o mundo testemunhará $15,7 trilhões em crescimento do PIB, impulsionado pela IA até 2030. O documento descreve a aplicação da tecnologia IA nas principais cidades do mundo e as mudanças profundas que esta trará para os vários setores, tais como finanças, educação, governo digital, saúde, condução autónoma, retalho, manufatura e cidades inteligentes, quando atingir o estágio de comercialização. As aplicações de IA continuam a desenvolver-se nas organizações e setores, conforme ilustrado na figura abaixo.

(fonte: https://www.auditboard.com/blog/what-are-risks-artificial-intelligence/ )

3 – A IA tem o potencial de se adaptar usando algoritmos de aprendizagem progressiva. Os seus algoritmos adquirem capacidades através de estruturas e regularidades nos dados massivos aos quais têm acesso. Um algoritmo pode aprender a jogar diferentes jogos, recomendar-lhe produtos on-line com base nos seus gostos ou reconhecer instantaneamente uma ameaça em sua casa (segurança) ou na estrada (veículos autónomos). Pode fazer tudo isso graças à enorme quantidade de dados que consome e à medida que mais dados são recolhidos, a sua qualidade e precisão melhora. 

4 – A Inteligência Artificial analisa dados muito mais profundamente e penetra em camadas ocultas. Isso é muito útil quando se trata de detetar fraudes, o que parecia impossível anos atrás. Detetar fraudes num ambiente global e dinâmico com uma enorme quantidade de dados e tráfego para monitorizar é extremamente complexo. O uso da IA ​​para detetar fraudes permitiu que as organizações melhorassem a segurança interna, pois tornou possível prevenir com eficácia o crime financeiro. Atualmente, é possível analisar grandes volumes de transações ​​para descobrir tendências de fraude, o que pode levar à sua deteção em tempo real. Se houver suspeitas, os modelos de IA podem rejeitar completamente as transações ou sinalizá-las para uma investigação mais aprofundada.

5 – É incrível a precisão que a IA fornece ao usar redes neurais profundas. Olhe para as suas interações com a Alexa e Google. Sabia que ambos são baseados em Deep Learning? Já reparou que quanto mais os usa, mais precisos eles se tornam? Quando a medicina começou a incorporar a IA, ninguém imaginava (talvez apenas só nos seus sonhos) que agora seria possível detetar cancro em imagens médicas.

6 – Um pouco em continuação do ponto anterior: A IA na medicina usa modelos de Machine Learning para pesquisar dados médicos minuciosos e fornecer informações que facilitam o trabalho dos médicos. Graças aos atuais avanços, a IA entrou rapidamente no campo da saúde e tornou-se uma ferramenta fundamental para os profissionais da saúde na hora de tomar decisões sobre tratamentos, medicamentos e outras necessidades do paciente.

7 – Os dados isoladamente não significam nada, embora tenham um grande peso quando os algoritmos estão em autoaprendizagem. Os especialistas da área dirão que graças aos dados disponíveis, tem todas as respostas de que precisa. Tudo o que necessita de fazer é aplicar IA para encontrá-las. Como muitos já perceberam, atualmente os dados (data) têm enorme importância, pois são uma grande vantagem competitiva para as empresas. Num setor competitivo, os dados vencem quando tem a melhor e a maior quantidades deles.

8 – Usar IA e Machine Learning na sua empresa reduz significativamente a carga de trabalho dos seus funcionários e elimina processos desnecessários que atrasam o seu crescimento. Dessa forma, as empresas conseguem dar resposta a exigências em maior escala e com maior eficiência. Um exemplo disso é o Departamento de Inovação e Tecnologia de Illinois, que implementou IA nos seus processos durante o Covid. Tinham um chatbot que realizou mais de 20 milhões de conversas com agentes virtuais, com uma taxa de sucesso superior a 90%. Isto fez com que, num momento tão crítico como a pandemia, os colaboradores ficassem um pouco mais aliviados, permitindo às empresas usar os seus recursos humanos de forma mais eficaz.

É importante dizer que, à medida que os benefícios da IA ​​aumentam, também aumentam os riscos. Vamos lá explorar um pouco esse tópico.

Os Riscos da Inteligências Artificial

1 – Desenvolver uma máquina que simula e, por vezes, supera a inteligência humana tem um custo bastante elevado. Requer muito do seu tempo e recursos para garantir que tem a melhor IA.

2 – Infelizmente, muitos dos dados atualmente disponíveis tendem a ser tendenciosos em relação a homens, heterossexuais e caucasianos devido às injustiças sociais da nossa história. É importante que saibamos gerir e equilibrar os dados de uma maneira justa para que a nossa IA não se foque num género, orientação sexual, ou etnia. O preconceito em IA pode ser muito prejudicial para os seres humanos porque a IA pode tomar decisões importantes com base nos dados que possui que afetam se uma pessoa entra ou não numa boa escola, se obtém um empréstimo bancário ou se pode comprar uma casa. Num mundo justo, precisamos de treinar a IA para combater a discriminação contra as pessoas e não para aumentá-la.

3 – Algumas pessoas argumentam que a IA e Machine Learning carecem de criatividade. Pode aprender uma quantidade inimaginável de processos e informações, mas até agora não foi capaz de pensar fora da caixa. A abordagem que adota carece de toque humano porque depende apenas de dados previamente alimentados. 

4 – Uma das maiores preocupações discutidas pela maioria das pessoas em relação à IA é que ela substitui lentamente uma série de tarefas repetitivas por bots. Isto significa que nos próximos anos a necessidade da intervenção humana diminuirá bastante, levando à eliminação de muitos empregos. Verdade seja dita, em todas as fases da industrialização, as pessoas tiveram que aprender a adaptar-se às novas regras, e desta vez não será diferente (esperamos nós). O que preocupa as pessoas é que essa evolução acontece muito rápido, fazendo com que as pessoas não tenham oportunidade de se adaptarem à nova realidade com a rapidez que gostariam e tiveram outrora a oportunidade. Um estudo da McKinsey prevê que a IA substituirá pelo menos 30% do trabalho humano até 2030. Com isto, esperamos que novos empregos também sejam criados até lá.

5 – Embora a perda de empregos seja um dos problemas mais urgentes relacionado à evolução da IA, este é apenas um dos muitos riscos. Num artigo intitulado “The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation“, 26 investigadores de 14 instituições diferentes apresentaram uma lista de outras ameaças que poderiam causar sérios danos – ou pelo menos um pouco de caos – em menos de cinco anos. “O uso malicioso da IA pode ameaçar a segurança digital (por exemplo, elementos criminosos a treinar máquinas para hackear ou fazer engenharia social em níveis humanos ou sobre-humanos de desempenho), segurança física (por ex.: indivíduos não estatais armando drones de consumo) e segurança política (por ex.:, através da vigilância de privacidade, criação de perfis e repressão, ou através de campanhas de desinformação automatizadas e direcionadas).” Em termos de vigilância, não existe melhor exemplo do que o uso “orwelliano” da tecnologia de reconhecimento facial na China em escritórios, escolas ou outros locais públicos. Podemos apenas adivinhar se, algum dia, a IA parecerá uma troca justa por maior segurança, mesmo que seja nefastamente explorada por indivíduos mal-intencionados.
O mesmo vale para as chamadas falsificações de áudio e vídeo (deepfakes), resultantes da manipulação de voz e a aparência. Ao usar a IA, um clipe de áudio de qualquer político pode ser manipulado para fazer parecer que essa pessoa fez comentários racistas ou sexistas, quando, na verdade, não disse nada do género. Se a qualidade do clipe for boa o suficiente para enganar o público, ele pode destruir completamente a vida de uma pessoa, uma campanha política, colocando em risco a segurança global. Basta um sucesso. Depois disso, ninguém sabe o que é real ou não. Isso leva-nos a desconfiar dos nossos próprios instintos, e a não conseguir confiar no que pensávamos ser a melhor evidência possível no passado. E isso pode ser um grande problema.

6 – Tendo em conta que a IA automatiza tarefas monótonas e repetitivas, pode-se dizer que ela tem o poder de tornar as pessoas ainda mais preguiçosas do que o normalmente aceitável. Como tudo é automatizado, não é mais preciso resolver quebra-cabeças ou memorizar informações, o que significa que o nosso cérebro é usado cada vez menos. Essa facilidade pode ter efeitos negativos em gerações futuras. Por outro lado, pode ser uma vantagem oculta, pois eliminando tarefas repetitivas, as pessoas podem finalmente ter tempo e oportunidade para se dedicarem a tarefas mais criativas, sendo exatamente o que sabemos fazer de melhor enquanto humanos!

7 – A falta de transparência e algoritmos de caixa preta podem ser problemáticos. O principal objetivo dos sistemas de IA é fazer previsões e, como tal, os algoritmos podem ser tão imensamente complexos que mesmo aqueles que desenvolveram o algoritmo, não conseguem explicar exatamente como é que as variáveis ​ combinam para produzir a resultante previsão. Essa falta de transparência é o motivo pelo qual alguns algoritmos são chamados “caixas pretas” e por que os legisladores começam a explorar que medidas necessitam de ser implementadas. Por exemplo, se um cliente do banco X for rejeitado com base numa previsão de IA sobre a sua capacidade de crédito, as empresas correm o risco de não conseguirem explicar o motivo da sua recusa.

8 – E finalmente chegamos à questão pouco clara da responsabilidade legal. Tendo em conta os potenciais riscos da IA ​​discutidos até agora, essas preocupações levam à questão da responsabilidade legal. Se um sistema de IA é desenhado com algoritmos difusos e Machine Learning aprimora a sua própria tomada de decisão, quem é legalmente responsável pelo resultado? É a empresa, a equipa de desenvolvimento ou o sistema? Esse risco não é teórico – em 2018, um veículo autónomo atropelou e matou um pedestre. Nesse caso, o passageiro humano do carro estava desatento, sendo responsabilizado pela falha do sistema de IA. Levanta-se aqui o tópico da ética.

9 – Sempre que surge uma discussão sobre Inteligência Artificial, existe alguém que levanta a questão relativamente à ética e à moralidade. Essas são, de fato, características humanas muito importantes que são muito difíceis de incorporar na IA. À medida que a IA evolui, ela evolve numa direção imprevisível para nós (como mencionado anteriormente), pois perdemos o seu controlo e eventualmente apagamos as noções humanas. Quando o falecido físico, Stephen Hawking, visitou Portugal, ele mencionou que o impacto da IA ​​poderia ser desastroso, a menos que o seu rápido desenvolvimento fosse estrita e eticamente controlado.

“A menos que aprendamos a preparar-nos a evitar os potenciais riscos”, explicou ele, “a IA pode ser o pior evento da história da nossa civilização”.

Então…

Os riscos da Inteligência Artificial são significativos, mas o uso dessas tecnologias e o seu crescimento também são inevitáveis. (Alguns) dos benefícios que mencionamos neste artigo vão para além da possibilidade de uma tomada de decisão mais justa quando os algoritmos são treinados para evitar predisposições. É visível o seu enorme potencial na criação de um mundo mais justo, melhor e mais simples de se viver.
À medida que aprendemos mais sobre a Inteligência Artificial, devemos de prestar atenção aos principais recursos dos sistemas de IA:

– Os sistemas de IA devem incluir uma documentação de design clara
– Machine Learning deve incluir testes e aperfeiçoamento
– O controlo e a gestão da IA ​​devem ter precedência sobre os algoritmos e a eficiência

Todos nós, sem exceção, temos a responsabilidade de aprender mais sobre os riscos da IA ​​para garantir que ela não sai do nosso controlo. As questões e os problemas em torno da Inteligência Artificial não desaparecerão, e os riscos continuarão a crescer à medida que a tecnologia se torna mais avançada e omnipresente. As empresas que adotam os pontos acima mencionados serão mais capazes de gerir os riscos dos sistemas de IA que, de outra forma, poderiam ter consequências judiciais e reputacionais devastadoras.

É por isso que é fundamental ter uma equipa especializada para ajudá-lo a dar os primeiros passos na implementação de sistemas de IA na sua organização. Contacte-nos para mais informações. Teremos o maior gosto em ajudá-lo.

Nota: deixo um agradecimento especial ao meu colega, Pedro Oliveira, por ajudar-me com informações valiosas sobre este tema.