Opinião: E se a IA salvasse a vida de alguém que amas?

Por João Henriques (*)

Quando bem utilizada a IA poderá auxiliar e facilitar a nossa vida a níveis nunca antes alcançados. IA é uma das áreas que no futuro irá aumentar a produção e eficiência das nossas fábricas, melhorar os nossos serviços, auxiliar e aumentar os rastreios médicos, etc. Então a IA veio-nos substituir? Sim e não. Sim, vai substituir os humanos em muitas tarefas rotineiras, vai executá-las muito mais eficientemente e a um custo muito mais baixo. Não, porque vamos continuar a precisar de pessoas capazes de desempenhar papéis que requerem a nossa capacidade de tomada de decisão. Por exemplo, a agricultura não se deixou de fazer porque apareceram os tratores, nem o processo fabril, porque existem robots. É apenas a evolução natural da sociedade e da tecnologia.

Um ponto importante que é esquecido quando se fala sobre IA é que só usaremos tecnologia inteligente quando ela for suficiente estudada e segura. Independentemente das potencialidades da aplicação de sistemas de IA na medicina, por exemplo, só veremos aplicações a serem usadas com mais investimento se forem ultrapassados alguns desafios.

Construção de uma comunidade de investigação multidisciplinar

A importância da construção de comunidades multidisciplinares é fulcral, pois cada membro é especializado numa área e é a melhor pessoa para identificar problemas e auxiliar o processo de desenvolvimento. Ao juntarmos cientistas de dados, desenvolvedores de sistemas e especialista em dermatologia, por exemplo, poderíamos criar um sistema que auxilie os dermatologistas a identificar sinais críticos. Mas porque é que isto ainda não acontece na prática?

Atualmente, uma grande parte da investigação está centrada no desenvolvimento de métodos, em vez de implementar esses métodos na prática clínica. Os centros de investigações e empresas devem-se unir para encontrar vias eficazes de compreender a incerteza e validar as abordagens da IA, educando os utilizadores sobre os pontos fortes e fracos da tecnologia, e avaliando rigorosamente os seus benefícios em termos de resultados, experiência do paciente, e custos. Estes sistemas são 100% dependentes de dados que existem, mas que ainda não estão disponíveis para todos.

Acesso a dados de qualidade

O acesso a dados é por si só uma grande dificuldade, pois os dados são um ativo intangível valioso, mas um conjunto grande de dados, bem anotados, de qualidade e publicamente disponíveis, é claramente uma barreira significativa para a investigação e desenvolvimento de algoritmos de IA. Ter dados guardados em bases de dados sem ninguém poder trabalhá-los, é como ter dinheiro no banco sem estar aplicado – a longo prazo vamos estar a perder. A qualidade dos dados tem o poder de tornar os algoritmos mais precisos e reduzir a dependência de grandes quantidades de dados anotados, que podem não estar disponíveis.

Compreender o que é que a máquina vê

Um dos grandes desafios da IA, especificamente do Deep Learning (DL), é ser uma “caixa negra”, ou seja: não sabemos quais as variáveis que o algoritmo utilizou no seu processo de tomada de decisão. Por isso, precisamos de considerar cuidadosamente como é que os enviesamentos afetam os dados que estão a ser utilizados para desenvolver modelos. Tornar o processo transparente para cientistas, clínicos e pacientes é alcançado mostrando como é que os algoritmos chegam às suas decisões.

O que é que as empresas podem fazer?

As empresas podem investir mais em projetos de investigação e desenvolvimentos focados em inteligência artificial em parceria com institutos e centros de investigação académicos. O objetivo das empresas é criar produtos e serviços para gerar lucros e o dos institutos e centros é a descoberta científica que origine conhecimento, artigos, teses. Felizmente ambos os objetivos não entram em conflito, pelo contrário são uma excelente sinergia.

Na empresa onde trabalho começámos por um projeto com o objetivo de desenvolver um algoritmo capaz de identificar o grau de cegueira em pacientes diabéticos. A retinopatia diabética pode ser irreversível, pelo que é preciso monitorizar para não se deixar agravar. O nosso objetivo era desenvolver um sistema capaz de auxiliar os médicos no diagnóstico desta doença. Divulgar os projetos em que participamos aos nossos parceiros também nos trouxe mais-valias, ao aprendermos por exemplo que os cães e gatos sofrem da mesma patologia. Esta informação é muito valiosa, pois podemos alargar os conhecimentos adquiridos também ao mundo da medicina veterinária.

O sucesso da aplicabilidade dos modelos de IA, passa por apostar na qualidade dos dados, na comunicação e partilha de dados e informação, na implementação de práticas para a deteção e monitorização de enviesamentos, e ainda na medição e acompanhamento do desempenho destas aplicações no mundo real.

(*) Machine Learning Researcher – ADENTIS