Erro em texto desvia para o Mali milhões de emails confidenciais endereçados ao Pentágono
Julho 18, 2023UE quer que todas as consolas portáteis tenham baterias amovíveis até 2027
Julho 18, 2023Nos últimos meses as tecnologias de Inteligência Artificial têm dado saltos significativos mostrando as capacidades dos grandes modelos de linguagem de manterem conversações coerentes e dificeis de distinguir dos humanos, de criar imagens e vídeos com base em informação existente e acelerando o potencial que já era conhecido de machine learning. Ao mesmo tempo os receios estão também a aumentar, e o desenvolvimento de regras para a utilização responsável de IA pressupõe uma limitação ao tipo de informação que os sistemas usam para aprender, assim como a possibilidade de os fazer esquecer dados específicos.
O objetivo é garantir a privacidade da informação mas também limitar a amplificação de comportamentos desviantes, gerados por aprendizagem com modelos racistas por exemplo, e remover a influência desses dados, impedindo a dedução e inferência a partir deles.
O tema de “machine unlearning” é complexo e está a dominar algumas áreas de investigação, e foi lançado um desafio à comunidade para apresentar modelos que possam ser usados para fazer com que a IA esqueça determinado conjunto de informação e desaprenda o que tinha aprendido com ele.
O NeurIPS 2023 Machine Unlearning Challenge foi desenhado para colocar em prática novos modelos para fazer com que as redes neuronais com acesso a grandes bases de dados possam desaprender um determinado tipo de informação e tem a tarefa bem definida, com um kit inicial para quem se quiser lançar ao trabalho.
O desafio centra-se num cenário onde uma ferramenta de previsão da idade é construída a partir de imagens de rostos, e que depois de treinado algumas dessas imagens possam ser esquecidas para proteger a privacidade dos indivíduos.
créditos: NeurIPS 2023 Machine Unlearning Challenge
O kit fornecido pela competição tem exemplos de algoritmos para que os participantes possam fazer o seu próprio desenvolvimento e a competição arranca ainda este mês, decorrendo até setembro. Os participantes podem nessa altura fazer a submissão das suas propostas no Kaggle.
Na fase final os organizadores do desafio podem fazer análises adicionais e submeter algoritmos de desaprendizagem, com várias métricas e datasets. Os vencedores são revelados em outubro.
Pode saber mais sobre o NeurIPS 2023 Machine Unlearning Challenge no site da organização no GitHub.
