Pesquisadores do Instituto Metrópole Digital (IMD/UFRN) participaram, no decorrer deste mês, de uma série de eventos científicos internacionais para discutir e apresentar pesquisas em segurança cibernética, confiança em sistemas de Inteligência Artificial (IA), regulamentação tecnológica e aplicação dessa tecnologia em sistemas críticos da área da Saúde.

Os encontros, que reuniram professores e pesquisadores de pós-graduação, aconteceram na Itália e na Grécia, além de uma visita acadêmica à Alemanha. Entre os trabalhos apresentados está um estudo na área de confiança e interação entre usuários e sistemas de Inteligência Artificial aplicados à saúde.

Desenvolvida pelo professor do IMD César Rennó-Costa e pela doutoranda Luana Alvarenga, do Programa de Pós-Graduação em Bioinformática (PPgBioinfo/IMD), a pesquisa foi aceita para apresentação no workshop Security, Human Awareness, and Risk Mitigation in AI-driven Systems (SHIELD-AI), realizado em Nápoles, na Itália, no âmbito da Conferência Europeia sobre Princípios de Aprendizado de Máquina e Prática de Descoberta de Conhecimento em Bancos de Dados (ECML PKDD).

O trabalho propõe uma metodologia de engenharia de software voltada à calibração da confiança de usuários em sistemas de IA utilizados em contextos clínicos. 

De acordo com o docente do IMD César Rennó-Costa, um dos aspectos centrais do trabalho é “que a explicabilidade tem um peso essencial na confiança do usuário e desenvolver uma linguagem padronizada, enraizada em aspectos técnicos, é fundamental para o sucesso e a segurança dessas ferramentas”.

O estudo estabelece relações entre o emprego de sistemas de IA em setores críticos e altamente regulados, como saúde e setor bancário, e metodologias utilizadas para avaliar aspectos cognitivos dos usuários.

A pesquisa é desenvolvida em parceria entre a UFRN, o Instituto de Ciência e Tecnologia do Itaú (ICTi) e a Fundação Norte-Rio-Grandense de Pesquisa e Cultura (Funpec), com participação do professor Renan Moioli, do IMD, e de pesquisadores do ICTi.

Saúde

Na Grécia, por sua vez, os pesquisadores participaram do Congresso IEEE CIBCB, realizado em Atenas. O evento, voltado à aplicação de técnicas computacionais em Bioinformática e Biomedicina, também foi espaço para discussões relacionadas ao desenvolvimento e à regulamentação de tecnologias aplicadas à Saúde.

Durante a conferência, César Rennó-Costa apresentou perspectivas relacionadas à construção do Centro Nacional de Dados e IA da Rede Ebserh/HU, projeto liderado pelo IMD. A iniciativa envolve a utilização de infraestrutura de dados e tecnologias inteligentes voltadas ao contexto dos Hospitais Universitários da Empresa Brasileira de Serviços Hospitalares (Ebserh).

A programação da missão internacional incluiu ainda uma visita ao Instituto de Informática Médica da Universidade de Münster, na Alemanha. Na instituição, os pesquisadores conheceram iniciativas relacionadas à implementação de sistemas de IA considerados críticos no ecossistema de saúde alemão, além de estratégias de governança e compartilhamento centralizado de dados.

A atividade contou com a participação do professor Renan Moioli, que atualmente realiza uma missão internacional na Alemanha com financiamento da Fundação Alexander von Humboldt.

Desenvolvimento de pesquisas

Para César Rennó-Costa, o contato com pesquisadores de diferentes instituições contribui para a avaliação e o desenvolvimento das pesquisas realizadas na UFRN.

“A participação nesses eventos é essencial para validar nossas pesquisas junto a especialistas internacionais. Isso nos permite colher avaliações fundamentais para calibrar os rumos do estudo, obter novas ideias e estabelecer contatos que abrirão perspectivas para novos projetos”, afirma.

Para a doutoranda Luana Alvarenga, a participação nos eventos também contribuiu para sua formação acadêmica e para o aprimoramento do trabalho desenvolvido. 

“Estes eventos internacionais nos permitem entrar em contato com diferentes pesquisadores que enfrentam problemas semelhantes e desenvolvem soluções diversas. A exposição do nosso trabalho foi uma experiência muito positiva, que nos dá segurança sobre aspectos da nossa pesquisa, além de nos mostrar caminhos para melhorias”, destaca.

A missão internacional contou com financiamento do ICTi, por meio da colaboração com a Funpec e a UFRN, além de apoio da Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES).