OMS alerta para regulação da inteligência artificial na saúde
A rápida implementação de tecnologias de inteligência artificial no setor saúde é o foco de uma nova publicação da Organização Mundial da Saúde, OMS. A agência aponta preocupação com a atual falta de compreensão sobre benefícios ou prejuízos aos usuários finais, incluindo profissionais de saúde e pacientes.
Lançado nesta quinta-feira, o relatório “Considerações Regulatórias sobre o Uso de Inteligência Artificial na Saúde” enfatiza a importância de estabelecer a segurança e a eficácia dos sistemas de IA, para que sejam disponibilizados de forma apropriada para quem precisa.
Risco de coleta de dados antiética
Dentre as vantagens da nova tecnologia estão a identificação de potenciais novos medicamentos, aceleração de pesquisas clínicas e a prevenção e previsão de doenças e riscos.
Por outro lado, ao usar dados de saúde, os sistemas de IA podem ter acesso a informações pessoais sensíveis. Por isso, a OMS defende a criação de estruturas legais e regulatórias robustas para proteger a privacidade, a segurança e a integridade dos pacientes.
O diretor-geral da OMS, Tedros Ghebreyesus, disse que "a inteligência artificial é uma grande promessa para a saúde, mas também vem com sérios desafios, incluindo coleta de dados antiética, ameaças de segurança cibernética e amplificação de vieses ou desinformação".
Segundo ele, a nova orientação da OMS apoiará os países “a regular a IA de forma eficaz, a aproveitar o seu potencial, seja no tratamento do câncer ou no diagnóstico da tuberculose, minimizando os riscos."
Medicina personalizada
A agência de saúde da ONU enfatiza que os cuidados estão se tornando mais centrados no paciente, com abordagens personalizadas para a tomada de decisões.
Com base nesta tendência, o uso positivo da IA pode melhorar o bem-estar das pessoas e da população, trazendo mais educação e envolvimento dos pacientes e adesão à medicação, contribuindo com a gestão de doenças, numa abordagem que reforça a individualização e personalização dos cuidados.
Com regulações mais claras, a OMS espera que a nova tecnologia contribua para melhorar o diagnóstico médico e complementar os conhecimentos, habilidades e competências dos profissionais de saúde.
Por exemplo, a IA pode ser benéfica em ambientes com falta de especialistas médicos, na interpretação de exames de retina e imagens radiológicas, dentre muitas outras possibilidades.
Seis áreas de regulação
Em resposta às crescentes necessidades dos países de gerenciar com responsabilidade o rápido aumento das tecnologias de saúde baseadas em IA, a publicação descreve seis áreas para a regulação.
São elas: documentação transparente do ciclo de vida dos produtos desde o desenvolvimento, gestão de riscos, validação externa de dados, qualidade de dados, proteção da privacidade e colaboração entre todas as partes interessadas, incluindo pacientes e profissionais de saúde.
A OMS ressalta que os sistemas de IA são complexos e dependem não apenas do código com o qual são construídos, mas também dos dados em que são treinados, que vêm de configurações clínicas e interações do usuário, por exemplo.
Representatividade de gênero, raça e etnia
A regulamentação pode ajudar a gerenciar os riscos de a IA amplificar vieses nos dados de treinamento. Por exemplo, pode ser difícil para os modelos de IA representar com precisão a diversidade das populações, levando a vieses, imprecisões ou mesmo falhas.
Para ajudar a mitigar esses riscos, as regulamentações podem ser usadas para garantir que os atributos como gênero, raça e etnia das pessoas apresentadas nos dados de treinamento sejam relatados e os conjuntos de dados sejam intencionalmente tornados representativos.
A nova publicação da OMS visa delinear os princípios-chave que os governos e as autoridades reguladoras podem seguir para desenvolver novas orientações ou adaptar as orientações existentes sobre IA a nível nacional ou regional.
.....................................................
Fonte: ONU News
Imagem: Unsplash/Steve Johnson