O Garante da Privacidade Italiano estabeleceu um decálogo para a implementação de serviços de saúde em nível nacional por meio de sistemas de inteligência artificial (IA). Transparência nos processos decisórios, decisões automatizadas supervisionadas por humanos e não discriminação algorítmica são os três princípios fundamentais destacados pela Autoridade com base no Regulamento e à luz da jurisprudência do Conselho de Estado.
De acordo com as diretrizes da Autoridade, o paciente deve ter o direito de saber, também por meio de campanhas de comunicação, se existem e quais são os processos decisórios (por exemplo, em clínica ou política de saúde) baseados em tratamentos automatizados feitos com ferramentas de IA e receber informações claras sobre a lógica usada para tomar essas decisões.
O processo decisório deve incluir supervisão humana, permitindo que os profissionais de saúde verifiquem, validem ou refutem o processamento realizado pelas ferramentas de IA. É essencial que os responsáveis pelo tratamento usem sistemas de IA confiáveis que minimizem erros devido a causas tecnológicas ou humanas e verifiquem regularmente sua eficácia.
A Autoridade enfatiza que dados desatualizados ou imprecisos podem afetar a eficácia e precisão dos serviços que os sistemas de IA pretendem oferecer. Atenção especial foi dada à adequação da base legal para o uso da IA. O tratamento de dados de saúde através da IA, realizado por razões de interesse público em saúde, deve ser previsto por um quadro legal específico.
Respeitando o quadro legal, a Autoridade também destacou a necessidade de uma avaliação de impacto antes de processar dados de saúde por meio de sistemas nacionais de IA.
Na descrição dos tratamentos, é essencial que sejam claramente indicadas as lógicas algorítmicas usadas para "gerar" os dados e os serviços, as métricas usadas para treinar o modelo e os controles realizados para verificar a presença de possíveis vieses.
O Decálogo está disponível no site da Autoridade.
Com informações - Federprivacy
