Necessidade de dados de saúde da inteligência artificial - como encontrar um equilíbrio ético
Com o tempo dos médicos escasso, uma área na qual as ferramentas orientadas por IA podem ajudar a transformar a assistência médica é aumentando a precisão do diagnóstico. As ferramentas de diagnóstico orientadas por IA , especialmente em áreas como cardiologia, têm o potencial de economizar dinheiro do sistema de saúde e, o mais importante, salvar vidas. Eles são desenvolvidos usando conjuntos de dados incompreensivelmente grandes e, portanto, podem descobrir padrões invisíveis ao olho humano.
Por exemplo, ferramentas baseadas em eco combinadas com informações clínicas profundas, aprendizado de máquina e alguns dos maiores conjuntos de dados de eco do mundo podem reduzir o diagnóstico incorreto de doenças cardíacas em mais de 50%.
Outro exemplo de onde a IA pode transformar a assistência médica é alimentar sequências de algoritmos de imagens de câncer, e elas podem ser treinadas para detectar cânceres nascentes mais cedo - neste estudo, 16% a mais do que os médicos humanos. No entanto, sem o conjunto de treinamento de mais de 200.000 pacientes, o algoritmo é inútil.
Para adoção ampla e implementação completa da IA na área da saúde, as soluções de IA baseadas em aprendizado profundo precisam acessar grandes quantidades de dados pessoais. Quanto mais dados disponíveis, mais precisamente os algoritmos de IA podem ser projetados e ajudar a salvar a vida dos pacientes. No entanto, os dados médicos necessários estão entre nossas informações mais sensíveis.
Um relatório da Academy of Medical Royal Collages sobre o uso da inteligência artificial na área da saúde resume bem esta questão: “O governo do Reino Unido e seus sistemas de assistência social e de saúde têm o dever legal de manter a privacidade e a confidencialidade de seus cidadãos… No entanto, o desenvolvimento de algoritmos de IA e aprendizado de máquina depende do uso de grandes conjuntos de dados ".
Coletivamente, existe um imenso benefício para todos, permitindo que seus dados sejam acessados para o desenvolvimento de soluções de IA na área da saúde, mas os indivíduos relutam em revelar seus dados. Não é de surpreender em uma era de dados comoditizados, em que empresas como o Facebook e o Google oferecem serviços gratuitos em troca de informações pessoais, e onde vazamentos sérios enfrentam repercussões relativamente mornas.
As pessoas estão legitimamente preocupadas com as manchetes sobre a privacidade de dados de saúde. Recentemente, o NHS entrou em conflito com a equipe do Google DeepMind pelo uso de dados de pacientes . Os dois se chocaram com a falta de transparência e o tratamento de dados do DeepMind em milhões de indivíduos. O DeepMind acessou mais dados do que publicamente declararam a necessidade, mas não mais do que legalmente permitido, deixando-os em uma área cinzenta de privacidade de dados.
Então, como equilibramos as preocupações com a necessidade de quantidades substanciais de dados e ainda respeitamos a privacidade do paciente?
Acessando dados
Hoje, é inteiramente possível acessar dados sem violar o código de conduta do NHS, obtendo o consentimento do paciente por órgãos acadêmicos como parte de um ensaio clínico. Cada paciente concede permissão prospectivamente para o uso comercial de seus dados, e as empresas que desenvolvem essas tecnologias podem usá-los sem que haja problemas éticos.
O maior problema que estamos enfrentando agora é como as empresas podem usar retrospectivamente os dados do paciente e obter consentimento retroativo. Como resultado, o NHS está trabalhando na alteração de seu código de conduta para, esperançosamente, convencer mais pessoas a compartilhar seus dados para resolver esse problema.
Conscientização
A melhor maneira de convencer as pessoas a querer compartilhar seus dados é gerando uma maior conscientização sobre os desenvolvimentos da tecnologia de IA. A ideia de IA de muitas pessoas é abstrata na melhor das hipóteses, e na pior das hipóteses é a concepção de um supercomputador malévolo. Na realidade, a IA se manifestará simplesmente como um software mais inteligente sendo executado em segundo plano, oferecendo informações mais precisas para o praticante humano.
Os ensaios em andamento usando a estrutura ética existente continuam a fundamentar o uso de dados para o treinamento em IA, e uma maior exposição de pacientes céticos à tecnologia médica baseada em IA melhorará a percepção dessa tecnologia à medida que ela se torna cada vez mais difundida.
A maioria das pessoas não se preocupa com o uso de seus dados para o desenvolvimento de tecnologias que salvam vidas, mas com o fato de as empresas ganharem dinheiro com seus dados. Um passo essencial aqui é conscientizar os pacientes sobre as empresas que estão retornando suas inovações de volta ao NHS gratuitamente, pois isso também ajuda a desenvolver a confiança em relação à privacidade dos dados.
Acreditamos que a maioria dos pacientes concordará com o uso de seus dados se entenderem completamente a situação: que eles contribuirão para avançar os cuidados de saúde e melhorar os resultados para outros pacientes.
Desafios em andamento
Como em qualquer tecnologia revolucionária, a IA enfrenta questões éticas novas e interessantes, além da questão do tratamento de dados discutida aqui. Por exemplo, como decidimos a quem favorecer quando a IA e o médico discordam? Outra preocupação ética é melhorar a IA à medida que ela chega aos hospitais. Como você treina um modelo de IA continuamente se a atualização contínua de seus dados corre o risco de inserir dados ruins e degradar sua qualidade? Ferramentas algorítmicas que estão melhorando e mudando dinamicamente exigirão claramente novas considerações.
As ferramentas baseadas em IA já estão salvando vidas. Para continuar a desenvolvê-los, no entanto, é necessário acesso a mais dados do paciente. A elaboração de como distribuir e manipular essas informações de forma responsável exige que se repense as suposições atuais sobre privacidade de dados.
Em última análise, a percepção do público é a chave. Para que os projetos de IA sejam bem-sucedidos, precisamos continuar incentivando os pacientes a compartilhar suas informações e educando-os sobre os benefícios de fazê-lo. Precisamos transformar nosso foco em ações significativas - este é o próximo passo na adoção generalizada da IA na área da saúde.
Sobre Ross Upton
Ross Upton é o CEO e co-fundador acadêmico da Ultromics - uma startup focada em trazer os benefícios da IA para apoiar os médicos no diagnóstico de doenças cardiovasculares, a maior causa de morte no mundo. Está desenvolvendo uma ferramenta baseada em eco, combinando uma profunda visão clínica com aprendizado de máquina e alguns dos maiores conjuntos de dados de eco do mundo para ajudar os clínicos em seus diagnósticos, sem interromper o fluxo de trabalho.
0 comentários: