Ementa:
De uma forma geral, a adoção de inovações deve sempre considerar os benefícios e os custos associados aos riscos delas decorrentes. A utilização da IA na medicina segue esta mesma regra, de modo que a responsabilidade civil dos médicos que se valem dos algoritmos para adotar decisões requer uma compreensão abrangente dos riscos e a implementação de medidas preventivas para garantir um uso seguro e ético da tecnologia na prática médica. Nesse contexto, o Dr. Geraldo e sua equipe de especialistas em Direito Digital devem analisar cuidadosamente essas medidas ao decidirem como proceder com a utilização da IA em sua clínica, garantindo assim eficácia do sistema e a segurança dos pacientes e da equipe médica.
Objetivo:
O caso proposto possui como objetivos: (i) desenvolver habilidades críticas relacionadas à responsabilidade civil diante dos riscos desconhecidos e do progresso da Inteligência Artificial na medicina; (ii) explorar conceitos de opacidade algorítmica e destacar sua relevância na tomada de decisões enfatizando a importância da transparência e explicabilidade nesse cenário; (iii) estimular a reflexão sobre o equilíbrio entre inovação e responsabilidade civil; (iv) promover o diálogo entre fontes normativas relevantes ao caso, como o Código Civil, Código de Defesa do Consumidor, LGPD e Marco Civil da Internet; (v) estimular o debate e a tomada de decisões em cenários complexos.
Dinâmica:
Após a divisão da turma, os dois comitês se reunirão para uma simulação de reunião, onde cada lado apresentará seus argumentos, pareceres e recomendações. Serão atribuídas as seguintes tarefas para cada comitê:
Comitê dos Advogados da Medical AI
- Elaborar um parecer que explora a responsabilidade da empresa de software pela opacidade das conclusões algorítmicas, erros e vieses na IA médica;
- Discutir as medidas preventivas que a empresa pode adotar para mitigar esses riscos.
- Apresentar argumentos a favor ou contra a continuação dos testes da IA médica na clínica.
Comitê de Advogados da Clínica (Especialistas em Ética e Direito):
- Elaborar um parecer que explora a responsabilidade civil dos médicos pelos riscos desconhecidos e os riscos do desenvolvimento da IA médica.
- Discutir os riscos aos quais os médicos estão sujeitos ao utilizar a IA.
- Propor medidas preventivas que podem ser adotadas pelos médicos para mitigar esses riscos.
