O universo do Direito na evolução digital embasa Simpósio na OAB SP

Tweet


09/08/2019

06.08.2019 - I Simpósio de Direito Digital

Pesquisar compras na Internet, utilizar um aplicativo no celular ou mesmo permitir o cadastro do CPF para descontos em farmácias, são atos corriqueiros do dia a dia, mas que possuem implicações ainda não tão conhecidas pela maior parte das pessoas. Para jogar luz sobre os meandros da inteligência artificial, algoritmos e do uso de dados pessoais, a Seção São Paulo da Ordem dos Advogados do Brasil, através da sua Comissão de Direito Digital, organizou o I Simpósio de Direito Digital (06 e 07/08).

Auditório da sede institucional abrigou a advocacia e operadores do Direito durante o evento, que teve como foco quatro temáticas: o desenvolvimento da inteligência artificial no universo do Direito, Lei Geral de Proteção de Dados Pessoais (LGPD) e ainda o Direito Civil e Penal Informático. Com a proposta de trazer temas novos para o debate, o presidente da Comissão de Direito Digital, Spencer Sydow observa que os temas escolhidos são pouco abordados atualmente, seja por ausência de legislação ou de pesquisas.

Pesquisador em inteligência artificial e doutorando pela Universidade de São Paulo (USP), Enrico Roberto inaugurou a programação com a primeira palestra sobre os desafios legais da inteligência artificial e a responsabilidade civil da proteção de dados. Com ferramentas cada vez mais desenvolvidas, a vida humana está cercada por inteligência artificial (IA), que basicamente é uma disciplina com aportes da computação, neurociência, filosofia e outros campos, cujo objeto é a construção de sistemas computacionais inteligentes.

O pesquisador explica que a IA se define pela capacidade de se adaptar a novas situações e mudanças de circunstâncias a partir de uma base de treinamento: “Você apresenta determinada situação para o algoritmo, que entende os padrões e os busca para outras situações, ou seja, age de forma autônoma a partir do treinamento. Essa definição é exatamente a forma dessa técnica específica de IA, que mais tem sido utilizada, que é o machine learning, a capacidade de autoaprendizagem da inteligência artificial”, disse.

Demonstrando os efeitos e impactos na realidade, Enrico apresentou situações como o caso da Tay, robô inteligente projetado pela Microsoft para aprender com os usuários nas conversas do Twitter. Em menos de 24 horas, a robô foi desativada por fazer apologia ao nazismo. Este é algum dos muitos exemplos que demonstram o que diversos estudiosos têm apontado. Estudo da Universidade de Virgínia indica que a inteligência artificial não evita erros humanos derivados de seus preconceitos e pode piorar a discriminação, reforçando estereótipos.

Caso demonstrado através da comprovação da ProPublica, que descobriu que um programa usado na Justiça dos Estados Unidos para prevenir a reincidência dos presos era racista. “Se existirem padrões de raça e de gêneros nos dados que estão sendo alimentados pelos algoritmos, isso repercutirá nos resultados. É preciso cautela no desenvolvimento e na interpretação dos dados desses algoritmos para ver o quanto eles estão reproduzindo e potencializando esses padrões sociais”, observa o pesquisador.

O desafio legal é pensar nas responsabilizações objetivas e subjetivas, bem como no nexo causal, ressalta Enrico. “Em muitos casos é possível aplicar de forma análogas a leis que já existem, mas pensar em algo novo é inegável”, pontua. Experiências em Nova York, no Reino Unido e na Alemanha, evidenciam a crescente necessidade de regulamentar o uso da inteligência artificial, através de projetos de lei que preveem maior transparência para os algoritmos ou até mesmo a exigência de seguro obrigatório por parte das empresas.

Lei Geral de Proteção de Dados
“Em uma sociedade movida a dados, nós somos os nossos dados”, assim o professor e doutor, Renato Leite Monteiro definiu a importância e relação com os dados pessoais, considerados, atualmente, como o novo petróleo. Apesar de ter sido aprovada recentemente e só vigorar a partir de 2020, a LGPD não é uma lei nova, pois tem sido debatida desde 2010. Tampouco se trata de uma lei sobre Internet. É uma lei que se aplica no online e off-line, privado e público, e até sobre dados corporativos. É a lei que regulamenta o tratamento de dado pessoal: coleta, consulta, alteração. Contudo, não havia hiato legislativo acerca do uso de dados pessoais, pois existem mais de 50 normativas regulamentando a questão, como na própria Constituição, no Código Civil, Código do Consumidor, Lei do Cadastro Positivo, Marco Civil da Internet, entre outras: “O papel da LGPD foi juntar esse quebra-cabeça de normas, harmonizar esse plexo regulatório a fim de trazer maior segurança jurídica para o uso de dados”, enfatiza.

Mas o que é dado pessoal? O professor destaca que é toda e qualquer informação que pode permitir a identificação de alguém ou individualizar uma pessoa mesmo que não se saiba quem é. “Não é só o nome, RG, CPF, endereço, nada disso. Dizem que a LGPD é a ‘law of everything’ (a lei de todas as coisas - tradução livre). Tudo pode ser considerado dado pessoal”, destaca. “Quando falamos de proteção de dados pessoais não falamos de privacidade. A Lei Geral de Proteção de Dados não protege privacidade, protege direitos e liberdades fundamentais: direito à saúde, direito ao pleno emprego, direito à moradia, direito à educação, direito à liberdade de expressão, direito de associação, e entre eles, direito à privacidade. Falamos aqui do substrato da forma em que convivemos em sociedade, os dados pessoais são uma representação nossa”, explica.

Conforme a LGPD, além do consentimento, as bases legais previstas para a coleta, tratamento, compartilhamento e armazenamento do uso de dados, são: execução de contratos, legítimo interesse, processo judicial, proteção à vida, pesquisa por órgão, política pública, tutela de saúde, obrigação legal e proteção ao crédito. Do outro lado da ponta, o titular tem direito a acesso, retificação, oposição, explicação, cancelamento, portabilidade e revisão de decisões automatizadas. Apesar da maior flexibilização advinda da LGPD, tendo em vista que o legítimo interesse pode englobar desde marketing ao monitoramento de empregados, os dados sensíveis de saúde e adolescentes possuem sistemas e consentimentos mais rígidos.

Se os dados são uma representação pessoal de cada indivíduo, Renato alerta para a oferta inconsciente dos mesmos. É o ato de entregar o CPF para cadastros em lojas mediante o desconto ou para a recorrente justificativa de “o sistema solicita”. Um emblemático exemplo é o caso da rede de farmácias Araújo, multada em R$7.930.801,72 – o maior valor já aplicado no mundo – pelo Ministério Público de Mingas Gerais, por condicionar descontos ao fornecimento do CPF do consumidor no ato da compra, sem oferecer informação clara e adequada sobre abertura de cadastro. A segurança das informações e o sigilo dos bancos de dados foram questionados pelo órgão. Estes dados podem alimentar sistemas de diferentes empresas e instituições, prejudicando os cidadãos, como outro exemplo citado pelo professor, referente a uma mulher que não foi contratada para uma vaga de trabalho por ter comprado um teste de gravidez na farmácia dias antes.

As discussões apontam para a necessidade de uma reflexão aprofundada sobre estes impactos na vida em sociedade. A responsabilidade humana perante os algoritmos e a determinação dos mesmos sobre o destino dos indivíduos, a concessão e o uso dos dados pessoais sem critérios, e os efeitos destas tecnologias e informações sobre a realidade, são questões prementes que devem ser ventiladas e debatidas. Até os atos mais corriqueiros precisam estar revestidos de proteção aos direitos e liberdades individuais. Uma dica do professor para evitar a concessão involuntária dos dados é: leia os termos de uso, afinal, não há justificativa para um aplicativo de lanterna, instalado no celular, acessar as suas fotos.

Campo em franca evolução, o meio digital pede acompanhamento constante pelos operadores do Direito. Para se atualizar sobre as principais inovações jurídicas a respeito, a discussão completa do simpósio está disponível no canal do YouTube da OAB SP: