Hoje a inteligência artificial permite aumentar a performance de produtos, otimizar a operação interna, deixar os colaboradores mais livres para tarefas criativas, tomar decisões melhores, reduzir o head count. No entanto, o que a princípio parece trazer apenas benefícios pode gerar enormes transtornos se não for feito de maneira adequada, mitigando os riscos jurídicos.

Segundo Tarleton Gillespie (pesquisador-chefe da Microsoft Research New England, professor Associado adjunto na Cornell University dos EUA), a inteligência artificial consiste em procedimentos codificados que transformam dados de entrada em resultados desejados, num entendimento comum. Trata-se de um sistema que vai além da programação tradicional, tomando decisões sem interferência a partir de padrões identificados em bancos de dados. Ocorre que o conceito engloba diversas tecnologias distintas que atuam de forma diferente.

Dentro da definição de inteligência artificial está, por exemplo, o RPA (Robotic Process Automation), bots que automatizam tarefas digitais e físicas, comumente utilizados em funções administrativas e financeiras, tais como transferência de informações de call centers para outros sistemas, atualização de dados e cobrança de clientes e fornecedores. São os sistemas menos caros no mundo da inteligência artificial e, em geral, os mais fáceis de implementar, resultando a otimização de toda a operação.

Também estão englobados dentro do conceito de inteligência artificial os Assistentes Virtuais e Atendimento Automatizado, com o uso de linguagem natural para engajar colaboradores e clientes, como no caso de chatbots em intranets, suporte técnico e serviços de recomendação. Assim como o Deep Learning, algoritmos que detectam padrões em bases de dados volumosas e interpretam esses padrões. Permitem, por exemplo, prever o que um consumidor está mais apto a adquirir e identifica fraudes em tempo real. Por fim, há sistemas que combinam tecnologias distintas.

No entanto, cada uma dessas tecnologias ou, até mesmo, tecnologias combinadas exigem cuidados gerais, mas também um planejamento específico para mitigação de riscos. Se por um lado os RPAs são mais transparentes, mas não aprendem e não improvisam, já os sistemas cognitivos não são tão explicáveis, o que em setores mais regulados, pode gerar maiores ônus.

Além disso, é importante ressaltar que a maioria dos projetos relacionados à inteligência artificial dentro das empresas tem sido classificada como altamente sigilosa, o que também pode comprometer a mitigação dos riscos. Vale, ademais, considerar como fator dificultador da mitigação desses riscos a complexidade e demora na implementação dos processos, mesmo os classificados como mais simples tem tido atraso de alguns meses na implementação.

Há algumas questões gerais que vão permear a contratação/desenvolvimento de qualquer inteligência artificial ou software:

  • Há quem irá pertencer a tecnologia?
  • Posteriormente, será possível sair do negócio sem parar a operação?
  • Como será a responsabilidade caso um erro ocorra?
  • O processo poderá ser ajustado durante a execução?
  • A limitação de acessos ao sistema poderá prejudicar a operação?
  • Qual a velocidade de processamento?
  • Qual o SLA de atendimento?
  • A infraestrutura suporta esse novo sistema?
  • Foram consideradas questões de proteção de dados e segurança da informação?

Há de se considerar, porém, que algumas questões a serem observadas dependem do tipo de tecnologia que será utilizada.

Por exemplo, para os RPAs, é importante avaliar a escalabilidade da ferramenta e como fazer, se é possível atrelar os ganhos e resultados, especialmente de produtividade ao contrato; se terceiros eventualmente envolvidos estão obrigados a utilizar documentos padronizados para captação dos dados.

Já os chatbots podem envolver questões consumeristas, sendo, portanto, muito importante viabilizar gatilhos para que haja intervenção humana. Para os chatbots e também para o deep learning é pertinente requisitar testes prévios nas bases de treinamento, além de medir falsos positivos e falsos negativos, e existência de possíveis correlações ao invés de causalidade.

Esses são apenas algumas peculiaridades no momento de contratação de cada uma dessas tecnologias específicas, assim é muito importante conhecer as muitas possibilidades dentro do universo da inteligência artificial para conseguir estabelecer um contrato efetivamente protetivo, que mitigue os riscos jurídicos e operacionais. Assim, ainda que os projetos sejam sigilosos, é valioso que uma equipe multidisciplinar esteja envolvida e que contenha uma pessoa do jurídico.

Por: Milena Grado, Gestora da área de Proteção de Dados e Inteligência Artificial do Peck Advogados.

Fonte: Portal LexLatin

Write A Comment