O bot, caso capte dados pessoais de seus usuários, precisa estar em conformidade com a LGPD (Lei Geral de Dados Pessoais) e atender aos requisitos de privacidade e segurança. E seu algoritmo deve buscar uma transparência e a ética. O alerta foi dado por Patricia Peck, CEO e fundadora do escritório Peck Advogados durante o primeiro dia do Super Bots Experience, evento promovido pelo Mobile Time, terça-feira, 24.
Peck também contou que é importante que o algoritmo seja capaz de outras ações, como: deixar claro de que se trata de um bot; explicar os motivos dos dados serem coletados; verificar a identidade da pessoa antes de encaminhar dados sensíveis, como resultado de exame.
Maus exemplos
Em sua apresentação, a advogada deu alguns exemplos de como uma abordagem falha do robô pode causar. Em um deles, um bot de um laboratório clínico entra em contato com um suposto paciente para informar que o resultado do exame pode ser acessado em uma determinada plataforma. Mas a pessoa exigida que não é ela e que não fez nenhum exame. O bot desconsidera e continua a conversa. No fim, ainda pede para responder uma pesquisa de opinião.
Em outro exemplo de desconformidade, um cliente manda mensagem solicitada o resultado de seus exames e informações nome e CPF. O robô já envia um PDF com os resultados sem verificar identidade. O certo seria o bot validar a identidade da pessoa.
“O bot tem que estar treinado para situações em que liga para uma pessoa errada”, disse. “E não podemos apresentar dado pessoal sensível para outra pessoa que não é proprietária desse dado”, complementou.
Peck alertou também sobre a ética algorítmica, que pode ser identificada em uma auditoria. Entre os pontos questionados seria possível detectar o algoritmo:
– possui viés estatístico;
– possui viés social que reflita vantagens sistemáticas para um ou mias grupos e desvantagem aos demais;
– é transparente na arquitetura;
– é transparente quanto aos critérios e métricas para a tomada de decisão automatizada;
“Temos que garantir a transparência e não discriminação do bot. É importante que ele passe uma comunicação clara, transparente e acessível de quais dados estão sendo coletados. Os toros têm que ser bem guardados, assim como a tabela de temporalidade de guarda. E são cuidados no treinamento do motor para não ter frases machistas, racistas e discriminatórias. É o AI explicável, a explicabilidade do algoritmo ”, aulasu a Patricia Peck.
Experiência Super Bots
A 7ª edição do Super Bots Experience , maior evento sobre o mercado brasileiro de chatbots, voice bots e inteligência artificial, começou nesta terça-feira, 24 e segue até sexta-feira, 27. Ao longo de quatro dias de programação com transmissão online, 55 executivos e especialistas participar de painéis e palestras para debatedor como as principais tendências dessas tecnologias. Entre os participantes confirmados na agenda do evento há mais de 20 executivos de nível C e fundadores de empresas.
O evento tem painéis sobre chat commerce; típica de IA; consolidação do mercado brasileiro de bots; a evolução dos bots de voz; novos canais para bots; e o WhatsApp como berço para startups; além de 15 palestras especiais e 10 cases. A programação completa e mais informações sobre a compra de ingressos estão disponíveis em www.botsexperience.com.br ou com a equipe de eventos do Mobile Time: [email protected] / 11-96619-5888 / 11-3138-4619 (WhatsApp).
Por Isabel Butcher, postado originalmente no Mobile Time.