Dos filmes de ficção científica para a realidade, a inteligência artificial (IA) está cada vez mais presente no dia a dia das pessoas, seja em sistemas de recomendação em plataformas de streaming, assistentes virtuais em smartphones ou nos aplicativos bancários.
No entanto, ao mesmo tempo em que a IA tem sido utilizada para facilitar nossas tarefas diárias, surgem discussões sobre como equilibrar seus benefícios e riscos. O ChatGPT, por exemplo, um modelo de linguagem avançado desenvolvido pela OpenAI, esteve no centro desse debate recentemente.
Por outro lado, no mercado financeiro, muitos especialistas têm discutido a necessidade de se estabelecer diretrizes claras e de se realizar auditorias regulares nos sistemas de inteligência artificial aplicados à serviços financeiro, a fim de garantir a segurança e a equidade das decisões tomadas pelas máquinas.
Nesse sentido, à medida que a IA vem sendo utilizada em áreas como análise de dados, previsão de riscos e tomada de decisões de investimento, diversos players desse mercado estão se debruçado sobre a questão de como incorporar a inteligência artificial aos seus negócios.
Diante desse cenário é imprescindível entender o que os países que estão na dianteira da corrida pelo domínio da IA estão fazendo e, com relação ao sistema financeiro, precisamos entender como reguladores e supervisores estão reagindo a introdução da inteligência artificial.
Nesse sentido, na Coreia do Sul, a Comissão de Serviços Financeiros (FSC) introduziu, no dia 17 de abril de 2023, um sistema de verificação para modelos de pontuação de crédito movidos por inteligência artificial e apresentou diretrizes de segurança para o uso de inteligência artificial no setor financeiro, com o objetivo de criar um ambiente estável para o uso dessa tecnologia.
Essas medidas, na verdade, são parte de uma estratégia mais ampla para promover o uso da inteligência artificial, dando continuidade ao plano da FSC para promover o uso dessa tecnologia nos setores financeiros e garantir a confiança pública nesses segmentos.
Entenda o plano geral da FSC para expandir o uso de inteligência artificial
Nesse sentido, o plano mais geral apresentado pela FSC da Coréia do Sul ainda em 2022, apontou os seguintes tópicos com os principais vetores para garantir a disseminação com segurança da IA no setor financeiro:
- Construir uma biblioteca de dados de IA que permita o reuso de dados pseudonimizados, ou seja, dados anônimos que permitem garantir a segurança e proteção de informações sensíveis dos usuários;
- Emitir diretrizes detalhadas para o desenvolvimento e uso de IA em quatro áreas específicas: serviços de avaliação serviços de robô-consultor; serviços de chatbot; serviços de encaminhamento de produtos financeiros personalizados e serviços de detecção de fraudes (FDS);
- Conceder uma isenção da regra de separação de rede nos servidores de desenvolvimento e teste usando dados pseudonimizados;
- Construir um laboratório para testes de aplicação da tecnologia com foco em estrutura e recursos para dados e computação para apoiar recursos de dados e computação para testes;
- Estabelecer um modelo de avaliação de crédito baseado em IA e um processo de verificação da segurança dos serviços baseados em IA.
Inteligência artificial como facilitador da tecnologia Big Data
No lançamento do plano, a Comissão enfatizou a importância de avançar na tecnologia de IA para fazer uso efetivo do aumento exponencial na disponibilidade de Big Data em meio a redes hiperconectadas. Por isso, a necessidade de reformas regulatórias para garantir que os setores financeiros possam fazer uso de big data e tecnologia de IA de forma eficaz.
Nesse sentido, expectativa da FSC ao promover a inovação financeira digital baseada no uso de Big Data e IA é de que essas tecnologias ajudem a impulsionar a conveniência do consumidor por meio de serviços financeiros mais personalizados. Ademais, espera-se que com a inteligência artificial seja fortalecida a função dos serviços de intermediação financeira.
Além disso, está no radar da instituição melhorar as funções de gerenciamento de risco por meio do aprimoramento da análise de dados, bem como aumentar o acesso a serviços financeiros para grupos vulneráveis, em especial para pessoas com histórico de crédito reduzido.
Tendo em vista esses objetivos e, sobretudo, os 5 vetores principais estabelecidos, a FSC anunciou no início de abril de 2023, duas iniciativas que se inserem nos tópicos II e V apresentados acima. Assim, apresentou diretrizes para o uso seguro de IA e um sistema de verificação de crédito.
Coréia apresentou seu sistema de verificação de modelo de pontuação de crédito baseados em inteligência artificial
O sistema de verificação examinará se as agências de crédito estão gerenciando corretamente os dados de crédito de acordo com as características peculiares da IA. Isso é, se as empresas fizeram uma seleção razoável dos algoritmos e variáveis dos seus modelos de pontuação e se esses modelos são estatisticamente significativos.
O sistema de verificação também analisará se as agências de crédito podem explicar adequadamente aos consumidores financeiros seus modelos de pontuação e resultados de avaliação de crédito, de modo a garantir a transparência do processo.
FSC mira segurança para o uso de IA no setor financeiro com novas diretrizes
Já as novas diretrizes, dão conta de questões de segurança etapa por etapa que precisam ser consideradas ao desenvolver um modelo baseado em IA fornecendo uma lista de verificação de segurança para chatbots de Inteligência artificial.
Em primeiro lugar, as questões de segurança etapa por etapa que precisam ser consideradas são organizadas na ordem de:
- Coleta de dados para aprendizado de máquina;
- Pré-processamento de dados;
- Projeto e aprendizado de modelos de IA;
- Verificação e avaliação de modelos de IA.
Assim, as diretrizes apontam sugestões sobre o método de gerenciamento e processamento de dados, técnica de projeto de modelo e método de verificação de segurança para contrapor ameaças de segurança específicas, como contaminação de dados, vazamento de informações pessoais ou ataque em modelos de inteligência artificial.
Em segundo lugar, as diretrizes de segurança fornecem uma lista de verificação de segurança separada para chatbots baseados em IA, ou seja, o segmento no qual a inteligência artificial é mais adotada em serviços financeiros.
Espera-se que a lista de verificação de segurança ajude os profissionais do campo a identificar mais facilmente questões relacionadas à segurança em um formato de lista simples, buscando soluções mais rápidas e eficientes.
Veja mais:
Coreia do Sul segue explorando o metaverso, mas Índia e Japão também se movimentam
Digitalização bancária: como inovar sem perder o engajamento dos clientes antigos
ChatGPT banido da Itália: risco de privacidade levanta debate no mundo!
