quinta-feira, 31 de outubro de 2024

Uso de IA exige atualização constante de modelos para gestão de riscos

O uso de algoritmos pela inteligência artificial – IA exige a atualização de modelos de referência para gestão de riscos, visando garantir sistemas confiáveis, justos e responsáveis. É o que propõem, em artigo – publicado na revista “GV Executivo” – os pesquisadores da Escola de Administração de Empresas de São Paulo, da Fundação Getúlio Vargas (EAESP/FGV), Carlos Eduardo Brandão e João Luiz Becker, ao manifestarem a preocupação de que a adoção da inteligência artificial pelas organizações possa gerar impactos imprevisíveis, como discriminação.

Continua após a publicidade

Na avaliação de Brandão e Becker, “altos níveis de automação podem contribuir para o aumento de riscos, como a reprodução de vieses e práticas discriminatórias ocasionadas por falhas de reconhecimento facial de suspeitos de crimes; acidentes causados por veículos com sistemas de direção autônomos e interferência nos processos de aprendizagem humana”.

Embora tenha sido concebida para adaptar recursos e funções tecnológicas às interações com humanos, de modo a responder de forma cada vez mais precisa às demandas do usuário, os autores entendem que “a inteligência artificial deve ‘obedecer’ a princípios éticos, como responsabilidade, mediante a aplicação de mecanismos de auditoria; transparência sobre capacidades e limitações dos sistemas e ética, baseada na supervisão e intervenção humana, o que é fundamental para lidar com essa tecnologia”.

Trabalhando com uma revisão sistemática de 173 trabalhos científicos sobre o tema – acessados em bases de dados, como Web of Science e Scopus – o estudo da EAESP defende a tese de que o processo de gestão de riscos seja cíclico e alinhado aos objetivos da inteligência artificial nas organizações.

Além disso, os autores propõem o emprego de medidas como identificar, categorizar e avaliar os riscos mapeados, considerando a possibilidade de ocorrência de um evento de risco na organização. O passo seguinte consistiria no registro e comunicação dos respectivos impactos às partes interessadas e órgãos de regulação, tendo em vista responder ao esforço de mitigação e constante monitoramento dos resultados.

Para a montagem da estrutura de gestão de risco, o artigo da EAESP sugere a criação de um comitê de risco nas organizações para supervisionar o uso dos sistemas de inteligência artificial e orientar as medidas para a mitigação de impactos. “Ao longo de sua jornada, as organizações devem assumir riscos adequados aos seus objetivos e metas, evitando a superexposição ou a subexposição, potencialmente prejudiciais aos seus negócios”, concluem os autores.

Via: capitalist.com.br

Continua após a publicidade

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui

Vitória, ES
Amanhecer
04:59 am
Anoitecer
05:50 pm
24ºC
Chuva
0mm
Velocidade do Vento
8.23 km/h
01/11
Sex
Mínima
21ºC
Máxima
25ºC
02/11
Sáb
Mínima
21ºC
Máxima
25ºC
03/11
Dom
Mínima
22ºC
Máxima
25ºC
04/11
Seg
Mínima
22ºC
Máxima
25ºC
Colunistas
Myrna Morelli

Brasil, terra do Saci: vamos celebrar nosso folclore!

Leia também