É fato: a Inteligência Artificial Generativa tem mudado o dia a dia e aumentado a eficiência de profissionais e empresas.
Ao mesmo tempo, a popularização da aplicação da tecnologia demanda alguns cuidados em relação ao uso de dados, precisão das informações, entre outros aspectos. Essas boas práticas são a base do conceito de IA Responsável.
Confira a seguir algumas discussões e pesquisas feitas sobre o tema e dicas de como aplicar o conceito de forma prática no seu negócio.
Leia mais:
- Copilot: conheça essas ferramentas de IA e seu potencial
- Inteligência artificial na saúde: healthtechs e as soluções de IA
- IA e machine learning: fintechs podem fornecer capital de giro?
IA Responsável: conceito
A Inteligência Artificial Responsável, também conhecida pela sigla RAI (Responsible Artificial Intelligence), é um conjunto de boas práticas e princípios que visam orientar o desenvolvimento e a implementação da IA de forma ética, segura e transparente.
A IA Responsável pode ser uma forma de usar e desenvolver a tecnologia de maneira mais ética, evitando danos não apenas à organização como às pessoas que fazem parte dela ou que estão vinculados a ela de alguma forma. (Fonte: Pexels/Reprodução)
São medidas que buscam assegurar que tecnologias emergentes que têm como base a IA sigam critérios como os direitos humanos, além de minimizar os riscos e danos que seus resultados possam ocasionar.
Além disso, a abordagem IA responsável tem como objetivo mitigar os riscos de desinformação e uso da tecnologia de modos inadequados.
Componentes da Inteligência Artificial Responsável
Na prática, a IA Responsável estabelece alguns pontos a serem considerados no desenvolvimento, política de uso ou implementação da ferramenta em si. Entre eles, estão:
- Transparência, explicando como a IA toma decisões, destacando a clareza nos dados acessados em sua base, as fontes, os processos de treinamento dos modelos e os próprios algoritmos.
- Justiça, para garantir que os sistemas de IA não discriminam ou perpetuam preconceitos. Os modelos devem ser avaliados para evitar vieses que possam prejudicar grupos específicos.
- Responsabilidade, atribuindo a responsabilidade pelos impactos gerados a partir dos resultados produzidos pelos sistemas de IA.
- Segurança e privacidade, o que engloba a proteção dos dados utilizados e gerados pela IA. Principalmente para assegurar que informações sensíveis sejam coletadas, armazenadas e analisadas de forma segura, respeitando a privacidade das pessoas envolvidas.
- Benefício social, que deve ser priorizado no desenvolvimento da IA. A ferramenta precisa ser projetada para contribuir positivamente para a sociedade.
- Sustentabilidade, uma vez que o uso de IA também pode acarretar impactos ambientais.
Empresas ainda não usam IA Responsável de forma ostensiva
O MIT Sloan Management Review e o Boston Consulting Group realizaram um estudo com empresas e especialistas em IA para entender como a RAI é implementada nas organizações.
Um dos primeiros resultados encontrados é de que os investimentos na área não são satisfatórios: menos da metade dos entrevistados afirmou acreditar que a sua empresa está preparada para a RAI.
Pontos a se preocupar ainda são divergentes
Existem também pontos de divergência sobre os diferentes níveis de responsabilidade que uma organização deve ter em relação ao tema. É o caso de David R. Hardoon, então CEO da Aboitiz Data Innovation e diretor de dados e IA do Union Bank das Filipinas.
Na ocasião, o executivo questionou seus pares sobre três dúvidas importantes. São elas:
- todas as empresas não estão sujeitas aos mesmos níveis de padrões;
- ainda não existe um consenso sobre o que é “suficiente” ou “aceitável” quando do uso da IA;
- até aquele momento, não existia um mecanismo para verificar terceiros.
Ou seja, a questão pode variar considerando a realidade da organização, como ela faz uso dessa tecnologia emergente, de que forma emprega o recurso para terceiros, as bases informativas que alimentam a ferramenta usada em questão, e a própria finalidade de uso. Para citar apenas alguns componentes.
A adoção de práticas de IA responsável é fundamental para evitar vieses, garantir a transparência e proteger a privacidade dos usuários. (Fonte: Pexels/Reprodução)
Provavelmente, a depender do modelo de negócio e das especificidades da solução, uma série de outras variáveis podem surgir no contexto. De todo modo, cada um deles tornam-se oportunos para refletir sobre políticas para tornar a IA Responsável uma realidade em seu negócio.
Importância da IA Responsável
Confira cinco aspectos que demonstram a relevância do desenvolvimento e implementação responsável da IA nas empresas:
1. Confiança do consumidor
Em um ambiente no qual fatores como a privacidade e a segurança dos dados são preocupações centrais, demonstrar um compromisso com práticas éticas pode aumentar a confiança e a lealdade dos clientes.
Um relatório conduzido pela Getty Images apresenta alguns dados importantes sobre o tema:
- aumento de 63% da preocupação de consumidores sobre como imagens e vídeos de IA são feitos;
- 47% das pessoas estão “nervosas” sobre o uso da IA, especialmente na sociedade ocidental;
- 98% dos consumidores concordam que imagens e vídeos considerados “autênticos” estabelecem confiança. O que daria algo em torno de 9 para cada 10 consumidores querem confiar que uma imagem ou vídeo é “real”;
- 82% dos entrevistados concordaram que “não se pode confiar que as mídias sociais sejam reais ou precisas”;
- no fator criatividade, 66% acreditam que o uso da tecnologia para criar imagens diminui a beleza real.
Para fazer a pesquisa entre os anos de 2022 e 2024, foram ouvidas 30 mil pessoas de 25 países, inclusive o Brasil.
2. Conformidade regulatória
As regulamentações em torno da IA estão em desenvolvimento ao redor de todo o mundo e garantir a conformidade com leis e diretrizes deve ser uma realidade em breve tanto para os responsáveis pelos sistemas e ferramentas como para seus operadores.
3. Reputação e imagem de marca
Não só no que diz respeito ao uso de IA, como no geral, as empresas que priorizam a ética e a responsabilidade tendem a construir uma reputação positiva. O que, por sua vez, pode ser um diferencial competitivo importante no mercado.
4. Mitigação de riscos
Sistemas de IA não supervisionados ou mal projetados podem causar danos, desde reprodução de preconceitos até falhas de segurança.
Dessa forma, implementar práticas responsáveis ajuda a mitigar riscos em potencial e a proteger a organização contra possíveis litígios e perda de confiança.
5. Atração de capital
Tudo isso contribui para que investidores, cada vez mais atentos à governança corporativa, também saiam satisfeitos dessa equação.
Empresas que demonstram conformidade e um compromisso claro com a IA responsável podem atrair mais investimentos.
A IA Responsável deve ser um aspecto prioritário para as empresas em processo de implementação da tecnologia. (Fonte: Pexels/Reprodução)
Boas práticas para tornar a IA Responsável uma realidade
Confira as dicas elencadas pelo MIT Sloan Management Review e o Boston Consulting Group para que as organizações possam investir na IA Responsável adequadamente:
Conscientizar a liderança
Uma primeira medida a ser tomada é fazer com que a liderança esteja ciente sobre os aspectos necessários para o uso responsável da tecnologia. Sobretudo para as organizações que usam o recurso em busca de inovação.
A investigação feita pela publicação do MIT demonstrou que os benefícios inovadores da IA somente são potencializados quando as práticas de RAI caminham lado a lado.
Essa conscientização da liderança que, por conseguinte, será orientada a transmitir o conhecimento adiante, pode ser feita por meio de educação executiva, fóruns de discussão e programas RAI.
Investir em IA Responsável é um processo contínuo
Com um maior desenvolvimento, aperfeiçoamento e uso da IA, as boas práticas da IA Responsável devem seguir o mesmo ritmo evolutivo.
Os especialistas alertam que deixar para investir em cima da hora ou desistir de adotar alguma medida para tornar a IA Responsável uma realidade em seu negócio é permitir que a organização seja prejudicada.
Seguir as boas práticas também é uma maneira de minimizar impactos para atender aos requisitos de conformidade quando novas regulamentações e padrões do setor entrarem em vigor.
Desenvolver métricas de investimento
Entre os indicadores que podem ser adotados para avaliar o nível de investimento em IA Responsável por parte das organizações, estão:
- o compromisso da liderança;
- a adoção de programas internos;
- a promoção de formação da força de trabalho;
- a mudança da cultura organizacional em torno do tema.
Outra medida útil é conectar o financiamento da IA Responsável ao investimento dos projetos de IA. Entre as perguntas que podem ser feitas no contexto, estão:
- todo projeto de IA deve ter um orçamento reservado para IA Responsável?
- o financiamento da IA Responsável deve ser independente de projetos específicos?
- é possível combinar investimentos em projetos descentralizados e institucionais, mais centralizados?
Em suma, o mais importante é que as lideranças busquem formas de preparar o terreno para evitar problemas futuros em relação ao uso da inteligência artificial e contribuir para que seu desenvolvimento aconteça de forma ética e segura.
Quer saber mais sobre as tendências em relação à IA e como essa tecnologia tem redefinido o futuro dos negócios? Clique no banner abaixo e assine a newsletter do Cubo Itaú!
Referências:
