Governança é o conjunto de mecanismos e práticas que orientam e supervisionam uma organização, assegurando que seus objetivos sejam alcançados de forma ética e eficiente, beneficiando a própria organização, bem como seus stakeholders.
Neste primeiro artigo, vamos explorar um pouco a ABNT NBR ISO/IEC 38507:2023, publicada em 19 de outubro de 2023. Dentre os inúmeros frameworks já existentes, este sem dúvida é um marco significativo na governança e uso de Inteligência Artificial (IA) nas organizações, independentemente do seu tamanho e setor, sendo direcionada, dentre outros, para membros do órgão diretivo de uma empresa, gerentes executivos, empresas ou especialistas técnicos externos, associações comerciais ou setoriais ou entidades profissionais, consultores, assessores e auditores.
A ISO/38507:2023, fornece orientações para que as empresas capacitem e gerenciem eficientemente o uso da IA em seu ambiente corporativo, alinhando-se com os padrões internacionais e melhores práticas globais.
A alta gestão das organizações, por meio de seus órgãos diretivos e gestores responsáveis pela implementação de medidas de governança, precisa adotar regras e políticas internas apropriadas, processos e ferramentas específicos que assegurem ou imponham valores, princípios e controles institucionais fundamentais para esta boa governança.
Principais Orientações de Governança do Uso de IA
A seguir, destacamos as principais orientações de governança do uso de IA extraídas da ISO 38507, que podem guiar a maneira como a alta direção das organizações lidam com essa poderosa ferramenta.
Essas diretrizes não só promovem o uso eficaz, eficiente e aceitável da IA dentro das organizações, mas também asseguram o alinhamento com os princípios do crescimento inclusive, respeito aos direitos humanos, transparência, segurança e responsabilidade.
- Capacitação Suficiente para o Uso da IA: Priorizar a capacitação contínua dos profissionais da administração, promovendo treinamentos regulares para garantir que todos adquiram e implementem as competências necessárias para o uso seguro da IA, a fiscalização de seu uso e a elaboração de políticas adequadas.
- Verificação dos Controles Existentes: Estabelecer e revisar controles e comandos praticados pela organização buscando evitar resultados insatisfatórios ou que possam comprometer o negócio.
- Implementação de Regras e Políticas Internas Apropriadas: Estabelecer diretrizes claras e especificas para garantir que a utilização da IA esteja alinhada com os princípios e valores da organização. A ABNT destaca que é necessário que as organizações tenham capacidade de demonstrar para os stakeholders, não somente as suas políticas, assim como a implementação destas políticas de forma eficaz e suficiente.
- Avaliação do Risco da Utilização da IA: Avaliar cuidadosamente os riscos adicionais associados ao uso da IA e implementar medidas para mitigá-los. Isso garante que a organização opere dentro de limites seguros e compreenda os riscos e impactos da IA.
- Conformidade com os objetivos, cultura e valores da organização: A utilização da IA deve servir como ferramenta para a organização atingir seus objetivos, devendo as decisões propostas pela IA estarem em conformidade com as políticas organizacionais, cultura, riscos definidos, expectativas e ética da empresa.
- Monitoramento Constante: Devem ser implementados mecanismos de monitoramento contínuo para identificar e corrigir comportamentos inadequados dos sistemas de IA. Isso assegura que os dados sejam utilizados de forma ética e precisa, protegendo a integridade da empresa.
A administração deve estar ciente de que a ISO 38507:2023 está em consonância com as diretrizes internacionais, como a Recomendação do Conselho sobre Inteligência Artificial da OCDE. Isso é particularmente relevante considerando a adesão do Brasil à Recomendação da OCDE e seus esforços para se tornar membro efetivo da organização.
A adoção dessas diretrizes de governança de IA, alinhadas ISO 38507:2023 e as recomendações da OCDE, não apenas promove o uso ético e eficiente da IA, mas também posiciona as empresas na vanguarda da inovação jurídica.
O LOtech está comprometido em apoiar as organizações nessa jornada, oferecendo expertise técnica e legal para moldar um futuro mais responsável e transparente no uso da IA.