A provisão está dividida em dois anexos:

‍

• Anexo I: denominado "Recommendations for Reliable Artificial Intelligence" (Recomendações para uma inteligência artificial confiável).

• Anexo II: um esquema gráfico das etapas dos Projetos de Inteligência Artificial que fazem parte da medida.

‍

As Recomendações têm como objetivo compilar e fornecer ferramentas para aqueles que realizam projetos de inovação pública por meio de tecnologia que envolva o uso de IA e visam adotar uma abordagem multidisciplinar e holística de suas implicações.

‍

Abaixo você encontrará as notícias legais emitidas pelos advogados da Bomchil: Marcelo den Toom; Melisa Romero; Martín Torres Girotti; Marina Wagmaister e/ou Germán Esquivo. 

‍

As Recomendações definem a IA de acordo com as definições do Grupo de Especialistas em IA da OCDE/ONU, como segue:

‍

1. OECD (Organização para Cooperação e Desenvolvimento Econômico): sistema baseado em máquina capaz de influenciar o ambiente produzindo um resultado (previsões, recomendações ou decisões) para um determinado conjunto de objetivos. Ele usa dados e entradas baseados em máquinas e/ou humanos para (i) perceber ambientes reais e/ou virtuais; (ii) abstrair essas percepções em modelos por meio de análise automatizada ou manual; e (iii) usar a inferência de modelos para formular opções de resultados.

‍

2. ONU (Nações Unidas): a capacidade de um computador ou de um sistema robótico habilitado por computador de processar informações e produzir resultados de maneira semelhante aos processos de pensamento dos seres humanos no aprendizado, na tomada de decisões e na solução de problemas.

‍

Após uma breve estrutura teórica sobre IA, eles estabeleceram uma série de recomendações e princípios para a implementação de projetos de IA, em ordem cronológica, observando o ciclo de vida da IA (concepção da IA, ciclo da IA e, em seguida, o ciclo da IA):

‍

‍1Responsabilidade e execução: um algoritmo não tem autodeterminação e/ou agência para tomar decisões e, portanto, não pode ser responsabilizado pelas ações que são executadas pelo algoritmo. O algoritmo pode executar, mas a responsabilidade é do tomador de decisões.

‍

2. Uso ético da IA: há diversos consensos adotados em órgãos internacionais, como a Recomendação da UNESCO sobre a Ética da Inteligência Artificial (2021), a Conferência Asilomar do Instituto Futuro da Vida (2017), os Princípios da OCDE sobre IA (2019), os Princípios de IA Centrados no Ser Humano do G20 (2019), que visam ao uso ético da IA, com consciência das dificuldades e dos riscos que ela pode acarretar e priorizando os interesses e os direitos das pessoas.

‍

3. Antes de iniciar o ciclo de IA: é recomendável reunir uma equipe diversificada e multidisciplinar, entender seu nível de conhecimento e conscientização sobre IA, entender se a IA é a melhor solução para o problema a ser resolvido, definir qual modelo de IA será usado (automação ou humano no circuito), qual é o destino da IA e como o controle humano será realizado, entre outras medidas.

‍

4. Etapa 1 do ciclo: projeto e modelagem de dados. Recomenda-se a inclusão de critérios éticos de design para aumentar a probabilidade de sucesso do projeto, tanto na formação da equipe quanto no design dos dados e modelos.

‍

5. Estágio 2 do ciclo: Verificação/validação. Recomenda-se levar em conta o projeto do equipamento, os dados e os modelos envolvidos nas verificações e validações dos projetos feitos no primeiro estágio.

‍

6. Etapa 3 do ciclo: Implementação. Recomenda-se que sejam tomadas medidas para garantir que a implementação permita um grau adequado de segurança das informações, rastreabilidade das ações e decisões tomadas no projeto, auditorias e acessibilidade do usuário às tecnologias de informação e comunicação.

‍

7. Etapa 4 do ciclo: operação e manutenção. Recomenda-se que sejam tomadas medidas para executar tarefas de operação e manutenção na infraestrutura em que a solução tecnológica baseada em IA é implantada e no próprio modelo (para evitar, por exemplo, que ele se degrade e deixe de responder corretamente).

‍

8. Fora do ciclo de AI: Recomenda-se que a ocorrência dos riscos e os danos resultantes sejam abordados para que sejam tomadas as ações necessárias para remediá-los e/ou revertê-los.

‍

Por fim, as Recomendações contêm um glossário que define termos relevantes, entre eles:

‍

• Algoritmos: os documentos da OCDE os definem como conjuntos sequenciais exatos de comandos que são executados em uma entrada projetada para gerar uma saída em um formato claramente definido. Os algoritmos podem ser representados em linguagem simples, diagramas, códigos de computador e outras linguagens.

‍

• Aprendizado de máquina: as Nações Unidas o definem como um ramo da inteligência artificial (IA) focado na criação de aplicativos que aprendem com os dados e melhoram sua precisão ao longo do tempo sem serem programados para isso. Os documentos da OCDE o definem como um subconjunto da inteligência artificial no qual as máquinas utilizam abordagens estatísticas para aprender com dados históricos e fazer previsões em novas situações. 

‍

• Aprendizagem profunda: os documentos da OCDE referem-se a modelos de aprendizagem inspirados em neurônios biológicos, mas as redes neurais não aprendem necessariamente da mesma forma que os seres humanos. Essas redes organizam a computação por meio de grandes coleções de unidades computacionais simples. O termo "profundo" refere-se ao número de camadas da rede. Até recentemente, a falta de capacidade de computação e de dados de treinamento significava que apenas redes pequenas podiam ser exploradas. Várias décadas de pesquisa para aprimoramento de algoritmos, combinadas com unidades de processamento gráfico originalmente desenvolvidas para videogames, finalmente possibilitaram o treinamento de grandes redes usando grandes quantidades de dados. Isso resultou em sistemas com desempenho muito melhor do que as abordagens anteriores para tarefas como legendagem de imagens, reconhecimento facial, reconhecimento de fala e tradução automática de idiomas naturais. 

‍

Outros conceitos encontrados no glossário são: automação, dados tendenciosos, inteligência aumentada, inteligência artificial (restrita e geral) e vieses (vieses perceptuais, técnicos, de modelagem e de ativação), entre outros.

O esquema gráfico aprovado pela Provisão resume o ciclo de vida da AI e a aplicação das Recomendações nos diferentes estágios.

‍

Esperamos que ele tenha ajudado a aprofundar seu conhecimento técnico e regulatório sobre Inteligência Artificial e como esses conceitos estão sendo aplicados em nosso país. 

‍

‍

Este foi um desenvolvimento legal da Bomchil, não constitui aconselhamento da Celeri. Se desejar obter mais informações, entre em contato com contacto@bomchil.com ou +54114321-7500.