Já pensou qual é a sua responsabilidade no uso de Inteligência Artificial (IA)? O que aconteceria se o seu sistema fosse acusado de discriminação ou violação de privacidade? Como sua empresa responderia a uma fiscalização que identificasse riscos não mitigados em seus algoritmos?
Essas questões estão mais próximas da realidade do que nunca. Com a aprovação do projeto de lei sobre Inteligência Artificial pelo Senado Federal em 10 de outubro de 2024, o Brasil ingressa em uma nova era de regulação, que afeta diretamente empresários e profissionais de TI.
A seguir, apresentamos uma análise aprofundada sobre os principais aspectos do marco regulatório, com exemplos concretos, implicações práticas e estratégias para adaptar seus negócios ao novo cenário.
O QUE FOI APROVADO NO BRASIL (SENADO)
Obs: o projeto ainda será debatido na câmara dos deputados
Centralidade da Pessoa Humana
O marco regulatório estabelece como princípio fundamental que a dignidade, os direitos fundamentais e o bem-estar do ser humano devem estar no centro do desenvolvimento e uso de sistemas de Inteligência Artificial (IA).
Citação Legal: Artigo 2º, inciso I: “O desenvolvimento, a implementação e o uso de sistemas de inteligência artificial no Brasil têm como fundamentos: I – a centralidade da pessoa humana.”
- Exemplo Hipotético: Um sistema de recrutamento deve garantir processos inclusivos, eliminando vieses relacionados a idade, gênero ou etnia.
- Exemplo Real: Em 2020, o sistema de IA SyRI foi desativado na Holanda por discriminação e violação de privacidade. https://uitspraken.rechtspraak.nl/inziendocument?id=ECLI:NL:RBDHA:2020:1878
Classificação e Regulação de Riscos
A nova legislação classifica sistemas de IA por níveis de risco. Aqueles considerados de alto risco, como sistemas em saúde, justiça e segurança, estão sujeitos a regras rigorosas.
Citação Legal: Artigo 17, §1º: “São considerados sistemas de inteligência artificial de alto risco aqueles utilizados para as seguintes finalidades: [...] educação, recrutamento, justiça, saúde.”
- Exemplo Hipotético: Ferramentas que determinam elegibilidade para benefícios sociais devem passar por auditorias para prevenir exclusões indevidas.
- Exemplo Real: O sistema COMPAS nos EUA, usado para prever reincidência, foi criticado por viés racial. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
Avaliação de Impacto Algorítmico
Sistemas de alto risco deverão passar por avaliações obrigatórias para mitigar riscos aos direitos fundamentais.
Citação Legal: Artigo 18, §1º: “A avaliação de impacto algorítmico deverá verificar os riscos aos direitos fundamentais conhecidos e previsíveis, os benefícios do sistema e as consequências adversas.”
- Exemplo Hipotético: IA em transportes autônomos realiza testes regulares para garantir segurança.
- Exemplo Real: Na Austrália, o sistema de IA "Robodebt" foi descontinuado após erros prejudiciais em cobranças. https://robodebt.royalcommission.gov.au/publications/report
Proteção de Direitos Autorais
A legislação permite o uso de obras protegidas por direitos autorais exclusivamente para fins acadêmicos ou de pesquisa, sem fins comerciais.
Citação Legal: Artigo 22, §1º: “Os conteúdos protegidos por direitos autorais poderão ser utilizados exclusivamente para fins de pesquisa, desde que obtidos de forma legítima e sem fins comerciais.”
- Exemplo Real: O dublador Wendel Bezerra - conhecido por dar voz a personagens como Bob Sponja e Goku (Dragon Ball Z) - registrou um boletim de ocorrência por encontrar uma loja virtual que fornecia sua voz gerada por I.A.
https://www.tecmundo.com.br/software/294467-dublador-wendel-bezerra-bo-policia-uso-ilegal-voz-ia.htm
Sistemas Proibidos
O texto proíbe sistemas que:
- Manipulem comportamentos por técnicas subliminares.
- Explorem vulnerabilidades psicológicas.
- Coloquem em risco saúde, segurança ou direitos fundamentais.
Citação Legal: Artigo 23, §1º: “É proibido o desenvolvimento ou uso de sistemas de inteligência artificial com o objetivo de induzir comportamentos que coloquem em risco a saúde, segurança ou direitos fundamentais.”
- Exemplo Real: O Clearview AI, sistema de reconhecimento facial, foi multado por coleta ilegal de dados. https://canaltech.com.br/seguranca/empresa-e-multada-por-coletar-fotos-online-para-sistema-de-reconhecimento-facial/
Direitos dos Afetados
Pessoas impactadas por decisões automatizadas têm direito a:
- Explicação clara.
- Contestação.
- Revisão humana das decisões.
Citação Legal: Artigo 28, §1º: “As pessoas afetadas por sistemas de inteligência artificial têm assegurado o direito à explicação, contestação e revisão humana.”
Um exemplo poderia ser a complexidade de avaliação de aprendizagem de estudantes, e não apenas interpretação de testes objetivos https://abmes.org.br/blog/detalhe/18848/a-complexidade-de-avaliar-a-aprendizagem-dos-estudantes-no-contexto-da-ia
CONCLUSÃO
O novo marco regulatório é algo que, ainda que adiado, é inevitável (tal como a responsabilidade das plataformas digitais e o Art. 19 do MCI). Empresários e profissionais de TI devem agir rapidamente para adaptar suas operações. Assim como a tecnologia evolui, sua aplicação deve se alinhar às regras. Afinal, talvez o pragmatismo seja o maior aliado em momentos como esse.
