Uso de inteligência artificial pelo poder público será sujeito a regulamentação

Começa a tramitar pelas comissões permanentes do Senado o projeto que regulamenta os sistemas de inteligência artificial e estabelece uma série de regras para a utilização dessas tecnologias pelo poder público, incumbnido o Executivo de indicar o órgão responsável pela regulação e fiscalização do setor.

O PL 2.338/2023 , a ser apreciado agora pelas comissões, foi elaborado pela comissão especial de juristas presidida pelo ministro do Superior Tribunal de Justiça (STJ) Ricardo Villas Bôas Cueva e apresentado pelo senador Rodrigo Pacheco (PSD-MG), presidente do Senado.

Câmeras e comportamento social

De acordo com o projeto, o poder público não poderá usar sistemas de inteligência artificial para avaliar e classificar os cidadãos com base no seu comportamento social ou sua personalidade para controlar o acesso a bens e serviços públicas.

Já o uso de câmeras para identificar pessoas em espaços públicos só será permitido se houver lei federal específica para isso, além de autorização judicial para busca de vítimas de crimes ou pessoas desaparecidas, para localizar suspeitos de crimes cuja pena máxima de reclusão seja superior a dois anos ou em situações de crime em flagrante.

Além disso, o projeto já classifica como sendo de alto risco — e, portanto, sujeitos a regras mais rígidas — os sistemas de inteligência artificial que vierem a ser utilizados em determinadas atividades tipicamente governamentais, ou que podem ser realizadas, conforme o caso, tanto pelo poder público como pela iniciativa privada, como controle de trânsito; gestão de abastecimento de água e eletricidade; acesso à educação e avaliação de estudantes; acesso a serviços públicos; administração da justiça; gestão de serviços de emergência, como bombeiros e assistência médica; investigação criminal e segurança pública; e controle de fronteiras; e avaliação individual de risco de cometimento de crimes e de traços de personalidade e de comportamento criminal.

Consultas públicas

O PL 2.338/2023 estabelece normas específicas para a contratação de sistemas de inteligência artificial pelo poder público, além das regras gerais aplicadas a todos os sistemas, como a garantia de correção de erros e vieses e de não discriminação.

Antes de contratar, será obrigatório promover audiências e consultas públicas sobre o uso pretendido e sobre os dados a serem utilizados. Também será obrigatório registrar quem usou o sistema e como, e garantir que os dados provenham de fontes seguras. Conforme o projeto, caso o sistema venha a ser considerado de alto risco e não seja possível eliminar ou mitigar esses riscos, seu uso pelo poder público não será permitido.

Fiscalização

A fiscalização e a regulação dos sistemas de inteligência artificial será responsabilidade de uma autoridade competente a ser indicada pelo Poder Executivo, de acordo com o PL 2.338/2023. Caberá a essa autoridade criar as normas de regulamentação da lei; zelar pela proteção aos direitos fundamentais; estimular a adoção de boas práticas no setor; e aplicar sanções administrativas no caso de descumprimento da lei.

A autoridade competente prevista no texto também poderá autorizar o funcionamento dasandboxregulatória, isto é, o ambiente regulatório experimental, em que os sistemas de inteligência artificial poderão funcionar temporariamente sem ter que cumprir todos as regras legais, com intuito de teste.