O senador Nelsinho Trad (PSD-MS) apresentou o Projeto de Lei n.º 4532/2024, que estabelece normas para aumentar a segurança no uso de sistemas de inteligência artificial interativa (SIAI) baseados em linguagem natural. O objetivo é proteger especialmente crianças e adolescentes contra riscos associados a essas plataformas tecnológicas, como incentivo à automutilação, suicídio e outras práticas prejudiciais.

Além do projeto 4532/2024, o senador Nelsinho Trad encaminhou uma emenda ao PL 2338/2023, que regulamenta o uso da inteligência artificial, e que deu origem à criação da Comissão Temporária de IA (CTIA).  “Encaminhamos a proposta para análise do relator (senador Eduardo Gomes) já, pela importância e urgência em garantir que os sistemas de IA interativa sejam usados com segurança e responsabilidade no Brasil”, afirmou o senador.

Principais Pontos do PL 4532/2024:

         1.      Informação e Transparência:

         •        Exige que os sistemas de inteligência artificial informem claramente aos usuários que as interações são geradas automaticamente.

         •        Estabelece alertas de que as respostas não substituem orientação de profissionais qualificados.

         2.      Prevenção e Proteção:

         •        Obriga os provedores a implementarem filtros para prevenir conteúdos prejudiciais, como incitação ao suicídio, automutilação, cyberbullying e exploração sexual.

         •        Nos casos de risco, os sistemas devem encerrar as interações e recomendar ajuda profissional.

         3.      Responsabilização dos Provedores:

         •        Prevê que os provedores de SIAI sejam responsabilizados por danos causados aos usuários, conforme o Código de Defesa do Consumidor.

         4.      Periodicidade nas Revisões:

         •        Determina atualizações constantes dos filtros para acompanhar os avanços tecnológicos e identificar novos riscos.

Por que é urgente?

Dados recentes apontam que 1 em cada 3 usuários de internet é uma criança, e o Brasil ocupa a segunda posição global em tempo de tela. Sem regulamentação, jovens ficam expostos a riscos como exploração, assédio e até tragédias evitáveis.

“A regulamentação dos sistemas de IA interativa é urgente. Temos visto casos alarmantes em que essas tecnologias, quando mal reguladas, podem representar riscos graves à segurança de crianças e adolescentes”, ressaltou o senador Nelsinho Trad, referindo-se a denúncias recentes envolvendo interações problemáticas entre jovens e IAs.

“Um jovem de apenas 14 anos, após interagir com uma inteligência artificial, acabou tirando a própria vida. Esse caso foi denunciado pela mãe, que acessou as conversas do filho com a postagem virtual. Segundo ela, algumas mensagens eram sexualmente explícitas e o comportamento do robô era assustadoramente real. Essa questão das redes sociais precisa ter um freio, uma arrumação, porque senão vai descambar para uma criminalidade virtual que infelizmente está ocorrendo”.