Weekly 498: Não é a casa da mãe Joana: Brasil avança na regulamentação da IA
Texto aprovado no Senado estabelece regras e limites para o funcionamento da ferramenta no país; iniciativa é uma das primeiras no mundo.
📰 Resumo do editor
📜 Curadoria das notícias e texto desenvolvido pelos seres humanos Jaydson Gomes e Vitória Leitzke, em 12/12/2024, Porto Alegre
Vitória (com o perdão do trocadilho com o nome de quem vos escreve) do Brasil em avançar na regulamentação da Inteligência Artificial (IA). Por incrível que pareça, o Brasil é um dos pioneiros a tentar colocar ordem na bagunça em relação ao crescimento desenfreado e descontrolado (em muitos sentidos) da IA no mundo. É um bom começo, mas ainda temos muito o que analisar e avançar.
Como todo Projeto de Lei, o texto da regulamentação é extenso e, por muitas vezes, numa linguagem nada acessível para a população em geral. Sem combinação prévia, eu e Jaydson elencamos os mesmos pontos e nossa opinião você confere aqui e na transmissão ao vivo desta quinta-feira.
O movimento de termos um texto em que estabelece regras e limites aprovado no Senado e encaminhado à Câmara dos Deputados é algo realmente importante. A discussão política sobre IA começou em 2022, avançou lentamente em 2023 e, ao menos, está mais perto de sair do papel nesta reta final de 2024.
Classificar o grau de risco de um sistema torna a fiscalização de fácil entendimento, não só para os leigos e curiosos no tema, como também para os desenvolvedores e as empresas. De “baixo”, passando por “alto” até “excessivo”, a categorização é, inclusive, uma iniciação no assunto de quem não está por dentro do que é a tecnologia de fato e nem tem uma visão crítica sobre ela.
Mas, como nem tudo são flores, a possível lei peca na proteção ao cidadão no local de maior vulnerabilidade à ferramenta: a internet. Os algoritmos das redes sociais e as ferramentas desenvolvidas por grandes empresas de tecnologia (sim, essas mesmas) estão excluídas da categorização de sistema de alto risco. Daí, a vitória é apenas das big techs.
- - -
Nesta edição não vamos falar só sobre IA. Tem também dica sobre encontro de devs da região de Porto Alegre, mudanças no Android, big techs “urubuzando” na saúde mental alheia e tempos difíceis para a Apple na Justiça.
Siga a BrazilJS
A BrazilJS está presente e ativa em diversas plataformas e em múltiplos formatos. Nos siga!
📺 YouTube / 📸 Instagram / 🎙️ Spotify / ✖️ X/ Twitter
Acompanhe ao vivo, hoje, às 10:00
⚡️ DESTAQUE ⚡️
🤖 Senado aprova regulamentação da Inteligência Artificial
O Projeto de Lei é um marco regulatório para o desenvolvimento e o uso de sistemas de IA, estabelecendo limites e regras para o funcionamento. O texto também prevê a proteção dos direitos dos criadores de conteúdo e de obras artísticas e a criação do Sistema Nacional de Regulação e Governança de Inteligência Artificial para fiscalizar o cumprimento das regras a serem seguidas pelos desenvolvedores. O texto foi encaminhado para a Câmara de Deputados e, caso aprovado, ainda deve passar por sanção presidencial.
Um ponto que deixa a desejar é em relação às big techs. Os algoritmos de redes sociais não foram considerados sistemas de risco alto, assim como as ferramentas das próprias big techs, como Microsoft, Amazon e Google, que também não serão consideradas de alto risco e, consequentemente, não sofrerão tantas restrições em caso de aprovação da regulamentação. IAs para uso pessoal e não comercial ou de uso em alguns setores governamentais, como defesa nacional, não serão contempladas na regulamentação.
Mas afinal, que classificação é essa sobre riscos dos sistemas?
Baixo ou geral: aplicações menos arriscadas, como corretores ortográficos e filtros de mensagens;
Alto: sujeitas a fiscalização rigorosa, incluem biometria, seleção de candidatos e algoritmos de recomendação de redes sociais;
Excessivo: as que ameaçam direitos fundamentais, como deepfakes, bots eleitorais e armas autônomas.
O texto aprovado no Senado também indica que o descumprimento é passível de multa, podendo chegar a até R$ 50 milhões, além da perda do direito de realizar testes com a IA no país.
O marco é extenso e tem diversos pontos interessantes, que caberiam em uma newsletter apenas sobre o assunto, mas o último que destaco é que a administração pública - governo federal, estadual e municipal - fica responsável em criar programas de educação em IA, incluindo o letramento digital para que os brasileiros possam entender o que é a tecnologia e como usá-la, além de programas de capacitação e formação de profissionais na área. O texto não especifica a partir de quando valeria essa exigência.
📜 Ref callstack: Agência Senado > Padrinho > BrazilJS📜 Maioria dos latino-americanos defende a criação de regulações específicas para IA
Uma pesquisa feita pelo Instituto Ipsos e encomendada pela Fundação Luminate aponta que 28% dos entrevistados da América Latina (do Brasil, da Argentina, do México e da Colômbia) acham que seus países estão preparados para lidar com IA. No Brasil, por exemplo, o 29% das pessoas confiam no governo para lidar com a ferramenta.
Um ponto interessante da pesquisa é que a preocupação com a tecnologia aumenta conforme cresce o nível de entendimento sobre ela. Entende agora quando falamos que somos realistas e não negacionistas sobre a IA?
Outro ponto é em relação às eleições. A cada dez entrevistados, quatro acham que a ferramenta pode afetar a integridade dos pleitos, comprometendo a transparência do processo eleitoral. O aumento da polarização política também é percebido: 43% temem que o conteúdo gerado por IA possa intensificar o fenômeno, o dobro de quem não concorda com essa visão (19%). Também há receio de que a IA aprofunde a desigualdade social, percentual que varia de 37% a 44%, crescendo conforme o domínio da ferramenta.
📜 Ref callstack: O Globo > Padrinho > BrazilJS👨🏼⚖️ STF volta a julgar regras que tratam da responsabilidade das redes pelo conteúdo de usuários
Na última semana, a quarta sessão sobre o tema teve o voto do ministro Dias Toffoli, que defende que a norma atual - de exigir ordem judicial para remoção de conteúdos de usuários - é inconstitucional. O voto também concluiu que é necessário estabelecer que as plataformas devem remover conteúdos quando notificadas pelas vítimas do conteúdo irregular ou por ser advogados sem uma decisão judicial e que, em conteúdos específicos envolvendo crimes graves, as redes já deverão agir mesmo sem notificação.
Entre os crimes graves, estão os contra o Estado Democrático de Direito, de atos de terrorismo ou preparatórios de terrorismo, crime de racismo e qualquer espécie de violência contra a mulher. A votação trata sobre a possibilidade de que redes sociais sejam responsabilizadas por danos criados pelos conteúdos de usuários, mesmo sem terem recebido antes uma ordem judicial para a retirada das postagens irregulares.
Atualmente, com o Marco Civil da Internet, é estabelecido que as plataformas digitais só serão responsabilizadas por danos causados por conteúdos ofensivos se, depois de uma ordem judicial, não tomarem providências para retirar o material do ar. Segundo dados do Conselho Nacional de Justiça, apurado pelo G1, há pelo menos 345 casos com o mesmo conteúdo aguardando um desfecho no Supremo.
📜 Ref callstack: G1 > Padrinho > BrazilJS👩💻 Encontro de devs da região metropolitana de Porto Alegre ocorre neste final de semana
Gravataí recebe neste sábado (14) o 4Dev Connect, promovido por profissionais locais para incentivar a troca de conhecimento e networking entre profissionais, estudantes e pessoas interessadas na área da programação. O evento tem inscrições gratuitas, mas com vagas limitadas.
Entre os assuntos abordados estão: Node, acessibilidade na web, web3 e management application. O evento será na Associação Comercial, Industrial e de Serviços de Gravataí (Acigra).
Mais informações sobre o 4Dev Connect no site.
📜 Ref callstack: 4Dev Connect > BrazilJS📱 Android muda regras e apps bancários poderão exigir pré-requisitos de segurança
Entre os pré-requisitos está a instalação obrigatória de alguma atualização do sistema. Ou seja, aparelhos mais antigos ou sem atualizações de proteção do sistema não estarão mais autorizados a rodar uma ferramenta pela defasagem ou por apresentarem riscos.
Além dos apps bancários, apps de serviços do governo, fintechs e ferramentas de uso corporativo também podem usar a configuração. As mudanças na API da Play Integrity já estão no ar para desenvolvedores interessados de forma opcional e podem ser ativadas manualmente em aplicativos. A partir de maio de 2025, o recurso passa a ser uma atualização padrão.
📜 Ref callstack: Tecmundo > BrazilJS📱 Ainda sobre Android, sistema cria proteção contra roubo
Chamado informalmente de “modo ladrão”, o recurso bloqueia a tela do celular ao identificar que ele foi arrancado abruptamente da mão do usuário. Para desbloquear, é necessário da senha.
O mecanismo tem como base a Inteligência Artificial e o acelerômetro, um sensor que mede vibração e aceleração. A função já está disponível em todos os smartphones que têm Android 10 ou superior.
O “curioso” é que o Brasil foi o primeiro país do mundo a receber o recurso. Para ativar, basta ir em Configurações > Google > Todos os serviços > Proteção contra roubo.
📜 Ref callstack: G1 > Padrinho > BrazilJS🤔 IA conversacional é o futuro do mecanismo de busca?
É isso que o CEO da divisão de IA da Microsoft, Mustafa Suleyman, pensa. E ele vai além: acredita que a IA pode substituir os navegadores.
Suleyman disse que a IA disponível atualmente não é perfeita, mas que vai melhorar ainda mais.
Eu acho que isso vai ser mais útil e valioso que buscadores. As pesquisas estão completamente quebradas, é uma enorme irritação e nós meio que nos acostumamos com isso. (...) Você ganha 10 endereços em azul e aí essas coisas são vagamente relacionadas com o que você quer. Você clica em uma e aí tem que ir lá e refinar os termos de busca... Digo, é uma experiência lenta e dolorosa
Mustafa Suleyman, CEO da divisão de IA da Microsoft
📜 Ref callstack: Tecmundo > Padrinho > BrazilJS👁 Apple na mira da Justiça
Duas notícias em uma. A primeira é que a big tech é acusada de silenciar e espionar dispositivos pessoais de funcionários e violar direitos trabalhistas no Estados Unidos. Segundo a informação divulgada pela Reuters, os colaboradores seriam impedidos de discutir salários e condições trabalhistas.
Um funcionário alegou na denúncia que a empresa exige a instalação de um software de monitoramento em aparelhos que permitam o acesso aos e-mails, galeria de fotos, dados de saúde e mais informações pessoais.
Sobre a denúncia, um porta-voz da Apple declarou que as alegações feitas no processo não têm mérito, ressaltando que a empresa treina anualmente seus funcionários sobre o direito de falar sobre suas condições de trabalho.
No segundo processo, a Apple é acusada de não restringir material de abuso sexual infantil no iCloud. Uma mulher de 27 anos afirma que a empresa,ao invés de usar as ferramentas criadas para identificar, remover e relatar as imagens de seu abuso, permitiu a proliferação desse material.
Dados divulgados pelo The New York Times apontam que a Apple relatou menos material abusivo em relação aos concorrentes. Enquanto a big tech apresentou 267 relatórios ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), em 2020, Google e Facebook enviaram mais de um milhão.
📜 Ref callstack: O Globo > Padrinho > BrazilJS💊 As big techs de olho nos seus problemas de saúde
Qualquer diagnóstico de doença, inclusive de transtornos mentais, deve ser feita por um médico especialista. Mas não é isso que as big techs estão querendo.
Parecendo ser uma ferramenta de cuidado, Apple, Amazon, Meta e Google/Alphabet vêm criando mecanismos para coletar dados da saúde mental dos usuários para… monetizar! Chamado por especialistas de “colonialismo de dados”, a prática, feita por meio de aplicativos e relógios, acaba reduzindo que a saúde mental e física de uma pessoa é uma questão de responsabilidade individual e gestão pessoal.
O básico: informe para gente o que está sentindo, nós vamos dar um conselho e não precisa ir ao médico para ficar mais doente e nos dar mais dinheiro.
📜 Ref callstack: Jacobina > BrazilJS