Grupo de Trabalho da ALMT debate impactos sociais e ambientais da inteligência artificial
6 min de leitura
A Assembleia Legislativa de Mato Grosso (ALMT) realizou, nesta segunda-feira (15), mais uma reunião do Grupo de Trabalho (GT) responsável por acompanhar, promover estudos e propor medidas relacionadas à implementação dos Objetivos de Desenvolvimento Sustentável (ODS) da Agenda 2030 da Organização das Nações Unidas (ONU). A principal pauta do encontro foi a palestra “O custo social e ambiental da Inteligência Artificial diante dos Objetivos de Desenvolvimento Sustentável da Agenda 2030 da ONU”, ministrada pelo advogado, biólogo e mestrando em Política Social pela Universidade Federal de Mato Grosso (UFMT), Luiz Felipe Goffi Portela.
Participaram da reunião o presidente do GT, André Luis Rufino, a relatora Clara Vaz e o secretário José Carlos Bazan. O debate abordou os impactos da crescente utilização da inteligência artificial sobre o mercado de trabalho, o consumo de energia e água, além dos desafios relacionados à desigualdade social e aos vieses presentes nos sistemas tecnológicos.
Durante a palestra, Luiz Felipe Goffi Portela destacou a necessidade de ampliar o debate sobre a inteligência artificial para além dos benefícios normalmente divulgados pelas grandes empresas de tecnologia.
“É importante que nós tenhamos uma discussão além da publicidade e dessa magia que é vendida por essas empresas. Precisamos entender o que existe por trás dessa tecnologia e quais são os impactos que ela gera para a sociedade”, afirmou.
Segundo o palestrante, a inteligência artificial depende de uma enorme estrutura física e humana para funcionar. Ele explicou que os sistemas utilizam grandes volumes de dados, demandam equipamentos de alta capacidade e consomem grandes quantidades de energia e água por meio dos data centers.
“Quando falamos em nuvem, muitas pessoas imaginam algo abstrato, mas essa nuvem é formada por data centers espalhados pelo mundo. Existe uma estrutura física gigantesca sustentando esses sistemas, e isso tem custos ambientais e sociais que muitas vezes não aparecem para o usuário final”, observou.
Outro ponto destacado foi o impacto da inteligência artificial sobre o trabalho. De acordo com o especialista, parte da tecnologia é alimentada por trabalhadores que realizam tarefas repetitivas e pouco valorizadas, muitas vezes em países em desenvolvimento.
“A inteligência artificial não aprende de forma mágica. Ela depende de milhões de dados que são organizados e tratados por pessoas. Muitas dessas atividades são mal remuneradas e não geram qualificação profissional para quem as executa”, explicou.
Na área ambiental, Portela alertou para o elevado consumo de recursos naturais necessários para manter os data centers em funcionamento.
“Essas estruturas possuem uma pegada hídrica muito forte. São bilhões de litros de água utilizados para resfriar os equipamentos, além de uma demanda crescente por energia elétrica. Precisamos avaliar quais são os benefícios que essas instalações deixam para as comunidades onde são implantadas”, afirmou.
A relatora do GT, Clara Vaz, chamou atenção para a necessidade de refletir sobre formas de reduzir os impactos gerados pelo uso crescente da inteligência artificial.
“Quando discutimos desenvolvimento sustentável, o objetivo é justamente reduzir os impactos sociais, econômicos e ambientais. Diante desse cenário, precisamos refletir sobre o uso consciente da inteligência artificial e sobre mecanismos que possam minimizar esses efeitos”, destacou.
Ao responder aos questionamentos da relatora, Luiz Felipe afirmou que a inteligência artificial já está integrada a diversas atividades do cotidiano e dificilmente deixará de ser utilizada. Para ele, o caminho passa pela conscientização e pela criação de regras que garantam um desenvolvimento mais equilibrado da tecnologia.
“Não acredito que seja possível simplesmente parar de usar a inteligência artificial. O principal é compreender os impactos gerados por essa tecnologia e avançar no debate sobre formas de regulação que permitam um uso mais sustentável e responsável”, defendeu.
Durante a palestra, Luiz Felipe Goffi Portela também chamou atenção para os riscos relacionados às bases de dados utilizadas para treinar os sistemas de inteligência artificial. Segundo ele, como essas tecnologias aprendem a partir de informações produzidas pela própria sociedade, acabam reproduzindo preconceitos e desigualdades já existentes.
“O problema é que a inteligência artificial não cria conhecimento sozinha. Ela aprende com os dados que recebe. Se a sociedade produz desigualdades e preconceitos, esses padrões também podem aparecer nos sistemas”, explicou.
O palestrante apresentou exemplos de pesquisas internacionais que apontam falhas em sistemas de reconhecimento facial, especialmente na identificação de pessoas negras. Segundo ele, estudos demonstram taxas de erro significativamente maiores quando a tecnologia é aplicada a mulheres negras em comparação com homens brancos.
Portela também destacou casos já registrados no Brasil em que cidadãos foram abordados ou detidos injustamente após erros em sistemas automatizados de reconhecimento facial.
“Quando um sistema erra, precisamos discutir quem será responsabilizado por esse erro e quais mecanismos de fiscalização existem para evitar que a tecnologia prejudique a vida das pessoas”, alertou.
Outro exemplo apresentado envolveu a geração de imagens por inteligência artificial. O pesquisador demonstrou que, ao solicitar imagens de pessoas em determinadas profissões ou condições sociais, os sistemas tendem a reproduzir estereótipos raciais e econômicos presentes nos bancos de dados utilizados para o treinamento das plataformas.
Para ele, o avanço da inteligência artificial exige transparência, auditorias independentes e mecanismos de controle social capazes de identificar possíveis vieses discriminatórios.
“A tecnologia não é neutra. Ela reflete os dados que recebe e as escolhas feitas durante seu desenvolvimento. Por isso, é fundamental que haja fiscalização e acompanhamento desses sistemas”, afirmou.
Além de apresentar os impactos sociais, ambientais e econômicos da inteligência artificial, o palestrante também sugeriu possíveis frentes de atuação para a Assembleia Legislativa de Mato Grosso. Entre elas, a criação de mecanismos de acompanhamento e fiscalização da implantação de sistemas de inteligência artificial utilizados pelo poder público, especialmente nas áreas de segurança, reconhecimento facial e prestação de serviços à população.
O palestrante defendeu ainda a realização de auditorias independentes em sistemas automatizados, o fortalecimento da transparência no uso de algoritmos e a ampliação do debate sobre a regulação da inteligência artificial, de forma a garantir que a inovação tecnológica esteja alinhada à proteção dos direitos fundamentais e aos princípios da Agenda 2030.
Segundo ele, a participação do Poder Legislativo é fundamental para avaliar os impactos dessas tecnologias antes de sua adoção em larga escala.
“Faz parte do papel da Assembleia pensar como esse uso será construído e fiscalizar de fato esses sistemas. Muitas vezes se observa apenas o resultado apresentado pela tecnologia, mas é preciso também avaliar os erros e os impactos que podem atingir a população”, destacou.
O presidente do Grupo de Trabalho, André Luis Rufino, destacou que o debate contribui diretamente para os trabalhos desenvolvidos pela ALMT em torno da Agenda 2030 e poderá subsidiar futuras iniciativas legislativas.
“Essa discussão é extremamente importante porque a inteligência artificial já está presente no cotidiano das pessoas e na administração pública. O Grupo de Trabalho, criado por iniciativa do deputado estadual Wilson Santos (PSD), tem justamente a missão de estudar esses temas, identificar desafios e buscar caminhos para que Mato Grosso avance de forma sustentável. As sugestões apresentadas durante a palestra serão analisadas e poderão subsidiar indicações, propostas legislativas e outras medidas que venham a ser discutidas e tramitadas na Assembleia Legislativa”, pontuou André Luis.
Participaram da reunião o presidente do GT, André Luis Rufino, a relatora Clara Vaz e o secretário José Carlos Bazan. O debate abordou os impactos da crescente utilização da inteligência artificial sobre o mercado de trabalho, o consumo de energia e água, além dos desafios relacionados à desigualdade social e aos vieses presentes nos sistemas tecnológicos.
Durante a palestra, Luiz Felipe Goffi Portela destacou a necessidade de ampliar o debate sobre a inteligência artificial para além dos benefícios normalmente divulgados pelas grandes empresas de tecnologia.
“É importante que nós tenhamos uma discussão além da publicidade e dessa magia que é vendida por essas empresas. Precisamos entender o que existe por trás dessa tecnologia e quais são os impactos que ela gera para a sociedade”, afirmou.
Segundo o palestrante, a inteligência artificial depende de uma enorme estrutura física e humana para funcionar. Ele explicou que os sistemas utilizam grandes volumes de dados, demandam equipamentos de alta capacidade e consomem grandes quantidades de energia e água por meio dos data centers.
“Quando falamos em nuvem, muitas pessoas imaginam algo abstrato, mas essa nuvem é formada por data centers espalhados pelo mundo. Existe uma estrutura física gigantesca sustentando esses sistemas, e isso tem custos ambientais e sociais que muitas vezes não aparecem para o usuário final”, observou.
Outro ponto destacado foi o impacto da inteligência artificial sobre o trabalho. De acordo com o especialista, parte da tecnologia é alimentada por trabalhadores que realizam tarefas repetitivas e pouco valorizadas, muitas vezes em países em desenvolvimento.
“A inteligência artificial não aprende de forma mágica. Ela depende de milhões de dados que são organizados e tratados por pessoas. Muitas dessas atividades são mal remuneradas e não geram qualificação profissional para quem as executa”, explicou.
Na área ambiental, Portela alertou para o elevado consumo de recursos naturais necessários para manter os data centers em funcionamento.
“Essas estruturas possuem uma pegada hídrica muito forte. São bilhões de litros de água utilizados para resfriar os equipamentos, além de uma demanda crescente por energia elétrica. Precisamos avaliar quais são os benefícios que essas instalações deixam para as comunidades onde são implantadas”, afirmou.
A relatora do GT, Clara Vaz, chamou atenção para a necessidade de refletir sobre formas de reduzir os impactos gerados pelo uso crescente da inteligência artificial.
“Quando discutimos desenvolvimento sustentável, o objetivo é justamente reduzir os impactos sociais, econômicos e ambientais. Diante desse cenário, precisamos refletir sobre o uso consciente da inteligência artificial e sobre mecanismos que possam minimizar esses efeitos”, destacou.
Ao responder aos questionamentos da relatora, Luiz Felipe afirmou que a inteligência artificial já está integrada a diversas atividades do cotidiano e dificilmente deixará de ser utilizada. Para ele, o caminho passa pela conscientização e pela criação de regras que garantam um desenvolvimento mais equilibrado da tecnologia.
“Não acredito que seja possível simplesmente parar de usar a inteligência artificial. O principal é compreender os impactos gerados por essa tecnologia e avançar no debate sobre formas de regulação que permitam um uso mais sustentável e responsável”, defendeu.
Durante a palestra, Luiz Felipe Goffi Portela também chamou atenção para os riscos relacionados às bases de dados utilizadas para treinar os sistemas de inteligência artificial. Segundo ele, como essas tecnologias aprendem a partir de informações produzidas pela própria sociedade, acabam reproduzindo preconceitos e desigualdades já existentes.
“O problema é que a inteligência artificial não cria conhecimento sozinha. Ela aprende com os dados que recebe. Se a sociedade produz desigualdades e preconceitos, esses padrões também podem aparecer nos sistemas”, explicou.
O palestrante apresentou exemplos de pesquisas internacionais que apontam falhas em sistemas de reconhecimento facial, especialmente na identificação de pessoas negras. Segundo ele, estudos demonstram taxas de erro significativamente maiores quando a tecnologia é aplicada a mulheres negras em comparação com homens brancos.
Portela também destacou casos já registrados no Brasil em que cidadãos foram abordados ou detidos injustamente após erros em sistemas automatizados de reconhecimento facial.
“Quando um sistema erra, precisamos discutir quem será responsabilizado por esse erro e quais mecanismos de fiscalização existem para evitar que a tecnologia prejudique a vida das pessoas”, alertou.
Outro exemplo apresentado envolveu a geração de imagens por inteligência artificial. O pesquisador demonstrou que, ao solicitar imagens de pessoas em determinadas profissões ou condições sociais, os sistemas tendem a reproduzir estereótipos raciais e econômicos presentes nos bancos de dados utilizados para o treinamento das plataformas.
Para ele, o avanço da inteligência artificial exige transparência, auditorias independentes e mecanismos de controle social capazes de identificar possíveis vieses discriminatórios.
“A tecnologia não é neutra. Ela reflete os dados que recebe e as escolhas feitas durante seu desenvolvimento. Por isso, é fundamental que haja fiscalização e acompanhamento desses sistemas”, afirmou.
Além de apresentar os impactos sociais, ambientais e econômicos da inteligência artificial, o palestrante também sugeriu possíveis frentes de atuação para a Assembleia Legislativa de Mato Grosso. Entre elas, a criação de mecanismos de acompanhamento e fiscalização da implantação de sistemas de inteligência artificial utilizados pelo poder público, especialmente nas áreas de segurança, reconhecimento facial e prestação de serviços à população.
O palestrante defendeu ainda a realização de auditorias independentes em sistemas automatizados, o fortalecimento da transparência no uso de algoritmos e a ampliação do debate sobre a regulação da inteligência artificial, de forma a garantir que a inovação tecnológica esteja alinhada à proteção dos direitos fundamentais e aos princípios da Agenda 2030.
Segundo ele, a participação do Poder Legislativo é fundamental para avaliar os impactos dessas tecnologias antes de sua adoção em larga escala.
“Faz parte do papel da Assembleia pensar como esse uso será construído e fiscalizar de fato esses sistemas. Muitas vezes se observa apenas o resultado apresentado pela tecnologia, mas é preciso também avaliar os erros e os impactos que podem atingir a população”, destacou.
O presidente do Grupo de Trabalho, André Luis Rufino, destacou que o debate contribui diretamente para os trabalhos desenvolvidos pela ALMT em torno da Agenda 2030 e poderá subsidiar futuras iniciativas legislativas.
“Essa discussão é extremamente importante porque a inteligência artificial já está presente no cotidiano das pessoas e na administração pública. O Grupo de Trabalho, criado por iniciativa do deputado estadual Wilson Santos (PSD), tem justamente a missão de estudar esses temas, identificar desafios e buscar caminhos para que Mato Grosso avance de forma sustentável. As sugestões apresentadas durante a palestra serão analisadas e poderão subsidiar indicações, propostas legislativas e outras medidas que venham a ser discutidas e tramitadas na Assembleia Legislativa”, pontuou André Luis.
Publicado originalmente em momentomt.com.br
