Mark Coeckelbergh diz que inteligência artificial pode minar confiança no regime democrático

Drops de Jogos recebeu informações oficiais do Comitê Gestor da Internet no Brasil. Em evento do CGI.br e NIC.br, Mark Coeckelbergh destaca que IA pode minar confiança no regime democrático.

A convite do Comitê Gestor da Internet no Brasil (CGI.br) e do Núcleo de Informação e Coordenação do Ponto BR (NIC.br), o filósofo belga Mark Coeckelbergh analisou algumas questões éticas em relação à Inteligência Artificial (IA) durante encontro realizado nesta quarta, em São Paulo.  Entre elas, privacidade e proteção de dados, responsabilidade, transparência, viéses e discriminação, futuro do trabalho, e o status moral dos não-humanos. No Brasil e para divulgar seus livros “Ética na Inteligência Artificial” e “Why AI undermines democracy and what to do about it” (ainda sem tradução para o português), Coeckelbergh destacou como a formulação de políticas públicas pode ajudar a enfrentar os presentes desafios nesse campo.

“É importante falarmos sobre o impacto da Inteligência Artificial na democracia, pois a IA pode ser usada para minar as bases de conhecimento e confiança nesse regime de governo, através da criação de assimetrias de poder, manipulação e erosão da distinção entre o que é real e falso, e da criação de bolhas epistemológicas, beneficiando governantes autoritários e totalitários”, explicou o filósofo. Para ele, a tecnologia tem um efeito profundo de transformação nas sociedades – daí a importância de proteger e fortalecer a democracia com novas instituições, adaptadas às novas situações. “Podemos ter um humanismo digital, em que criamos experiência e conhecimento compartilhado não apenas entre acadêmicos, mas entre cidadãos. Para isso, precisamos de educação, formação e de uma mudança cultural na sociedade, o que leva tempo”, completou.

Com moderação de Fernanda Martins, diretora de pesquisa e desenvolvimento do InternetLab, Renata Mielli, coordenadora do CGI.br, e Diogo Cortiz, pesquisador da PUC/SP e do Ceweb.br|NIC.br, conversaram com Mark Coeckelbergh sobre desafios éticos e sociais na inteligência artificial.

“No Brasil, assim como em outros países do mundo, crescem as discussões sobre regulações de caráter nacional sobre IA, mas enfrentamos dificuldades para observar as regras de transparência e de desenvolvimento, pois a maioria das empresas envolvidas não tem uma sede no país”, ressaltou Renata Mielli. Segundo ela, está sendo discutido no Brasil um projeto de lei baseado nos riscos e direitos humanos, que busca garantir que a inovação e o desenvolvimento tecnológico e científico não sejam impactados negativamente pela regulação de sistemas de IA. Contudo, Mielli adverte que há uma grande dificuldade para caracterização da IA considerando todo o ciclo de desenvolvimento, implementação e usos, visto que o Brasil é um importador desta tecnologia. 

Para Diogo Cortiz, falar de impacto ético e social envolve discutir o treinamento, uso e consequências a médio e longo prazo. “Temos um grande desafio em relação à representatividade da língua portuguesa, já que a maior parte da base de dados das plataformas é em inglês e, na tradução, perdem-se viéses e confundem-se palavras. Também precisamos pensar em políticas de acessos aos dados de treinamento das IAs para que possamos evoluir pesquisas no Brasil. Estas são algumas áreas que precisam ser envolvidas na discussão de regulamentação da IA no Brasil”.

O custo ambiental do treinamento dos grandes modelos, com grande consumo de água e energia, também foi um dos desafios apontados por Cortiz.

“As abordagens nacionalistas não são suficientes para lidar com problemas globais. Depois da Segunda Guerra Mundial, muitos países decidiram se juntar e criar organizações internacionais, tratados de armas etc. Houve um movimento mais internacionalista após as grandes crises do século XIX e, quando lidamos com a crise climática – que é uma crise global – o mesmo deveria ser feito”, concluiu Mark Coeckelbergh.

O evento está disponível na íntegra no canal do NIC.br no YouTube:

https://www.youtube.com/watch?v=Tp6pb73UWms

Sobre o Núcleo de Informação e Coordenação do Ponto BR – NIC.br

O Núcleo de Informação e Coordenação do Ponto BR — NIC.br (Link) é uma entidade civil de direito privado e sem fins de lucro, encarregada da operação do domínio.br, bem como da distribuição de números IP e do registro de Sistemas Autônomos no País. O NIC.br implementa as decisões e projetos do Comitê Gestor da Internet no Brasil – CGI.br desde 2005, e todos os recursos arrecadados provem de suas atividades que são de natureza eminentemente privada. Conduz ações e projetos que trazem benefícios à infraestrutura da Internet no Brasil. Do NIC.br fazem parte:  Registro.br (Link), CERT.br (Link), Ceptro.br (Link), Cetic.br (Link), IX.br (Link) e Ceweb.br (Link), além de projetos como Internetsegura.br (Link) e Portal de Boas Práticas para Internet no Brasil (Link). Abriga ainda o escritório do W3C Chapter São Paulo (Link).

Sobre o Comitê Gestor da Internet no Brasil – CGI.br

O Comitê Gestor da Internet no Brasil, responsável por estabelecer diretrizes estratégicas relacionadas ao uso e desenvolvimento da Internet no Brasil, coordena e integra todas as iniciativas de serviços Internet no País, promovendo a qualidade técnica, a inovação e a disseminação dos serviços ofertados. Com base nos princípios do multissetorialismo e transparência, o CGI.br representa um modelo de governança da Internet democrático, elogiado internacionalmente, em que todos os setores da sociedade são partícipes de forma equânime de suas decisões. Uma de suas formulações são os 10 Princípios para a Governança e Uso da Internet (Link). Mais informações em Link.

Veja nossa campanha de financiamento coletivo, nosso crowdfunding.

Conheça os canais do Drops de Jogos no YouTube, no Facebook, na Twitch, no TikTok e no Instagram.