APRENDER

Sim, os algoritmos podem limitar a tua liberdade de várias formas, algumas subtis e outras mais evidentes. Isto acontece devido à forma como os algoritmos influenciam as decisões e o acesso à informação no dia a dia. Aqui estão alguns exemplos concretos:

1. Filtros e recomendações personalizadas

Plataformas como redes sociais, motores de busca ou serviços de streaming utilizam algoritmos para personalizar os conteúdos que vês. Embora isto possa facilitar a experiência, cria o fenómeno da “bolha de filtros”, em que acabas por ser exposto apenas a conteúdos que se alinham com as tuas preferências e visão do mundo. Isso limita a diversidade de informação e pode afetar a tua capacidade de tomar decisões informadas.

2. Tomada de decisões automatizadas

Os algoritmos são usados para decisões em áreas como atribuição de crédito, contratação de trabalho ou até julgamentos legais. Se estes algoritmos contêm vieses (por exemplo, discriminação de género ou raça) podem afetar negativamente as tuas oportunidades e restringir a tua liberdade económica ou social sem uma justificação transparente.

3. Manipulação de comportamentos

As empresas usam algoritmos para analisar os teus padrões de comportamento online e, com base nisso, direcionar anúncios e conteúdos para influenciar as tuas decisões de consumo ou opinião política. Isto pode levar a manipulação, como se viu em escândalos como o da Cambridge Analytica, onde algoritmos foram usados para influenciar eleições.

4. Censura e controlo de informação

Em alguns contextos, os algoritmos são usados para moderar conteúdos ou bloquear determinadas informações. Isso pode resultar em censura injusta ou supressão de opiniões dissidentes, limitando a tua liberdade de expressão e de acesso à informação.

5. Reconhecimento facial e vigilância

Sistemas de vigilância baseados em algoritmos de reconhecimento facial podem restringir a tua liberdade de movimento e privacidade. Por exemplo, em alguns países, esses sistemas são usados para monitorizar cidadãos em tempo real, o que pode levar a limitações das liberdades civis.

6. Dependência tecnológica

À medida que delegamos determinadas tarefas a dispositivos inteligentes, há uma certa limitação de autonomia. A delegação de decisões a algoritmos pode diminuir a tua capacidade de pensamento crítico e independência de escolha.

7. Liberdade individual e privacidade

Os algoritmos que controlam dispositivos inteligentes em casa ou assistentes virtuais (como Alexa ou Google Home) recolhem dados sobre os teus hábitos diários. Esta recolha contínua de dados pode ser usada para influenciar decisões ou mesmo ser partilhada com terceiros sem o teu conhecimento.

Como mitigar estas limitações

Para mitigar os problemas causados pelos algoritmos e proteger as liberdades individuais, é fundamental adotar abordagens técnicas, legais e educativas. Aqui estão algumas estratégias eficazes em diferentes áreas:

1. Transparência e explicabilidade dos algoritmos

O que fazer:

• • Exigir que empresas e instituições forneçam explicações claras sobre como os algoritmos tomam decisões.

Medidas concretas:

• • Desenvolver sistemas de “caixa branca” (white box) em vez de “caixa negra” (black box), onde o processo de decisão é compreensível.
  • Legislação que obrigue à transparência nos algoritmos usados por entidades públicas e privadas.

Exemplo:

• • Regulamentos como o RGPD (Regulamento Geral de Proteção de Dados) da União Europeia incentivam a transparência e permitem que os utilizadores questionem decisões automatizadas.

2. Avaliação contínua de viés e discriminação

O que fazer:

• • Identificar e corrigir preconceitos (vieses) nos algoritmos que possam levar a decisões discriminatórias.

Medidas concretas:

• • Realizar auditorias regulares dos algoritmos para avaliar imparcialidade.
  • Utilizar conjuntos de dados diversificados e representativos durante o treino dos modelos.

Exemplo:

• • Empresas de recrutamento podem adotar ferramentas para verificar se os algoritmos estão a discriminar candidatos com base em género, idade ou etnia.

3. Regulação e supervisão governamental

O que fazer:

• • Estabelecer organismos independentes para supervisionar o uso de algoritmos e garantir que estes respeitam os direitos dos cidadãos.

Medidas concretas:

• • Criar leis específicas para regular o uso de inteligência artificial em áreas críticas como a educação, a saúde, a justiça e segurança.
  • Implementar mecanismos de recurso para contestar decisões automatizadas.

Exemplo:

• • O AI Act da União Europeia propõe uma estrutura de regulação para a IA, classificando os riscos e estabelecendo regras para os diferentes níveis de risco.

4. Privacidade e proteção de dados

O que fazer:

• • Garantir que os dados pessoais são recolhidos e tratados de forma ética e com consentimento explícito dos utilizadores.

Medidas concretas:

• • Adotar práticas de anonimização e encriptação de dados.
  • Oferecer opções claras para os utilizadores controlarem os seus dados.

Exemplo:

• • Navegadores como o DuckDuckGo oferecem pesquisa online sem rastreamento, protegendo a privacidade dos utilizadores.

5. Educação e literacia digital

O que fazer:

• • Promover a compreensão sobre como funcionam os algoritmos e os seus impactos.

Medidas concretas:

• • Introduzir programas de literacia digital nas escolas, por exemplo no âmbito da Cidadania e das Bibliotecas Escolares.
  • Criar campanhas públicas de consciencialização sobre os direitos digitais.

Exemplo:

• • Programas educativos, como o Proliteracias da Rede de Bibliotecas Escolares, podem incluir atividades sobre como os algoritmos influenciam o nosso dia a dia e como evitar a desinformação potenciada pelos algoritmos.

6. Desenvolvimento de algoritmos éticos

O que fazer:

• • Integrar princípios éticos durante o desenvolvimento e aplicação de algoritmos.

Medidas concretas:

• • Aplicar os princípios da Ética da IA, como justiça, responsabilidade, e respeito pelos direitos humanos.
  • Incluir comités de ética nas fases de design e implementação de sistemas algorítmicos.

Exemplo:

• • Grandes empresas tecnológicas têm comités de ética que avaliam o impacto social dos seus algoritmos antes de serem lançados.

7. Controlo humano nas decisões automatizadas

O que fazer:

• • Garantir que decisões críticas envolvem sempre supervisão e intervenção humana.

Medidas concretas:

• • Aplicar o princípio de “humano no circuito” (human-in-the-loop) para decisões sensíveis, como aprovações de crédito, diagnósticos médicos ou avaliação de alunos.

Exemplo:

• • Na avaliação dos alunos e nos processos de decisão apoiados por IA, os professores ou dirigentes escolares devem ter sempre a última palavra.

8. Sistemas de responsabilização

O que fazer:

• • Responsabilizar criadores e utilizadores de algoritmos por impactos negativos das suas aplicações.

Medidas concretas:

• • Introduzir sanções legais para o uso irresponsável de algoritmos.
  • Garantir que os utilizadores afetados por decisões automatizadas têm direito a compensações ou a recorrer dessas decisões.

---

Os algoritmos, portanto, não são inerentemente prejudiciais, mas sem uma supervisão ética e regulamentação adequada, podem limitar significativamente as tuas liberdades.