Bioética e sociedade | Carlos Costa Gomes – A ética entre o algoritmo e a humanidade: a desconfiguração da pessoa na sociedade digital.

Bioética e sociedade
(Parceria com o Centro de Estudos de Bioética)

Carlos Costa Gomes*

Quando a experiência humana é mediada por sistemas que antecipam desejos, filtram escolhas e organizam a atenção segundo critérios externos à pessoa, corre-se o risco de uma “desconfiguração do humano”: uma perda progressiva da espontaneidade interior e da liberdade profunda.

1. Em 2008, quando muito pouco se falava do impacto da era digital – redes sociais e da Inteligência Artificial (IA) – escrevemos sobre a importância de uma resposta regulatória necessária sobre problema ético e social da exposição precoce de crianças e adolescentes a ambientes digitais desenhados para captar atenção, criar dependência e influenciar comportamentos. Volvidos, quase duas décadas, Assembleia da República, prepara-se para legislar sobre esta matéria. A proposta aprovada na generalidade prevê: proibição do acesso autónomo às redes sociais para menores de 16 anos; proibição total até aos 13 anos; entre os 13 e os 16 anos, acesso apenas com consentimento parental verificado.

2. À luz do que afirmamos nesse ano (e seguintes) já distante, defendo que esta lei não deve ser entendida como censura ou rejeição da tecnologia, mas como uma medida de proteção humana. As plataformas digitais utilizam algoritmos capazes de influenciar emoções, desejos e formas de pensar, afetando especialmente os jovens e crianças – mesmo adultos -, que ainda estão em processo de maturação psicológica e moral.

3. Numa espécie de cruzada moral, sem sermos moralistas, não contra as tecnologias digitais, mas sobre a incapacidade moral de proteção das novas gerações, temos repetido que uma sociedade ética tem o dever de proteger os mais vulneráveis perante os poderes tecnológicos que ultrapassam a capacidade crítica das crianças.

5. A proposta de lei, afinal, é um reconhecimento político de algo que há muito denunciamos: as redes sociais não funcionam apenas como ferramentas de comunicação, mas como sistemas de condicionamento emocional e comportamental. Contudo, se a lei pode regular, a educação deve formar.

Assim, o que devemos assumir como risco e o que devemos adotar como benefícios:

· O risco não é apenas o acesso a conteúdos perigosos, mas a criação de dependência, a ansiedade, o isolamento e a perda de autonomia interior.

· O perigo de transformar proteção em vigilância excessiva;

· Os riscos associados à verificação digital de identidade;

· Não ter ilusão de que o problema se resolve apenas através da proibição legal, mas privilegiar:

o a educação digital e formação ética e moral na escola

o a cidadania ética na era digital;

o formação ética para famílias e jovens;

o a responsabilização moral e jurídica das plataformas digitais;

o a promoção de relações humanas reais fora do espaço virtual.

Porque a regulação do acesso às redes sociais não é negar a tecnologia, mas pelo contrário, é defender a liberdade humana contra formas invisíveis de manipulação digital.”

6. Se no passado já afirmamos que as redes sociais não eram neutras e, portanto, deveriam ser responsabilizadas, hoje confirmamos essa afirmação pelo que se passa a nível mundial. As empresas digitais não podem limitar-se ao lucro ou ao crescimento das plataformas, ignorando os efeitos sobre a saúde mental, a liberdade e o desenvolvimento humano. Por isso, é legítimo que a sociedade e o Estado criem regras e limites para proteger crianças, adolescentes e a própria autonomia das pessoas.

7. Não basta reconhecer que existem efeitos negativos; é necessário atribuir responsabilidades claras às empresas tecnológicas, aos reguladores e também aos educadores. A neutralidade tecnológica é, uma ilusão: toda a arquitetura digital incorpora escolhas morais e políticas. Assim, a ausência de regulação não é neutralidade, mas uma forma implícita de permitir que interesses privados definam os limites da experiência humana.

8. Outro aspeto ético relevante é a defesa da interioridade humana. Num ambiente dominado por estímulos constantes, notificações e interação permanente, existe o risco de erosão da capacidade de reflexão, do silêncio e do autoconhecimento. A liberdade não é apenas capacidade de escolha externa, mas também capacidade interior de discernimento. Sem espaços de interioridade, o ser humano torna-se mais vulnerável à manipulação e menos capaz de construir uma identidade autónoma.

9. A nossa posição, desde há décadas, não é, contudo, de rejeição da tecnologia, mas de integração ética. A inteligência artificial e as redes sociais podem ter um papel positivo se forem subordinadas a critérios de justiça, transparência e promoção do bem comum. O ponto decisivo é garantir que o desenvolvimento tecnológico seja acompanhado por um desenvolvimento moral equivalente.

10. A questão fundamental que colocamos não é apenas o que a tecnologia permite fazer, mas o que ela deve ou não deve fazer com o ser humano. A ética sobre a tecnologia deve partir de uma ideia profundamente antropológica: o ser humano não é apenas um conjunto de funções cognitivas ou comportamentais, mas uma realidade única marcada por interioridade, fragilidade, liberdade e sentido. É esta complexidade que entendemos como a “beleza do humano” no qual reside o valor inviolável da dignidade da pessoa.

12. A beleza humana não é estética no sentido superficial, mas existencial: manifesta-se na capacidade de amar sem cálculo, de procurar a verdade mesmo quando não é útil, de criar significado, de errar e aprender, de se surpreender e de se transcender. O humano é um ser aberto, inacabado, cuja dignidade não depende de eficiência, produtividade ou previsibilidade.

13. É precisamente aqui que surge a nossa inquietação ética perante a inteligência artificial e as redes sociais. O problema não está apenas no que estas tecnologias fazem, mas no tipo de ser humano que podem induzir. Quando a experiência humana é mediada por sistemas que antecipam desejos, filtram escolhas e organizam a atenção segundo critérios externos ao sujeito, corre-se o risco de uma “desconfiguração do humano”: uma perda progressiva da espontaneidade interior e da liberdade profunda.

14. Essa desconfiguração manifesta-se de várias formas:

15. Primeiro, na redução da interioridade: o fluxo constante de estímulos digitais ocupa o espaço do silêncio, enfraquecendo a capacidade de introspeção e de encontro consigo mesmo. Sem esse espaço interior, a pessoa tende a viver numa superfície contínua de reações, sem profundidade reflexiva.

16. Segundo, na erosão da autenticidade relacional: as relações mediadas por algoritmos podem transformar o outro em imagem consumível, em perfil ou estatística de interação. O encontro humano deixa de ser imprevisível e passa a ser parcialmente programado, enfraquecendo a alteridade verdadeira, aquela que resiste ao controlo e à previsão.

17. Terceiro, na fragmentação da identidade: ao ser constantemente exposto a conteúdos personalizados que reforçam preferências e emoções imediatas, a pessoa corre o risco de perder a unidade narrativa da sua própria vida. Em vez de uma identidade construída no tempo, surge uma identidade reativa e imediata, moldada por impulsos e sugestões externas.

18. Esta dinâmica não elimina o humano, mas pode empobrecê-lo silenciosamente. A desconfiguração não é uma destruição súbita, mas uma erosão gradual da liberdade interior e da sua consciência moral. O perigo ético não é a substituição do ser humano pela máquina, mas a adaptação do humano a uma lógica maquínica previsível, otimizada, orientada para o desempenho e para a resposta imediata.

19. Face a isto, a nossa posição ética é: proteger o humano é proteger aquilo que nele não é programável. A capacidade de pausa, de dúvida, de contemplação, de recusa, de criatividade imprevisível e de relação profunda com o outro constitui, na nossa visão, o núcleo irredutível da dignidade humana.

20. A inteligência artificial, quando bem orientada, pode ampliar capacidades humanas. Mas quando se torna estrutura dominante de mediação da experiência, pode inverter a relação fundamental entre meio e fim: o humano deixa de usar a tecnologia e passa a ser progressivamente moldado por ela. Aqui reside uma tensão essencial.

21. Essa tensão essencial reside entre a beleza do humano como ser livre, interior e aberto ao sentido, e o risco de uma tecnicização da vida que o torna eficiente, mas menos profundo; sempre ligado digital, mas menos presente no real; informado, mas menos formado de modo consciente. No fundo, a nossa questão ética mais fundamental é esta: como preservar aquilo que no humano não pode ser reduzido a cálculo, dado ou previsão, naquilo que o torna, precisamente, humano.

22. Em conclusão, o debate em torno das leis que regulam o uso das redes sociais e da inteligência artificial mostra que a questão não é apenas jurídica ou tecnológica, mas profundamente ética.

23. Do ponto de vista legal, o Estado procura estabelecer regras objetivas baseadas em idades mínimas, mecanismos de controlo, responsabilidades das plataformas e proteção de dados para reduzir riscos concretos: dependência digital, exposição a conteúdos nocivos e manipulação de menores. A lei atua, portanto, no plano do “possível e do verificável”, criando limites externos ao comportamento digital.

24. No plano ético, porém, a reflexão vai mais fundo. A questão decisiva não é apenas o que pode ser permitido ou proibido, mas que tipo de ser humano estamos a formar neste ambiente tecnológico. A ética interroga a qualidade da liberdade, a integridade da consciência e a preservação da interioridade humana, isto é, aquilo que não pode ser totalmente captado por normas legais.

26. Assim, enquanto a lei procura regular comportamentos, a ética procura orientar consciências. A lei estabelece limites exteriores; a ética procura formar limites interiores. A lei protege; a ética dá sentido à proteção.

27. A verdadeira maturidade social surge quando ambas se articulam: leis que protegem sem sufocar a liberdade, e uma ética que impede que a tecnologia reduza o humano a objeto de cálculo ou de manipulação. Nesse equilíbrio, a regulação legal deixa de ser apenas controlo e passa a ser expressão de uma responsabilidade social perante aquilo que há de mais frágil e precioso: a dignidade e a profundidade do ser humano.