Fazendo um exercício de imaginação acerca de um cenário distópico, como o construído de forma magistral por George Orwell em seu clássico “1984”, que teve como um dos ganchos principais para seus contextos acerca de uma sociedade de controle a frase "O grande irmão está observando você", podemos pensar no contexto de uma burocracia apoiada por uma ideologia falida, num mundo em que todas as decisões são feitas de forma centralizada por uma IA sem precedentes, que analisa em tempo real tudo que fazemos.
Realizando uma breve regressão histórica, um dos principais fatores que inviabilizou os regimes opressivos do século XX foi a dispersão de informação. Segundo o economista Friedrich Hayek, não se pode tomar decisões eficientes de forma centralizada, uma vez que a informação está dispersa. Um exemplo disto é Chernobyl: num cenário hipotético, se um supervisor te dá a ordem de regular uma válvula de um setor que não existe há meses, você não questiona, apenas obedece, pois a alternativa seria um passeio até a Gulag mais próxima.
Entretanto, estamos caminhando para um mundo em que tudo que fazemos e pensamos está de alguma forma armazenada na internet. O que seria de nós se algum governo se desse conta de que não precisa mais descentralizar o poder decisório, passassando a agir por intermédio de uma inteligência artificial? Estaríamos, com certeza, distantes da utopia trazida por Pierre Lévy e André Lemos em "O Futuro da Internet". Não teríamos controle ou harmonia em instituições, pois seríamos apenas peças num jogo, diametralmente opostos ao ideal de sujeitos autônomos e esclarecidos. Como em "O Admirável Mundo Novo" qualquer frustração seria rapidamente mitigada com uma dose de soma, qualquer ato de rebelião, se houvesse, seria rapidamente detectado e reprimido com força inexorável.
De forma pragmática, podemos ver parte desse regime se concretizando quando deixamos de tomar decisões de forma consciente e terceirizamos essa atividade, deixamos o serviço para ser feito por uma IA que, conforme estuda nossos comportamentos e crenças, pode conhecer mais sobre nós que nós mesmos. Desta forma, estaríamos dando mais um passo na direção da obsolência. Por exemplo, inadvertidamente fazemos uso de aplicativos como o que envelhece nosso rosto, sem estarmos cientes de que com isso concordamos em fornecer dados que posteriormente serão usados para nos manipular, comercial e politicamente.
Por conseguinte, a pós-modernidade, mais do que nunca, torna imprescindível a busca por esclarecimento e autonomia. Ou no mínimo, caso optemos por viver num mundo sem sofrimento, como em "O Admirável Mundo Novo", que saibamos das consequências dessa decisão. Nós, futuros profissionais de TI, como atores nesse movimento de disrupção social e tecnológica, precisamos estar cientes dos possíveis resultados dessas novas tecnologias, para que o momento da singularidade, caso chegue, seja em prol do bem-estar humano e não como um intensificador de desigualdades e disfuncionalidades estruturais que já se encontram presentes atualmente.
HUXLEY, A. Admirável Mundo Novo. (1932)
ORWELL, G. 1984.(1949)
LEVY, P.; LEMOS, A. O Futuro da Internet. (2010)
Comentários
Postar um comentário