Alguns podem não perceber mas a inteligência artificial que temos hoje, pode-se tomar um caminho terrível. A ideia de que a descoberta tecnológica poderia destruir todos nós, não é de se descartar.
O filósofo Nick Bostrom relatou em uma palestra TED no ano passado, 2019, as vulnerabilidades que podemos enfrentar se, ou quando, nossas invenções saírem de nosso controle, e ensina como podemos prevenir nossa futura destruição.
Há um hipótese de que ainda os humanos desenvolveram uma tecnologia que invariavelmente destrói a civilização. E Nick Bostrom publicou recentemente um artigo chamado de “A Hipótese do Mundo Vulnerável”, onde tenta imaginar o que seria tal bola completamente escura, da qual refere-se a tecnologia destrutiva. Nick relaciona a tecnologia destrutiva à um grande urna, onde a bola escura é aquela que inevitavelmente provoca a destruição da civilização.
“Podemos inventar algo, mas não “desinventar”. Sendo assim, nossa estratégia é esperar que não haja nenhuma bola escura na urna.” Disse Nick.
A biologia sintética, a geoengenharia, drones autônomos letais, enxames de robôs do tamanho de mosquitos, nanotecnologia e inteligência artificial, são alguns exemplos desse tipo de bola escura. Por mais que essas sejam tecnologias incríveis, em qualquer população de milhões de pessoas sempre haverá alguém que, por qualquer motivo, escolheria usar elas como poder destrutivo.
“Além dessas espécies de bola escura, que são um pouco óbvias, que permitiriam explodir várias coisas, outros tipos agiriam no sentido de criar estímulos ruins para que humanos tomassem atitudes prejudiciais.” Argumenta Nick Bostrom. As armas nucleares é por exemplo, um tecnologia que estimula que grandes poderes usem suas quantidades maciças de força para causar destruição. Nick Bostrom conta que: “Acho que é possível haver várias bolas escuras na urna, isso é o que parece. Também parece haver algumas bolas douradas que ajudariam a nos proteger dessas bolas escuras. E eu não sei em qual ordem elas sairão.”
Isso quer dizer que, não tem como prever o futuro, mas uma coisa é certa são as decisões de hoje que determinarão os tipos de bolas que sairá da urna.
Portanto, a tecnologia pode ser um conjunto de recursos bons, que permite fazer várias coisas e alcançar inúmeros efeitos no mundo. Agora, a maneira de utilizá-la é algo que depende da escolha humana.
“Nós obtemos cada vez mais poder, e fica cada vez mais fácil utilizar esses poderes, mas também podemos inventar tecnologias que nos ajudem a ter certo controle de como as pessoas os utilizam.” Expressa o filósofo.
Pode haver diversas possibilidades da tecnologia acabar com a humanidade, não é só a biologia sintética, mas a guerra cibernética, inteligência artificial, etc. E a resposta para prevenir isso, não é apenas restringir o desenvolvimento tecnológico, se estamos falando de uma parada geral do progresso tecnológico.
Talvez, a melhor ideia seja começar a negociar agora regras bem restritas sobre até onde a biopesquisa com sintéticos pode ir, porque não seria boa coisa se a tecnologia fosse democratizada. Isso é alguém que ninguém espera.
“A resposta é ter um controle mais rígido sobre as coisas, como por exemplo, talvez ter máquinas de síntese de DNA, não como produto no qual todo laboratório teria seu próprio dispositivo, mas talvez como um serviço. Talvez poderia haver quatro ou cinco lugares no mundo para onde se mandasse um planta digital e o DNA fosse enviado de volta.” Afirma Nick.
Assim sendo, temos que reconhecer que não podemos ter tudo. Ou seja, que aquele “sonho ingênuo” que muitos de nós tínhamos de que a tecnologia sempre seria uma força para o bem, sem ao menos prestar atenção para certas consequências, isso de fato não é uma opção. Nós podemos ter isso, mas aí teremos que aceitar outras coisas desconfortáveis inerentes a isso e entrar numa corrida armamentista contra nós mesmos, na qual, se quisermos o poder, precisaremos descobrir como limitá-lo.