Se a substituição por sistemas automatizados já representava um risco para milhões de trabalhadores, agora se adiciona o alerta de Roman Yampolskiy, um destacado especialista em segurança de Inteligência Artificial (IA), que levantou a voz para expressar sua preocupação com os perigos de extinção da raça humana associados a essa tecnologia emergente.
Em uma recente entrevista no podcast de Lex Fridman, Yampolskiy não hesitou em enfatizar que a IA, se não for controlada adequadamente, poderia levar à extinção da humanidade.
Com números alarmantes, o especialista estimou que “existe uma probabilidade de 99,999999% de que a IA cause uma catástrofe existencial para esta espécie”.
Por que a inteligência artificial poderia extinguir os humanos
As razões por trás da possível extinção da raça humana foram discutidas na conversa com Fridman, onde Yampolskiy detalhou suas preocupações sobre a velocidade e direção do desenvolvimento atual da IA.
Ele enfatizou que o avanço desta tecnologia deve ser interrompido imediatamente, argumentando que, uma vez que a IA atinja níveis mais sofisticados, será quase impossível mantê-la sob controle.
Este ponto é crucial, porque, segundo o pesquisador, “a complexidade inerente aos sistemas de IA avançada representa um desafio quase insuperável para os métodos de segurança contemporâneos”.
Como prevenir a ameaça da IA aos humanos
Para prevenir a ameaça existencial representada pela IA, Yampolskiy enfatizou que seria necessário desenvolver software altamente complexo e livre de erros ao longo dos próximos 100 anos. No entanto, o especialista é pessimista quanto a isso, considerando esse cenário praticamente inviável.
Ele citou falhas recorrentes nas tecnologias atuais como evidência clara das limitações enfrentadas para alcançar esse nível de perfeição.
A história dos erros de software em sistemas críticos ressalta seu argumento de que, com a mesma probabilidade, os sistemas de IA também estariam sujeitos a vulnerabilidades potencialmente catastróficas.
Por que a IA não é completamente segura
A segurança dos sistemas de inteligência artificial se baseia em um dos conceitos mais perturbadores levantados por Yampolskiy, que é a ideia de uma “máquina de segurança perpétua”.
Propor um dispositivo ou sistema que possa garantir continuamente a segurança da IA é uma solução que, embora ambiciosa, está repleta de incertezas e desafios técnicos significativos.
Apesar de esse conceito poder atuar como uma barreira contra os riscos da IA, sua implementação na prática enfrenta numerosos obstáculos.
Como o mundo pode lidar com o avanço da IA
A análise da IA no mundo atual é explorada no livro “IA: Inexplicável, Imprevisível, Incontrolável”, onde Yampolskiy examina detalhadamente essas preocupações, oferecendo uma visão abrangente sobre os perigos de uma tecnologia com potencial para se descontrolar.
Este livro pretende ser um alerta para pesquisadores, desenvolvedores e legisladores sobre a necessidade de abordar de maneira responsável o desenvolvimento e a implementação da IA.
É importante destacar que Yampolskiy não é o único especialista no campo a compartilhar esses temores. Numerosos pesquisadores levantaram suas vozes para alertar sobre os perigos de uma inteligência artificial não regulamentada.
Exemplos recentes, como o contínuo avanço do ChatGPT, ilustram o que Yampolskiy descreve como um risco significativo. Esses modelos de linguagem avançada continuam aprendendo e melhorando ao longo do tempo, e embora ofereçam benefícios indiscutíveis, também levantam questões inquietantes sobre o controle e a supervisão.
Como encontrar um equilíbrio entre os benefícios e ameaças da IA
Para alcançar um equilíbrio entre os benefícios e mitigar as ameaças representadas pela IA, é crucial entender que o progresso da IA não apenas transforma indústrias e revoluciona a vida cotidiana, mas também nos confronta com dilemas morais e existenciais que vão além das simples melhorias tecnológicas.
Yampolskiy enfatiza que a situação atual apresenta um desafio monumental: a humanidade deve decidir entre uma possível era de prosperidade sem precedentes, impulsionada pela IA, ou a perturbadora possibilidade de sua própria extinção devido a um descontrole potencial dessa tecnologia.
Ao mesmo tempo em que crescem as dúvidas e preocupações sobre a IA, torna-se imperativo que a comunidade internacional formule e adote medidas rigorosas para a supervisão e regulamentação de seu desenvolvimento.
As advertências de Yampolskiy e outros especialistas são um lembrete de que, embora a IA tenha o potencial de transformar positivamente o futuro da humanidade, também traz consigo perigos que não devem ser subestimados.
