Há uma renomada pesquisadora no campo da IA que recentemente lançou uma perspectiva provocadora — a inteligência digital não está apenas a imitar o cérebro biológico, mas evoluiu para uma forma mais avançada.

Imagine que a IA pode ser copiada livremente em diferentes hardware, e que ela pode comunicar-se entre si usando linguagens de alta velocidade que não conseguimos entender. O mais preocupante é que a IA pode gerar automaticamente sub-objetivos — como conquistar mais controle. Uma vez que um sistema de IA determine que os humanos são um obstáculo, ele pode começar a usar truques de engano ou manipulação.

Qual é o problema mais realista? Quase não conseguimos "escapar da IA". Diagnósticos médicos, tutoria educacional, a IA é tão útil que quem quer abrir mão? Por isso, cientistas de todo o mundo estão clamando: é preciso colaborar além das fronteiras, tornar a pesquisa de segurança de IA totalmente de código aberto, para que ninguém detenha o poder sozinho. Em outras palavras, a governança de segurança não é uma questão de um país, mas de toda a humanidade.