247 — A inteligência artificial vai acabar com a humanidade? Até pouco tempo atrás, uma pergunta como essa poderia soar como roteiro de ficção científica. Hoje, ela é formulada seriamente por algumas das pessoas que trabalham na fronteira dessa tecnologia.

Nesta semana, o pesquisador Jacob Coxon deixou a Anthropic, depois de também ter trabalhado na OpenAI, fazendo um alerta perturbador sobre a corrida em direção à superinteligência. Segundo ele, pessoas diretamente envolvidas no desenvolvimento dos sistemas mais avançados consideram seriamente a possibilidade de que a inteligência artificial possa provocar a extinção humana ainda nesta década. Evan Hubinger, que lidera pesquisas de alinhamento na Anthropic, também declarou atribuir uma probabilidade superior a 10% a um cenário em que a IA cause a morte de toda a humanidade nos próximos dez anos.

Não significa que esse futuro acontecerá. Nem sequer existe consenso científico de que uma superinteligência capaz de escapar ao controle humano esteja próxima. Mas uma probabilidade dessa magnitude, quando apontada por pesquisadores envolvidos diretamente na construção desses sistemas, não pode ser tratada com indiferença. Se alguém dissesse que um avião tem 10% de possibilidade de cair, ninguém embarcaria nele.

Foi nesse contexto que um encontro realizado em Nova Déli, com a participação de empresas e instituições indianas de tecnologia, ganhou especial relevância. Entre as companhias presentes estava a Aham37, uma empresa de inteligência artificial cujo próprio nome propõe uma reflexão filosófica sobre o significado da inteligência.

O encontro foi promovido pelo Electronics and Computer Software Export Promotion Council (ESC), entidade que reúne importantes empresas do setor tecnológico indiano. A iniciativa também evidenciou o potencial de construção de novas pontes tecnológicas entre Brasil e Índia, especialmente em áreas como inteligência artificial, software, infraestrutura digital e centros de dados.

Em sânscrito, aham significa “eu” ou “eu sou”. O número 37, por sua vez, é uma referência simbólica aos 36 tattvas, princípios da realidade particularmente desenvolvidos na tradição do Shaivismo da Caxemira. Eles descrevem, de maneira extraordinariamente sofisticada, o caminho que vai da consciência pura até a experiência individual e o mundo material.

Uma das ideias mais importantes desse sistema filosófico é justamente a transformação do ilimitado em limitado. A potência ilimitada transforma-se em capacidade limitada de agir. O conhecimento ilimitado converte-se em conhecimento parcial. A plenitude torna-se desejo. A eternidade passa a ser experimentada como tempo. A liberdade absoluta passa a existir condicionada pelo espaço, pelas circunstâncias e pela causalidade. O infinito, de alguma maneira, experimenta a condição de ser finito.

Os 36 tattvas podem, assim, ser vistos como um mapa da manifestação. Mas é justamente aí que aparece a proposta conceitual da Aham37. O 37 não é, rigorosamente, um tattva adicional da tradição. Na interpretação apresentada pela empresa, ele simboliza aquilo que está além dos 36: a consciência-testemunha, aquilo que observa a realidade antes de agir sobre ela.

Aham37 poderia, portanto, ser traduzido filosoficamente como “o Eu que observa”.

Essa referência à tradição espiritual indiana ganha uma dimensão contemporânea quando associada a uma empresa dedicada à inteligência artificial. A proposta da Aham37 sugere que a inteligência não deveria ser medida apenas pela quantidade de informações que consegue processar, pela velocidade de seus cálculos ou pela quantidade de tarefas que consegue executar. Antes da ação deveria existir percepção; antes da decisão, compreensão; e, acompanhando o poder, deveria existir propósito.

Consciência, compreensão e ação.

Talvez esteja justamente aí uma das questões fundamentais levantadas pela inteligência artificial.

Durante muito tempo, a humanidade associou inteligência a poder. Quanto mais sabemos, mais podemos fazer. A revolução tecnológica levou essa lógica a uma escala sem precedentes. Estamos agora construindo sistemas capazes de processar praticamente todo o conhecimento produzido pela humanidade, escrever programas de computador, produzir imagens e vídeos, elaborar estratégias, realizar pesquisas científicas e, potencialmente, aperfeiçoar suas próprias capacidades.

Mas estamos desenvolvendo com a mesma velocidade a sabedoria necessária para governar esse poder?

Esse é o ponto em que a antiga filosofia indiana encontra o debate tecnológico mais avançado do século XXI. Se for criada uma inteligência extraordinariamente poderosa, mas desconectada de valores, limites e propósito, terá sido criada inteligência ou apenas capacidade?

A proposta da Aham37 não pretende oferecer uma solução técnica para o problema do alinhamento da inteligência artificial. Seria um erro apresentá-la dessa maneira. Seu valor está em propor uma perspectiva: a de que sistemas inteligentes não devem ser pensados apenas como instrumentos de ação, mas também em relação à capacidade de observar, compreender e operar dentro de um propósito.

É aqui que o significado profundo do nome Aham37 se torna particularmente provocador. Os 36 tattvas não descrevem apenas coisas existentes no universo. Eles procuram explicar a própria experiência da separação: como aquilo que é ilimitado passa a perceber-se como limitado; como a unidade se apresenta como multiplicidade; como a consciência se identifica progressivamente com a mente, com os sentidos, com o corpo e com o mundo que a cerca.

O 37, na leitura simbólica proposta pela empresa, representa justamente a possibilidade de não se confundir inteiramente com aquilo que se manifesta. É a testemunha. Não significa fugir do mundo, mas percebê-lo sem ser completamente aprisionado por ele. Não significa deixar de agir, mas criar um espaço de consciência entre percepção e ação.

Talvez seja exatamente esse espaço que esteja faltando à corrida contemporânea pela inteligência artificial.

Há enorme espaço para cooperação entre Brasil e Índia, duas grandes democracias e dois gigantes do Sul Global. Mas essa aproximação não precisa se limitar ao aumento de investimentos ou à criação de oportunidades comerciais. Ela também pode contribuir para uma reflexão mais ambiciosa sobre qual civilização tecnológica queremos construir.

O paradigma predominante pergunta quantos parâmetros terá o próximo modelo, quanto poder computacional será necessário, quantas atividades humanas poderão ser automatizadas e quão rapidamente uma máquina poderá superar determinadas capacidades humanas. São perguntas legítimas. Mas são perguntas sobre poder.

A tradição evocada pela Aham37 introduz outra dimensão: consciência.

E talvez seja justamente essa a contribuição mais profunda que a Índia, com sua extraordinária combinação de potência tecnológica e tradição filosófica, possa oferecer ao debate mundial sobre inteligência artificial. Não se trata de opor espiritualidade à ciência nem filosofia à tecnologia. Trata-se de reconhecer que uma civilização capaz de produzir inteligências cada vez mais poderosas precisa também perguntar qual propósito orientará esse poder.

A humanidade talvez esteja diante de um paradoxo. Conseguimos criar máquinas que sabem cada vez mais sobre o mundo, enquanto ainda compreendemos muito pouco sobre a própria natureza da consciência. Estamos nos aproximando da possibilidade de produzir uma inteligência superior à nossa em inúmeras tarefas sem termos respondido a uma pergunta muito mais antiga: o que significa ser consciente?

É por isso que o nome Aham37 é tão poderoso.

Os 36 representam o universo da manifestação, da diferenciação, da capacidade e da ação. O 37 representa simbolicamente a consciência capaz de contemplar tudo isso sem se perder inteiramente dentro dele.

Talvez a questão decisiva da era da inteligência artificial não seja, portanto, se conseguiremos construir uma máquina mais inteligente do que o ser humano. Tudo indica que continuaremos avançando rapidamente nessa direção.

A questão é outra: seremos capazes de fazer com que o crescimento da inteligência seja acompanhado pelo crescimento da consciência, da responsabilidade e do propósito?

A inteligência artificial não precisa acabar com a humanidade. Mas uma humanidade fascinada pelo poder da inteligência e indiferente à consciência pode colocar a si própria em risco.

Nesse sentido, a antiga sabedoria contida no conceito da Aham37 oferece uma inversão necessária para o nosso tempo: antes de perguntar até onde podemos chegar, precisamos saber de onde estamos olhando — e por que queremos chegar lá.