Adnkronos (Adnkronos) – O alerta da ONU sobre a inteligência artificial como uma "ameaça às democracias" deve ser "levado a sério", sem "transformá-lo em um alarme apocalíptico". Portanto, é necessário desenvolver "regras e controles compatíveis com as capacidades reais da IA hoje, sem esperar pelo próximo incidente para nos impor tais medidas". Essa é a posição de Giuseppe Francesco Italiano, Pró-Reitor de Inteligência Artificial e Habilidades Digitais da Universidade Luiss Guido Carli, em Roma, onde também é professor titular de Ciência da Computação.
Segundo Italiano, entrevistado pela Adnkronos/Labitalia e um dos principais especialistas italianos e europeus em tecnologia da informação, algoritmos e inteligência artificial, "os riscos mais concretos para os serviços essenciais e as democracias já são visíveis hoje, não daqui a dez anos".
Professor Italiano, qual a sua opinião sobre o alerta da ONU a respeito da IA? Ela realmente poderia paralisar serviços essenciais e ameaçar as democracias? Quais são os riscos reais?
“O alerta do Alto Comissário Türk deve ser levado a sério, mas sem se transformar em um alarme apocalíptico.
Em sua carta, ele fala de um limiar irreversível que afetará também as gerações futuras: uma linguagem muito forte, e não é por acaso que surge agora, quando o debate sobre os riscos da IA se intensifica. Dito isso, os riscos mais concretos para os serviços essenciais e as democracias já são visíveis hoje, não daqui a dez anos: ciberataques cada vez mais automatizados, desinformação em escala industrial, fraudes, manipulação da opinião pública, sistemas de tomada de decisão que amplificam a discriminação ou erros quando usados para selecionar indivíduos, crédito e assistência médica.
Existe também um risco emergente que merece atenção: sistemas cada vez mais autônomos, capazes de interagir diretamente com a Internet e infraestruturas reais, escrevendo e executando código, usando credenciais e agindo sem supervisão constante.
O problema aqui não é que uma máquina tenha más intenções: basta que ela tenha muita capacidade, muita autonomia, acesso a sistemas críticos e que ainda não sejamos capazes de controlá-la adequadamente. É a combinação de poder e controle deficiente que é perigosa, não a intenção. É por isso que insisto em uma distinção que muitas vezes se perde no debate público: riscos documentados, riscos plausíveis, cenários extremos. Levar o alarme a sério não significa acreditar em todas as previsões catastróficas. Significa construir regras e controles hoje que sejam proporcionais às capacidades reais da IA, sem esperar que o próximo acidente nos obrigue a fazê-lo.
Até mesmo as grandes empresas de tecnologia americanas alertaram sobre o desenvolvimento descontrolado da IA. Mas será que não poderiam ter previsto isso antes? E será que a IA realmente pode dominar a internet?
É uma clara contradição, e já existe há algum tempo. As mesmas empresas que agora pedem cautela — penso no apelo de Amodei há alguns dias, também apoiado publicamente por Musk com sua declaração "Dario está certo sobre X" — são as que mais aceleraram o desenvolvimento tecnológico nos últimos anos. Não é a primeira vez: em 2023, Musk assinou uma carta pedindo uma moratória no desenvolvimento de IA que nunca se concretizou, enquanto outros líderes do setor assinaram declarações sobre risco existencial e continuaram a superar seus concorrentes. A questão é que as boas intenções das empresas individualmente não são suficientes: se todos dizem que precisamos desacelerar, mas ninguém quer ser o primeiro a fazê-lo por medo de perder terreno, o problema só pode ser resolvido com regras comuns, não com apelos.
Quanto à possibilidade de a IA dominar a internet, ela já não é ficção científica, mas não no sentido que normalmente a entendemos. Os modelos mais avançados já conseguem navegar na internet, escrever e executar código, usar credenciais e interagir com sistemas reais de forma autônoma. Portanto, a questão correta não é se a IA pode "dominar a internet" em um sentido absoluto — provavelmente não, pelo menos não ainda — mas sim quanto acesso concedemos a ela, a quem e quanto controle realmente podemos ter sobre o que ela faz depois de lhe concedermos esse acesso. Talvez essa seja a questão que importa hoje.
O presidente Trump, no entanto, enfatizou que os EUA não vão desacelerar. Qual você acha que é o objetivo do presidente americano?
As declarações do presidente Trump devem sempre ser lidas com a típica dose de hipérbole, mas aqui a mensagem subjacente me parece bastante clara. Ele mesmo disse isso, à margem do Aberto da Irlanda: os Estados Unidos estão "à frente da China" e devem permanecer o país mais avançado do mundo em inteligência artificial, porque "quem vence em inteligência artificial vence em tudo". Para Washington, a IA não é mais apenas uma tecnologia: é poder econômico, militar e geopolítico, tudo em um só. Nessa lógica, desacelerar unilateralmente significa dar vantagem aos concorrentes. E é por isso que o apelo de Amodei, mesmo apoiado por Musk, dificilmente encontrará apoio concreto na Casa Branca sem um acordo que também envolva a China: é o mesmo problema de coordenação de que falávamos antes, apenas transferido do nível das empresas para o dos Estados.
Olhando para a Europa, o que você acha da proposta de Lagarde sobre a necessidade de os projetos da UE reduzirem a dependência dos EUA? E qual a contribuição que a Itália pode dar?
Christine Lagarde, enquanto presidente do BCE, usou uma comparação marcante: é um pouco como as ferrovias americanas do século XIX, quando a poupança europeia financiou o crescimento da indústria ferroviária dos Estados Unidos, e os benefícios permaneceram em grande parte no exterior. Hoje, diz Lagarde, corremos o risco de repetir o mesmo padrão com a inteligência artificial: as famílias da zona do euro têm aproximadamente € 440 bilhões investidos em empresas de tecnologia americanas, enquanto as empresas europeias alocam apenas 10% de seus investimentos em IA, uma diferença crescente em comparação com os Estados Unidos. A questão que ela levanta é crucial: a Europa não precisa necessariamente produzir tudo internamente, mas não pode se dar ao luxo de ser completamente dependente de quem produz tecnologias de IA. E aqui, soberania tecnológica significa algo muito concreto: ser capaz de decidir o que fazer com a IA, mesmo que as condições geopolíticas ou comerciais mudem amanhã. Pense no que significaria ter o acesso a um serviço em nuvem do qual a administração pública depende cortado ou renegociado em desvantagem.
Significa ter uma capacidade computacional, dados, modelos e conhecimento especializado europeus significativos; ser capaz de avaliar de forma independente a segurança e a confiabilidade dos sistemas que utilizamos; não depender de um único fornecedor estrangeiro para serviços essenciais; e ter a capacidade de desenvolver alternativas quando necessário. A própria Lagarde aponta para um caminho concreto: fortalecer a capacidade computacional europeia e desenvolver modelos que sejam "bons o suficiente" para a maioria dos usos (ela cita o exemplo da Mistral na França), em vez de competir com gigantes americanos em todos os segmentos. Isso não significa construir uma Europa completamente autônoma, nem replicar o Vale do Silício: isso seria ilusório. Significa impedir que a infraestrutura da qual nossa economia, administração pública e até mesmo nosso conhecimento dependem seja totalmente controlada por outros. E aqui, a Itália pode dar uma contribuição real: temos universidades, centros de pesquisa, empresas e uma enorme quantidade de dados e conhecimento especializado. O que nos falta não é a matéria-prima, mas a capacidade de sistematizá-la. E, acima de tudo, de transformar mais rapidamente a pesquisa em tecnologia e a tecnologia em aplicações que alguém realmente utilize.
-
trabalho
webinfo@adnkronos.com (Informações da Web)