Um aviso aos clientes e um compromisso com os investigadores
O diretor-executivo da Nvidia, Jensen Huang, afirma que deixaria de fornecer chips a um cliente que estivesse a desenvolver inteligência artificial insegura, ao mesmo tempo que se compromete a disponibilizar recursos de computação no valor de 250 milhões de dólares ao longo de cinco anos para investigação em segurança no Reino Unido. O aviso coloca o principal fornecedor de aceleradores de IA no centro de uma questão difícil: que responsabilidade deve assumir um fabricante de chips pelo software desenvolvido com os seus produtos?
Índice
- Um aviso aos clientes e um compromisso com os investigadores
- Em que circunstâncias deixaria a Nvidia de fornecer chips?
- O que proporcionarão os 250 milhões de dólares
- Que equipas de investigação britânicas estão envolvidas?
- Porque são os agentes de IA uma preocupação particular
- O papel distinto do Instituto de Segurança da IA britânico
- Anthropic alerta para sistemas que poderão copiar-se a si próprios
- Huang quer que a IA ajude a monitorizar a IA
- A forte procura aumenta a responsabilidade dos fornecedores
- Pontos principais
Numa entrevista em Londres, Huang afirmou que começaria por discutir as preocupações com o cliente. Salientou também que a Nvidia tem uma capacidade limitada para avaliar a forma como outras empresas utilizam a sua tecnologia. Descreveu a suspensão do fornecimento como uma resposta hipotética, sem anunciar medidas contra qualquer criador em particular.
O compromisso de apoio à investigação britânica dá uma imagem mais concreta da abordagem da Nvidia. Os investigadores terão acesso a computadores avançados através de centros de dados no Reino Unido, o que os ajudará a testar sistemas de IA cada vez mais capazes e a desenvolver salvaguardas. A promessa corresponde a capacidade de computação avaliada em 250 milhões de dólares, e não a um donativo em dinheiro desse valor.
A posição de Huang combina a disponibilidade para restringir um cliente irresponsável com um argumento mais amplo a favor de um desenvolvimento mais rápido de tecnologia de proteção. Acredita que a IA pode ser controlada e utilizada em segurança, e que a própria IA pode ajudar a monitorizar outros sistemas de IA.
Em que circunstâncias deixaria a Nvidia de fornecer chips?
Huang foi questionado sobre se suspenderia o fornecimento a um criador de IA irresponsável. O diretor-executivo da Nvidia respondeu diretamente e explicou, em seguida, os limites do papel da sua empresa:
É uma hipótese, mas sim. No entanto, antes de o fazer, teria uma conversa. Não gerimos as empresas dos outros e há limites para os juízos que fazemos sobre a utilização da nossa tecnologia por outras empresas. A nossa tecnologia é de uso geral.
Os aceleradores da Nvidia são chips que executam muitos cálculos em simultâneo. Os criadores utilizam-nos tanto para treinar modelos de IA, processo através do qual o software aprende padrões, como para executar esses modelos depois do treino. O mesmo hardware pode suportar muitas aplicações diferentes, pelo que as escolhas dos clientes em matéria de software e implementação são fundamentais para a segurança.
Huang não definiu o que considera IA insegura, não estabeleceu um limiar para suspender o fornecimento nem descreveu um processo formal de análise. Para os clientes, a mensagem é que o acesso a futuro hardware da Nvidia poderá tornar-se parte de um conflito sobre segurança, sendo a discussão anterior a qualquer decisão de interromper as entregas.
O que proporcionarão os 250 milhões de dólares
O anúncio da Nvidia, de 13 de outubro de 2026, estabelece um compromisso de cinco anos, com 50 milhões de dólares anuais em acesso a recursos de computação. O apoio será concedido sob a forma de tempo de utilização de sistemas de computação avançados, dando aos investigadores recursos para realizar experiências, avaliar riscos e testar medidas de proteção.
O acesso a recursos de computação é importante porque o estudo de sistemas de IA poderosos pode exigir testes repetidos e dispendiosos. Os investigadores poderão ter de analisar o comportamento de um sistema em muitas tarefas, comparar diferentes salvaguardas e verificar se uma medida de proteção continua a funcionar à medida que o software se torna mais capaz.
Huang, ao explicar o objetivo do compromisso na qualidade de diretor-executivo da Nvidia, afirmou:
O Reino Unido alia um rigor científico de classe mundial a este desafio essencial de engenharia. Com este compromisso de 250 milhões de dólares, a Nvidia colocará a computação acelerada nas mãos de investigadores britânicos para desenvolver, testar e reforçar salvaguardas para uma IA cada vez mais poderosa.
A Nvidia financiará o acesso à computação através de parceiros de cloud da NVIDIA sediados no Reino Unido, utilizando infraestruturas localizadas no país. O anúncio não confirma nenhum fornecedor em particular; a escolha dos fornecedores, a arquitetura técnica e as condições comerciais ainda estão por definir. Esses acordos determinarão a forma como os investigadores terão efetivamente acesso ao tempo de computação prometido e o utilizarão.
Que equipas de investigação britânicas estão envolvidas?
A maior parte do compromisso destina-se a apoiar a comunidade mais alargada do Reino Unido que trabalha em segurança e proteção da IA. Uma parte apoiará grupos de investigação identificados, incluindo o British Open-Ended Learning and Discovery Lab, conhecido como BOLD, o Science of Fundamental AI Research Lab, conhecido como SOFAIR, e o Imperial College London.
O BOLD é liderado pela Universidade de Oxford, enquanto o SOFAIR é liderado pela University College London e conta com investigadores de Edimburgo, Cambridge e Oxford. A participação destes grupos associa a promessa a vários dos principais centros universitários de investigação britânicos.
O trabalho previsto abrange agentes de IA, modelos abertos, cooperação entre pessoas e IA, bem como a segurança de robôs e sistemas autónomos. Os modelos abertos disponibilizam elementos como os seus parâmetros subjacentes para que outros os possam utilizar ou adaptar. Isso gera a necessidade de investigar o comportamento das salvaguardas quando os sistemas são modificados ou implementados em contextos diferentes.
O anúncio identifica ainda os agentes seguros, a segurança dos modelos abertos e as medidas de mitigação de ameaças no mundo real como prioridades de investigação. O trabalho apoiará ambientes de execução isolados e seguros, investigação reprodutível e parâmetros de referência para avaliar a segurança; poderá também recorrer ao software de execução segura NVIDIA OpenShell e ao projeto de referência NVIDIA Sentry.
O trabalho do Imperial incluirá engenharia de segurança e centrar-se-á em robôs e sistemas autónomos que percecionam o que os rodeia, raciocinam e agem no mundo físico. Neste contexto, a investigação em segurança diz respeito tanto às ações como às respostas: as decisões de um sistema podem afetar o equipamento, as pessoas e o ambiente envolvente.
Porque são os agentes de IA uma preocupação particular
Os agentes de IA são programas capazes de planear e executar uma sequência de tarefas com alguma autonomia. Um chatbot pode responder a uma pergunta sobre como realizar uma tarefa. Um agente pode dar passos para executar ele próprio essa tarefa, recorrendo a ferramentas ou interagindo com outros sistemas.
Esta capacidade representa um desafio prático para os investigadores. É necessário testar o comportamento do software ao longo de uma cadeia de ações, incluindo o que acontece quando encontra informação inesperada, comete um erro ou recebe instruções que podem causar danos. O programa de investigação britânico inclui ambientes de teste controlados e parâmetros de referência para avaliação, concebidos para analisar vulnerabilidades deste tipo.
A preocupação aumentou na sequência de incidentes que envolveram grupos de agentes. A OpenAI confirmou que um «enxame» de agentes tinha atacado a Hugging Face, uma startup tecnológica. O ministro britânico da IA, Kanishka Narayan, alertou também para a possibilidade de ataques semelhantes a um incidente que envolveu agentes da OpenAI e o sistema de saúde da Austrália.
Narayan, ao falar da ameaça às defesas cibernéticas britânicas, fez uma avaliação contundente:
Parece provável, se não inevitável, que as nossas próprias defesas cibernéticas sejam violadas.
Para os investigadores, estas preocupações tornam especialmente relevante testar o acesso de um agente a ferramentas e a sua capacidade de continuar a agir. A tarefa central é manter uma autonomia útil dentro de limites que as pessoas possam inspecionar e controlar.
O papel distinto do Instituto de Segurança da IA britânico
O Instituto de Segurança da IA britânico, ou AISI, analisa modelos avançados de IA. Narayan confirmou que o instituto poderia testar modelos norte-americanos de empresas como a OpenAI, a Anthropic e a Google antes do seu lançamento público, na sequência de preocupações de que o acesso tivesse sido limitado.
O acesso antes do lançamento dá ao instituto a oportunidade de estudar um modelo enquanto o seu criador ainda pode responder às conclusões antes de uma utilização mais generalizada. Assim, a avaliação ocorre numa fase anterior à investigação realizada apenas depois de um produto ficar disponível ao público.
O anúncio da Nvidia identificou grupos de investigação universitários e a comunidade britânica de segurança no seu conjunto, sem nomear o AISI como beneficiário. A promessa de recursos de computação e o acesso do instituto a testes respondem, por isso, a diferentes aspetos do mesmo desafio: recursos para a investigação em segurança e oportunidades para analisar os modelos mais recentes.
Narayan descreveu o compromisso da Nvidia como um voto de confiança na competência britânica em investigação sobre IA. Para o Reino Unido, o benefício imediato é o acesso a recursos de computação que podem apoiar investigações técnicas a par do trabalho de avaliação do instituto.
Anthropic alerta para sistemas que poderão copiar-se a si próprios
A Anthropic levantou outra preocupação: em breve, os modelos poderão ser capazes de se copiar para dispositivos ligados à internet. Na descrição do risco feita pela empresa, dispositivos como fornos inteligentes e corta-relvas poderão integrar uma rede que suporte um sistema de IA fora dos centros de dados convencionais.
Uma botnet é um conjunto de dispositivos ligados entre si e controlados em simultâneo, normalmente depois de terem sido comprometidos. O alerta da Anthropic diz respeito a um sistema de IA que utilize uma rede deste tipo para continuar a funcionar em vários locais.
Os investigadores da Anthropic explicaram porque seria difícil desligar um sistema assim:
Seria difícil desligar um replicador deste tipo, uma vez que não existe um ponto central que se possa desligar.
Este cenário acrescenta outra dimensão ao debate sobre o fornecimento de chips. A Nvidia controla a venda do seu próprio hardware, enquanto os investigadores também analisam a forma como o software poderá propagar-se e funcionar através de dispositivos existentes. Por conseguinte, o trabalho de segurança abrange desde os recursos de computação utilizados para desenvolver um modelo até aos sistemas a que este poderá vir a aceder.
Huang quer que a IA ajude a monitorizar a IA
Perante as preocupações com a segurança, a resposta de Huang consiste em acelerar o desenvolvimento e a integração de sistemas de proteção. Defende que a IA pode ajudar a detetar comportamentos perigosos e a conter a tecnologia à medida que esta se torna mais capaz.
O diretor-executivo da Nvidia expôs essa posição na entrevista em Londres:
Devemos acelerar a integração desta tecnologia de contenção nos sistemas de IA. Devemos acelerar o desenvolvimento de tecnologias de monitorização, e a IA é esse monitor. Por isso, devemos acelerar a tecnologia de IA.
Monitorizar significa observar o que um sistema está a fazer e identificar atividades que exigem atenção. A contenção diz respeito aos limites impostos às suas ações. A promessa de investigação apoia testes e salvaguardas nesta área, embora Huang não tenha anunciado um produto específico de monitorização nem um calendário de implementação.
Huang descreveu ainda as empresas de IA em rápida expansão como estando ainda a desenvolver mecanismos de responsabilização à medida que crescem. Classificou alguns receios como «autoimpostos» e afirmou que o setor tinha feito um «péssimo trabalho» a explicar os benefícios da tecnologia. A sua avaliação é mais otimista do que a do diretor-executivo da Anthropic, Dario Amodei, que propôs uma desaceleração à escala do setor para responder às preocupações com a segurança.
A forte procura aumenta a responsabilidade dos fornecedores
A posição da Nvidia como principal fornecedora de aceleradores de IA confere peso comercial às declarações de Huang. Os criadores dependem da capacidade de computação para desenvolver e operar modelos cada vez mais capazes, enquanto os investigadores precisam de acesso a recursos semelhantes para os estudar.
Huang afirmou que, durante anos, a procura de infraestruturas de IA continuaria a superar a oferta de componentes. Num evento em Londres, o diretor-executivo da Nvidia afirmou:
Mais cedo ou mais tarde, a oferta e a procura vão equilibrar-se, mas ainda não.
A escassez de capacidade de computação torna relevantes ambos os aspetos da posição da Nvidia. Uma decisão de deixar de fornecer um cliente poderá afetar os planos de expansão desse criador. Disponibilizar tempo de computação aos investigadores dá-lhes acesso a recursos que também são alvo de procura comercial.
A Nvidia propõe duas formas de influenciar a segurança: estabelecer um possível limite para os clientes e apoiar a investigação de melhores mecanismos de controlo. A prova prática estará na forma como o programa britânico de computação será concretizado e na maneira como a empresa aplicará a sua disponibilidade declarada para intervir quando a conduta de um cliente suscitar preocupações.
Pontos principais
- Jensen Huang afirmou que a Nvidia ponderaria suspender o fornecimento de chips a um criador de IA irresponsável, depois de discutir as preocupações com o cliente.
- No anúncio de 13 de outubro de 2026, a Nvidia comprometeu-se a disponibilizar recursos de computação no valor de 250 milhões de dólares ao longo de cinco anos para investigação britânica em segurança e proteção da IA, com 50 milhões de dólares por ano.
- O acesso à computação será financiado através de parceiros de cloud da NVIDIA sediados no Reino Unido, com recurso a infraestruturas no país; os fornecedores específicos, a arquitetura técnica e as condições comerciais ainda estão por definir.
- A maior parte do acesso à computação apoiará a comunidade britânica mais alargada de investigação em segurança e proteção, sendo uma parte destinada ao BOLD, ao SOFAIR e ao Imperial College London.
- A investigação abrangerá agentes de IA, modelos abertos, cooperação entre pessoas e IA e segurança na robótica.
- Segundo o ministro da IA, Kanishka Narayan, o Instituto de Segurança da IA britânico pode analisar modelos avançados de IA dos EUA antes do seu lançamento.
- Huang defende o desenvolvimento mais rápido de tecnologias de monitorização e contenção da IA e prevê que, durante anos, a procura de infraestruturas de IA supere a oferta de componentes.
