NVIDIA Project DIGITS com o novo superchip GB10 faz a sua estreia como o menor supercomputador de IA do mundo, capaz de rodar modelos de parâmetros 200B
A NVIDIA apresenta o NVIDIA® Project DIGITS, um supercomputador pessoal de IA que oferece a pesquisadores de IA, cientistas de dados e estudantes de todo o mundo acesso à capacidade da plataforma NVIDIA Grace Blackwell.
O Project DIGITS apresenta o novo superchip NVIDIA GB10 Grace Blackwell, que oferece um petaflop de desempenho de computação de IA para prototipagem, ajuste fino e execução de grandes modelos de IA.
Com o Project DIGITS, os usuários podem desenvolver e executar inferência em modelos usando seus próprios computadores desktop e, em seguida, implantar perfeitamente os modelos na infraestrutura acelerada de nuvem ou data center.
“A IA será a principal tendência em todas as aplicações de todos os setores. Com o Project DIGITS, o superchip Grace Blackwell chega a milhões de desenvolvedores”, ressalta Jensen Huang, fundador e CEO da NVIDIA. “Colocar um supercomputador de IA nos escritórios de todos os cientistas de dados, pesquisadores de IA e estudantes os capacita a se envolverem e moldarem a era da IA.”
Superchip GB10 fornece um petaflop de desempenho de IA com eficiência energética
O superchip GB10 é um sistema em um chip (SoC, system-on-a-chip) baseado na arquitetura NVIDIA Grace Blackwell e oferece até 1 petaflop de desempenho de IA com precisão FP4.
O GB10 possui uma GPU NVIDIA Blackwell com núcleos CUDA® de última geração e Núcleos Tensor conectados via interconexão chip-a-chip NVLink®-C2C a uma CPU NVIDIA Grace™ de alto desempenho, que inclui 20 núcleos com eficiência energética criados com a arquitetura Arm. A MediaTek, líder de mercado em projetos de SoC baseados em Arm, colaborou no projeto do GB10, contribuindo para a melhor eficiência energética, desempenho e conectividade do setor.
O superchip GB10 permite que o Project DIGITS ofereça um desempenho avançado usando apenas uma tomada elétrica padrão. Cada Project DIGITS apresenta 128 GB de memória unificada e coerente e até 4 TB de armazenamento NVMe.
Com o supercomputador, os desenvolvedores podem executar grandes modelos de linguagem (LLMs) de até 200 bilhões de parâmetros para potencializar a inovação da IA. Além disso, com o uso da rede NVIDIA ConnectX®, dois supercomputadores de IA Project DIGITS podem ser conectados para executarem modelos de até 405 bilhões de parâmetros.
“Como menor supercomputador de IA do mundo, o NVIDIA Project DIGITS representa um salto na tecnologia. Esse recurso permite que desenvolvedores, pesquisadores e estudantes explorem cada vez mais todo potencial da IA, de forma eficiente e integrada. É um avanço que acelera a inovação e aproxima a IA de todos os setores“, destaca Marcio Aguiar, diretor da divisão Enterprise da NVIDIA para a América Latina.
Supercomputação de IA Grace Blackwell ao seu alcance
Com a arquitetura Grace Blackwell, as empresas e os pesquisadores podem criar protótipos, fazer ajustes finos e testar modelos em sistemas locais do Project DIGITS que executam o NVIDIA DGX OS baseado em Linux e, em seguida, implantá-los perfeitamente no NVIDIA DGX Cloud™, em instâncias de nuvem acelerada ou na infraestrutura do data center.
Isso permite que os desenvolvedores criem protótipos de IA no Project DIGITS e, em seguida, dimensionem na infraestrutura de nuvem ou de data center, usando a mesma arquitetura Grace Blackwell e a plataforma de software NVIDIA AI Enterprise.
Os usuários do Project DIGITS podem acessar uma extensa biblioteca de software NVIDIA AI para experimentação e prototipagem, incluindo kits de desenvolvimento de software, ferramentas de orquestração, estruturas e modelos disponíveis no catálogo NVIDIA NGC e no portal NVIDIA Developer. Os desenvolvedores podem fazer o ajuste fino dos modelos com a estrutura NVIDIA NeMo™, acelerar a ciência de dados com as bibliotecas NVIDIA RAPIDS™ e executar estruturas comuns, como PyTorch, Python e notebooks Jupyter.
Para criar aplicações de IA agêntica, os usuários também podem aproveitar os NVIDIA Blueprints e os microsserviços NVIDIA NIM™, que estão disponíveis para pesquisa, desenvolvimento e teste por meio do Programa para Desenvolvedores NVIDIA. Quando as aplicações de IA estão prontas para passar de ambientes de experimentação para ambientes de produção, a licença NVIDIA AI Enterprise oferece segurança de nível empresarial, suporte e lançamentos de produtos do software NVIDIA AI.
Sobre a NVIDIA
Desde sua fundação em 1993, a NVIDIA (NASDAQ: NVDA) tem sido pioneira em computação acelerada. A invenção da GPU pela empresa em 1999 estimulou o crescimento do mercado de games para PC, redefiniu a computação gráfica, iniciou a era da IA moderna e tem ajudado a digitalização industrial em todos os mercados. A NVIDIA agora é uma empresa de infraestrutura de computação full-stack com soluções em escala de data center que estão revolucionando o setor.
Trend Micro e NVIDIA reforçam parceria para impulsionar a segurança cibernética em IA
Accenture e NVIDIA lideram empresas na era da IA
NVIDIA enfrenta queda histórica em valor de mercado
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
