Tecnologia

Intel anuncia chip Gaudi 3 para IA empresarial e estratgia de sistemas abertos

Compartilhe:

 

Em seu evento Intel Vision, realizado na tarde desta terça-feira (9), a Intel anunciou uma série de novidades, como estratégia para sistemas abertos de Inteligência Artificial e chip Gaudi 3 voltado à IA empresarial.

A empresa ainda revelou novos clientes e parceiros para o seu acelerador e apresentou um portfólio de soluções corporativas para agilizar implantação de software e serviços. O intrometendo acompanhou o evento e conta os detalhes para você.

 

“A inovação está avançando em um ritmo sem precedentes, tudo possibilitado pelo silício – e cada empresa está rapidamente se tornando uma empresa de IA. A Intel está levando a IA para todos os lugares da empresa, desde o PC até o data center e a borda. Nossas mais recentes plataformas Gaudi, Xeon e Core Ultra oferecem um conjunto coeso de soluções flexíveis adaptadas para atender às necessidades em constante mudança de nossos clientes e parceiros e capitalizar as imensas oportunidades que temos pela frente.”

Intel Gaudi 3

O Intel Gaudi 3 chega para ser um acelerador que irá alimentar sistemas de IA com até dezenas de milhares de aceleradores. Eles são conectados por meio do padrão comum de Ethernet.

De acordo com a Intel, o Gaudi 3 entrega quatro vezes mais computação de Inteligência Artificial para BF16 e um aumento de 1,5x na largura de banda de memória, na comparação com o antecessor.

As estatísticas de desempenho divulgadas pela companhia ainda dão conta de uma performance 50% superior ao NVIDIA H100 em média, bem como um aumento de 40% em relação ao concorrente no quesito de eficiência energética de inferência média entre os parâmetros Llama 7B e 70B e os modelos Falcon 180B.

O componente fornece um software aberto e baseado na comunidade, bem como rede Ethernet padrão. Ele vai ficar disponível para fabricantes como Dell Technologies, HPE, Lenovo e Supermicro, com previsão para o segundo trimestre de 2024.

Ecossistema aberto

Outra novidade está estratégia da Intel para sistemas de Inteligência Artificial abertos e escaláveis. Esta nova abordagem é pensada para possibilitar soluções de um ecossistema aberto de players que possam satisfazer as necessidades da IA generativa usada pelas empresas.

O planejamento engloba fabricantes de equipamentos, fornecedores de bancos de dados, integradores de sistemas, fornecedores de software e serviços. As empresas ainda poderão usar parceiros e soluções de ecossistema já conhecidos e confiáveis.

Entre os clientes empresariais que irão implementar o acelerador para aplicações de IA generativa, estão organizações como NAVER, Bosch, IBM, Ola/Krutrim, Advent International/NielsenIQ, Seekr, IFF, Grupo CtrlS, Bharti Airtel, Landing AI, Roboflow e Infosys.

A Intel ainda irá colaborar com o Google Cloud, Thales e Cohesity, a fim de aproveitar seus recursos de computação confidencial nas instâncias de nuvem dessas companhias. A lista inclui Intel Trust Domain Extensions (Intel TDX), Intel Software Guard Extensions (Intel SGX) e o seu serviço de atestado.

Roadmap expandido

A empresa anunciou atualizações sobre os seus produtos e serviços de próxima geração no setor. Uma das apresentações está nos novos processadores Intel Xeon 6, os quais focam em fornecer desempenho para executar as soluções atuais de GenAI, como RAG, para resultados específicos de negócios com o uso de dados proprietários.

As CPUs possuem núcleos eficientes (E-cores), o Sierra Forest, ou de desempenho (P-cores, chamado de Granite Rapids. A primeira traz melhoria de desempenho 2,4 vezes por Watt maior e densidade de rack 2,7 vezes superior, na comparação com o Intel Xeon de segunda geração.

Já a segunda oferece suporte de software para o formato de dados MXFP4, o qual diminui a latência do próximo token em até 6,5 vezes, em relação aos processadores Intel Xeon de quarta geração usando FP16.

Por fim, ainda foi revelado o portfólio do Intel Tiber. Ele consiste em soluções empresariais voltadas a agilizar a implantação de software e serviços empresariais, inclusive para IA generativa. Os clientes já podem começar a explorar a biblioteca a partir desta terça-feira (9), com lançamento previsto para o terceiro trimestre de 2024.

Qual é a sua avaliação sobre as novidades apresentadas durante o Intel Vision? Comente conosco!

Compartilhe:

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Botão Voltar ao topo