A Rebellon executou com sucesso o modelo de IA com mais de 500 mil milhões de parâmetros da SK Telecom em servidores NPU nacionais

De acordo com a Yonhap News, a Rebellon, uma empresa nacional de chips de IA, conseguiu hoje (23 de julho) executar com sucesso o modelo A.X K1 da SK Telecom (500B+ parâmetros) no seu Rebel Server, com processadores NPU nacionais. A demonstração mostrou que o modelo conseguiu lidar, em tempo real, com múltiplos pedidos simultâneos de utilizadores, através de um serviço de agente de IA que processou consultas como encontrar farmácias disponíveis ao fim de semana. A Rebellon aplicou uma arquitetura de mistura de especialistas (MoE) para otimizar a eficiência computacional e distribuir as cargas de trabalho entre os núcleos NPU para processamento em paralelo, permitindo que uma infraestrutura de servidor único alcançasse um desempenho comparável ao de servidores GPU de topo, ao mesmo tempo que reduzia a carga operacional do centro de dados.
Aviso legal: As informações contidas nesta página podem provir de fontes externas e têm caráter meramente informativo. Não refletem os pontos de vista nem as opiniões da Gate e não constituem qualquer tipo de aconselhamento financeiro, de investimento ou jurídico. A negociação de ativos virtuais envolve um risco elevado. Não se baseie exclusivamente nas informações contidas nesta página ao tomar decisões. Para mais detalhes, consulte o Aviso legal.
Comentar
0/400
Nenhum comentário