IntrovertMetaverse

Estou extremamente pessimista em relação aos programadores de modelos de IA na Coreia do Sul. Com a excepção da LG AI Research, estão todos muito exagerados.

Uma das coisas que aprendi na ICML este ano é que a Coreia está apenas a fingir que leva a sério a IA.
A euforia em torno das startups de IA coreanas está absurdamente inflacionada, e o mesmo se aplica aos investigadores universitários. Comparada com a China, sinceramente, nós não somos nada.
A Coreia precisa de copiar o plano de ação da China. Devíamos lançar algo semelhante ao Thousand Talents Plan para trazer de volta os brilhantes coreanos que trabalham no estrangeiro e recrutar com agressividade o melhor talento estrangeiro em IA.
Caso contrário, a Coreia vai simplesmente tornar-se um paí

De acordo com notícias da imprensa sul-coreana, a Samsung adiantou em dois anos o início das operações da primeira unidade fabril no seu cluster de semicondutores de Yongin.
Em concreto, a data-alvo para a primeira fábrica começar a operar foi definida para outubro de 2029, no âmbito do desenvolvimento acelerado do Yongin National Semiconductor Industrial Complex pela Samsung Electronics.
A Samsung Electronics planeia construir um total de seis fabs no complexo de Yongin. A primeira fab tinha originalmente sido agendada para começar a operar em 2031.

Recebi uma chamada de especialista a dizer que o NVIDIA Rubin foi novamente adiado, por isso nem consegui tirar sábado de folga.

CEO da SK HYNIX: PRÓXIMO ANO ESPERA-SE QUE SEJA O PIOR ANO DA HISTÓRIA DA INDÚSTRIA DO PONTO DE VISTA DA OFERTA — RTRS
CEO da SK HYNIX: APESAR DA EXPANSÃO AGRESSIVA DA CAPACIDADE, A PROCURA DE MEMÓRIA CONTINUARÁ A EXCEDER A CAPACIDADE DE PRODUÇÃO DA EMPRESA DURANTE A PRÓXIMA DÉCADA — RTRS

SK Group Chairman: Aberto a Mais Investimentos, Incluindo Construir Chips nos EUA – CNBC
SK Group Chairman: Mesmo que a capacidade de produção duplique nos próximos cinco anos, os clientes continuam a esperar que a oferta de memória permaneça insuficiente.

A SK HYNIX INDICOU QUE OS ADRS VÃO ABRIR A $180, PREÇO DE OFERTA $149
WTF?

Primeiras impressões depois de experimentar GT5.6 sol: Como é que eu tenho estado a usar Opus 4.8 todo este tempo? Agora parece incrivelmente monótono e pouco inteligente.

Os preços da memória já subiram aproximadamente quatro vezes no ciclo atual e podem aumentar mais duas a três vezes a partir daqui.
No entanto, nenhum produto do tipo commodity consegue manter margens brutas acima de 85% durante um período prolongado. Assim que as margens atingem esse nível, os preços acabam por cair drasticamente, fazendo com que as margens brutas voltem para cerca de 70% ou até menos.
O ciclo não desapareceu. A inclinação e a duração deste ciclo ascendente são simplesmente muito maiores do que qualquer coisa observada historicamente.

As CPUs tornaram-se subitamente um foco central para o mercado este ano.
O principal motor é que a OpenAI e a Anthropic assinaram acordos de parceria de grande escala com fornecedores de cloud como a Amazon, Google e Microsoft, levando-os a consumir quantidades significativas de capacidade de CPU na cloud.
Existem duas razões principais pelas quais a IA necessita de mais CPUs.
Primeiro, o paradigma de treino está a mudar do pré-treino tradicional para a aprendizagem por reforço.
Depois de um modelo gerar código, é necessário executar testes unitários e validar os resultados em sites simulados

Para identificar o próximo gargalo, é necessário analisar duas variáveis:
Primeiro, o quão profundamente a procura de IA penetra na indústria.
Segundo, se a estrutura de mercado da indústria confere aos fornecedores um poder de fixação de preços significativo.
Devido à sua abordagem de longo prazo e à estrutura de clientes, a TSMC normalmente aumenta os preços apenas em modestos 5–10%, mesmo quando a procura excede a oferta.
A memória é diferente. É fundamentalmente um produto altamente orientado pelo mercado, semelhante a uma commodity, com preços spot e de contrato diretamente determinados p

Algumas conclusões do último podcast de Dylan Patel:
A Anthropic tornou-se cash-flow positiva no segundo trimestre deste ano e entrou em rentabilidade.
Tanto abril como maio foram lucrativos e com cash-flow positivo. No momento da gravação, junho ainda não tinha fechado, mas a tendência continuava na mesma direção.
A receita recorrente anualizada, ou RRA, da Anthropic ultrapassou agora os 50 mil milhões de dólares, com margens brutas superiores a 70%.

A Yipit estima que o ARR da Anthropic aumentou para 69 mil milhões de dólares. Também observou que o ritmo de crescimento mensal do ARR acelerou em comparação com maio, com o aumento médio diário a subir de aproximadamente 400 milhões de dólares para 550 milhões de dólares.

então... NPU para PC?

A SAMSUNG ESTÁ A DESENVOLVER O GAIA, UM ACELERADOR DE IA PARA PCS DE IA.
A EMPRESA JÁ FORNECEU PROTÓTIPOS A GRANDES CLIENTES COMO A LENOVO DA CHINA E A HP, SEDIADA NOS EUA, PARA VALIDAÇÃO DE DESEMPENHO.
A PRODUÇÃO EM MASSA PODERÁ COMEÇAR JÁ NO PRÓXIMO ANO. O CHIP SERÁ FABRICADO NUM PROCESSO DE 4NM.
A SAMSUNG ESTÁ TAMBÉM A TENTAR INTEGRÁ-LO COM O PROCESSAMENTO EM MEMÓRIA, OU PIM, UMA TECNOLOGIA DE DRAM DE PRÓXIMA GERAÇÃO CAPAZ DE EFETUAR CÁLCULOS SOBRE OS PRÓPRIOS DADOS ARMAZENADOS.
AO CONTRÁRIO DOS PROCESSADORES CONVENCIONAIS QUE SERVEM COMO O CÉREBRO DE UM PC, O GAIA É ESPECIALIZADO EM COMPUT