O CEO da Anthropic nega defender a proibição de modelos de IA de código aberto

O CEO da Anthropic, Dario Amodei, publicou uma publicação em blogue na segunda-feira, afirmando que a sua empresa nunca defendeu uma proibição de modelos de IA de pesos abertos, em resposta a críticas em toda a indústria tecnológica. A declaração surgiu depois de uma coligação de empresas de tecnologia, incluindo Nvidia, Microsoft, Meta e Palantir, ter divulgado uma carta no final da semana passada, instando os decisores políticos a não impor restrições prematuras a modelos de pesos abertos — modelos que os utilizadores podem descarregar, modificar e executar na sua própria infraestrutura. O debate centra-se na questão de saber se os modelos de pesos abertos desenvolvidos na China, que atualmente dominam o mercado, devem ser alvo de restrições nos EUA, com alguns responsáveis governamentais a ponderar potenciais proibições.

Coligação Tecnológica Apela Contra Restrições aos Modelos de Pesos Abertos

Uma coligação de empresas de tecnologia divulgou no final da semana passada uma carta apelando aos decisores políticos para evitarem restrições prematuras a modelos de pesos abertos. Os signatários incluíram Nvidia, Microsoft, Meta e Palantir. A OpenAI assinou a carta depois de esta ter sido publicada, enquanto a Anthropic não assinou. A carta afirmava que as preocupações sobre distilação ilegal devem ser tratadas através de enquadramentos legais e comerciais direcionados.

Amodei Descreve a Posição da Anthropic na Governança de Modelos de IA

Amodei escreveu na publicação do blogue de segunda-feira que a Anthropic não tem e não está a defender uma proibição de modelos de pesos abertos como categoria. Disse que o foco deve antes estar em impedir que chips poderosos caiam nas mãos de regimes autoritários, travar a distilação em escala industrial e exigir testes de segurança de todos os modelos suficientemente capazes, tanto abertos como fechados. Amodei escreveu que proibições protecionistas não resolveriam as suas preocupações mais graves de segurança nacional. A Anthropic é mais conhecida por desenvolver uma família de modelos proprietários chamada Claude, que vende às empresas.

Anthropic Alega que a Alibaba Realizou um Ataque de Distilação

A Anthropic enviou uma carta ao Comité do Senado dos EUA para Serviços Bancários, Habitação e Assuntos Urbanos no mês passado, alegando que a chinesa Alibaba, programadora da família de modelos Qwen, tinha levado a cabo o maior ataque de distilação conhecido contra a empresa até à data. A distilação é um método de treino de IA em que um modelo menor e menos capaz é construído usando as saídas de um modelo maior já disponível no mercado. Na segunda-feira, Amodei afirmou que concorda que as preocupações sobre distilação ilegal devem ser abordadas através de enquadramentos legais e comerciais direcionados.

Amodei Identifica Áreas de Acordo e Discordância com a Carta da Coligação

Amodei disse que concorda com partes da carta da coligação, especificamente que os modelos de pesos abertos dão aos clientes um maior controlo, expandem o acesso à economia da IA e reforçam a concorrência em alguns casos de uso. Disse que discorda da ideia de que os modelos de pesos abertos favorecem os defensores cibernéticos em vez dos atacantes, ou que tornam mais fácil para os utilizadores desenvolver salvaguardas.

FAQ

O que é que o CEO da Anthropic, Dario Amodei, disse na segunda-feira sobre banir modelos de IA de pesos abertos?

Dario Amodei publicou uma publicação em blogue na segunda-feira, afirmando que a Anthropic nunca defendeu uma proibição de modelos de IA de pesos abertos como categoria. Escreveu que o foco deve antes estar em impedir que chips poderosos caiam nas mãos de regimes autoritários, travar a distilação em escala industrial e exigir testes de segurança de todos os modelos suficientemente capazes.

Porque é que as empresas de tecnologia publicaram uma carta sobre modelos de IA de pesos abertos no final da semana passada?

Uma coligação incluindo Nvidia, Microsoft, Meta e Palantir divulgou no final da semana passada uma carta apelando aos decisores políticos para evitarem restrições prematuras a modelos de pesos abertos. A carta surgiu no contexto do debate sobre se os modelos de pesos abertos desenvolvidos na China, que atualmente dominam o mercado, devem ser alvo de restrições nos EUA.

Que alegação de distilação é que a Anthropic fez contra a Alibaba no mês passado?

A Anthropic enviou uma carta ao Comité do Senado dos EUA para Serviços Bancários, Habitação e Assuntos Urbanos no mês passado, alegando que a chinesa Alibaba, programadora da família de modelos Qwen, tinha levado a cabo o maior ataque de distilação conhecido contra a Anthropic até à data.