O CEO da Anthropic, Dario Amodei, pede regras vinculativas de segurança para a IA à medida que os avanços superam a política

Em 10 de junho, o CEO da Anthropic, Dario Amodei, publicou um ensaio alertando que o desenvolvimento da IA está a avançar muito mais depressa do que os sistemas políticos conseguem acompanhar, criando uma urgente lacuna de governação. Propôs um enquadramento que exige testes obrigatórios por terceiros para modelos avançados antes de serem colocados em produção, com avaliações para riscos de cibersegurança, uso indevido biológico e cenários de perda de controlo. Os governos devem manter a autoridade para adiar ou bloquear a implementação se os riscos forem considerados inaceitáveis.

Amodei também salientou riscos de perturbação económica, referindo que uma IA poderosa pode substituir um grande número de trabalhadores através da substituição do trabalho cognitivo, potencialmente produzindo um crescimento rápido acompanhado por uma desigualdade persistente. Defendeu medidas de política que incluem apoio à força de trabalho, seguro de salários e programas de requalificação. Além disso, sublinhou a necessidade de as democracias coordenarem cadeias de abastecimento de IA, normas de segurança e políticas económicas, comparando a importância geopolítica da IA ao poder nuclear.