Por que as grandes empresas de tecnologia estão se opondo ao projeto de lei da Califórnia sobre inteligência artificial?
O projeto de lei exigiria que os desenvolvedores contratassem auditores terceirizados para avaliar suas práticas de segurança
São Francisco:
Os legisladores da Califórnia devem votar um projeto de lei ainda esta semana que regulamentará amplamente como a inteligência artificial é desenvolvida e implantada na Califórnia, mesmo com diversas gigantes da tecnologia tendo manifestado ampla oposição.
Aqui estão os antecedentes do projeto de lei, conhecido como SB 1047, e os motivos pelos quais ele enfrentou reações negativas de tecnólogos do Vale do Silício e de alguns legisladores:
O QUE O PROJETO DE LEI FAZ?
Avançada pelo senador estadual Scott Wiener, um democrata, a proposta exigiria testes de segurança para muitos dos modelos de IA mais avançados que custam mais de US$ 100 milhões para desenvolver ou aqueles que exigem uma quantidade definida de poder de computação. Os desenvolvedores de software de IA que operam no estado também precisariam delinear métodos para desligar os modelos de IA se eles derem errado, efetivamente um kill switch.
O projeto de lei também daria ao procurador-geral do estado o poder de processar os desenvolvedores caso eles não estejam em conformidade, principalmente no caso de uma ameaça contínua, como a IA assumindo o controle de sistemas governamentais, como a rede elétrica.
Além disso, o projeto de lei exigiria que os desenvolvedores contratassem auditores terceirizados para avaliar suas práticas de segurança e fornecer proteções adicionais aos denunciantes que se manifestassem contra abusos de IA.
O QUE OS LEGISLADORES DISSERAM?
O SB 1047 já foi aprovado pelo Senado estadual por 32 votos a 1. Na semana passada, ele foi aprovado pelo comitê de dotações da Assembleia estadual, estabelecendo uma votação pela Assembleia completa. Se for aprovado até o final da sessão legislativa em 31 de agosto, ele avançaria para o governador Gavin Newsom assinar ou vetar até 30 de setembro.
Wiener, que representa São Francisco, lar da OpenAI e de muitas das startups que desenvolvem o poderoso software, disse que a legislação é necessária para proteger o público antes que os avanços na IA se tornem difíceis de manejar ou incontroláveis.
No entanto, um grupo de democratas do Congresso da Califórnia se opõe ao projeto de lei, incluindo Nancy Pelosi, de São Francisco; Ro Khanna, cujo distrito congressional abrange grande parte do Vale do Silício; e Zoe Lofgren, de San Jose.
Pelosi chamou o SB 1047 de mal informado esta semana e disse que ele pode causar mais mal do que bem. Em uma carta aberta na semana passada, os democratas disseram que o projeto de lei poderia expulsar desenvolvedores do estado e ameaçar os chamados modelos de IA de código aberto, que dependem de código que está disponível gratuitamente para qualquer um usar ou modificar.
O QUE DIZEM OS LÍDERES DE TECNOLOGIA?
Empresas de tecnologia desenvolvendo IA – que podem responder a prompts com texto, imagens ou áudio totalmente formados, bem como executar tarefas repetitivas com intervenção mínima – pediram por proteções mais fortes para a implantação da IA. Elas citaram riscos de que o software pudesse um dia escapar da intervenção humana e causar ataques cibernéticos, entre outras preocupações. Mas elas também se opuseram amplamente ao SB 1047.
Wiener revisou o projeto de lei para apaziguar empresas de tecnologia, contando em parte com a contribuição da startup de IA Anthropic – apoiada pela Amazon e Alphabet. Entre outras mudanças, ele eliminou a criação de um comitê de supervisão de IA do governo.
Wiener também eliminou penalidades criminais por perjúrio, embora processos civis ainda possam ser movidos.
O Google e o Meta, da Alphabet, expressaram preocupações em cartas a Wiener. O Meta disse que o projeto de lei ameaça tornar o estado desfavorável ao desenvolvimento e à implantação de IA. O cientista-chefe da controladora do Facebook, Yann LeCun, em uma postagem de julho X chamou o projeto de lei de potencialmente prejudicial aos esforços de pesquisa.
A OpenAI, cujo ChatGPT é creditado por acelerar o frenesi em torno da IA desde seu amplo lançamento no final de 2022, disse que a IA deve ser regulamentada pelo governo federal e que o SB 1047 cria um ambiente legal incerto.
De particular preocupação é o potencial do projeto de lei se aplicar a modelos de IA de código aberto. Muitos tecnólogos acreditam que modelos de código aberto são importantes para criar aplicativos de IA menos arriscados mais rapidamente, mas Meta e outros temem que eles possam ser responsabilizados por policiar modelos de código aberto se o projeto de lei for aprovado. Wiener disse que apoia modelos de código aberto e uma das emendas recentes ao projeto de lei elevou o padrão para o qual modelos de código aberto são cobertos por suas disposições.
O projeto de lei também tem seus apoiadores no setor de tecnologia. Geoffrey Hinton, amplamente creditado como um “padrinho da IA”, o ex-funcionário da OpenAI Daniel Kokotajlo e o pesquisador Yoshua Bengio disseram que apoiam o projeto de lei.
(Com exceção do título, esta história não foi editada pela equipe da NDTV e é publicada a partir de um feed distribuído.)
