Primeira lei sobre inteligência artificial nos EUA é sancionada na Califórnia; veja o que muda

Plataformas que operam mundialmente, como OpenAI e Google, já avaliam como adaptar seus modelos ao novo padrão

Foto: Freepik

O governador da Califórnia, Gavin Newsom, transformou em lei, nesta segunda-feira (13) o Senate Bill 243 (SB 243). Trata-se do primeiro marco regulatório nos EUA voltado especificamente para chatbots de inteligência artificial (IA). A nova regra impõe obrigações de transparência e segurança, especialmente quando a interação envolve menores de idade. A lei estabelece uma série de s alvaguardas obrigatórias para plataformas de chatbots de IA, as chamadas “companion chatbots” (bots companheiros). O foco especial está em proteger crianças e adolescentes. Limitações e críticas

Apesar de pioneira, a SB 243 enfrentou críticas e alterações que suavizaram seu escopo. A aplicação da lei foi restrita apenas a usuários que as empresas de IA sabem ser menores. Ou seja, se uma plataforma não identificar um usuário como menor, as regras mais rígidas podem não se aplicar. Algumas exigências originalmente propostas, como auditorias independentes por terceiros e relatórios obrigatórios, foram retiradas ou mitigadas em emendas de última hora. Organizações que apoiavam versões mais duras da legislação (como grupos de defesa infantil) alegaram que a versão final é “diluída demais” e oferece proteções mínimas. Um projeto mais agressivo, o Assembly Bill 1064, que propunha proibição mais ampla de bots conversarem sobre autolesão ou sexualidade com menores, não foi sancionado até o momento. Impacto para empresas Com a lei em vigor, empresas que operam chatbots nos EUA precisarão adaptar seus sistemas para detectar a idade dos usuários (ou ter mecanismos razoáveis para isso). também será necessário inserir avisos periódicos nos diálogos com menores. As empresas também devem construir mecanismos de moderação automática ou semi-automática com foco em prevenir conteúdo sensível. A nova lei traz implicações para usuários globais. Isso ocorrerá porque gigantes da IA muitas vezes aplicam suas políticas em âmbito mundial. Principais pontos da lei SB 243

• Notificação clara de que é IA: Sempre que houver risco de que um usuário confunda o bot com um humano, a plataforma deve emitir aviso visível de que aquilo é uma inteligência artificial;

• Relembre menores a cada 3 horas: Se o usuário for menor de idade, a plataforma deve lembrar, a cada três horas, que está conversando com um chatbot, não uma pessoa;

• Protocolos de prevenção ao autolesionismo: Os botões devem ter mecanismos para monitorar conversas que indiquem desejo de suicídio ou automutilação. Nesses casos, é obrigatório encaminhar o usuário para serviços de crise ou linhas de apoio;

• Proibição de conteúdo sexual explícito para menores: Chatbots não devem oferecer conversas com teor sexual ou conteúdo explícito quando o interlocutor for menor de idade;

• Direito à ação privada (private right of action): Indivíduos poderão processar empresas de IA que descumprirem a lei e causarem danos.