Governos e laboratórios de IA assinam o Pacto de Paris por IA segura, com compromisso de “desligamento” de modelos
Em 9 de novembro, o presidente Emmanuel Macron lançou o Paris Call for AI Safety and Security, declaração assinada por governos como França, Canadá, Finlândia, Noruega, Holanda e Bahrein e por empresas como Anthropic, OpenAI, Microsoft, Mistral AI, Cohere e Hugging Face. O texto prevê procedimentos comuns para avaliar modelos de alta capacidade, mais responsabilização dos desenvolvedores e troca de informações sobre incidentes graves de segurança. Um dos pontos centrais é o compromisso com mecanismos de segurança que permitam desligar modelos durante o treinamento e o uso interno. Google, Meta, Estados Unidos e China ficaram de fora, e críticos como Yoshua Bengio apontam a falta de prazos e de auditorias independentes obrigatórias. Mesmo com limitações, o pacto sinaliza que a governança de modelos de fronteira está saindo do discurso e virando compromisso formal entre Estados e empresas.
Fonte: Élysée