Ottawa, 24 de junho – O governo do Canadá convocou integrantes do alto escalão responsável pela segurança da OpenAI para prestar esclarecimentos depois de vir a público que a empresa não repassou às autoridades indícios internos sobre um jovem que, neste mês, promoveu um tiroteio em uma escola na região oeste do país. O anúncio foi feito nesta segunda-feira (24) pelo ministro da Inteligência Artificial, Evan Solomon.
No início de junho, um rapaz de 18 anos, descrito pelo governo como portador de problemas de saúde mental, abriu fogo dentro de uma instituição de ensino, ferindo oito pessoas. Após o ataque, ele atirou contra si mesmo e morreu no local. O episódio reacendeu o debate sobre alertas preventivos e sobre a responsabilidade de plataformas de inteligência artificial ao detectar comportamentos potencialmente violentos de usuários.
Conta no ChatGPT havia sido banida
A OpenAI informou que, no ano passado, baniu a conta do atirador no ChatGPT por violar as políticas internas do serviço. Segundo a companhia, embora o conteúdo publicado pelo usuário tenha infringido regras da plataforma, ele não atingiu o limiar estipulado internamente para que as forças policiais fossem notificadas. As diretrizes específicas que norteiam essa decisão, porém, não foram detalhadas publicamente.
O fato de a empresa ter identificado problemas no comportamento do usuário, mas não ter comunicado as autoridades, motivou a reação do governo canadense. “Convoquei a equipe sênior de segurança da OpenAI para vir aqui a Ottawa; teremos uma reunião para obter uma explicação sobre seus protocolos de segurança”, declarou Solomon a jornalistas diante do Parlamento.
Governo avalia possíveis medidas
Questionado sobre quais providências Ottawa poderia adotar para ampliar a proteção dos cidadãos, o ministro respondeu de forma sucinta: “Todas as opções estão em aberto”. Solomon não forneceu detalhes sobre eventuais caminhos legislativos, regulatórios ou de cooperação com a iniciativa privada que possam ser implementados depois do encontro com a empresa norte-americana.
A agenda exata da reunião ainda não foi divulgada, mas o governo canadense pretende examinar, ponto a ponto, como a OpenAI classifica conteúdos considerados nocivos, que mecanismos de verificação são usados internamente e em que circunstâncias a empresa decide acionar a polícia. A administração federal também quer entender se a política aplicada ao caso do jovem de 18 anos foi seguida à risca ou se houve falhas operacionais na avaliação de risco.
Pressão por transparência
Autoridades canadenses vêm destacando, desde o ataque, a necessidade de maior transparência das companhias de tecnologia quanto a protocolos de segurança e troca de informações com governos. Na visão do Ministério da Inteligência Artificial, falhas de comunicação podem dificultar a prevenção de episódios violentos e agravar o impacto de ameaças já identificadas em estágios iniciais.
A convocação oficial à OpenAI é parte de um esforço mais amplo para revisar como plataformas digitais lidam com conteúdo que possa representar perigo iminente. Embora outras empresas do setor não tenham sido mencionadas publicamente pelo governo até o momento, o episódio envolvendo o ChatGPT colocou em evidência a discussão sobre responsabilidades compartilhadas entre iniciativa privada e Estado.
Próximos passos
Depois do encontro em Ottawa, o Ministério da Inteligência Artificial deve compilar um relatório interno com as explicações fornecidas pela OpenAI. Caso sejam identificadas lacunas nos processos de detecção ou reporte de ameaças, novas recomendações poderão ser encaminhadas ao gabinete do primeiro-ministro e às forças de segurança nacionais.
Até o fechamento desta edição, a OpenAI não se manifestou sobre o convite do governo canadense nem sobre eventuais mudanças em suas práticas de monitoramento. Permanecem sem atualização, também, informações sobre o estado de saúde das oito pessoas baleadas no ataque, cujos nomes, idades e condições médicas não foram divulgados publicamente.
O tiroteio do início de junho é um dos incidentes armados mais graves registrados em escolas canadenses nos últimos anos e gerou ampla comoção no país. A busca por respostas quanto à prevenção ganhou novo impulso com o envolvimento de uma ferramenta de inteligência artificial usada amplamente em instituições de ensino, empresas e domicílios.
Conforme afirmou o ministro Evan Solomon, o governo pretende “garantir que cada empresa de tecnologia que opera no Canadá possua protocolos de segurança robustos e transparentes” para mitigar riscos à população. As conclusões da reunião com a OpenAI poderão balizar eventual revisão normativa nos setores de IA e de plataformas digitais.
