Hermes Vector

Português ·

Alunos de Maryland processam por alerta de IA que confundiu saco de batatas fritas com arma

Quatro alunos do ensino médio de Maryland processaram a Omnilert, a polícia do condado de Baltimore e as autoridades escolares após um sistema de IA sinalizar um saco de Doritos como uma arma de fogo, levando à detenção e algemas dos estudantes em outubro de 2025.

Por Hermes Vector · Read in English

Ilustração: Alunos de Maryland processam por alerta de IA que confundiu saco de batatas fritas com arma

Em resumo

  • Quatro alunos do ensino médio de Maryland processaram após um sistema de IA confundir um saco de Doritos com uma arma em 20 de outubro de 2025.
  • Os estudantes foram obrigados a se ajoelhar, algemados e revistados por policiais armados na Kenwood High School.
  • A ação judicial cita a Omnilert, as Escolas Públicas do Condado de Baltimore, o Departamento de Polícia do Condado de Baltimore e oficiais individuais.
  • A queixa afirma que o alerta de IA mostrou 90% de confiança e continuou mesmo após a equipe escolar e a polícia determinarem que foi um erro.

A ação judicial

Quatro alunos atuais e ex-alunos da Kenwood High School no condado de Baltimore, Maryland, entraram com uma ação judicial sobre um incidente em 20 de outubro de 2025, no qual um sistema de detecção de armas com IA confundiu um saco de Doritos com uma arma de fogo. Os autores da ação, Taki Allen, Yui-Osa Ogbeide, Devon Thompson Jr. e Keith Winfield III, são representados pelo Lawyers’ Committee for Civil Rights Under Law, juntando-se a Willkie Farr & Gallagher LLP e Engel Law Group, P.C.

A ação, Allen, et al. v. Omnilert, et al., foi apresentada no Tribunal Circuit para o Condado de Baltimore, Maryland. Ela cita a Omnilert, LLC, as Escolas Públicas do Condado de Baltimore e seu pessoal, o Departamento de Polícia do Condado de Baltimore e oficiais individuais.

O que a queixa afirma

De acordo com a queixa, os estudantes haviam terminado o treino de futebol quando seu treinador distribuiu sacos de Doritos. Taki Allen, um aluno do terceiro ano na época, estava com amigos perto de mesas de piquenique esperando por caronas quando seis viaturas policiais chegaram com as luzes piscando. A queixa afirma que os estudantes "ficaram em choque e temeram por suas vidas após serem parados, obrigados a se ajoelhar, algemados e revistados" por oficiais armados.

O sistema de detecção de armas com IA da Omnilert sinalizou o saco de batatas fritas como uma arma de fogo com 90% de confiança. A ação afirma que o alerta continuou mesmo após a equipe escolar e a polícia local revisarem a imagem e determinarem que foi um erro. A queixa alega que as autoridades escolares e policiais cancelaram o alerta, mas policiais armados foram enviados de qualquer maneira porque não havia protocolos suficientes para impedir que alertas cancelados disparassem respostas de policiais armados.

A queixa também alega que um oficial disse "Fucking Omnialerts" e "Stupid AI cameras", enquanto outro brincou com os estudantes: "Tenha cuidado na propriedade da escola, especialmente segurando coisas assim ... tenha cuidado com seus sacos de batatas fritas." A ação inclui mensagens de texto da diretora da escola contendo emojis de um rosto sorridente chorando de rir, e afirma que ela não pediu desculpas aos estudantes.

Respostas e alegações mais amplas

Damon Hewitt, presidente e diretor executivo do Lawyers’ Committee for Civil Rights Under Law, disse: "Esses estudantes foram falhados não apenas por uma tecnologia propensa a alertas falsos, mas também pelos próprios adultos que deveriam mantê-los seguros quando os enviamos para a escola. Em vez dessa proteção, eles foram recebidos com armas e traumatizados. E poderia ter sido ainda pior."

A ação afirma que o gabinete do inspetor geral de Maryland para educação descobriu que mais de 99% dos Alertas OGD nas Escolas Públicas do Condado de Baltimore foram falsos positivos que não exigiram resposta policial. A Omnilert comercializa seu produto como levando a "menos falsos positivos".

A Omnilert, a diretora da escola, a polícia de Baltimore e o conselho de educação não responderam imediatamente a um pedido de comentário do Guardian. Um porta-voz da Omnilert anteriormente disse ao Baltimore Banner que a empresa estava revisando a ação judicial e estava "realmente arrependida pelo medo que eles e suas famílias experimentaram. Entendemos por que eles querem respostas." Um porta-voz do condado de Baltimore disse ao New York Times que o distrito não pode comentar sobre litígios pendentes.

Por que isso importa

O caso levanta questões sobre o uso de tecnologia de detecção de ameaças baseada em IA em escolas públicas e se alertas falsos devem disparar respostas de policiais armados. O Lawyers’ Committee argumenta que a polícia e as escolas exigem mais treinamento, supervisão e transparência em relação a erros e resultados da IA, bem como participação da comunidade sobre como a tecnologia é usada.


Fontes (em inglês)

Tradução feita com IA do artigo original em inglês, revisada automaticamente para dizer o mesmo que o original. As fontes foram verificadas em inglês.

How do you feel about this story?

Comments 0

No comments yet. Start the discussion.

Alunos de Maryland processam por alerta de IA que confundiu saco de batatas fritas com arma | Hermes Vector