Hermes Vector

Español ·

Estudiantes de Maryland demandan por alerta de IA que confundió bolsa de papas fritas con arma

Cuatro estudiantes de preparatoria de Maryland han demandado a Omnilert, a la policía del condado de Baltimore y a las autoridades escolares después de que un sistema de IA marcó una bolsa de Doritos como un arma de fuego, lo que llevó a su detención y esposamiento en octubre de 2025.

Por Hermes Vector · Read in English

Ilustración: Estudiantes de Maryland demandan por alerta de IA que confundió bolsa de papas fritas con arma

En breve

  • Cuatro estudiantes de preparatoria de Maryland demandan después de que un sistema de IA confundiera una bolsa de Doritos con un arma el 20 de octubre de 2025.
  • Se ordenó a los estudiantes arrodillarse, esposarlos y registrarlos a los agentes de policía armados en la Escuela Secundaria Kenwood.
  • La demanda nombra a Omnilert, a las Escuelas Públicas del Condado de Baltimore, al Departamento de Policía del Condado de Baltimore y a oficiales individuales.
  • La queja indica que la alerta de IA mostró un 90 % de confianza y continuó después de que el personal escolar y la policía determinaron que fue un error.

La demanda

Cuatro estudiantes actuales y exalumnos de la Escuela Secundaria Kenwood en el condado de Baltimore, Maryland, han presentado una demanda por un incidente ocurrido el 20 de octubre de 2025 en el que un sistema de detección de armas con IA confundió una bolsa de Doritos con un arma de fuego. Los demandantes, Taki Allen, Yui-Osa Ogbeide, Devon Thompson Jr. y Keith Winfield III, están representados por el Lawyers’ Committee for Civil Rights Under Law, junto con Willkie Farr & Gallagher LLP y Engel Law Group, P.C.

La demanda, Allen, et al. v. Omnilert, et al., fue presentada en el Tribunal de Circuito del condado de Baltimore, Maryland. Nombra a Omnilert, LLC, al personal de las Escuelas Públicas del condado de Baltimore, al Departamento de Policía del condado de Baltimore y a oficiales individuales.

Lo que dice la queja

Según la queja, los estudiantes habían terminado la práctica de fútbol americano cuando su entrenador les entregó bolsas de Doritos. Taki Allen, quien en ese momento era estudiante de tercer año, estaba con amigos cerca de las mesas de picnic esperando transporte cuando llegaron seis patrullas con las luces intermitentes. La queja establece que los estudiantes "estaban en shock y temían por sus vidas después de ser detenidos, ordenados arrodillarse, esposados y registrados" por oficiales armados.

El sistema de detección de armas con IA de Omnilert marcó la bolsa de papas fritas como un arma de fuego con un 90 % de confianza. La demanda indica que la alerta continuó incluso después de que el personal escolar y la policía local revisaron la imagen y determinaron que fue un error. La queja alega que las autoridades escolares y policiales cancelaron la alerta, pero se desplegaron agentes de policía armados de todos modos porque no existían protocolos suficientes para evitar que las alertas canceladas desencadenaran respuestas policiales armadas.

La queja también alega que un oficial dijo "Malditas Omnialerts" y "Cámaras de IA estúpidas", mientras que otro bromeó con los estudiantes: "Tengan cuidado en las instalaciones escolares, especialmente sosteniendo cosas como esa... tengan cuidado con sus bolsas de papas fritas". La demanda incluye mensajes de texto de la directora del escuela que contienen emojis de una cara sonriente llorando de risa, y establece que ella no se disculpó con los estudiantes.

Respuestas y afirmaciones más amplias

Damon Hewitt, presidente y director ejecutivo del Lawyers’ Committee for Civil Rights Under Law, dijo: "Estos estudiantes fueron fallados no solo por una tecnología propensa a alertas falsas, sino también por los propios adultos encargados de mantenerlos a salvo cuando los enviamos a la escuela. En lugar de esta protección, se encontraron con armas y fueron traumatizados. Y podría haber sido aún peor".

La demanda indica que la oficina del inspector general de educación de Maryland encontró que más del 99 % de las Alertas OGD en las Escuelas Públicas del condado de Baltimore fueron falsos positivos que no requerían respuesta policial. Omnilert comercializa su producto como un medio para lograr "menos falsos positivos".

Omnilert, la directora de la escuela, la policía de Baltimore y la junta de educación no respondieron de inmediato a una solicitud de comentario de Guardian. Un portavoz de Omnilert anteriormente le dijo al Baltimore Banner que la empresa estaba revisando la demanda y estaba "realmente arrepentida por el miedo que ellos y sus familias experimentaron. Entendemos por qué quieren respuestas". Un portavoz del condado de Baltimore le dijo al New York Times que el distrito no puede comentar sobre litigios pendientes.

Por qué importa

El caso plantea preguntas sobre el uso de tecnología de detección de amenazas impulsada por IA en las escuelas públicas y si las alertas falsas deberían desencadenar respuestas policiales armadas. El Lawyers’ Committee argumenta que la policía y las escuelas requieren más capacitación, supervisión y transparencia en relación con los errores y resultados de la IA, así como la participación de la comunidad sobre cómo se utiliza la tecnología.


Fuentes (en inglés)

Traducción con IA del artículo original en inglés, revisada automáticamente para que diga lo mismo que el original. Las fuentes fueron verificadas en inglés.

How do you feel about this story?

Comments 0

No comments yet. Start the discussion.

Estudiantes de Maryland demandan por alerta de IA que confundió bolsa de papas fritas con arma | Hermes Vector