ahora demanda a la ciudad

Un hombre en Estados Unidos ha demandado a las autoridades de una ciudad después de haber sido arrestado por error. Esto, luego de que fuera identificado por un sistema de reconocimiento facial que tiene como base un programa de inteligencia artificial.

Este caso vuelve a abrir un debate sobre lo que puede hacer esta tecnología: lo que ocurre cuando una IA se equivoca; no solo se trata de fallos limitados en el entorno digital, sino que comienzan a tener consecuencias dentro del mundo real.

Un sistema de IA lo confundió con otra persona y terminó detenido

De acuerdo con Reno Gazette Journal, el hombre identificado como Jason Killinger, presentó una demanda contra la ciudad el pasado 2 de abril, luego de que la jueza Miranda Du aceptara que la región podría ser incluida como un agente demandado.

En dicha demanda se alega la falta de capacitación de los agentes de policía en el uso de programas de reconocimiento facial, los cuales han generado miles de arrestos ilegales. Además de que Killinger busca una indemnización por el tiempo que pasó bajo custodia. También señala que los visitantes de la ciudad podrían estar en riesgo de ser detenidos de forma injusta.

Todo comenzó con una coincidencia del 99.9%

En septiembre de 2023, Jason Killinger, un camionero de larga distancia, fue detenido y posteriormente arrestado por policías en Nevada, por presuntamente estar jugando en el casino Peppermill. Sin embargo, un sistema de reconocimiento de inteligencia artificial fue la causante de todo esto.

El programa lo identificó, con una coincidencia del 99.9%, al señalar que el hombre tenía prohibida la entrada a ese lugar por dormir en las afueras. Las cámaras del proceso de arresto mostraron cómo el hombre protestaba por su inocencia.

Tras ser confundido por el sistema de IA con Michael Ellis, Killinger decidió demandar tanto al agente de Reno, R. Jager, como al propio casino. Según la denuncia, pasó un total de 11 horas bajo custodia, cuatro de ellas esposado, periodo durante el cual sufrió hematomas y dolor en el hombro. 

Posteriormente, pruebas dactilares realizadas en prisión confirmaron que Killinger no era la persona que el casino había identificado como vetada. Aunque el establecimiento llegó a un acuerdo con él, la demanda contra el policía sigue en marcha.

La IA ya ha provocado otros errores similares

A principios del 2025, el medio WBAL-TT 11 News informó que agentes armados rodearon a un estudiante de 16 años en las inmediaciones de una escuela en Baltimore. Esto ocurrió luego de que un sistema de detección de armas con IA identificara por error una bolsa de frituras como un arma de fuego.

No solo es un caso aislado, también ocurrió en Dakota del Norte, cuando Angela Lipps pasó un tiempo en prisión por un caso de fraude bancario, cuando ella se encontraba a mil 600 kilómetros de distancia. Lo mismo, por un error en la identificación con sistemas de inteligencia artificial.

Casos como este reflejan uno de los principales riesgos de integrar inteligencia artificial en áreas sensibles como la seguridad pública: cuando un sistema falla, las consecuencias ya no se quedan en una pantalla, sino que impactan directamente en la vida de las personas.

A pesar de que la IA sigue expandiéndose en tareas de vigilancia, monitoreo y reconocimiento, cada error plantea la misma incógnita: qué tan preparada debe estar la sociedad para delegar decisiones críticas o importantes con sistemas que todavía pueden cometer errores, especialmente en el ámbito del orden y la seguridad.