Cómo un algoritmo mandó a un hombre a prisión por asesinato

Cómo un algoritmo mandó a un hombre a prisión por asesinato

La esposa de Michael Williams le rogó que recordara los viajes a pescar con sus nietos, cómo solía trenzar su cabello, cualquier cosa para devolverlo a su mundo fuera de los muros de concreto de la prisión del condado Cook.

Las tres llamadas diarias que tenía permitido hacerle a ella se habían convertido en un salvavidas, pero cuando se redujeron a dos, luego a una, y después a unas pocas a la semana, Williams, de 65 años, sintió que no podía seguir adelante.

Planeó quitarse la vida con un alijo de píldoras que había almacenado en su dormitorio. Williams fue encarcelado en agosto pasado, acusado de asesinar a un joven de su vecindario que le pidió que lo llevara en su automóvil una de las noches de disturbios por la brutalidad policial en mayo.

Pero la evidencia clave contra Williams no provino de testigos o un informante, sino de un video de seguridad que mostraba un automóvil que cruzaba una intersección y de un fuerte sonido explosivo captado por una red de micrófonos de vigilancia.

Los fiscales dijeron que la tecnología, que utilizaba un algoritmo secreto que analizaba ruidos detectados por sensores, mostró que Williams le disparó y mató al hombre. “Seguí tratando de entender cómo podían salirse con la suya usando tecnología como esa en mi contra”, dijo Williams, en sus primeras declaraciones pública sobre su calvario. “Eso no es justo”.

Williams permaneció tras las rejas durante casi un año antes de que un juez desestimara el caso en su contra el mes pasado a petición de los fiscales, quienes finalmente dijeron tener evidencia insuficiente.

La experiencia de Williams subraya los impactos en el mundo real de la creciente dependencia de algoritmos para ayudar a tomar decisiones que tienen impactos significativos en la vida pública.

En ninguna parte es esto más evidente que en la aplicación de la ley, que ha recurrido a empresas de tecnología como la compañía de detección de disparos ShotSpotter para combatir el crimen. Evidencias procedentes de ShotSpotter han sido admitidas cada vez en casos judiciales alrededor de Estados Unidos, y actualmente suman unos 200. Se usó para acusar de asesinato a Williams, pero nunca se admitió porque el caso no llegó a juicio.

Le puede interesar: Mercenarios colombianos aceptan que asesinaron a presidente de Haití, dice TV

El sitio web de ShotSpotter dice que es “un líder en soluciones de tecnología policial de precisión” que ayuda a detener la violencia armada mediante el uso de “sensores, algoritmos e inteligencia artificial” para clasificar 14 millones de sonidos en su base de datos como disparos de armas u otra cosa.

Sin embargo, una investigación de The Associated Press, con base en la revisión de miles de documentos internos, correos electrónicos, presentaciones y contratos confidenciales, junto con entrevistas a docenas de defensores públicos en comunidades donde se ha desplegado ShotSpotter, ha identificado una serie de fallas graves en el uso de ShotSpotter como apoyo probatorio para los fiscales.

La investigación de la AP encontró que el sistema no necesariamente detecta los disparos en vivo justo bajo sus micrófonos, o clasifica erróneamente como disparos de arma los sonidos de los fuegos artificiales o de los escapes de los autos.

Reportes forenses elaborados por empleados de ShotSpotter han sido utilizados en los tribunales para afirmar indebidamente que un acusado disparó a agentes de la policía, o proporcionar detalles inexactos sobre el número de disparos realizados. En varios casos, los jueces han desestimado la evidencia.

El algoritmo patentado de ShotSpotter es el principal punto de venta de la compañía, y con frecuencia promociona la tecnología como virtualmente infalible en sus materiales de mercadotecnia. Pero cómo funciona exactamente el sistema cerrado de la empresa privada es algo resguardado como secreto comercial, una caja negra en gran medida inescrutable para el público, los jurados y las juntas de supervisión de la policía.

Los métodos de la empresa para identificar disparos de armas no siempre son guiados únicamente por la tecnología. Los empleados de ShotSpotter pueden cambiar, y con frecuencia lo hacen, la fuente de los sonidos identificados por sus sensores después de escuchar grabaciones de audio, lo que introduce la posibilidad de sesgo humano en el algoritmo de detección de disparos.

Los empleados pueden modificar la ubicación o número de tiros disparados a petición de la policía, según los registros judiciales. Y en el pasado, los mismos despachadores de la ciudad o los policías podían realizar también algunos de estos cambios.

En medio de un debate nacional sobre el sesgo racial en la policía, los defensores de la privacidad y los derechos civiles dicen que el sistema de ShotSpotter y otras tecnologías basadas en algoritmos que son utilizadas para establecer todo, desde las sentencias de prisión hasta las reglas de libertad condicional, carecen de transparencia y supervisión, y muestran por qué el sistema de justicia penal no debería delegar algunas de las decisiones más importantes de la sociedad a códigos informáticos.

Entérese también: Evacuan a Dubai al estudiante inglés que fue “de vacaciones” a Afganistán

Cuando se le cuestionó sobre los errores potenciales del algoritmo de la empresa, Ralph Clark, director ejecutivo de ShotSpotter, declinó discutir los detalles específicos sobre el uso de inteligencia artificial (IA), y dijo que “no es realmente relevante”. “El punto es que cualquier cosa que finalmente se produzca como un disparo de arma tiene que tener ojos y oídos encima”, dijo Clark en una entrevista.

“Ojos y oídos humanos, ¿ok?”. ———— Esta historia, con el apoyo del Pulitzer Center for Crisis Reporting, es parte de “Rastreado”, una serie en curso de The Associated Press que investiga el poder y las consecuencias de las decisiones impulsadas por algoritmos en la vida cotidiana de las personas. ———— CAMBIO EN EL TERRENO DE JUEGO Los jefes de la policía llaman a ShotSpotter un cambio en el terreno de juego.

La tecnología, que ha sido instalada en alrededor de 110 ciudades de los Estados Unidos, grandes y pequeñas, puede costar hasta 95,000 dólares por milla cuadrada al año. El sistema generalmente es colocado a petición de funcionarios locales en los vecindarios considerados de más alto riesgo, con frecuencia en comunidades con más población negra y latina.

Los funcionarios encargados de la aplicación de la ley dicen que ayuda a que sus oficiales lleguen más rápido a las escenas del crimen, y ayuda a las agencias de seguridad pública a desplegar mejor sus recursos. “ShotSpotter se ha convertido en uno de los engranajes más importantes en nuestra maquinaria para enfrentar la violencia armada”, dijo George Kral, jefe de la Policía de Toledo, Ohio, durante una conferencia de la Asociación Internacional de Jefes de Policía (Internacional Association of Chiefs of Police) de 2019, en Chicago.

Los investigadores que analizaron los impactos de ShotSpotter en las comunidades donde es utilizado llegaron a una conclusión diferente. Un estudio publicado en abril en la Revista de Salud Urbana (Journal of Urban Health) examinó ShotSpotter en 68 condados grandes y metropolitanos de 1999 a 2016, la revisión más grande hasta ahora. Encontraron que la tecnología no reducía la violencia armada ni incrementaba la seguridad de la comunidad.

“La evidencia que hemos producido sugiere que la tecnología no reduce la violencia armada en el largo plazo, y la implementación de la tecnología no conduce a un aumento de arrestos relacionados con asesinatos o armas”, dijo Mitch Doucette, el autor principal.

ShotSpotter instala sus sensores acústicos en edificios y postes telefónicos y de luminarias. Empleados en salas oscuras de acceso restringido estudian cientos de miles de alertas de disparos en múltiples pantallas de computadora en la oficina central de la empresa, a 56 km al sur de San Francisco, o en una oficina más nueva en Washington, D. C. Las herramientas forenses como el ADN y las pruebas de balística utilizadas por los fiscales tienen metodologías que han sido examinadas con minucioso detalle durante décadas, pero ShotSpotter afirma que su programa de cómputo es de propiedad confidencial, por lo que no hace público su algoritmo.

Le podría interesar: Un niño de tres años muere en accidente de tránsito en carretera San Juan-Azua

La política de privacidad de la empresa dice que las ubicaciones de los sensores no son divulgadas a los departamentos de policía, aunque miembros de la comunidad pueden verlos en los postes de luminarias. La empresa ha protegido los datos y registros que revelan el funcionamiento interno del sistema, lo que deja a los abogados defensores sin manera de cuestionar la tecnología para entender las especificaciones de cómo funciona.

“Tenemos el derecho constitucional de confrontar a todos los testigos y la evidencia en nuestra contra, pero en este caso, el sistema ShotSpotter es el acusador y no hay manera de determinar si es preciso, monitoreado, calibrado o si alguien agregó algo”, dijo Katie Higgins, abogada defensora que ha luchado con éxito contra la evidencia de ShotSpotter.

“La consecuencia más seria es ser condenado por un delito que usted no cometió utilizando esto como evidencia”. La empresa emergente de Silicon Valley fue lanzada hace 25 años con el respaldo del capitalista de riesgo Gary Lauder, heredero de la fortuna de la empresa de maquillaje Estée Lauder.

Actualmente, el multimillonario todavía es el principal inversionista de la empresa. El perfil de ShotSpotter ha crecido en años recientes. El gobierno de los Estados Unidos ha gastado más de 6,9 millones de dólares en sistemas de detección de disparos de armas, incluido ShotSpotter, de fondos de subvenciones discrecionales y dirigidos por el Congreso, dijo el Departamento de Justicia en respuesta a preguntas de la AP.

Los estados y gobiernos locales han gastado más millones de dólares de impuestos federales para comprar el sistema. El precio de las acciones de la empresa se ha triplicado desde que salió a la bolsa en 2017, y registró ingresos de casi 30 millones de dólares en la primera mitad de 2021. La página de ShotSpotter refiere que operan en 119 localidades en Estados Unidos, el Caribe y Sudáfrica. También dice quesus 18.000 sensores cubren 810 millas cuadradas o poco más de 2.000 kilómetros cuadrados.

En 2018, adquirió una empresa de vigilancia predictiva llamada HunchLab, que integra sus modelos de IA con el algoritmo de detección de disparo de armas de ShotSpotter para, supuestamente, prevenir el crimen antes de que ocurra.

Ese sistema puede “predecir cuándo y dónde es probable que ocurran crímenes y recomienda patrullas y tácticas específicas que pueden disuadir estos eventos”, según el informe anual de 2020 que la empresa presentó ante la Comisión de Bolsa y Valores de Estados Unidos (SEC por sus siglas en inglés).

Lea también: Unos 30 presos de cárcel de Haití escapan tras aprovechar pánico por terremoto

La empresa dijo que planea expandirse a Latinoamérica y otras regiones del mundo. Recientemente nombró en su consejo a Roberta Jacobson, la exembajadora de los Estados Unidos en México. A fines del año pasado, una comisión de la administración Trump sobre el orden público apremió a aumentar la financiación para sistemas como ShotSpotter para “combatir el crimen y la violencia con armas de fuego”.

Y entre un aumento en los homicidios, esta primavera, la administración Biden eligió a David Chipman, un exejecutivo de ShotSpotter, para dirigir la Oficina de Alcohol, Tabaco, Armas de Fuego y Explosivos (ATF, por sus siglas en inglés).

En junio, el presidente Biden alentó a los alcaldes a utilizar fondos del Plan de Rescate Estadounidense (American Rescue Plan), dirigido a acelerar la recuperación por la pandemia en los Estados Unidos, para comprar sistemas de detección de disparos de armas “para ver y detener mejor la violencia con armas de fuego en sus comunidades”.

“COMO SI ALGO DENTRO DE MÍ ACABARA DE MORIR”

En una agradable noche de domingo de mayo de 2020, Williams y su esposa Jacqueline Anderson se instalaron en su edificio de apartamentos en el vecindario South Side de Chicago. Alimentaron a su rottweiler Lily y su pastor alemán Shibey.

Anderson se quedó dormida. Williams dijo que salió a comprar cigarrillos en una gasolinera local. Los saqueadores habían llegado allí primero. Seis días antes, en Minneápolis, George Floyd había sido asesinado por el policía Derek Chauvin. A 643 km, en el vecindario de Williams, la indignación se desbordó. Las tiendas fueron destruídas, los escaparates destrozados y se provocaron algunos incendios.

Williams encontró la gasolinera destrozada, y dijo que dio vuelta en U para dirigirse a su casa en la avenida South Stony Island. Antes de llegar a la Calle 63 Este, Williams dijo que Safarian Herring, un joven de 25 años a quien había visto en el vecindario, le hizo señas para que lo llevara en su automóvil.

“No me sentí amenazado ni nada porque lo había visto antes por ahí. Así que dije que sí. Y se sentó en el asiento del copiloto y partimos”, dijo Williams. Williams dijo a la policía que cuando se acercaba a una intersección, otro vehículo se detuvo junto a su automóvil, según los documentos que la AP obtuvo mediante una solicitud de registros abiertos.

Un hombre en el asiento del copiloto disparó un tiro. La bala no alcanzó a Williams, pero sí a su pasajero. “Me sorprendió mucho, lo único que podía hacer era dejarme caer dentro de mi auto”, dijo. Mientras Herring sangraba en el asiento por las heridas en un costado de su cabeza, Williams se pasó un semáforo en alto para escapar…

Más leídas