En una carta obtenida por WIRED, siete miembros del Congreso expresaron su insatisfacción con la respuesta del DOJ, afirmando que solo intensificó sus temores sobre el programa de subvenciones policiales del departamento. Los legisladores instan al DOJ a suspender todas las subvenciones para sistemas de policía predictiva hasta que el gobierno pueda asegurar que no tengan un impacto discriminatorio.
El reconocimiento del DOJ de que no monitoreó el uso de fondos de subvenciones para la compra de herramientas de policía predictiva bajo el Programa de Asistencia de Justicia Memorial Edward Byrne revela una supervisión significativa. Bajo el liderazgo del senador Ron Wyden y otros legisladores, existe una fuerte creencia de que el DOJ tiene la obligación legal de revisar periódicamente el cumplimiento de los beneficiarios de las subvenciones con la Ley de Derechos Civiles de la nación. Esto significa que el departamento está prohibido de financiar programas que contribuyan a la discriminación basada en la raza, etnia u origen nacional, independientemente de la intención.
Investigaciones independientes realizadas por los medios de comunicación han revelado las fallas inherentes en las populares herramientas de policía predictiva. Estas herramientas, que se basan en datos históricos de delitos, a menudo perpetúan sesgos arraigados y resultan en la sobre-policía de vecindarios predominantemente negros y latinos.
Investigadores de The Markup descubrieron que la precisión del software de policía predictiva era de apenas un 1% al analizar 23.631 predicciones de delitos policiales. La dependencia en datos históricos distorsionados, informes de delitos falsificados y detenciones desproporcionadas profundiza aún más el sesgo, creando peligrosos círculos viciosos. El uso de predicciones sesgadas para justificar paradas y detenciones desproporcionadas en vecindarios minoritarios agrava aún más los sesgos existentes en las estadísticas de delitos. Contribuye a un ciclo perpetuante en el cual la presencia policial en estas comunidades se intensifica, lo que lleva a datos de criminalidad aún más distorsionados. Este preocupante círculo vicioso socava la equidad y la precisión de las prácticas policiales, comprometiendo la confianza y seguridad de las comunidades.
El senador Jeffrey Merkley, Ed Markey, Alex Padilla, Peter Welch, John Fetterman y la representante Yvette Clarke se unieron al senador Ron Wyden en firmar la carta al DOJ. Su preocupación colectiva refleja la necesidad urgente de medidas concretas para rectificar las fallas en las herramientas de policía basadas en IA. Los legisladores enfatizan la importancia de que el DOJ implemente evaluaciones rigurosas y salvaguardias para prevenir el uso de sistemas discriminatorios y garantizar que los beneficiarios de las subvenciones cumplan con las leyes de derechos civiles.
En el futuro, es crucial que el DOJ y otras autoridades relevantes adopten un enfoque proactivo para abordar los problemas relacionados con las herramientas de policía basadas en IA. El uso de estas herramientas no debe ser descartado sin un escrutinio cuidadoso, ya que tienen implicaciones significativas para las libertades civiles de las personas y la integridad general del sistema de justicia penal. La implementación de mecanismos de supervisión exhaustivos, la realización de auditorías minuciosas y la inversión en investigación y desarrollo imparcial son pasos vitales para crear un sistema más equitativo y justo.
Lograr un cambio significativo y duradero requiere un esfuerzo colectivo de legisladores, agencias de aplicación de la ley, desarrolladores de tecnología y comunidades afectadas. Conversaciones y asociaciones críticas son necesarias para desafiar el statu quo y asegurar que los avances tecnológicos se utilicen de manera responsable, sin sesgos. Al abordar las fallas en las herramientas de policía basadas en IA y trabajar activamente hacia soluciones equitativas, podemos esforzarnos por crear una sociedad verdaderamente justa y equitativa para todos.
Deja una respuesta