Una historia reciente de The Washington Post le dio al público una rara visión interna de las capacidades de monitoreo de redes sociales del departamento de policía de Fresno, que está probando un controvertido programa llamado Beware. La pieza ha causado un gran revuelo sobre la supuesta proclividad del software a las violaciones de las libertades civiles.
Pero, ¿cómo es este programa diferente de otros monitores de redes sociales realizados por la policía? ¿Cuidado con una amenaza real de libertades civiles? ¿O todo esto está siendo exagerado? ¿Y qué puedes hacer para evitar que la policía explore tus publicaciones en las redes sociales?
Una herramienta obvia para los departamentos de policía
Los agentes del orden público probablemente han estado utilizando las redes sociales para la recopilación de inteligencia desde que se convirtió en corriente principal: incluso en 2006, la policía arrestó a un menor en Colorado después de publicar fotos de él mismo en MySpace con varias armas de fuego.
El uso de las redes sociales en las investigaciones se ha vuelto más común desde entonces, y hay una serie de historias que atestiguan su eficacia. En 2014, la policía de Nueva York incautó más de 250 armas de fuego vendidas ilegalmente luego de una extensa investigación que comenzó cuando los oficiales notaron que un aspirante a rapero había publicado imágenes de armas en su estudio en Instagram.
Ha habido innumerables informes de estudiantes detenidos por publicar bombas y otras amenazas contra sus escuelas, y muchos arrestos después de los puestos que abogan por la violencia contra la policía. Incluso amenazas de bombas de broma Cómo usar Twitter sin atornillar Cómo usar Twitter sin atornillar Twitter puede ser un poco críptico, y es fácil cometer errores de vez en cuando, incluso si eres un usuario de mucho tiempo. Aquí hay algunos errores comunes y cómo evitarlos. Leer más ha resultado en arrestos. Esto tampoco está limitado a los Estados Unidos; Hay un amplio precedente en el Reino Unido por ser arrestado basado en decir algo "groseramente ofensivo" o amenazante en las redes sociales.
Los medios sociales se han convertido en un lugar importante para las posturas y amenazas de pandillas, y la policía en ciudades como Chicago y Nueva York ha realizado una sorprendente cantidad de arrestos basados en publicaciones de Facebook, YouTube e Instagram en las que los pandilleros hacen algo ilegal o expresan sus intento de hacerlo
En general, el monitoreo de las redes sociales es una opción obvia para la aplicación de la ley: si las personas publican sus hazañas ilegales en Facebook, donde todo el mundo puede verlas, valdrá la pena controlarlas.
El problema con cuidado: un enfoque algorítmico
Entonces, si la policía ha estado monitoreando las redes sociales durante años, ¿por qué el enfoque de Fresno está en los titulares? Parte de la respuesta radica en el hecho de que Beware utiliza un enfoque algorítmico para monitorear las redes sociales. Muchas herramientas simplistas de monitoreo de redes sociales (incluso aquellas usadas por los vendedores de redes sociales). Su guía para el marketing en redes sociales. Su guía para el marketing en redes sociales. En este momento, hay una avalancha de personas y compañías recurriendo a las redes sociales. ninguna compañía puede perder tiempo o dinero haciéndolo mal. Lea más) solo busque palabras clave o patrones específicos en los datos, algo que los policías individuales hacen a una escala mucho más pequeña.
Pero cuidado, cuando se le da información de un individuo, calcula un "puntaje de amenaza" basado en, de acuerdo con el sitio web de Intrado,
... miles de millones de registros comerciales [públicamente] disponibles en cuestión de segundos) alertando a los respondedores de situaciones potencialmente peligrosas mientras se dirigían a, o en el lugar de, una solicitud de asistencia 9-1-1.
Los miles de millones de puntos de datos provienen de publicaciones en redes sociales, arrestos y otros registros públicos, bases de datos comerciales y muchos otros tipos de datos, aunque exactamente de dónde vienen y cómo se traducen en una calificación de amenaza verde, amarilla o roja. es un secreto comercial custodiado por Intrado, el creador del software.
Sin embargo, la forma en que la policía usa este sistema de puntuación es obvio: si un llamador del 911 o alguien involucrado en la llamada tiene un puntaje de amenaza amarillo o rojo, los oficiales serán más cautelosos al entrar. Lo que podría significar estar más armados y listos. para problemas, una mentalidad que podría tener graves consecuencias para la persona que llama.
En 2007, la policía estaba investigando el robo de dos consolas PlayStation en un campus universitario cuando descubrieron imágenes del sospechoso posando con varias armas de fuego en las redes sociales. Enviaron un equipo de SWAT a la casa del sospechoso, y otro estudiante terminó muerto después de que un oficial confundió los sonidos del ariete utilizado para obtener la entrada a la casa para dispararles. Este es exactamente el tipo de respuesta fuertemente armada basada en información extraída de las redes sociales que ha preocupado a la gente.
La historia del Post mencionó que una mujer que tuiteó sobre el juego Rage y un hombre que vivía en una casa previamente ocupada por una persona de interés tenían niveles de amenaza elevados. Ninguna de estas personas habría tenido un segundo pensamiento por parte de un oficial de carne y hueso, pero el software de Intrado podría poner a los oficiales al borde si fueran a responder a una llamada de cualquiera de estos ciudadanos.
Lo que preocupa a mucha gente es que los cálculos de las puntuaciones de amenazas están siendo realizados por un algoritmo desarrollado por una sola compañía que no va a compartir sus ecuaciones en el corto plazo. Cuidado es una caja negra total. Los algoritmos ya controlan porciones significativas de nuestras vidas 4 Algoritmos de aprendizaje automático que dan forma a tu vida 4 Algoritmos de aprendizaje automático que dan forma a tu vida Tal vez no te des cuenta pero el aprendizaje automático ya está a tu alrededor y puede ejercer un sorprendente grado de influencia sobre tu vida . No me creas? Te sorprenderías. Lea más, pero el hecho de que ahora pueden ponernos en una situación peligrosa está comenzando a llamar la atención de la gente.
Los enfoques algorítmicos para la vigilancia han generado una gran cantidad de críticas en el pasado, con algunos críticos que dicen que son propensos a la discriminación racial, y otros dicen que las herramientas son totalmente "racistas". La investigación sobre el tema es no concluyente, con algunos estudios que muestran una disminución de la delincuencia a corto plazo y otros que no muestran un efecto significativo de la tecnología predictiva.
Un legado de vigilancia
El análisis de "miles de millones" de puntos de datos trae a la mente algunos programas previos realizados por el gobierno de los EE. UU.
Total Information Awareness (TIA) fue una iniciativa realizada por la Information Awareness Office a principios de la década de 2000 que recopilaba información sobre compras con tarjeta de crédito, suscripciones a revistas, navegación web, correo electrónico, calificaciones académicas, viajes, eventos legales y otros tipos de información para el almacenamiento en una base de datos central. Incluso después de haber sido rebautizado como Conciencia de Información Terrorista, TIA fue cerrada debido a la indignación pública por la idea francamente Orwelliana.
Uno de los proyectos de investigación de DARPA No lo vas a creer: DARPA Investigaciones futuras sobre computadoras avanzadas No lo vas a creer: DARPA Investigaciones futuras sobre computadoras avanzadas DARPA es una de las partes más fascinantes y secretas del gobierno de EE. UU. Los siguientes son algunos de los proyectos más avanzados de DARPA que prometen transformar el mundo de la tecnología. Leer más miró en un sistema similar llamado LifeLog que recolectaría ...
... todas las actividades y relaciones que realiza una persona. Esto incluye compras con tarjeta de crédito, sitios web visitados, el contenido de llamadas telefónicas y correos electrónicos enviados y recibidos, escaneos de faxes y correos enviados y recibidos, mensajes instantáneos enviados y recibidos, lectura de libros y revistas, selecciones de televisión y radio, ubicación física registrada a través de sensores GPS portátiles, [y] datos biomédicos capturados a través de sensores portátiles.
Obviamente, Beware y otras soluciones de monitoreo de redes sociales no están tan avanzadas, y no tienen el mismo potencial para las violaciones de privacidad. Sin embargo, el patrón del gobierno de Estados Unidos de crear piezas de software que violen la privacidad que no son bien entendidas por el público o se mantienen en secreto tiene a mucha gente nerviosa. Y el monitoreo de las redes sociales por parte de la policía parece que podría convertirse en un campo de batalla de libertades civiles.
Mucha gente ya ha tomado partido. La gran cantidad de programas de monitoreo de medios sociales disponibles indica que muchos departamentos de policía y otras organizaciones (incluidas las escuelas) están interesados en utilizar esta tecnología.
Por otro lado, grupos como la ACLU ya se han manifestado en contra de la tecnología, diciendo que podría permitir a los departamentos de policía "poner a la gente bajo sospecha simplemente por expresar su opinión en línea". La publicación de la ACLU sobre el tema fue titulada provocativamente "This El software de vigilancia probablemente esté espiando el activismo #BlackLivesMatter Hashtag: #powerful o #pointless? Activismo Hashtag: #powerful o #pointless? #BringBackOurGirls, #ICantBreathe y #BlackLivesMatter han tenido una amplia cobertura internacional en el último año, pero ¿son las etiquetas un medio efectivo de activismo? Lea más, "aunque hay poca evidencia de que este sea el caso.
Y, por supuesto, toda la información atraída por Beware está "disponible comercialmente". Exactamente lo que eso significa es difícil de saber para cualquiera, ya que los tipos de datos que venden las redes sociales parecen cambiar todo el tiempo. Como hemos visto en el pasado, no es difícil obtener información que un usuario considere privada Prepare su cuenta Privacidad para Facebook Graph Search [Consejos semanales de Facebook] Prepare su cuenta Privacidad para Facebook Graph Search [Consejos semanales de Facebook] Cada vez que Facebook lanza una nueva función para aprender más sobre nuestros amigos, muchas personas se dan cuenta de que su configuración de privacidad ya no es adecuada. Su última característica nueva, Facebook Graph Search, no es una excepción ... Lea más simplemente haciendo las preguntas correctas y utilizando las herramientas adecuadas.
No sería la primera persona en asociar Beware y otras soluciones de monitoreo de redes sociales con Pre-crimen de Minority Report o el crimen de pensamiento de 1984 .
La sofisticación de software como Beware está llegando al punto en que es probable que saque conclusiones basadas en las cosas que usted no dice, pero que solo insinúan. Intrado y otros fabricantes no quieren que su software se vincule con novelas de ciencia ficción distópicas, pero la conexión es obvia.
Lecciones aprendidas
Ya sea que esté preocupado por las posibles violaciones de privacidad causadas por el software de monitoreo de redes sociales en manos de la policía o no, esto debería servir como un recordatorio de que lo que sea que publique en Facebook o Twitter no solo está disponible para sus amigos. Está disponible para siempre, y es probable que esté en manos de una gran variedad de personas y compañías.
Lo mejor que puedes hacer es no publicar cosas estúpidas en las redes sociales. No hagas bromas sobre hacer algo ilegal. No defienda la violencia contra la policía o los miembros del ejército. No publiques imágenes tuyas que puedan interpretarse como amenazantes (especialmente con pistolas, simplemente no publiques imágenes tuyas con pistolas). Mucho de esto es de sentido común, pero Fresno y su uso de Beware deberían subrayar la importancia de este tipo de medidas de protección.
Este es también un tema importante a tener en cuenta ante las próximas elecciones presidenciales de EE. UU. 6 Recursos para ayudarlo a seguir las Elecciones presidenciales de EE. UU. 2016 6 Recursos para ayudarlo a seguir las elecciones presidenciales de EE. UU. 2016 El derecho de voto de las personas determina el resultado de una elección. Sé un votante informado y toma en serio esta importante tarea con la ayuda de estas herramientas. Lea más (donde las redes sociales también son una herramienta extremadamente importante Campañas políticas lo siguen en Facebook, aquí está el por qué las campañas políticas lo siguen en Facebook, aquí está el por qué Ya sabe que las empresas y el gobierno usan las redes sociales para rastrearlo. Pero hay otro grupo que está mirando, analizando y capitalizando cada movimiento que hace en Facebook: activistas políticos. Lea más, curiosamente). Este problema bien podría llegar a un punto crítico poco después de juramentarse un nuevo presidente, y cómo se desarrolle a partir de allí puede depender de quién esté sentado en la Oficina Oval. Puede parecer un problema menor ahora, pero esto podría ser un gran problema en el futuro cercano. Vale la pena vigilar.
¿Qué piensas sobre los departamentos de policía que monitorean las redes sociales? ¿Sientes que están justificados al usar un enfoque algorítmico? ¿O crees que es probable que conduzca a perfiles raciales y juicios inexactos? ¿Deberíamos preocuparnos por la progresión de este tipo de software?
Este es un tema complicado, y ni siquiera estoy totalmente seguro de cómo me siento al respecto. Deja demasiado en manos de un algoritmo que vigila a las personas sin su conocimiento. Pero también podría ayudar a salvar las vidas de los oficiales que se enfrentan a situaciones peligrosas. Ayúdame a resumirlo en los comentarios a continuación.
Créditos de imagen: Scott Cornell a través de Shutterstock.com, Ivelin Radkov a través de Shutterstock.com.