Converus, comercializador de EyeDetect, gasta cientos de miles de dólares presionando a las agencias federales para que adopten su controvertido detector de mentiras.
El periodista de investigación de Intercept, Daniel Boguslaw, informa sobre los esfuerzos de lobby de Converus Inc., que está intentando vender su “controvertido detector de mentiras” EyeDetect al gobierno federal norteamiericano. Converus afirma que EyeDetect tiene una precisión del 88 al 90 por ciento, una afirmación que no está respaldada por ninguna investigación independiente revisada por pares.
Extracto:
Una empresa con sede en Utah supervisada por un ex consultor de la CIA ha gastado cientos de miles de dólares en gestiones ante agencias de inteligencia y defensa, incluyendo la CIA y el DHS, para que adopten su tecnología automatizada de detección de mentiras, según muestran las divulgaciones públicas revisadas por The Intercept.
Converus, Inc. presume en su sitio web que su tecnología ya ha sido utilizada para selección de personal en agencias policiales estadounidenses, cumplimiento corporativo y prevención de pérdidas en América Latina, y verificación de documentos en Ucrania. El equipo directivo de la empresa incluye al científico jefe John Kircher, un ex consultor de la CIA y el Departamento de Defensa; Todd Mickelson, ex director de gestión de productos en Ancestry.com; y Russ Warner, ex CEO de la firma de moderación de contenido ContentWatch.
Warner dijo a The Intercept que los esfuerzos de promoción del producto se han centrado en cambiar las regulaciones federales para permitir el uso de tecnologías distintas al polígrafo para la detección de mentiras. «El Centro Nacional de Evaluación de Credibilidad (NCCA) del Departamento de Defensa está a cargo de la supervisión de la validación y los proyectos piloto en todo el gobierno de los EE. UU. de nuevas tecnologías de detección de engaños».
Warner escribió en un correo electrónico: “La Directiva 5210.91 del Departamento de Defensa y la Directiva de Agente de Seguridad ODNI 2 actualmente prohíben el uso de cualquier solución de evaluación de credibilidad que no sea el polígrafo. Por esta razón, hemos contactado a agencias gubernamentales para considerar el uso de EyeDetect y otras nuevas tecnologías”.
Datos publicados por OpenSecrets.org, en los que el reportero de Intercept Boguslaw basa su información, indican que Converus pagó $60,000 por año desde 2016 hasta 2022 a una firma de intermediación de Washington “The Consilio Group”. Los datos de OpenSecrets.org muestran que las agencias a las que Converus quiso seducir en 2022 incluyen:
- Agencia Central de Inteligencia
- Agencia de Inteligencia de Defensa
- Departamento del Ejército
- Departamento de Defensa
- Departamento de Seguridad Nacional
- Oficina Federal de Investigaciones
- Agencia Nacional de Inteligencia Geoespacial
- Agencia de Seguridad Nacional
- Casa Blanca
Los encargados de formular políticas deberían tener cuidado con soluciones milagrosas como EyeDetect. Para lecturas relacionadas, consulta el artículo de Mark Harris, escritor científico de la revista Wired, del 2018, “Un detector de mentiras con escaneo ocular está forjando un futuro distópico”.
Sentado frente a una estación EyeDetect de Converus, es imposible no pensar en Blade Runner. En el clásico de ciencia ficción de 1982, el detective desaliñado interpretado por Harrison Ford identifica humanos artificiales usando un dispositivo que observa sus ojos mientras responden preguntas surrealistas. Las preguntas de EyeDetect son menos filosóficas y la pena por fallar es menos fatal (el personaje de Ford sacaría una pistola y dispararía). Pero la idea básica es la misma: al capturar cambios imperceptibles en los ojos del participante, midiendo cosas como la dilatación pupilar y el tiempo de reacción, el dispositivo busca distinguir entre humanoides engañosos y genuinos.
Converus afirma que EyeDetect es, en resumen, un detector de mentiras de próxima generación. Las pruebas de polígrafo son una industria de dos mil millones de dólares en Estados Unidos, y se usan ampliamente para evaluar candidatos para trabajos gubernamentales.
Lanzado en 2014 por Converus, una startup financiada por el controvertido multimillonario Mark Cuban, EyeDetect es presentado por sus creadores como una alternativa más rápida, económica y precisa que el polígrafo. Ante la posibilidad de que el esfuerzo económico en la promoción de EyeDetect surta efecto acaparando el futuro de la detección de mentiras, puesto que según dicen ya está siendo utilizado por agencias locales y federales para evaluar a solicitantes de empleo, el reportero viajó a un centro de pruebas, justo al norte de Seattle, para ver exactamente cómo funciona.
Jon Walters parece un Blade Runner poco probable. Bien vestido y aseado, el ex jefe de policía dirige Public Safety Testing, una empresa que realiza pruebas previas al empleo para fuerzas policiales, departamentos de bomberos y paramédicos en el estado de Washington y más allá. La selección de nuevos empleados solía implicar pruebas de polígrafo largas y costosas, que normalmente requieren examinadores certificados para llevarlas a cabo. Sin embargo, cada vez más, según me dice Walters, las agencias policiales optan por EyeDetect. ¿Será verdad?
Realizar una prueba de EyeDetect es tan indoloro como Jon Walters prometió. Me pide que elija un número entre 1 y 10 y lo escriba en un papel antes de sentarme frente a la cámara de EyeDetect. Walters me instruye a mentir sobre el número elegido para permitir que el sistema detecte mi falsedad. Si lo logro, Walters promete darme $50 USD. Una serie de preguntas aparecen en pantalla, preguntando sobre el número que elegí de manera directa y luego indirecta. Hago clic en verdadero o falso para cada pregunta. La cámara de EyeDetect no se siente más intrusiva que una webcam normal, y hago todo lo posible para mantener mi rostro y expresión neutrales, ya sea que esté mintiendo o diciendo la verdad.
Casi inmediatamente después de que termina la prueba, la pantalla muestra una predicción basada en mis movimientos oculares y respuestas. EyeDetect cree que elegí el número 3. De hecho, había elegido el número 1. Pero cuando intento tomar el nítido billete de $50 de Walters, él me detiene. Resulta que la interpretación de Walters de «un número entre 1 y 10» incluye solo los dígitos del 2 al 9. Había engañado a la máquina, pero solo al no jugar según sus reglas.
Según sus promotores Converus obtiene su tasa de precisión del 86 por ciento a partir de varios estudios de laboratorio y campo. Pero un capítulo de un libro académico escrito por el científico jefe de la compañía y co-creador de EyeDetect, John Kircher, muestra que las tasas de precisión pueden variar considerablemente de un estudio a otro, incluso bajando hasta el 50 por ciento para sujetos culpables en un experimento.
Los únicos estudios académicos revisados por pares de la tecnología de Converus han sido realizados por los propios científicos de la compañía o por estudiantes en sus laboratorios. Estos presentan en su mayoría resultados positivos. «Esto es un gran problema», dice John Allen, profesor de psicología en la Universidad de Arizona. «Si la única evidencia en un ensayo médico proviniera de un investigador con interés financiero en el producto, nadie se atrevería a pensar que ha demostrado eficacia».
Aun así, algunos experimentos internos revelan posibles fallas con el dispositivo. En un estudio de 2013, la Agencia de Seguridad Nacional (NSA) utilizó una versión temprana de EyeDetect para identificar a empleados de la NSA que habían llevado un teléfono celular a un área restringida, una violación menor de seguridad. La prueba identificó con precisión solo al 50 por ciento de los culpables del error (lo mismo que esperarías por azar) y un poco más del 80 por ciento de los inocentes.
Puesto a prueba por la Agencia de Seguridad Nacional EyeDetect identificó con precisión solo al 50 por ciento de los culpables de la violación de normas de seguridad, lo mismo que esperarías por azar.
En su capítulo de libro, Kircher escribe que el estudio de la NSA, que prometía una hora libre para aquellos que pasaran, no produjo lo que Kircher llama un incentivo significativo. «Para que estas pruebas funcionen, debe haber riesgo y se deben seguir protocolos adecuados», dijo Todd Mickelsen, presidente y CEO de Converus, a Wired justificándose.
Es difícil infundir una sensación de peligro en un sujeto de estudio, una condición que presumiblemente dificulta las pruebas. En 2016, un gerente de marketing de Converus escribió a un investigador del departamento de policía de Kent, a las afueras de Seattle: «Por favor, ten en cuenta que cuando se realiza una prueba de EyeDetect como demostración… los resultados a menudo son diferentes de lo que vemos cuando los examinados toman la prueba bajo circunstancias reales donde hay consecuencias».
El concepto de riesgo es esquivo, dice Wilde: «Hay muchas cosas, como la ansiedad por los resultados tanto para mentirosos como para los que dicen la verdad, que podrían influir en las respuestas fisiológicas en cuestión».
Durante los últimos cuatro años y medio, Converus ha estado investigando contra medidas que los sujetos podrían usar para vencer a EyeDetect, como entrecerrar los ojos, usar colirio para los ojos o no responder. Basándose en esa investigación y en la creencia de que un cuestionamiento rápido ofrece poco margen para el engaño, Converus dice que su sistema ha sido ajustado para «prácticamente eliminar» la efectividad de estas contramedidas.
Después de leer dos de los artículos académicos de EyeDetect, Allen dijo a WIRED: «Mi interpretación más benevolente es que hay algo de promesa, y que quizás con futuras investigaciones independientes, esta prueba podría proporcionar una medida entre muchas para formular una hipótesis sobre el comportamiento engañoso. Pero ni siquiera eso sería una evidencia definitiva».
Incluso asumiendo la calificación de precisión más optimista de Converus, una evaluación con EyeDetect arrojaría un gran número de falsos positivos al evaluar a un gran grupo de personas para un crimen raro, como el terrorismo. El propio Kircher aconseja no depender únicamente de EyeDetect para detectar tales delitos. «Incluso si una prueba tiene un 90 por ciento de precisión, alrededor del 10 por ciento de la población probada fallaría, y la gran mayoría de esas personas que no pasan la prueba serían inocentes de los delitos», escribe. (Converus afirma que la tasa de falsos positivos de EyeDetect del 10 por ciento es la más baja de cualquier tecnología de evaluación de credibilidad en el mercado actual, incluido el polígrafo), pero no hay evidencia científica independiente que le apoye.
Converus decidió no publicar los resultados de su primer y catastrófico experimento de campo en Colombia, ya que el estudio mostraba que EyeDetect funcionaba de manera errática. «Aunque los datos eran limitados, el [test] parecía funcionar bien cuando probamos a personas con buena educación que habían solicitado trabajar para una aerolínea local, pero el [test] fue ineficaz cuando probamos a solicitantes con menos educación para empresas de seguridad», escribe Kircher. Kircher especuló que los aspirantes a guardias de seguridad podrían haber tenido problemas de lectura que les impedían entender la prueba, y Converus dice que ahora tiene en cuenta la capacidad de lectura durante las pruebas. Pero sin datos publicados, otros investigadores no pueden evaluar exactamente qué causó el rendimiento irregular del sistema.
La correspondencia con investigadores de aplicación de la ley, proporcionada como parte de las solicitudes de registros públicos de WIRED, revela que EyeDetect también ha dado resultados sorprendentes en la vida real. En enero de 2017, Alan McCarty, sargento del Departamento de Policía de Columbus, Georgia, escribió al vicepresidente de marketing y operaciones de Converus, Russ Warner, sobre un solicitante que había admitido haber consumido marihuana en los dos años anteriores, pero aun así pasó la prueba de EyeDetect, que normalmente pregunta sobre el consumo de drogas ilícitas. (En su respuesta en ese momento, Warner se excusó sugiriendo que tal vez el solicitante tenía problemas con su ojo izquierdo, lo que podría haber afectado los resultados).
En el Departamento de Policía de Salt Lake City, el primer cliente de Converus en la aplicación de la ley, un sargento le contó a Warner sobre un caso similar, donde un solicitante admitió una acción descalificadora pero aún pasó la prueba de EyeDetect con una puntuación de 78. (50 es un pase). Warner detalló una forma en que esto podría suceder: «Ajustamos el algoritmo de puntuación para ser menos sensible para [esta persona]. Si hubiéramos utilizado un algoritmo estándar, esa persona habría obtenido menos de 49 (engañoso)».
«Si vas a administrar pruebas a oficiales en activo, deberíamos crear una nueva prueba con un algoritmo más suave. Esto es lo que hemos hecho en otras agencias.»
Los correos electrónicos muestran que Converus ha alentado a los departamentos de policía a establecer una prueba más fácil para el personal que se traslada de otras agencias policiales. «Si vas a administrar pruebas a oficiales de policía en activo, deberíamos crear una nueva prueba con un algoritmo más suave. Esto es lo que hemos hecho en otras agencias», le dijo Warner a McCarty de Columbus a principios de 2017. Mickelsen dice que modificar la tasa base de culpabilidad para algunos examinados «mejora la precisión» y es «una práctica estándar» en sus evaluaciones.
McCarty no parecía estar convencido: «No diferenciamos en el [polígrafo] entre [oficiales de la ley y civiles]. [El solicitante, un sheriff adjunto] fue preguntado sobre la comisión de delitos graves, uso de drogas, robo y violación de su juramento como oficial de la ley. Realmente no sigo la lógica en este caso», escribió.
No solo los departamentos pueden elegir entre administrar una prueba dura o suave, otro intercambio de correos electrónicos parece mostrar a Converus cambiando los resultados de la prueba cuando se le pide hacerlo. En enero de 2017, Alan McCarty tuvo un candidato que aprobó una prueba de EyeDetect, obteniendo una puntuación de 61. «Lo califique como engañoso en las preguntas sobre drogas, robo y afiliación a pandillas, organizaciones terroristas o grupos subversivos», escribió McCarty a Warner. «Este es un chico de 23 años que creció en Atlanta que bien podría haber tenido alguna afiliación con pandillas. Qué piensas al respecto».
Después de revisar los datos, Warner respondió. «Los datos de su pupila no revelan engaño. Sin embargo, su movimiento ocular lineal indica cierto engaño», escribió. «El algoritmo que estamos usando actualmente para calificar las pruebas asume una tasa base de culpabilidad del 20-25% … Si modificamos el algoritmo para considerar una mayor tasa de fracaso en las pruebas para el grupo en general, creo que [el solicitante] habría obtenido menos de 50 (fallar)».
(Más tarde, McCarty escribió a WIRED: «El hecho de que el candidato fuera de Atlanta no tuvo ningún sesgo, al igual que su estatus socioeconómico o raza. El comentario sobre Atlanta fue solo porque las pandillas son más prevalentes allí que aquí en Columbus, por lo que la oportunidad de estar expuesto podría ser mayor»).
«Este es un chico de 23 años que creció en Atlanta y podría haber tenido alguna afiliación con pandillas. ¿Qué piensas al respecto?»
Converus se enorgullece del hecho de que su sistema está diseñado, según Mickelsen, «para adaptarse a diferentes niveles históricos de fracaso en las pruebas por parte de su grupo de solicitantes». Es decir, los sujetos pueden ser juzgados según cómo hayan salido en pruebas de credibilidad personas con antecedentes similares en el pasado. Los oficiales de la ley pueden tener un camino más fácil, mientras que aquellos de la parte equivocada de la ciudad podrían enfrentar dificultades. Converus no ve problema alguno con este tipo de sesgo institucional. Mickelsen le dijo a WIRED: «La sensibilidad se puede ajustar para grupos específicos. Esto les brinda a todos los examinados una oportunidad más justa de ser clasificados correctamente. La mayoría de las organizaciones pueden hacer estimaciones precisas de las tasas base considerando la cantidad de verificaciones de antecedentes previamente fallidas, datos de entrevistas, confesiones, evidencia, etcétera».
John Allen está preocupado por esta práctica. «Se necesitaría tener una base de datos muy sólida para estimar las tasas de culpabilidad», dice. «De lo contrario, dejar esto a discreción del examinador creará una situación de alta variabilidad entre examinadores y la posibilidad muy real de sesgo».
Los grupos de libertades civiles también miran con recelo a EyeDetect. «La crítica a tecnologías como los detectores de mentiras es que permiten que se infiltre el sesgo», dice Jay Stanley del Proyecto de Discurso, Privacidad y Tecnología de la ACLU. «Pero en este caso parece que el sesgo no se está infiltrando, sino que se está dando la bienvenida con los brazos abiertos y se le invita a quedarse».
Mientras que el polígrafo puede ser una tecnología controvertidas para algunos, al menos los críticos pueden reinterpretar y discutir los resultados de las pruebas abiertamente. EyeDetect sin embargo es un sistema cerrado que utiliza un algoritmo patentado, cuyos resultados pueden ser alterados efectivamente a discreción del operador. Su bajo costo y operación automatizada también le permiten ampliarse de una manera que las pruebas de polígrafo, que consumen mucho tiempo y mano de obra, nunca podrían hacer.
Converus le dijo a WIRED que un país de Oriente Medio ha comprado EyeDetect y planea usarlo para verificar si las personas que ingresan al país están asociadas con actividades terroristas.
El correo electrónico de un ejecutivo de Converus al Departamento de Policía de Salt Lake City el año pasado, obtenido a través de las solicitudes de registros públicos de WIRED, indicaba que la compañía había sido «identificada como la solución para la ‘evaluación extrema'» por la nueva administración Trump. (Aunque hubo discusiones con la administración de Trump sobre el uso de EyeDetect para la evaluación, Converus afirma que la administración nunca se comprometió a usar EyeDetect) y siguió confiando en el polígrafo.
Un tribunal de distrito en Nuevo México se convirtió en el primer tribunal en admitir una prueba de EyeDetect, en el juicio de un exentrenador de secundaria acusado de violar a una niña de 14 años. El acusado pasó la prueba y el jurado no llegó a un veredicto. Según me dice la compañía, se esperan audiencias sobre la admisibilidad de EyeDetect en al menos otros cuatro estados.
A diferencia del polígrafo, que suele ser una compra única, Converus gana dinero con cada prueba individual que realizan cada una de sus estaciones EyeDetect de $3,500 USD. Según correos electrónicos, en el otoño de 2017 Converus estaba cobrando a agencias de aplicación de la ley entre $60 y $80 por prueba. Si EyeDetect pudiera reemplazar siquiera una fracción de las aproximadamente 2.5 millones de pruebas de polígrafo realizadas anualmente en los Estados Unidos, Converus tendría un flujo de ingresos jugoso durante años. Sin embargo, eso solo sería posible si resultará tan confiable para quienes toman la prueba.
Nota. – Este artículo es original de Mark Harris y ha sido traducido al español utilizando inteligencia artificial. Mark Harris es un reportero investigador de ciencia y tecnología con sede en Seattle, con intereses particulares en robótica, espacio, vigilancia y transporte. Puedes encontrarlo en Twitter como @meharris para consejos y noticias.