La innovación tecnológica avanza a pasos agigantados, ofreciendo soluciones que parecían ciencia ficción hace solo unos años. Mark Zuckerberg ha sido el último en revolver el gallinero con las presentaciones de sus gafas Orion y su actualización de Quest y de las Ray-Ban Meta en el evento Connect de hace unos días. Sin embargo, estas mismas tecnologías pueden convertirse en armas de doble filo, tal como han demostrado recientemente dos estudiantes de Harvard.
En un impactante experimento difundido en primer lugar por el medio especializado 404 Media, personalizaron unas gafas Ray-Ban Meta para añadirles tecnología de reconocimiento facial en tiempo real, exponiendo a los transeúntes sin su consentimiento. Este incidente pone sobre la mesa el peligroso equilibrio entre avance y privacidad, y las implicaciones sociales de esta carrera tecnológica.
Así es como dos estudiantes de Hardvard han convertido las Ray-Ban Meta en un espía
Los estudiantes AnhPhu Nguyen y Caine Ardayfio demostraron cómo, utilizando herramientas accesibles, las gafas Ray-Ban Meta podían identificar a cualquier persona en la calle y obtener datos sensibles en tiempo real, como nombres, direcciones e incluso redes sociales.
Para ello, el sistema integraba el reconocimiento facial con bases de datos públicas, alimentando esta información a una aplicación móvil.
Are we ready for a world where our data is exposed at a glance? @CaineArdayfio and I offer an answer to protect yourself here:https://t.co/LhxModhDpk pic.twitter.com/Oo35TxBNtD
— AnhPhu Nguyen (@AnhPhuNguyen1) September 30, 2024
El proyecto, apodado I-XRAY, combina la tecnología de grabación de vídeo de las Ray-Ban de Meta con el reconocimiento facial Pimeyes y otras herramientas.
El sistema desarrollado por los estudiantes de Harvard utiliza la cámara de las gafas Ray-Ban Meta para tomar una foto de la persona en tiempo real. Esa imagen es enviada a un servicio de reconocimiento facial accesible, en este caso PimEyes, que busca coincidencias en Internet. PimEyes identifica fotos subidas por esa persona en distintas plataformas y proporciona enlaces a esas imágenes, que contienen información personal sensible.
El siguiente paso en el sistema, llamado I-XRAY, es analizar estos enlaces utilizando un modelo de lenguaje grande (LLM) para extraer detalles biográficos como nombre, lugar de trabajo y relaciones familiares. Este análisis se complementa con búsquedas en bases de datos de acceso público, como sitios de búsqueda de personas, que ofrecen información aún más detallada, incluyendo direcciones, números de teléfono y vínculos familiares.
En la demostración, los artífices del proyecto usan las gafas para identificar a varios compañeros de clase, sus direcciones y los nombres de sus familiares en tiempo real. Aunque en realidad es más desconcertante que también se puede ver a Nguyen y Ardayfio hablando con completos desconocidos en el transporte público, fingiendo que los conocen en función de la información obtenida a través de la tecnología.
Lo más preocupante es que estas gafas, que incluyen una luz indicadora de grabación, flojean a veces en su objetivo de avisar al público, ya que muchas veces la luz no es visible en exteriores o no se detecta entre multitudes.
Innovación tecnológica sin control: un arma de doble filo
Las grandes compañías tecnológicas como la de Zuckerberg están apostando fuerte por la innovación y el desarrollo de productos disruptivos, y un ejemplo son las gafas Ray-Ban Meta. Sin embargo, esta carrera por avanzar a toda costa plantea serias dudas sobre la seguridad y la privacidad de los usuarios.
Meta ha confirmado recientemente que sus gafas podrían ser utilizadas para entrenar inteligencia artificial con las imágenes captadas por estos dispositivos. Este tipo de declaraciones subraya que la seguridad y la protección de datos no son una prioridad para las compañías, que parecen más preocupadas por dominar el mercado y obtener beneficios a corto plazo.
Si sumamos el experimento de Nguyen y Ardayfio, las alarmas crecen: no hablamos de un futuro distópico, sino de una realidad accesible hoy. Y no solo es aplicable a la compañía de Zuckerberg: la tecnología de reconocimiento facial de Pimeyes se podría usar con cualquier cámara, por lo que este es un sistema que no es únicamente propio de las Ray-Ban de Meta. La diferencia con otros dispositivos es que estas gafas pueden pasar más desapercibidas.
“El propósito de construir esta herramienta no es que se haga un mal uso de ella, y no la vamos a publicar”, escriben Nguyen y Ardafiyo en un documento que explica el proyecto. En cambio, los estudiantes dicen que su objetivo es crear conciencia.
Las gafas inteligentes podrían cambiar la forma en que interactuamos de manera positiva y constructiva, pero también tienen el peligroso potencial de crear una sociedad vigilada sin nuestro consentimiento. Grandes empresas como Meta tienen la responsabilidad de garantizar que sus innovaciones no vulneren la privacidad de las personas.
