Meta y la regulación de la IA

 Meta y la regulación de la IA

U

n jurado de Nuevo México, Estados Unidos, determinó que Meta engañó a los usuarios de ese estado sobre sus protecciones de privacidad, en un caso vinculado al escándalo de Cambridge Analytica. Ésta era una consultora política que recopiló indebidamente datos personales de millones de usuarios de Facebook para publicidad política durante las elecciones estadunidenses de 2016 y el referéndum del Brexit en Reino Unido. Facebook sabía que la empresa de consultoría compró los datos en diciembre de 2015, pero lo reveló hasta abril de 2018 y sólo porque un usuario presentó una demanda. El fallo establece que comentarios realizados por el presidente ejecutivo de Meta (matriz de Facebook, Instagram y WhatsApp), Mark Zuckerberg, así como entradas del blog de la empresa, hacían creer a las personas que tenían control sobre la información personal que compartían en la plataforma y que ésta contaba con políticas generales sobre cómo abordaba el discurso de odio o la desinformación. En realidad, vendía los datos a aplicaciones de terceros, y aplicaba excepciones a sus políticas para determinados usuarios, según el estado.

No es, ni por asomo, la primera vez que la compañía enfrenta un escándalo por su cuestionable modelo de negocio. En 2023, una coalición de más de 40 fiscales generales en Estados Unidos la acusaron de contribuir de manera deliberada a la crisis de salud mental juvenil. Los estados argumentaron que diseñó intencionalmente características manipuladoras y adictivas (como el scroll infinito, alertas incesantes y filtros de belleza que dañan la autoestima) para atrapar a los menores en Facebook e Instagram. En 2021, Frances Haugen, ex gerente del equipo de Integridad Cívica de Facebook, filtró miles de documentos internos en los cuales se exhibe que los ejecutivos sabían perfectamente que sus algoritmos causaban efectos sociales tóxicos como exacerbar la depresión, adicción, acoso y polarización política extrema. La división de Integridad Cívica estaba justamente para abordar esos problemas, pero las propuestas de cambios al algoritmo a fin de mitigar la toxicidad eran rechazadas por la empresa porque reducir el contenido escandaloso o dañino provocaba una caída en el “compromiso” (tiempo que los usuarios pasan en la plataforma) y amenazaba las ganancias. Desde 2020, la deficiente moderación de contenido se ha desmantelado, con lo que se da mayor espacio al discurso de odio.

Estos antecedentes cobran relevancia a la luz de la negativa de Zuckerberg a la regulación de la inteligencia artificial (IA). El magnate, quien este año cumple una década entre las 10 personas con las mayores fortunas del mundo, asegura que los mecanismos del mercado y los riesgos legales son limitaciones naturales y suficientes para la tecnología. Según él, “la gente no querrá usar modelos que no se ajusten a sus intereses ni hagan lo que ellos quieren”. Además, dice, “los laboratorios se enfrentan a una responsabilidad significativa si sus modelos causan daño”, por lo que contratar evaluadores y asesores independientes “es la mejor práctica de la industria”. Su propio historial muestra que tales afirmaciones son llanamente falsas: cuando una tecnología se vuelve parte de la vida cotidiana, poco importa que la gente esté de acuerdo con sus prácticas, pues pasa de ser una opción a una necesidad. Asimismo, los “evaluadores independientes” son figuras decorativas frente a los intereses de propietarios y accionistas, y la idea de que los riesgos legales disuaden a las empresas de incurrir en mala praxis ha sido desmentida una y otra vez en el caso de Meta. La compañía ha pagado decenas de miles de millones de dólares en multas y reparaciones, sin que ello se refleje en cambios en su conducta: en los hechos, las sanciones se asumen como costos operativos que resultan insignificantes al lado de las ganancias obtenidas.

La postura de Zuckerberg no hace sino remarcar la necesidad de que los estados y las sociedades se tomen en serio los peligros que encarna la inteligencia artificial en manos de empresas inescrupulosas movidas por el lucro y ajenas a cualquier código ético. No se trata de frenar el avance del conocimiento, sino de abordar quién lo controla y para qué lo usa, pues lo que está en juego es el futuro de la humanidad, tal como reconocen voces autorizadas dentro de la misma industria.