Capitalismo de datos: innovación, extracción, conciencia social

capitalismo de datos

¿Cómo hacer avanzar el capital social en un mundo cada vez más gobernado por el capitalismo de vigilancia?

Hace un año leí Atlas de IA de Kate Crawford, un análisis brillante de los procesos extractivos que rigen el campo del aprendizaje automático, desde la asignación de recursos ambientales hasta la cosecha de nuestro tejido político y las infracciones de privacidad de datos. Este artículo reflexiona sobre los aprendizajes del libro de Crawford. Quería presionar el botón ⏸ y reflexionar sobre las implicaciones de una industria de billones de dólares, así como las responsabilidades que tienen los profesionales de datos en un mundo gobernado algorítmicamente. ¿Cómo pueden los usuarios digitales ser participantes activos en la definición del nuevo mundo digital? ¿Qué tipo de conciencia social necesitan desarrollar las empresas basadas en datos? ¿Qué responsabilidad tienen para promover el capital social incluso si su mandato no requiere que se preocupen? Espero que este artículo sea un tema de conversación para que la comunidad de datos desarrolle un nuevo marco para incorporar el compromiso social en el centro de las prácticas de datos.

Si este contenido educativo detallado es útil para usted, suscríbase a nuestra lista de correo de AI para recibir alertas cuando publiquemos material nuevo.

¿Qué es el capitalismo de datos?

Sarah Myers West del AI Now Institute explica en un artículo de 2017 que capitalismo de datos es un sistema en el que la mercantilización de big data a favor de actores que se benefician de los datos conduce a una «redistribución asimétrica del poder». En otras palabras, el big data genera dinero pero no crea riqueza por igual. Es un sistema cerrado en el que entidades con ánimo de lucro han conseguido extraer, transformar y capitalizar con éxito los datos, nuestros datos. un mas reciente artículo publicado por Milner y Traub en Demos en 2021 usa la misma definición pero enfatiza los problemas sociales causados ​​​​por esta redistribución de la riqueza, colocando una carga especialmente alta en las clases protegidas.

Capitalismo de vigilancia y gobernanza algorítmica

Si bien el capitalismo de datos y el capitalismo de vigilancia tienen características similares, no son exactamente lo mismo. Capitalismo de vigilancia se basa en los cimientos del capitalismo de datos. Sin la extracción de datos, no hay sistema de vigilancia para construir. Sin la monetización de esos datos, no hay capital para generar a partir de la construcción de un sistema de vigilancia de este tipo. Capitalismo de vigilancia es un término acuñado originalmente por Shoshana Zuboff, profesora de Harvard y autora de la era del capitalismo de vigilancia (2018). Ella describe el capitalismo de vigilancia como un proceso: la experiencia humana se usa como materia prima y se traduce en datos de comportamiento, que pueden usarse para construir productos de predicción (nuestro comportamiento futuro), a su vez comercializados por empresas que usan la personalización de algoritmos de Machine Learning (ML) para generar rendimientos rentables.

capitalismo de datos
Imagen por autor

Gobernanza algorítmica está muy cerca del capitalismo de vigilancia en el sentido de que reconoce un sistema de vigilancia en el que nuestro comportamiento es rastreado y modelado por algoritmos ML. Sin embargo, el entorno es diferente. El ML se utiliza para llevar a cabo objetivos de política pública a escala con la idea de mantener un orden social (respeto a las normas, aplicación de la ley, etc.). El objetivo no es hacer dinero, aunque puede suceder como un representante, sino gobernar y, en cierta medida, controlar las sociedades. La gobernanza algorítmica es el paseo de un funámbulo entre la gobernanza y el control. Esa tensión ha provocado que muchos expertos y especialistas en políticas públicas cuestionen el futuro de la democracia en un sistema así.

Feudalismo digital

A charla 2021 organizado por el Instituto para la Innovación y el Propósito Público del University College London (UCL), reunió a Zuboff y O’Reilly para discutir el futuro del capitalismo de datos, irónicamente capturado por el término «feudalismo digital.” Feudalismo es un término tomado de la época medieval; es un sistema político, cultural y económico que dominó entre los siglos IX y XV. En tal sistema, hay señores (es decir, terratenientes) y vasallos (es decir, súbditos que ocupan la tierra a cambio de la producción de bienes y servicios). En este sistema de intercambio, los súbditos tienen derecho a la vivienda ya la protección del señor sólo si pueden pagar. El feudalismo digital se puede considerar como el derecho del usuario a usar las plataformas de redes sociales «gratis» solo si acepta el intercambio de su información personal. Nuestros datos individuales se convierten en la «renta» debida a los gigantes de las plataformas de redes sociales, los terratenientes medievales del siglo XXI.

¿Cómo ha evolucionado el capitalismo de datos?

La burbuja de las puntocom estalló 📉

El estallido de las puntocom de principios de la década de 2000 fue un momento crucial en la creación del «monstruo del capitalismo de datos». Antes de eso, el enfoque en tecnología era la innovación. El objetivo era diseñar productos nuevos, creativos y futuristas que realmente hicieran que una década anterior pareciera ambientada en la era Mesozoica. Cuando ocurrió la quiebra de las puntocom, los inversionistas amenazaron con retirar la financiación de nuevas empresas tecnológicas en Silicon Valley. Como resultado, las empresas de tecnología tuvieron que encontrar nuevas formas de ganar dinero. La innovación al servicio del individuo ya no era suficiente para atraer inversiones, los individuos se convirtieron en la nueva mercancía, el nuevo producto en el que se podía apostar a favor y en contra. E hizo que las empresas tecnológicas ganaran mucho dinero.

Los datos pueden hacer dinero 💰

La publicidad está en todas partes— Las empresas tecnológicas se dieron cuenta de que la publicidad era la clave para ganar dinero (y mantener a los inversores cerca). La publicidad no era un concepto nuevo. Mientras que antes se veía en vallas publicitarias, periódicos o comerciales de televisión, ahora llegó a las plataformas de redes sociales. Gracias a las prácticas de recopilación masiva de datos, la publicidad en línea se volvió cada vez más personalizada y dirigida. Incluso podrían anticipar las necesidades de una persona. Un ejemplo de eso es del objetivo uso invasivo de anuncios, exponiendo el embarazo de una joven adolescente incluso antes de que se anunciara dentro de la familia.

El “dividendo de vigilancia” — Shoshana Zuboff describe la rentabilidad de las grandes corporaciones utilizando nuestros datos como el «dividendo de vigilancia.” Después del estallido de las puntocom, la gente de Google se dio cuenta de que había un «escape digital», un tesoro de datos que no se recopilaban para ningún propósito específico y que podían extraerse para obtener señales que predecirían el comportamiento de los consumidores. Entre 2001 y 2004, solo los ingresos publicitarios saltó un 4,486% gracias a la explotación del escape digital. El excedente de datos recopilados hasta ese momento hizo que Google creciera exponencialmente, y Google continuó confiando en nuestros datos como un medio para crecer después de la salida a bolsa de la empresa en 2004.

Del consumo pasivo a la conciencia social

Los alquileres son ilegítimos

Una cosa importante que se destacó en la conversación de 2021 con Zuboff y O’Reilly es que las rentas recaudadas por corporaciones con fines de lucro (es decir, nuestros datos) son ilegítimas. No hay justificación para muchos de los datos extraídos, recopilados, transformados y modelados. Algunos de los datos recopilados son incluso problemáticos y altamente discriminatorios (p. ej., códigos postales utilizados como medida indirecta en los cálculos de primas de seguros). Por lo tanto, se cuestionan las prácticas de recopilación de datos de las empresas para predecir los comportamientos de los consumidores. Sin embargo, ¿cómo puede un solo individuo, incluso con el respaldo de las principales leyes de privacidad de datos, luchar contra una corporación para garantizar un uso justo y ético de los datos? ¿Cómo podemos estar realmente seguros de que los datos que proporcionamos a las empresas se limitarán únicamente a mejoras de servicios y/o productos? ¿Cómo puede el usuario digital desempeñar un papel activo en la configuración del mundo digital?

Participación activa

Esta idea de que el futuro del capitalismo de datos es el feudalismo digital no es necesariamente 100% cierta. Es una elección que requiere la participación activa de los usuarios digitales para evitar el laissez-faire de las corporaciones basadas en datos. Si bien el capitalismo de datos llegó para quedarse, es necesario que se produzca un cambio en el que los usuarios se conviertan en participantes activos en la configuración de la nueva máquina de datos generadora de dinero. Comienza reconociendo que no podemos cambiar el sistema a menos que estemos dispuestos a invertir en él.

Hoy disfrutamos de plataformas de redes sociales gratuitas, pero solo son gratuitas porque aceptamos que se nos muestren anuncios dirigidos. Si no queremos que nuestros datos de comportamiento se analicen y manipulen, debemos aceptar que un modelo basado en membresía debería reemplazar uno basado en anuncios. Si no estamos listos, la solución alternativa es fortalecer las regulaciones de privacidad de datos vigentes. Para ser participantes activos, los usuarios digitales pueden compartir ideas para mejorar la privacidad y seguridad de los datos en foros abiertos y referéndums, donde se pueden debatir.

Conciencia social

Si bien el usuario tiene un papel que desempeñar en la definición de las reglas del juego, las empresas tienen una responsabilidad aún mayor de usar los datos de manera justa y ética. Al final, las empresas son las bóvedas que guardan nuestros datos. Actualmente no existe ninguna ley que exija empresas para divulgar cómo se recopila, analiza y utiliza la información del usuario. A Legislación propuesta presentado por la Comisión de Bolsa y Valores el 9 de marzo de 2022 requeriría que las empresas que cotizan en bolsa divulguen las violaciones de datos de seguridad; sin embargo, solo aborda la seguridad de los datos y no la privacidad de los datos. Si bien el papel de la SEC es regular las empresas que cotizan en bolsa y la legislación propuesta hace exactamente eso, no impone la misma carga a las empresas privadas, que también usan, modelan y comparten nuestros datos.

Además de desarrollar programas sólidos de privacidad de datos, las empresas deben desarrollar una conciencia social al volver a priorizar los objetivos sociales junto con los económicos. En el siglo XXI, veo 4 temas principales: el cambio climático, la desigualdad de riqueza, la polarización política y la discriminación. Las empresas han y siguen alimentando los problemas sociales. Piense en el papel de Facebook (rebautizado como Meta) en el agravamiento del genocidio rohingya, el papel turbio de Robinhood en la protección del fondo de cobertura que estaba reduciendo las acciones de GameStop, la destrucción de Amazon de millones de productos no vendidos, etc. Si las empresas causaron el problema, deberían sentir la responsabilidad de arreglarlo. Las empresas tienen un papel que desempeñar en la protección de nuestro tejido social, fomentando el discurso, brindando herramientas financieras para nivelar el campo de juego, comprometiéndose con el uso de fuentes de energía renovables y más.

Conclusión

El capitalismo de datos llegó para quedarse, pero eso no significa que los usuarios digitales deban ser consumidores pasivos en un sistema que controla sus datos. Deben estar empoderados para dar forma al mundo digital cambiante en el que vivimos. Sin embargo, la carga no recae solo en el usuario. Las empresas tienen una responsabilidad aún mayor de utilizar nuestros datos de manera ética y justa. Es cada vez más importante que también desarrollen una “conciencia social”: han surgido muchos problemas sociales, políticos, económicos y ambientales como resultado de las acciones tomadas por las grandes corporaciones. Ahora es el momento de infundir compasión y cuidado para que también podamos aumentar los dividendos de nuestro capital social.

Este artículo fue publicado originalmente en Hacia la ciencia de datos y reeditado en TOPBOTS con permiso del autor.

¿Disfrutas de este artículo? Regístrese para obtener más actualizaciones de investigación de IA.

Le avisaremos cuando publiquemos más artículos resumidos como este.

Fuente del artículo

Deja un comentario