• Home
  • ¿Cibertecnología vs. humanidad?

¿Cibertecnología vs. humanidad?

Es considerado la personificación de la conciencia de Silicon Valley: Tristan Harris está haciendo un trabajo de educación para un manejo más consciente de las redes sociales y la IA. Una visita digital.

Texto: Nadine Kaminski ― Foto: Shaughn and John, Stefan Boesl Tiempo de lectura: 5 min

Retrato de Tristan Harris, con filtro "parpadeo de pantalla"
Tristan Harris es activista de la digitalización y cofundador de la organización sin ánimo de lucro "Center for Humane Technology".

Como Tristan Harris, antiguo responsable de diseño ético en uno de los mayores grupos de Internet del mundo, es ahora activista de la digitalización y cofundador de la organización sin ánimo de lucro "Center for Humane Technology", se conecta a una videollamada a través de un smartphone, parece muy relajado, casi a gusto. "¡Ojalá todos pudieran disfrutar conmigo de esta fantástica vista! Las montañas de Arizona, el cielo, las nubes - aquí respiro de verdad". La digitalización puede ser algo genial. Aporta flexibilidad, crea nuevos espacios para la vida y el trabajo. Pero -y este gran "pero" para Tristan Harris- si no tenemos cuidado, perderemos esa libertad tan rápidamente como supuestamente la ganamos.

El futuro ya está aquí

Los escenarios de ciencia ficción juegan desde hace décadas con el miedo a que la IA, la inteligencia artificial, pueda controlar nuestra sociedad en un futuro lejano. "Además, siempre hemos aprendido que una fuerza enemiga debe vencer nuestras fortalezas para controlarnos", nos explica Harris. "Si quiero empujar a mi oponente en una dirección determinada, mi fuerza tiene que superar la suya". Pero, incluso cuando hacía trucos de magia para divertirse de niño -aunque, a más tardar cuando estudiaba en el laboratorio de tecnología Persuasive de la Universidad de Stanford-, Harris comprendió que se necesita mucho menos esfuerzo para ejercer el control. "¿Cómo se consigue que una ilusión funcione? Solo hay que saber una cosa sobre la psique de las personas, que ellas mismas desconocen. Ya se puede manipular su comportamiento. No hay que vencer las fortalezas. Sino debilidades".

 

Y, según Harris, así es exactamente cómo funcionan la mayoría de las interfaces de las redes sociales, los programas de correo electrónico y las aplicaciones, que ahora forman parte de la vida cotidiana de miles de millones de personas. "No vamos simplemente con smartphones en el bolsillo, sino con máquinas autómatas que tienen un efecto similar en nuestro sistema neurológico de recompensa al de los bandidos mancos en un casino".

La brecha informativa está creciendo

Si nosotros, los usuarios, no tenemos ni idea de que nuestro cerebro reacciona de forma fiable a las recompensas variables liberando hormonas de la felicidad, por supuesto estamos irremediablemente un paso por detrás en cuanto al conocimiento que concreta la industria cibernética. "Recompensas variables", explica Harris, "esto significa: yo tiro de una palanca y a veces recibo una jugosa recompensa - ¡oh, emocionante! - Pero, a veces no". Es solo un ejemplo de cómo se pueden usar nuestras funciones cerebrales más primarias contra nosotros. Miramos nuestra bandeja de entrada de virtual cada pocos minutos, deslizamos el dedo hacia arriba o hacia abajo para recibir las actualizaciones, siempre con la esperanza de una "recompensa". ¿Se puede hablar de un uso consciente de las tecnologías de la comunicación en este caso? ¿De que nosotros mismos decidimos cómo pasamos nuestro tiempo? No, dice Tristan Harris y muchos otros científicos.

 

"Los proveedores de streaming de vídeo, las aplicaciones de redes sociales, los portales de noticias, todos ellos compiten", describe Harris el problema principal "por nuestra atención". La tecnología no se desarrolla arbitrariamente, sino que responde a las innovaciones de la competencia con sus propias innovaciones. Uno de los efectos secundarios desagradables de esta espiral: la rápida propagación de Fake News. "La ira genera más tiempo de pantalla, la satisfacción", dice Harris. Si algo nos enfada, lo compartimos con más amigos, nos informan desde más canales, consumimos cada vez más. Esto lo logra el algoritmo correspondiente. Y nos alimenta con más contenido enojado. Esto no siempre tiene que ser Fake News, pero una cosa es segura: no es el contenido de verdad el que decide lo que aparece en nuestros tablones y muros. "Una fuente de noticias personal, después de todo, no es controlada por la gente, sino por algoritmos", dice Harris. "Y a estos no les importa lo que es correcto o saludable para nosotros. Sino  lo que nuestra atención acapara durante más tiempo".

"

Necesitamos una era digital de la ilustración."

Lo que debemos hacer ahora

Un dilema complicado: ¿Hay soluciones? Harris dice: sí. "En primer lugar, todos debemos desarrollar una mejor comprensión de lo vulnerables que son nuestras mentes para que podamos resistir más eficazmente a los impulsos poco saludables". "En segundo lugar, necesitamos nuevos modelos de responsabilidades", continúa Harris. "Los que toman las decisiones en las salas de control de las grandes empresas tecnológicas deben ser conscientes de sus responsabilidades. Y deben ser capaces de rendir cuentas". En tercer lugar, Harris aboga -y con cada vez mayor éxito también ante los directores ejecutivos del Sillicon Valley- por un "auténtico renacimiento del diseño". La protección del consumidor debe estar en primer plano. Pero, también la capacidad de los usuarios de aprovechar mejor su tiempo. Deben establecerse objetivos comunes. ¿Qué esperan realmente los usuarios en uso diario de las redes sociales? ¿Interminables espirales de vídeos y discusiones cada vez más intensas en los foros? ¿O más bien, ayuda activa para crear un tiempo valioso fuera de la pantalla?

Captura de pantalla de la ponencia de Tristan Harris en el Audi MQ! Innovation Summit 2020
"Es una carrera hacia las profundidades de nuestro tronco cerebral": como ponente principal en el evento digital Audi MQ!, Innovation Summit 2020, Harris dejó atónitos a los oyentes.

Responsabilidad y oportunidades

Ya sea en lo positivo o en lo negativo, la inteligencia artificial "optimiza" nuestro comportamiento, conoce nuestra psique, adivina y manipula nuestros deseos. Hace tiempo que nos supera, de eso Harris está seguro. Esta rueda no se puede girar hacia atrás. Pero, ahora se trata de implementar valores más saludables que el mero objetivo de vender la mayor cantidad posible de atención a los anunciantes. Así lo formula él: "También los abogados o los médicos tienen una gran ventaja de conocimiento en su campo. Pero, a través de su ética profesional, se comprometen a actuar en pro de sus clientes". Harris cree que este cambio de paradigma también es inevitable en el sector de la tecnología. Por supuesto, junto con un comportamiento de uso consciente. Harris también tiene un consejo muy práctico: "No prohíba el uso de las redes sociales. En su lugar, permita pasar tiempo offline de forma consciente varias veces al día. Tiempo con cosas divertidas, excitantes y relajantes". Eso también acaba activando el sistema de recompensa.

Presentation of a talk

Los que marcan tendencia

La digitalización permite nuevas ideas y visiones. Con los prototipos Sphere, Audi ofrece ya hoy una visión general de cómo la tecnología conectada ayudará a dar forma a la movilidad del mañana.

Más información