Original subtitles

"NADA GRANDE ACONTECE EN LA VIDA DE LOS MORTALES SIN UNA MALDICIÓN".

SÓFOCLES

Adelante. Sí, siéntate, ponte cómodo.

¿Estás bien? Vale.

Sí.

Toma uno, marca.

¿Quieres empezar presentándote?

Hola, gente. Bailey. Toma tres.

- ¿Estás bien? - Esta es la peor parte.

No me gusta esto.

Trabajé en Facebook en 2011 y 2012.

Fui una de las primeras empleadas de Instagram.

Trabajé en Google y YouTube.

Apple, Google, Twitter, Palm.

Ayudé a iniciar Mozilla Labs y pasé a Firefox.

¿Estamos rodando? Todos...

Genial.

Trabajé en Twitter. Mi último trabajo fue el de vicepresidente de ingeniería.

Era el presidente de Pinterest.

Antes de eso, fui director de monetización en Facebook durante cinco años.

Dirigí la plataforma de desarrollo de Twitter

y llegué a jefe de producto de consumo.

Fui el coinventor de Google Drive, el chat de Gmail,

las páginas de Facebook y el botón "Me gusta".

Sí. Por eso pasé ocho meses

hablando con abogados.

Esto me asusta.

Cuando estaba allí, siempre sentía que era una fuerza positiva.

No sé si ahora me siento así.

Dejé Google en junio de 2017 por motivos éticos.

Y no solo en Google, sino en toda la industria.

Estoy muy preocupado.

Mucho.

Hoy es fácil perder de vista

que estas herramientas han creado cosas maravillosas en el mundo.

Han reunido a familiares, han encontrado donantes de órganos...

Hubo cambios sistémicos importantes y positivos

en todo el mundo

debido a estas plataformas.

Fuimos ingenuos con la otra cara de la moneda.

Sí, sueltas estas cosas y cobran vida propia.

Y el uso que se les da es muy diferente del esperado.

Creo que nadie buscaba ninguna de estas consecuencias.

No hay ningún malo. No. Claro que no.

Entonces, ¿cuál es el problema?

¿Hay algún problema y cuál sería?

Sí, es difícil dar un solo... Hay muchos problemas que comentar.

¿Cuál es el problema?

UN DOCUMENTAL ORIGINAL DE NETFLIX

A pesar de las críticas, las grandes empresas tecnológicas crecen.

La industria tecnológica está bajo un nuevo escrutinio.

Un nuevo estudio arroja luz sobre el vínculo

entre la salud mental y las redes sociales.

Vengo a hablar de la última investigación...

...que no tiene cobertura.

Hay millones de estadounidenses adictos

a sus dispositivos electrónicos.

Se agrava por el hecho de que uno puede aislarse...

TE HAN ETIQUETADO EN UNA FOTO

...gracias a nuestra tecnología.

Los bulos son más avanzados y amenazan a las sociedades mundiales.

No esperábamos esto al crear Twitter hace más de 12 años.

Según las autoridades, no hay motivos para creer

que cesarán los ciberataques rusos.

YouTube se ve obligado a hacer limpieza.

TikTok, si hablas con algún adolescente,

verás que es imposible que lo borren...

Isla, ¿puedes preparar la mesa?

Hay dudas sobre si las redes sociales deprimen a nuestros hijos.

Isla, ¿puedes poner la mesa?

Es cada vez más popular entre los adolescentes

y se ha acuñado un nuevo síndrome:

dismorfia de Snapchat, jóvenes que quieren operarse

para parecer selfies con filtros.

No entiendo por qué le dejas eso.

¿Qué iba a hacer?

Todos los de su clase tenían uno.

Solo tiene 11 años.

Nadie te obliga a tener uno.

Desconecta si quieres.

Oye, estoy conectada sin móvil, ¿vale? Ahora estoy en Internet.

Y eso no es una conexión real. Es solo un montón de mier...

El capitalismo de vigilancia ha moldeado nuestra política y cultura

de formas imperceptibles.

El EI ha inspirado a sus seguidores y los supremacistas blancos los imitan.

En la India,

las turbas han matado a una docena de personas...

No son solo bulos, tienen consecuencias.

¿Cómo se maneja una epidemia en la era de los bulos?

¿Puedes contraer el coronavirus con comida china?

Hemos pasado de la era de la información a la de la desinformación.

Atacan a la democracia.

Lo que dije fue: "Las herramientas que se han creado empiezan

a corroer el tejido social de la sociedad".

Asa da un discurso de bienvenida y ponemos el video.

Y luego: "Damas y caballeros, Tristan Harris".

- Vale. - Genial.

Así que subo y...

UNA NUEVA AGENDA TECNOLÓGICA

Digo: "Gracias por venir".

Hoy quiero hablar de una nueva agenda tecnológica,

y el motivo es que si le preguntamos a la gente:

"¿Qué ocurre con la industria tecnológica?",

hay una cacofonía de quejas y escándalos, de "nos robaron los datos", hay adicción

bulos, polarización

y elecciones pirateadas.

Pero ¿hay algo que subyace a estos problemas

y que haga que todo esto ocurra a la vez?

- ¿Te parece bien? - Muy bien. Sí.

Intento.... Quiero que vean...

Hay un problema en la industria tecnológica.

No tiene nombre y tiene que ver con una fuente, una...

Cuando miras tu alrededor, parece que el mundo se vuelve loco.

Tienes que preguntarte si es normal

o si hemos caído bajo algún hechizo.

EX DISEÑADOR ÉTICO DE GOOGLE

COFUNDADOR DEL CENTRO PARA LA TECNOLOGÍA HUMANA

Ojalá más gente entienda cómo funciona,

porque no debería limitarse a la industria tecnológica.

Debería saberlo todo el mundo.

- ¡Hola! - Hola.

- Tristan. Encantado. - ¿Es Tristan?

- Sí. - Genial.

Él es un ex diseñador ético de Google

y lo más parecido a la consciencia de Silicon Valley.

Le pide a la industria

que añada lo que él llama "diseño ético" a sus productos.

Es raro que un experto sea tan directo,

pero Tristan Harris cree que alguien debe serlo.

Cuando estaba en Google,

estaba en el equipo de Gmail y empecé a hartarme,

porque hablábamos mucho sobre...

cómo debería ser la bandeja de entrada y de qué color debería ser.

Yo me sentía adicto al correo electrónico

y era fascinante

que nadie en Gmail trabajara para hacerlo menos adictivo.

Pensaba: "¿Alguien más piensa en esto? No he oído a nadie hablar de ello".

Y me sentía frustrado con la industria tecnológica,

que habíamos perdido el rumbo.

Me costó mucho averiguar

cómo cambiarlo desde el interior.

Y decidí hacer una presentación, una especie de llamada a las armas.

Todos los días iba a casa y trabajaba un par de horas.

Básicamente, decía que nunca antes en la historia, 50 diseñadores,

blancos de 20 a 35 años, en California,

tomaban decisiones que afectarían a 2000 millones de personas.

A 2000 millones de personas se les inculcarán ideas

porque un diseñador de Google dijo: "Así funcionan las notificaciones

en la pantalla que ves cada mañana".

Y en Google tenemos la responsabilidad moral de resolver este problema.

Y envié esta presentación

a unos 15 o 20 de mis colegas más cercanos en Google.

Estaba muy nervioso. No sabía cómo iba a sentar.

Al día siguiente, la mayoría tenía la presentación abierta.

ATENCIÓN

Ese día, había 400 espectadores

y seguían aumentando. Recibí correos de toda la empresa.

En cada departamento me decían:

"Tienes razón, veo cómo afecta a mis hijos

y a la gente de mi alrededor. Tenemos que hacer algo al respecto".

Parecía que iba a iniciar una revolución o algo así.

Más tarde, supe que Larry Page oyó de la presentación

en tres reuniones ese día.

Y creó un momento cultural

que Google debía tomar en serio.

Y luego... nada.

Todos en 2006,

incluidos nosotros en Facebook,

admirábamos a Google y lo que había construido,

un servicio realmente útil

que, por lo que sabíamos, realizaba una gran labor por el mundo

y crearon una máquina de hacer dinero.

Sentíamos mucha envidia y nos parecía muy elegante...

y perfecto.

Facebook llevaba unos dos años

y me contrataron para que averiguara

el modelo de negocio para la empresa.

Era el director de monetización. La cuestión era:

"Eres la persona que va a averiguar cómo se monetiza".

Y había mucha gente trabajando mucho,

pero yo era una de las personas que decía...

que había que hacer dinero...

y este modelo publicitario es la forma más elegante.

¿Y este vídeo de mamá?

Son entrevistas, pero mola. El tío es un genio.

Habla de eliminar las redes sociales, cosa que debes hacer.

Tengo que bloquear sus correos.

No sé de que habla. Ella es aún peor.

- No, solo lo usa para recetas. - Y para trabajar.

- Y para entrenar. - Y para vigilarnos.

Y a todos los que ha conocido en su vida.

Si navegas por las redes sociales

mientras nos miras, deja el maldito teléfono y escucha,

porque el próximo invitado ha escrito un libro

sobre cómo está destrozando nuestras vidas.

Recibamos al autor

de Diez razones para borrar tus redes sociales de inmediato,

Jaron Lanier.

Empresas como Google y Facebook son de las más ricas

y exitosas de todos los tiempos.

Tienen relativamente pocos empleados.

Tienen un ordenador gigante que gana dinero.

¿Por qué les pagan? Es una pregunta muy importante.

He invertido en tecnología durante 35 años.

En los primeros 50 años de Silicon Valley, hicieron productos,

hardware, software, que vendían a clientes, negocios sencillos.

Los últimos diez años, las empresas más grandes

se han dedicado a vender sus usuarios.

Es un poco trivial decirlo ahora,

pero como no pagamos por los productos que usamos,

los anunciantes pagan por esos productos.

Los anunciantes son los clientes.

Nosotros somos el producto.

El dicho clásico es:

"Si no pagas por el producto, eres el producto".

TÚ ERES EL PRODUCTO

Muchos piensan: "Google es solo un cuadro de búsqueda

y Facebook es para ver lo que hacen mis amigos y sus fotos".

Pero no se dan cuenta de que compiten por su atención.

En Facebook, Snapchat, Twitter, Instagram, YouTube...,

su modelo de negocio es mantener a la gente enganchada a la pantalla.

Veamos cómo captar la atención de esta persona

todo lo posible.

¿Cuánto tiempo podemos captarte?

¿Cuánto de tu vida podemos conseguir que nos des?

Al pensar en cómo funcionan estas empresas,

tiene sentido.

Tenemos servicios en Internet que consideramos gratis.

Pero no lo son. Los pagan los anunciantes.

¿Por qué pagan a esas empresas?

Pagan a cambio de mostrarnos sus anuncios.

Somos el producto. Se vende nuestra atención.

Eso es demasiado simplista.

El producto es el cambio progresivo, leve e imperceptible

de tu comportamiento y percepción.

CAMBIAR EL COMPORTAMIENTO Y LA PERCEPCIÓN

Ese es el producto. El único posible.

No hay nada más que pueda llamarse producto.

Es lo único con lo que pueden ganar dinero.

Cambiando lo que haces,

cómo piensas, quién eres.

Es un cambio paulatino. Es leve.

Si vas a alguien y le dices: "Dame diez millones de dólares

y cambiaré el mundo un uno por ciento en la dirección que quieras...".

¡Es el mundo! Eso es increíble y vale mucho dinero.

Vale.

Esto es lo que todos los negocios han soñado,

tener una garantía de que si pone un anuncio, tendrá éxito.

Ese es su negocio. Venden certeza.

CERTEZA

Para tener éxito en ese negocio, hay que tener buenas predicciones.

Las buenas predicciones empiezan con un imperativo.

Se necesitan muchos datos.

DATOS

Lo llaman "capitalismo de vigilancia".

El capitalismo se beneficia del seguimiento

de grandes empresas tecnológicas

cuyo modelo de negocio es asegurar

que los anunciantes tengan éxito.

Es un nuevo tipo de mercado.

Uno que antes no existía.

Y es un mercado que se dedica a los futuros humanos.

Igual que hay mercados que negocian con cerdo o petróleo.

Ahora tenemos mercados que negocian con futuros humanos a gran escala,

y esos mercados han producido miles de millones de dólares

que han convertido a las empresas de Internet en las más ricas

en la historia de la humanidad.

Quiero que la gente sepa que todo lo que hacen en Internet

se ve, se rastrea, se mide.

Cada acción que uno realiza es vigilada y registrada.

Exactamente qué imagen miras, cuánto tiempo la miras.

Sí, cuánto tiempo la miras.

TIEMPO DE INTERACCIÓN

TIEMPO DE INTERACCIÓN

TIEMPO DE INTERACCIÓN

Saben cuándo la gente está sola y cuándo está deprimida.

Saben cuándo miran fotos de sus exparejas.

Saben lo que haces por la noche, lo saben todo.

Si eres introvertido o extrovertido

o qué tipo de neurosis tienes, cómo es tu personalidad.

Tienen más información sobre nosotros

de lo imaginado en la historia humana.

No existen precedentes.

Y todos estos datos que estamos vertiendo todo el tiempo

se suministran a los sistemas que casi no tienen supervisión humana

y que hacen predicciones cada vez mejores

sobre lo que haremos y quiénes somos.

RECOMENDADO PARA TI

Muchos creen que nuestros datos se venden.

A Facebook no le interesa dar los datos gratis.

¿Qué hacen con esos datos?

Construyen modelos que predicen nuestras acciones.

Y el que tenga el mejor modelo gana.

Cada vez va más lento.

Es el final de la duración media, menos anuncios.

Menos amigos y familia.

En el otro lado de la pantalla,

es como si tuvieran un muñeco vudú de nosotros.

Todo lo que hemos hecho,

los clics, los vídeos que vemos, los "Me gusta",

todo eso crea un modelo cada vez más preciso.

Cuando tienes el modelo,

puedes predecir qué hace esa persona.

Vale, déjame probar.

Puedo predecir qué vídeos captarán tu atención.

Puedo predecir qué emociones te hacen responder.

Sí, perfecto.

El fallo más épico del año.

¡FALLO ÉPICO!

- Perfecto, ha funcionado. - Otro vídeo.

Genial. Metamos un anuncio antes de que empiece.

En muchas empresas de tecnología hay tres objetivos principales.

El aumentar el uso, que sigas navegando.

El crecimiento,

que vuelvas e invites a muchos amigos

y ellos inviten a más amigos.

Y el de la publicidad es que como todo eso ya ocurre,

ganemos todo el dinero posible.

Estos objetivos están impulsados por algoritmos

cuyo trabajo es averiguar qué mostrarte

para aumentar esos números.

A menudo, hablamos en Facebook de la idea

de poder manipularlo según sea necesario.

Y hablamos de que Mark controla eso.

"Oye, hoy quiero más usuarios en Corea".

Dale al botón.

"Aumentemos los anuncios".

"Aumentemos la monetización".

Y así...

En todas estas empresas existe ese nivel de precisión.

- ¿Cómo...? - No sé cómo me he librado.

- El árbitro es una mierda. - Has llegado hasta...

- Es Rebecca. Habla con ella. - Ya.

- Habla con ella. - Estoy en ello.

Según su agenda está de descanso. Deberíamos estar activos.

¿Lo animo?

Sí.

"Tu amigo Tyler acaba de unirse. Salúdale".

Venga, tío.

Salúdale.

¿Ni siquiera vas...? Habla con ella.

¡TU AMIGO TYLER ACABA DE UNIRSE! ¡SALÚDALE!

CONEXIONES DE RED

¡Nuevo enlace! Vale, vamos.

Sigue con una entrada del usuario 079044238820, Rebecca.

Buena idea. Las coordenadas indican que están muy cerca.

¡HE ENCONTRADO A MI ALMA GEMELA! #MEJORES AMIGOS #CHUPETÓN

Está listo para un anuncio.

A subastar.

ANTICIPO DE ANUNCIO CERA CAPILAR

¡Vendido a Deep Fade!

Teníamos 468 postores. Vendimos a Ben a 3,262 centavos por impresión.

Hemos creado un mundo en el que la conexión en línea es primordial,

especialmente para los más jóvenes,

y, sin embargo, en ese mundo, cada vez que dos personas se conectan,

la única forma de financiarlo es a través de una tercera persona

que paga por manipularlas.

Hemos creado una generación global de personas

que crecen en un contexto donde el significado de la comunicación,

el significado de la cultura es la manipulación.

El engaño se ha convertido

en el centro de todo lo que hacemos.

"CUALQUIER TECNOLOGÍA SUFICIENTEMENTE AVANZADA NO SE DISTINGUE DE LA MAGIA".

- Coge el otro... - Vale.

- ¿Qué lo sujeta? - Es genial.

- ¿Esto? - Sí.

¿Cómo queda esto en la cámara si hacemos...

- Podemos... - esto?

- ¿Qué? - Sí.

- ¿Otra vez? - Exacto, sí.

Sí. No, probablemente no...

Sí.

Este es menos…

Chris está flipando.

¿Es bueno?

¡MAGIA!

Tenía cinco años cuando aprendí a hacer magia.

Y podía engañar a adultos con doctorados.

Los magos eran casi los primeros neurocientíficos

y psicólogos.

Fueron ellos los que entendieron cómo funciona

la mente de la gente.

Hacen muchas pruebas, en tiempo real, con la gente.

Un mago entiende algo,

una parte de tu mente que no conoces. Eso hace que la ilusión funcione.

Doctores, abogados, gente que sabe construir aviones o misiles nucleares

desconoce la vulnerabilidad de su mente.

Es una disciplina aparte.

Y se aplica a todos los seres humanos.

UNIVERSIDAD DE STANFORD

Desde esa perspectiva, hay una comprensión distinta

de lo que hace la tecnología.

Lo aprendimos cuando estaba en el laboratorio de tecnología persuasiva.

¿Cómo usar todo lo que sabemos

sobre lo que convence a la gente

y convertirlo en tecnología?

Muchos de vosotros ya sois genios.

Sí, pero mi objetivo es convertiros en genios del cambio conductual.

Hay muchas figuras destacadas de Silicon Valley que fueron a esa clase,

figuras clave en Facebook, Uber y otras empresas,

y aprendieron a hacer la tecnología más persuasiva,

Tristan, por ejemplo.

La tecnología persuasiva es un diseño

intencionalmente extremo

para modificar el comportamiento.

Queremos que hagan algo,

que sigan haciendo esto con el dedo.

Si bajas y recargas, habrá algo nuevo arriba.

Bajas y recargas y cambia. Siempre.

Lo que en psicología llamamos "refuerzo positivo intermitente".

No sabes cuándo lo conseguirás o si vas a conseguir algo,

es como las máquinas tragaperras de Las Vegas.

No basta que uses el producto conscientemente,

quiero profundizar en el cerebro e implantarte un hábito inconsciente,

para que estés programado en un nivel más profundo.

No te das cuenta.

Un tal James Marshall...

Esta ahí tirado

y sabes que si lo usas quizá tenga algo para ti,

así que pruebas suerte. No es casualidad. Es una técnica de diseño.

Llevó una pepita de oro a un oficial del ejército en San Francisco.

La población de San Francisco solo era…

Igual que el etiquetado de fotos.

Si recibes un correo que dice que te han etiquetado en una foto,

claro que vas a hacer clic y mirar la foto.

No es algo que puedas ignorar.

Recurren a una personalidad humana muy arraigada.

Deberías preguntarte por qué el correo no contiene la foto.

Sería mucho más fácil verla.

Cuando Facebook encontró esa función, la maximizaron

porque dijeron: "Aumentaremos la actividad.

Hagamos que la gente se etiquete en fotos".

AL MENOS UNO SALE BIEN

Ha comentado.

Bien.

Vale, Rebecca lo ha recibido y está respondiendo.

Que sepa que está escribiendo para no perderlo.

Activando puntos suspensivos.

AL MENOS UNO SALE BIEN ...

Genial, ha publicado.

Está comentando su comentario sobre su comentario.

Ha dejado de escribir.

Texto predictivo.

Emoticonos. Le encantan.

AUTOCOMPLETAR INTERACCIÓN

Usó fuego.

Yo esperaba berenjenas.

Hay toda una disciplina y un campo llamado "growth hacking".

Equipos de ingenieros cuyo trabajo es piratear la psicología de la gente

para captar más.

Consiguen más usuarios, más interacciones y que invites a más gente.

Después de pruebas, repeticiones y demás,

¿sabéis lo más importante? Que uno añade a siete amigos en diez días.

EX VICEPRESIDENTE DE CRECIMIENTO

Así de simple.

Chamath era el jefe de crecimiento de Facebook

y es muy conocido en la industria

por ser pionero en tácticas de crecimiento

que hicieron crecer Facebook a una velocidad increíble.

Y esas tácticas son el estándar de Silicon Valley.

Se usaron en Uber y en muchas otras empresas.

Fue pionero en el uso de pruebas científicas A/B

en cambios de características.

Empresas como Google y Facebook

introdujeron muchos pequeños experimentos

en los usuarios,

y con el tiempo, haciendo experimentos constantes,

se desarrolla la forma más adecuada para que los usuarios hagan lo que quieres.

Es manipulación.

Me siento como una cobaya humana.

Lo eres. Todos lo somos.

Y no es para desarrollar una cura para el cáncer.

No es que intenten beneficiarnos.

Solo somos zombis y quieren que veamos más anuncios

para ganar más dinero.

Facebook llevó a cabo lo que llamaron "experimentos de contagio a gran escala".

Vale.

¿Cómo usamos las señales subliminales en las páginas

para que más personas voten en las elecciones?

Y descubrieron que podían hacerlo.

Una cosa que concluyeron es que ahora sabemos

que podemos afectar el comportamiento y las emociones del mundo real

sin accionar la conciencia del usuario.

No tienen ni idea.

Dirigimos estos motores de inteligencia artificial hacia nosotros

para realizar ingeniería inversa de lo que provoca respuestas.

Es como estimular los nervios de una araña para ver qué hace que responda.

Es un experimento de prisión,

donde estamos metiendo a la gente en la matriz

y recogemos todo ese dinero y los datos de toda su actividad

para beneficiarnos. Y ni nos enteramos.

Queremos averiguar cómo manipularte lo más rápido posible

y darte el subidón de dopamina.

Lo hicimos genial en Facebook.

Instagram lo ha hecho y WhatsApp

y Snapchat y Twitter.

Es exactamente

lo que un jáquer como yo inventaría,

porque explotas una vulnerabilidad en la psicología humana.

EXPRESIDENTE DE FACEBOOK

Creo que los inventores, los creadores...

yo, Mark...

Kevin Systrom en Instagram, toda esta gente...

lo entendimos perfectamente y lo hicimos de todas formas.

Nadie se molestó cuando aparecieron las bicicletas.

Cuando todo el mundo empezó a ir en bicicleta

nadie dijo: "Dios, hemos destruido la sociedad.

Las bicicletas afectan a la gente

las aleja de sus hijos,

arruinan la democracia, la gente ya no sabe qué es verdad".

Nunca dijimos nada de eso de una bicicleta.

Si algo es una herramienta, está ahí tirado

esperando pacientemente.

Si no lo es, te exige cosas,

te seduce, te manipula, quiere cosas de ti.

Y hemos pasado de un entorno tecnológico basado en herramientas

a uno basado en la adicción y la manipulación.

Ese es el cambio.

Las redes sociales no son una herramienta que espere ser utilizada.

Tienen sus propios objetivos y sus propios medios para perseguirlos

usando tu psicología contra ti.

"SOLO HAY DOS INDUSTRIAS QUE LLAMAN A SUS CLIENTES 'CONSUMIDORES':

LAS DE DROGAS Y LAS DE SOFTWARE".

Hace unos años, era el presidente de Pinterest.

Volvía a casa y no podía dejar el móvil

a pesar de tener dos niños que necesitaban mi amor y atención.

Estaba en la despensa, escribiendo un correo

o mirando Pinterest.

Pensaba: "Menuda ironía.

Voy a trabajar durante el día

y a construir algo de lo que caigo presa".

Y no podía... Había momentos en que no podía evitarlo.

El que más me gusta es Twitter.

Antes era Reddit.

He tenido que escribir un software para acabar con mi adicción a leer Reddit.

Soy más adicto a mi correo.

En serio. Lo noto.

Bueno, es interesante que,

sabiendo lo que pasaba detrás de la cortina,

no podía controlar mi uso.

Da un poco de miedo.

Incluso sabiendo cómo funcionan estos trucos, caigo en ellos.

Cogeré el móvil y perderé 20 minutos.

¿Revisas tu móvil antes de hacer pis por la mañana

o mientras haces pis?

Porque no hay más opciones.

Lo intenté con toda mi fuerza de voluntad:

"Voy a dejar el móvil en el coche cuando vaya a casa".

Me lo dije mil veces, mil días diferentes: "No llevaré el móvil a la habitación",

y a las 21:00:

"Quiero llevar el móvil a la habitación".

Y eso fue... La fuerza de voluntad fue el primer intento

y el segundo fue la fuerza bruta.

La caja fuerte de cocina.

La caja fuerte de la cocina es un nuevo contenedor revolucionario

que ayuda contra la tentación.

Lo único que tiene que hacer David es meter esas tentaciones en la caja fuerte.

A continuación, gira el disco para ajustar el temporizador

y lo presiona para activar el bloqueo.

Es genial...

Tenemos eso, ¿no?

...videojuegos, tarjetas y móviles.

Sí.

Cuando está cerrada, no se abre hasta que el temporizador llega a cero.

Ese el tema. Las redes sociales son una droga.

Tenemos un imperativo biológico básico

para conectar con otras personas.

Eso afecta a la liberación de dopamina en las vías de recompensas.

Hay millones de años de evolución detrás de ese sistema

para que podamos unirnos y vivir en comunidades,

encontrar compañeros y propagar la especie.

No hay duda de que un vehículo como las redes sociales,

que optimiza esta conexión entre la gente,

tendrá potencial de adicción.

¡Para, papá!

Tengo que enviar mil snips antes de cenar.

¿Snips?

No sé qué es eso.

- Qué bien huele. - Gracias.

Pensé en utilizar los cinco sentidos

para disfrutar de la cena.

He decidido que nada de móviles en la mesa.

Dádmelos.

- ¿En serio? - Sí.

- Vale. - Gracias. ¿Ben?

- Vale. - La ladrona de móviles.

- Dame. - ¡Mamá!

Aquí estarán a salvo hasta después de la cena...

y todos podréis relajaros. ¿Vale?

- ¿Puedo ver quién es? - No.

Voy a por otro tenedor.

Gracias.

Cariño, no puedes abrir eso.

Lo cerré durante una hora.

¿De qué hablamos?

Podríamos hablar de los locos del extremo centro que he visto hoy.

- Por favor. - ¿Qué?

No quiero hablar de eso.

- ¿Qué pasa con ellos? - ¿Ves? No lo entiende.

Depende.

Es como con la propaganda.

¡Isla!

Dios mío.

- ¿Quieres que...? - Sí.

Me preocupan mis hijos.

Y si tienes hijos, me preocupan tus hijos.

Con todo el conocimiento que tengo y toda la experiencia,

peleo con ellos por el tiempo que usan los teléfonos y el ordenador.

Le digo a mi hijo: "¿Cuántas horas pasas con tu móvil?".

Y él: "Media hora, como mucho".

Yo diría que una hora, hora y media.

Miré su registro de pantalla y eran tres horas y 45 minutos.

No lo creo. ¿De media por día?

- Sí. - ¿Lo cojo?

No pasa un día sin que les recuerde a mis hijos

el equilibrio entre placer y dolor,

los estados de deficiencia de dopamina, el riesgo de adicción.

Veamos.

Dos horas y 50 minutos al día.

- A ver. - Hoy lo he usado mucho.

- Esta semana. - Será por eso.

Instagram: seis horas y 13 minutos. Mi Instagram es peor.

Mi pantalla está destrozada. Gracias, Cass.

¿Cómo que "gracias, Cass"?

Asustas a mamá con los móviles sin ser un problema.

No los necesitamos para cenar.

Te entiendo, pero no es para tanto. No lo es.

Pues no lo uses durante una semana.

Sí.

Sí, si puedes guardarlo durante una semana...

te compraré una pantalla nueva.

- ¿Empezando ahora? - Sí.

Vale. Trato hecho.

Tienes que dejarlo aquí, colega.

Voy a enchufarlo.

Que conste que me voy.

Vale.

- Empiezo a contar. - Una semana.

Madre...

¿Podrá hacerlo?

No sé, ya veremos.

Tú come, ¿vale?

¡Buena cena familiar!

Estos productos no se diseñaron

por psicólogos infantiles que intentan proteger a los niños.

Se diseñaron para hacer algoritmos para recomendarte el siguiente video

o para que te hagas una foto con filtro.

2 ME GUSTA

¿SEGURO QUE QUIERES BORRARLO? NO

SÍ

No es solo que controlen a qué prestan atención.

Las redes sociales profundizan en el tronco cerebral

y controlan la autoestima y la identidad de los niños.

PONME GUAPA

¡QUÉ GUAPA!

DIOS, PRECIOSA

ESTÁS DIVINA

¿PUEDES AGRANDARTE LAS OREJAS? JA JA

Hemos evolucionado para preocuparnos por si los demás...

¡QUÉ GUAPA!

...piensan bien de nosotros o no, porque importa.

Pero ¿hemos evolucionado para saber qué piensan 10 000 personas de nosotros?

No hemos evolucionado

para recibir aprobación social cada cinco minutos.

No estamos diseñados para eso.

Organizamos nuestras vidas en torno a este sentido de perfección percibida,

porque recibimos recompensas a corto plazo:

corazones, me gusta, pulgares.

Y lo confundimos con valores y con verdad.

Y realmente es una popularidad falsa y frágil...

a corto plazo y eso te deja aún más

vacío que antes de hacerlo.

Porque entras en un círculo vicioso

en el que piensas: "¿Qué hago ahora? Porque lo necesito".

Apliquemos eso a dos mil millones de personas

y pensemos en cómo reaccionamos ante las percepciones de los demás.

Es... Es horrible.

Es muy malo.

Ha habido un aumento enorme en la depresión y la ansiedad

en los adolescentes estadounidenses que empezó entre... 2011 y 2013.

El número de chicas de cada 100 000 en este país

que ingresaban en un hospital cada año porque se cortaron o se hicieron daño,

se mantuvo estable hasta 2010, 2011,

y luego empezó a subir.

Ha subido un 62 % en las adolescentes mayores.

INGRESOS HOSPITALARIOS POR AUTOLESIÓN NO FATAL

Ha subido un 189 % en las preadolescentes. Eso es casi el triple.

Lo peor es que vemos el mismo patrón con el suicidio.

TASA DE SUICIDIO POR CADA 1 000 000 DE CHICAS

Las adolescentes mayores, de 15 a 19 años,

han subido un 70 % en comparación con la primera década de este siglo.

Las preadolescentes, que tienen unas tasas muy bajas,

han subido un 151 %.

Y ese patrón apunta a las redes sociales.

REDES SOCIALES PARA MÓVILES

La generación Z, los nacidos después de 1996,

son la primera generación de la historia

que llegó a las redes sociales en el instituto.

¿Cómo pasan el tiempo?

Vuelven a casa y cogen sus dispositivos.

Toda una generación está más ansiosa, más frágil, más deprimida.

Les preocupa mucho más asumir riesgos.

El número de carnés de conducir ha bajado.

El número que ha tenido una cita

o alguna relación romántica está bajando rápidamente.

Es un cambio real en una generación.

Y por cada una de ellas, por cada hospitalización,

hay una familia traumatizada y horrorizada.

"¿Qué les pasa a nuestros hijos?".

Para mí está muy claro.

Estos servicios están matando gente y haciendo que se suiciden.

No conozco a ningún padre que diga: "Sí, quiero que mis hijos crezcan

sintiéndose manipulados por los diseñadores

que manipulan su atención, impidiéndoles hacer los deberes,

comparándose con estándares de belleza irreales".

Nadie quiere eso.

Nadie.

Teníamos protecciones.

Cuando los niños veían dibujos animados,

nos preocupaba protegerlos.

Era: "No se pueden dirigir determinados anuncios a los niños".

Pero coges YouTube para niños y consume toda la economía de la atención.

Los niños están desprotegidos.

Las protecciones y las normas han desaparecido.

TIEMPO SIN TELÉFONO

Estamos entrenando y acondicionando a una nueva generación...

que cuando se siente incómoda, sola, insegura o asustada

tiene un chupete digital

que atrofia la capacidad para lidiar con eso.

Photoshop no tenía mil ingenieros

usando tus avisos, tus amigos,

la IA para predecir lo que te va a volver adicto,

manipularte o permitir que los anunciantes

prueben 60 000 textos o colores...

CONGRESO ANTIMONOPOLIO TECNOLÓGICO

...para ver cómo manipularte mejor.

Esta es una nueva especie de poder e influencia.

Los métodos que se usan

para jugar con la capacidad para ser adictos o influenciados

pueden ser diferentes esta vez.

Eran diferentes cuando aparecieron los periódicos y la imprenta,

y eran diferentes cuando llegó la televisión

y había tres emisoras principales...

- En ese momento. - Eso es lo que digo.

Pero hay un nuevo nivel

y eso ha pasado muchas veces antes.

Es el último nivel que hemos visto.

Se dice que ya nos adaptaremos. Aprenderemos a vivir con los dispositivos

como aprendimos a vivir con los demás.

Y lo que se olvida es que hay algo nuevo aquí.

Quizá lo más peligroso de todo esto sea el hecho

de que está impulsado por una tecnología que avanza exponencialmente.

PODER DE PROCESAMIENTO

Si hablamos desde los años 60 hasta hoy,

el poder de procesamiento ha aumentado en un trillón.

Ninguna otra cosa ha crecido a ese ritmo.

Los coches son el doble de rápidos.

Y casi todo lo demás es insignificante.

Y quizá lo más importante,

nuestra fisiología, nuestros cerebros no han evolucionado.

TIEMPO SIN TELÉFONO

Los seres humanos a nivel mental, corporal y físico

no sufrirán grandes cambios.

Podemos hacer ingeniería genética y desarrollar nuevos seres humanos,

pero siendo realistas, vivimos en un hardware, un cerebro,

que tiene millones de años,

y tenemos esta pantalla, y en el lado opuesto

hay miles de ingenieros y supercomputadores

con objetivos distintos a los tuyos,

así que ¿quién va a ganar el partido?

¿Cómo vamos perdiendo?

- No lo sé. - ¿Dónde está? Esto no es normal.

¿Me he pasado de amigos y familiares?

- Puede. - O fueron los anuncios.

No. Algo va mal. Pasemos al modo de resurrección.

Cuando piensas en la IA, crees que puede arruinar el mundo

y piensas en Terminator y en Arnold Schwarzenegger...

Volveré.

...ves drones y piensas: "La IA va a matar gente".

Y lo que la gente no sabe es que la IA ya controla el mundo de hoy.

Hablar de "una inteligencia artificial" es una metáfora.

En estas empresas como Google hay habitaciones enormes.

Algunas bajo tierra, otras bajo el agua,

con ordenadores.

Toneladas de ordenadores hasta donde alcanza la vista.

Están muy conectados entre ellos

y ejecutan programas muy complicados,

enviando información entre ellos todo el tiempo.

Y ejecutarán muchos programas

y productos en esas mismas máquinas.

Algunas cosas son simples algoritmos,

otras son tan complejas como para llamarlas inteligencias.

Diría que los algoritmos son opiniones incrustadas en el código...

y que los algoritmos no son objetivos.

Están optimizados para una definición de éxito.

Si piensas

en una empresa comercial que crea un algoritmo

según su definición de éxito,

será con interés comercial.

Por beneficio.

Le dices al ordenador: "Quiero este resultado",

y el ordenador aprende a hacerlo.

De ahí viene el "aprendizaje automático". Y cada día es mejor eligiendo

las publicaciones correctas para que pases más tiempo en ese producto.

Y nadie entiende lo que hacen

para lograr ese objetivo.

El algoritmo tiene mente propia, así que aunque una persona lo escriba,

está escrito de tal forma

que construyes la máquina y la máquina cambia.

Solo hay un puñado de gente en estas empresas,

en Facebook, Twitter y demás...

Solo unos pocos entienden cómo funcionan esos sistemas,

e incluso ellos no entienden bien

qué va a pasar con un contenido en particular.

Como humanos, casi hemos perdido el control de estos sistemas,

porque controlan la información que vemos.

Nos controlan más que nosotros a ellos.

Cruza referencias con equivalentes en su zona.

Sus dobles psicométricos.

Hay 13 694 personas comportándose como él en su región.

- ¿Su tendencia? - Necesitamos algo bueno

para la resurrección,

dado que lo típico no funciona.

Ni esa monada del instituto.

Según mi análisis, el contenido "extremo centro"

tiene un 62, 3% de posibilidades de interacción a largo plazo.

No está mal.

No basta.

Le hemos notificado sobre fotos etiquetadas,

invitaciones, eventos actuales, incluso un mensaje de Rebecca.

Pero ¿y el usuario 01265923010?

Sí, le encantaban sus mensajes.

Todos durante meses, y ahora nada.

Hay un 92, 3% de posibilidades de resurreción

con una notificación sobre Ana.

NUEVA RELACIÓN

Y su nuevo amigo.

TIEMPO SIN TELÉFONO

¡TU EX TIENE UNA NUEVA RELACIÓN!

No me lo puedo creer.

Vale.

ANA Y LUIZ ESTÁN EN UNA RELACIÓN

¿Qué?

¡Bam! ¡Hemos vuelto!

Volvamos a ganar dinero.

Y a conectarlos con todos.

Le doy acceso a la información que le interesa.

¿Alguna vez os preguntáis si la información es buena para Ben?

- No. - No.

Te he hechizado.

Porque eres mío.

Más te vale dejar lo que haces.

No miento.

PRUEBA A/B EXTREMO CENTRO

No, no miento.

Sabes que no lo soporto.

Estás dando vueltas.

Ya lo sabes.

No lo soporto porque me humillaste.

Sí.

Te he hechizado.

Porque eres mío.

Eres mío...

Imagina que estás en Facebook...

y estás jugando contra esta inteligencia artificial

que lo sabe todo sobre ti,

anticipa tus movimientos y no sabes nada sobre ella,

salvo que hay vídeos de gatos y cumpleaños.

No es una pelea justa.

Ben y Jerry, ¡es hora de irse!

¿Ben?

Ben.

Vamos.

Hora de ir a clase. Vamos.

CENTRO PARA LA TECNOLOGÍA HUMANA

- ¿Qué tal hoy? - Estoy nervioso.

- ¿Sí? - Sí.

Esperábamos el momento

en que la tecnología superase a la fuerza y la inteligencia humana.

¿Cuándo va a pasar la singularidad, sustituirnos y ser más lista que nosotros?

Pero hay un momento mucho antes…

cuando la tecnología supera las debilidades humanas.

Este punto que se cruza es la raíz de la adicción,

la polarización, la radicalización, la ira

la vanidad, todo.

Eso domina a la naturaleza humana,

y es un jaque mate a la humanidad.

Lo siento.

Una de las formas en que intento que la gente entienda

lo malo que es informarse en sitios como Facebook

es pensar en la Wikipedia.

PESTAÑA NUEVA

En una página ves lo mismo que los demás.

LA ENCICLOPEDIA LIBRE

Es de las pocas cosas en Internet que tenemos en común.

Ahora imagina por un segundo que Wikipedia dice:

"Vamos a dar a cada persona una definición diferente

y nos pagarán por eso".

Wikipedia te espiará y calculará

qué puede hacer para que esa persona cambie

por algún interés comercial.

Y luego cambiará la entrada.

¿Te lo imaginas?

Deberías,

porque es lo que pasa en Facebook.

Es lo que pasa en YouTube.

Cuando escribes en Google "cambio climático",

verás resultados diferentes según dónde vivas.

EL CAMBIO CLIMÁTICO ES

En ciertas ciudades, se autocompleta

con "es un engaño".

En otros casos, verás

"está destruyendo la naturaleza".

Y no depende de la verdad sobre el cambio climático,

sino de lo que buscas en Google

y de lo que sabe sobre tus intereses.

Incluso dos amigos que estén muy unidos,

que tengan la misma pandilla,

pueden pensar: "Veré las noticias en Facebook.

Serán las mismas novedades". Pero no es así en absoluto.

Ven cosas diferentes

porque se basan en cálculos

sobre preferencias.

EN DIRECTO

Hay que imaginar que son 2700 millones de Shows de Truman.

Cada persona tiene su propia realidad con...

sus hechos.

¿Por qué creéis que Truman nunca se ha acercado

a descubrir la naturaleza de su mundo hasta ahora?

Aceptamos la realidad del mundo que se nos presenta.

Así de sencillo.

EN DIRECTO

Con el tiempo, tienes la falsa sensación de que todos coinciden contigo

porque tus noticias piensan como tú.

Y cuando estás en ese estado eres fácilmente manipulable,

igual que si te manipulase un mago.

Te enseña un truco y te dice: "Elige una carta, cualquiera".

Lo que no ves es que lo ha preparado y eliges la carta que quiere que elijas.

Y así funciona Facebook. Dice:

"Elige a tus amigos y los vínculos que sigues".

Pero son chorradas. Es como el mago.

Facebook se encarga de tus noticias.

Todos operamos con un conjunto diferente de hechos.

Cuando eso pasa a gran escala,

ya no puedes contar ni consumir información

que contradice la visión del mundo que has creado.

Eso significa que no somos personas objetivas y constructivas.

¡Abre los ojos, no te creas las mentiras! Abre...

Luego miras al otro lado

y empiezas a pensar: "¿Cómo pueden ser tan estúpidos?

Mira toda esta información que veo constantemente.

¿Cómo es que no ven lo mismo?".

Y la respuesta es que no lo ven.

¡Abre los ojos, no te creas las mentiras!

¿Cómo son los republicanos?

Gente que no tiene ni idea.

El Partido Demócrata es un sindicato del crimen.

Un estudio del Centro de Investigación Pew sobre 10 000 adultos

nos muestra más divididos que nunca,

con el mayor nivel en 20 años de polarización personal y política.

Más de un tercio de los republicanos dicen

que el Partido Demócrata es una amenaza,

más de una cuarta parte de los demócratas dicen lo mismo de los republicanos.

Muchos de los problemas,

como la polarización política,

existen a montones en la televisión por cable.

Los medios tienen el mismo problema

que su modelo de negocio,

y es que venden nuestra atención,

e Internet es una forma nueva y más eficiente de hacerlo.

Trabajaba en las recomendaciones de YouTube.

Me preocupa que un algoritmo en el que he trabajado

esté aumentando la polarización de la sociedad.

Pero desde el punto de vista del tiempo,

esta polarización es muy eficiente manteniendo a la gente en línea.

Solo enseñan eso

porque les pagan.

- Es absurdo. - Hola, Benji.

¿Hoy no hay fútbol?

Sí. Estoy poniéndome al día con las noticias.

Lo que se aleje del extremo centro...

Yo no llamaría a eso noticias.

Siempre hablas de lo mal que está todo. Ellos también.

Pero eso es propaganda.

No es cierto. Se trata de lo que tiene sentido.

Hablo en serio. Eso es malo para ti.

Deberías ir a fútbol.

Comparto esto porque me importa.

Me importa que te engañen y eso no está bien. ¿Vale?

La gente cree que el algoritmo está diseñado

para darles lo que quieren, pero no.

Intenta encontrar unos túneles que sean muy poderosos,

intenta encontrar cuál es el más cercano a tu interés.

Y si empiezas a ver uno de esos vídeos,

te lo recomendará una y otra vez.

No es que nadie quiera que esto pase.

Es lo que hace el sistema de recomendación.

Tanto que Kyrie Irving, el jugador de baloncesto,

dijo que la Tierra era plana y se disculpó luego,

porque culpó a YouTube.

Haces clic en YouTube

y dice hasta dónde llega el túnel.

Cuando fue a la radio a decir:

"Perdón, no quería engañar a nadie", unos estudiantes dijeron:

"Los oficialistas le han pillado".

El algoritmo recomendó la teoría de la conspiración

de la Tierra plana cientos de millones de veces.

Es fácil pensar que solo convence a unos pocos estúpidos,

pero el algoritmo es cada vez más inteligente.

Hoy convencen a la gente de que la Tierra es plana,

pero mañana te convencerán de alguna otra falsedad.

El 7 de noviembre nació el hashtag "Pizzagate".

Pizzagate...

Madre mía.

Aún no estoy 100 % segura de cómo surgió esto,

pero la idea era que pedir una pizza significaba traficar con personas.

Según los grupos crecían en Facebook,

el motor de recomendación empezó a sugerir a los usuarios habituales

que se unieran al Pizzagate.

Si un usuario era, por ejemplo, antivacunas o creía en estelas químicas

o había indicado a los algoritmos de Facebook

que era propenso a creer en conspiraciones,

el motor recomendaba los grupos de Pizzagate.

Al final, esto culminó con un hombre que apareció con una pistola

y decidió que iba a liberar a los niños del sótano

de la pizzería que no tenía sótano.

- ¿Qué hacías allí? - Asegurarme de que no había nada.

- ¿De qué? - Un círculo pedófilo.

- ¿Qué? - Un círculo pedófilo.

Habla del Pizzagate.

Este es un ejemplo de una teoría de la conspiración

que se propagó por todas las redes sociales.

El motor de recomendación

lo ofreció a gente

que nunca había buscado el término "Pizzagate".

LA VERDAD SOBRE LOS DEMÓCRATAS Y LA PEDOFILIA

Un estudio del MIT dice

que los bulos en Twitter se difunden seis veces más rápido que la verdad.

¿Cómo será el mundo,

si una cosa tiene esa ventaja sobre la otra?

Imagina que estas cosas son como…

Inclinan el suelo del comportamiento humano.

Dificultan o facilitan determinados comportamientos.

Y puedes subir la colina,

pero pocos lo harán,

así que, a escala social, inclinas el suelo

y cambias lo que piensan y hacen miles de millones de personas.

Hemos creado un sistema que se inclina hacia la información falsa.

No porque queramos,

sino porque la información falsa hace que las empresas ganen más dinero

que la verdad. La verdad es aburrida.

Es un modelo basado en la desinformación.

Ganas dinero cuantos más mensajes no regulados lleguen

al mejor precio.

¿Por el cambio climático? Sí.

Es un engaño. Sí, así es. De eso se trata.

Cuanto más hablen de ello y más nos dividan,

más poder y más control tienen.

Facebook tiene miles de millones de noticias.

No saben qué es real ni qué es verdad,

por eso el tema es tan crítico.

No solo el COVID-19 se está extendiendo rápidamente.

Hay un flujo de desinformación sobre el virus.

La idea de que beber más agua lo eliminará de tu sistema

es uno de los mitos que circula en las redes sociales.

El Gobierno planeó este evento, creó el virus

y simuló cómo reaccionarían los países.

El coronavirus es falso.

SARS, coronavirus.

Y mirad cuándo se hizo. En 2018.

El Gobierno de los Estados Unidos empezó esto.

Nadie está enfermo. Nadie conoce a ningún enfermo.

Quizá el Gobierno esté usando el coronavirus como excusa

para encerrarnos porque ocurre otra cosa.

El coronavirus no mata a la gente,

es la radiación 5G que emiten.

TORRES 5G CORTADAS Y QUEMADAS

Nos bombardean con rumores.

La gente está destrozando torres telefónicas.

Rusia y China difunden rumores y teorías conspirativas.

Esta mañana, el pánico y las protestas en Ucrania...

La gente no sabe qué es verdad y ahora es vital.

Las fuentes que difunden información errónea

han acumulado 52 millones de interacciones.

Dices que la solución de plata sería eficaz.

Bueno, no se ha probado en esta cepa del coronavirus, pero...

Lo que vemos con el COVID es una versión extrema

de nuestro ecosistema de información.

Las redes sociales amplifican los cotilleos y los rumores

hasta no poder diferenciar qué es verdad, sin importar el tema.

¿Sigues en el equipo?

Voy a comer algo antes de entrenar, por si quieres venir.

Da igual.

Nueve de cada diez no están satisfechos.

El EC es como cualquier movimiento político.

Estamos aquí y... desafiamos este ruido.

Sois mi gente. Confío en vosotros.

- El contenido del EC es genial. - Le encanta.

Subastando.

843 postores, vendido por 4,35 centavos a un fabricante de armas.

Promocionemos algunos eventos.

Manifestaciones en su zona esta semana.

Y tengo un vlogger nuevo.

Estoy dispuesto a hacer lo que haga falta.

Cualquier cosa.

- Suscribiros y volved, porque os digo... - ¿Ben?

que tengo cosas muy importantes.

Cosas muy importantes.

Uno de los problemas con Facebook es que, como herramienta de persuasión,

puede ser el mejor invento.

Imagina lo que eso significa en manos de un dictador o un tirano.

Si quieres controlar a la población de tu país,

nunca ha habido una herramienta tan eficaz como Facebook.

Algunas de las implicaciones más preocupantes

de que los Gobiernos y otros malhechores usen las redes sociales

es el daño fuera de Internet.

El ejemplo más conocido

es lo que ha pasado en Birmania.

OFICINA DEL PRESIDENTE

Allí, cuando la gente piensa en Internet, piensa en Facebook.

Y lo que pasa es que cuando compran un móvil

viene con Facebook ya descargado

y con una cuenta abierta.

Y cuando la gente recibe su móvil, lo primero que abren

y lo único que saben abrir es Facebook.

Una nueva investigación pone al descubierto la lucha de Facebook

para abordar el odio en Birmania.

DEJAD DE MATAR MUSULMANES

Facebook dio a los militares y a otros malhechores

una nueva forma de manipular la opinión pública

y de incitar a la violencia contra los musulmanes rohinyás,

provocando asesinatos en masa,

la quema de pueblos enteros,

violaciones en masa y otros crímenes contra la humanidad

que han provocado que 700 000 rohinyás tengan que huir del país.

No es que los propagandistas no hayan existido antes.

Es que las plataformas permiten

difundir historias manipuladoras con gran facilidad

y sin mucho dinero.

Si quiero manipular unas elecciones,

entro en un grupo conspiranoico en Facebook

y encuentro a 100 personas

que creen que la Tierra es plana

y creen en la conspiración del viaje a la Luna

y puedo decirle a Facebook: "Dame mil usuarios así".

Facebook me enviará miles de usuarios como esos

a los que puedo soltar más teorías conspirativas.

Vendido por 3,4 centavos.

Nuevo vídeo de EC.

Otro anuncio listo.

Los algoritmos y los políticos manipuladores son expertos

en saber cómo llegar a nosotros,

son muy buenos creando bulos que absorbemos como si fueran realidad

y confundiéndonos para creer esas mentiras.

Cada vez controlamos menos

quiénes somos y en qué creemos.

...para elegir bando.

Hay mentiras por todos lados.

Para conservar el poder y que puedan controlarlo todo.

Pueden controlar nuestras mentes para mantener sus secretos.

DUDA DE LA VERDAD

LOS CCE ADMITEN ENCUBRIR EL AUTISMO POR VACUNAS

Imagina que todos creen mentiras.

LAS VACUNAS NO SON UNIVERSALES NUESTROS GENES LO PRUEBAN

Que el Gobierno miente.

Que todo es una conspiración.

"No os fiéis de nadie. Odio a los otros".

Hacia eso vamos.

Los terremotos políticos en Europa siguen retumbando,

esta vez en Italia y España.

La coalición centrista de Europa perdió la mayoría,

mientras la extrema derecha e izquierda lograron avances.

CENTRO

Atrás.

Vale, vamos.

Estas cuentas intentaban deliberadamente

sembrar la discordia política en Hong Kong.

Vale, Ben.

¿Qué se siente al ser un país

que solo se informa a través de Facebook y las redes sociales?

La democracia cayó rápidamente.

En seis meses.

Tras el caos en Chicago,

enfrentamientos entre manifestantes y partidarios…

La democracia se enfrenta a una crisis de confianza.

Hay un ataque global a la democracia.

EXTREMO CENTRO

Los objetivos son países

con elecciones democráticas.

Está pasando a gran escala.

Por actores estatales, por millonarios que dicen:

"Quiero desestabilizar Kenia, Camerún.

¿Angola? Solo cuesta esto".

Elecciones extraordinarias en Brasil.

Con una campaña impulsada por las redes sociales.

En la industria tecnológica hemos creado las herramientas

para desestabilizar y erosionar el tejido de la sociedad,

todos los países a la vez, en todas partes.

Ocurre en Alemania, España, Francia, Brasil, Australia...

Algunas de las naciones más desarrolladas

están implosionándose entre sí,

¿y qué tienen en común?

Con lo que sabes,

¿crees que Facebook afectó las elecciones de 2016?

Una pregunta difícil.

A ver...

La realidad es que había muchas fuerzas en juego.

Representantes de Facebook, Twitter y Google están en Capitol Hill

para volver a declarar

sobre la interferencia rusa en las elecciones de 2016.

La manipulación por parte de un tercero no es piratería.

¿Verdad? Los rusos no piratearon Facebook.

Lo que hicieron fue usar las herramientas que Facebook creó

para anunciantes legítimos y usuarios legítimos,

y las aplicaron con un propósito vil.

Es como una guerra a control remoto.

Un país puede manipular a otro

sin invadir sus fronteras físicas.

Vemos la violencia.

Empujan un contenedor de basura...

No se trataba de a quién votar.

Se trataba de sembrar el caos y la división en la sociedad.

Una marcha en la playa de Huntington...

Se trata de crear dos bandos

que no se escuchaban,

que no querían escucharse,

que no confiaban en el otro.

El odio quedó al descubierto

y se transformó en violencia racial.

TENSIÓN EN VIRGINIA TRES MUERTOS

¡Ben!

¡Cassandra!

- ¡Cass! - ¡Ben!

¡Ven aquí!

Brazos arriba. De rodillas. Al suelo.

- Calma. - ¡Ben!

¡Eh! ¡Manos arriba!

Date la vuelta. Al suelo.

¿Queremos vender este sistema al mejor postor?

¿Para que la democracia esté a la venta y podamos manipular a cualquiera,

soltar una mentira y crear guerras culturales?

¿Queremos eso?

Somos una nación de gente...

que ya no se habla.

Somos una nación de gente que no habla con otros

por el candidato que votan.

Somos una nación de gente que se ha aislado

para ver canales que nos dicen que tenemos razón.

Mi mensaje es que el tribalismo nos está arruinando.

Destruye nuestro país.

Los adultos cuerdos no pueden actuar así.

Si todos tienen derecho a sus hechos,

no hay necesidad de llegar a un acuerdo ni de que la gente se una.

No hace falta que la gente interactúe.

Necesitamos una comprensión común de la realidad.

O no somos un país.

La solución es construir más herramientas de IA

que encuentren patrones de gente usando servicios que nadie usaría.

Permitimos a los tecnólogos enmarcar esto como un problema

que están preparados para resolver.

Eso es mentira.

La gente habla de la IA como si supiera la verdad.

La IA no resolverá estos problemas.

La IA no puede resolver el problema de los bulos.

Google no tiene la opción de decir:

"¿Es una conspiración? ¿Es verdad?".

Porque desconoce la verdad.

La única verdad que conoce es un clic.

Si no coincidimos en lo que es verdad

o en que la verdad existe,

estamos acabados.

Este es el problema subyacente,

porque si no coincidimos en lo que es verdad,

no podemos salir de ningún problema.

Sugiramos que siga al Terraplanistas F.C.

No más deportes. No conecta.

Mucha gente en Silicon Valley suscribe la teoría

de que estamos construyendo un supercerebro global

y los usuarios son neuronas intercambiables,

ninguno es importante.

Y subyuga a la gente en este extraño papel

donde uno es un pequeño elemento informático

que programamos mediante manipulación conductual

al servicio de este cerebro gigante, y tú no importas.

No te pagarán, no te reconocerán, no tendrás autodeterminación.

Te manipularemos porque eres un nodo,

hay que programarte, porque es lo que se hace con los nodos.

Madre mía.

Cuando piensas en la tecnología y en que es una amenaza existencial,

es un gran reclamo y...

es fácil pensar: "Estoy con el móvil...

navegando, haciendo clic, usándolo. ¿Dónde está la amenaza?

Hay un superordenador

al otro lado apuntando a mi cerebro

que me hizo ver un vídeo. ¿Dónde está la amenaza?".

No se trata de que la tecnología sea la amenaza existencial.

VISTA SOBRE TECNOLOGÍA PERSUASIVA

Es la capacidad de la tecnología para sacar lo peor de la sociedad,

y lo peor de la sociedad es la amenaza existencial.

SENADO DE LOS ESTADOS UNIDOS

Si la tecnología crea un caos masivo,

indignación, incivismo,

desconfianza,

soledad, alienación, más polarización,

más pirateo electoral, más populismo,

distracción e incapacidad para centrarse en los problemas reales...

es solo sociedad.

Y ahora la sociedad es incapaz de curarse

y se convierte en un caos.

Afecta a todos, incluso si no usas estos productos.

Son Frankensteins digitales

que transforman el mundo a su imagen,

ya sea la salud mental infantil, la política o nuestro discurso político,

sin responsabilizarse por dominar la vida pública.

- Vuelve a... - ¿Y quién es responsable?

Debemos hacer que las plataformas sean responsables

cuando controlen la publicidad electoral, que protejan las elecciones.

Cuando controlan los dibujos infantiles,

son responsables del contenido.

La carrera por llamar la atención no va a desaparecer.

La tecnología se integrará más en nuestras vidas, no menos.

La IA predecirá mejor lo que nos engancha,

no peor.

Tengo 62 años,

y envejezco conforme hablamos,

pero les diré que...

seguro que voy a morir y estaré agradecido

cuando esto llegue a buen puerto.

Porque me aterroriza profundamente.

¿Piensan lo mismo?

¿O estoy exagerando ante una situación que no conozco bien?

¿Qué es lo que más te preocupaba?

A corto plazo...

la guerra civil.

Si las cosas siguen como hasta ahora otros 20 años...

destruiremos la civilización por la ignorancia deliberada.

No superaremos el reto del cambio climático.

Probablemente degrademos las democracias mundiales

para que caigan en una extraña disfunción autocrática.

Arruinaremos la economía global.

Probablemente no sobrevivamos.

Lo veo como existencial.

¿Es esta la última generación

que sabrá cómo era antes de que ocurriera esta ilusión?

¿Cómo te despiertas del Matrix si no sabes que estás en él?

"YA SEA UTOPÍA U OLVIDO SERÁ UNA CARRERA DE RELEVOS

HASTA EL ÚLTIMO MOMENTO...".

Mucho de lo que decimos parece...

una fatalidad unilateral.

En plan: "Dios, la tecnología está arruinando el mundo

y a los niños",

y... no.

Es confuso porque es utopía y distopía.

Podría presionar un botón de mi móvil y un coche aparece en 30 segundos

y puedo ir adonde necesite.

Eso es magia. Es increíble.

Al hacer el botón "Me gusta",

la motivación era: "¿Podemos difundir positividad y amor?".

La idea de que hoy los adolescentes se deprimirían

si no tienen suficientes

o que podría llevar a la polarización política era inimaginable.

No creo que decidieran ser malvados.

El problema es el modelo de negocio.

Podrías cerrar el servicio y destruir lo que sea,

20 000 millones de dólares de valor accionarial y que te denuncien...

Pero no puedes volver atrás en el tiempo.

Puedes hacer algunos retoques, pero al final,

tienes que aumentar los ingresos y el uso cada trimestre.

Cuanto más grande sea, más costará cambiarlo.

Lo que veo es un grupo de personas atrapadas por un modelo de negocio,

un incentivo económico y la presión de los accionistas

que hace casi imposible cambiarlo.

Debemos aceptar que está bien que las empresas busquen ganar dinero.

Lo que está mal es que no haya normas, reglas ni competencia,

y las empresas actúen como gobiernos de facto.

Y digan: "Podemos autorregularnos".

Es solo una mentira. Es ridículo.

Los estímulos financieros son la base del mundo,

así que cualquier solución a este problema tiene que realinearlos.

No hay razón fiscal para que cambien.

Y por eso necesitamos una reglamentación.

Las compañías telefónicas tienen datos nuestros

y hay leyes que aseguran que hagan lo correcto.

Casi no tenemos leyes sobre privacidad digital, por ejemplo.

Podríamos gravar la recogida de datos.

De la misma forma que pagas la factura del agua

controlando la cantidad que usas,

gravas a las empresas por los activos de datos que tienen.

Les da una razón fiscal

para no obtener todos los datos del planeta.

La ley va muy por detrás de estas cosas,

pero lo que sé es que la situación actual no existe para proteger a los usuarios,

sino para proteger los derechos y privilegios

de estas empresas gigantescas y ricas.

¿Siempre vamos a ceder ante los más ricos y poderosos?

¿O vamos a decir:

"Hay veces que hay un interés nacional,

a veces los intereses de la gente, de los consumidores,

son más importantes

que los beneficios de alguien que ya es multimillonario"?

Estos mercados socavan la democracia y la libertad

y deberían ser prohibidos.

No es una propuesta radical.

Hay otros mercados que prohibimos.

Prohibimos los mercados de órganos humanos.

Prohibimos los mercados de esclavos.

Porque tienen consecuencias destructivas.

Vivimos en un mundo

en el que un árbol vale más, económicamente, muerto que vivo,

en un mundo en el que una ballena vale más muerta que viva.

Mientras la economía funcione así y las corporaciones no se regulen,

van a seguir destruyendo árboles,

matando ballenas

explotando la tierra y sacando petróleo del suelo,

aunque sepamos que destruye el planeta

y que dejará un mundo peor para las generaciones futuras.

Piensan a corto plazo

por la religión del lucro a toda costa,

como si el que cada empresa actúe en su propio interés

produzca el mejor resultado.

Esto ha afectado al medio ambiente.

Lo qué es aterrador y nos hará despertar como civilización

sobre lo errónea que ha sido esta teoría

es ver que ahora somos el árbol, somos la ballena.

Pueden explotar nuestra atención.

Somos más rentables para una empresa si pasamos tiempo mirando una pantalla,

mirando un anuncio,

que si aprovechamos ese tiempo.

Y vemos los resultados.

Vemos empresas que usan una IA poderosa

para engañarnos y ver cómo captar nuestra atención

para que veamos lo que quieren,

en vez de lo que encaja con nuestras metas, valores y vidas.

ORADOR PRINCIPAL DE HOY

Para mí un ordenador es

la herramienta más extraordinaria que hemos inventado.

Es como una bicicleta para nuestras mentes.

Silicon Valley empezó por la idea de la tecnología humana.

Y lo hemos olvidado porque se convirtió en algo guay,

en lugar de lo correcto.

Internet era un sitio raro, de locos.

Era algo experimental.

Ha habido cosas creativas en Internet y aún las hay,

pero parece un centro comercial gigante.

Para mí es: "Dios, tiene que haber más que eso".

Supongo que soy optimista.

Porque podemos cambiar el significado de las redes sociales.

El funcionamiento de la tecnología no es una ley de la física.

Son decisiones que los humanos como yo hemos tomado.

Y podemos cambiar esas tecnologías.

La pregunta es si estamos dispuestos a admitir

que esos malos resultados vienen como producto de nuestro trabajo.

Que hemos construido esto y tenemos la responsabilidad de cambiarlo.

El modelo de extracción de atención no es como queremos tratar a los humanos.

¿Soy yo o...?

Qué pringado.

El tejido de una sociedad sana

depende de que eliminemos este modelo de negocio.

Podemos exigir que estos productos se diseñen humanamente.

Podemos exigir que no nos traten como un recurso extraíble.

La intención debe ser: "¿Cómo podemos mejorar el mundo?".

A lo largo de la historia, cada vez que algo ha mejorado

es porque alguien ha dicho: "Esto es ridículo. Podemos mejorarlo".

Son las críticas las que impulsan la mejora.

Los críticos son los verdaderos optimistas.

Hola.

Parece una locura, ¿no?

Es que la forma fundamental en que está diseñado...

no va en una buena dirección.

Nada de ello.

Parece una locura decir que tenemos que cambiar todo eso,

pero es necesario.

¿Crees que lo conseguiremos?

Tenemos que hacerlo.

Pareces muy optimista.

¿Eso parezco?

Sí, bueno... Es increíble que lo digas

porque pienso: "¿En serio? Vamos hacia la distopía.

Vamos por la vía rápida y necesitaremos un milagro para evitarlo".

Y ese milagro es la voluntad colectiva.

Soy optimista sobre que lo vamos a solucionar,

pero creo que llevará mucho tiempo.

Porque no todos reconocen que esto es un problema.

Uno de los grandes fallos tecnológicos

es la falta de liderazgo,

la falta de gente que sea sincera

no solo sobre lo que salió bien, sino sobre lo que no es perfecto

para que alguien pueda arreglarlo.

A fin de cuentas,

la cosa no va a cambiar hasta que haya mucha presión pública.

Al tener estas conversaciones y expresar tu opinión,

a veces a través de estas tecnologías,

podemos cambiar la tendencia y el discurso.

Sonará raro, pero es mi mundo, mi comunidad.

No guardo rencor hacia Google o Facebook.

Solo quiero reformarlos para que no destruyan el mundo.

He desinstalado un montón de aplicaciones

que me hacían perder el tiempo.

Las de redes sociales, las de noticias, y he desactivado las notificaciones

sobre cualquier cosa que vibrara con información

que no fuera oportuna e importante para mí.

Igual que no llevo galletas en el bolsillo.

- Reduce los avisos. - Desactiva las notificaciones.

Desactiva las notificaciones.

Ya no uso Google, uso Qwant,

que no almacena tu historial de búsqueda.

No aceptes un vídeo que te recomienden en YouTube.

Siempre elige. Es otra forma de luchar.

Hay un montón de extensiones de Chrome que eliminan las recomendaciones.

Mola que recomiendes algo para deshacer lo que has hecho.

Sí.

Antes de compartir, verifica la fuente, haz esa búsqueda extra.

Si parece diseñado para activar tus botones emocionales,

lo será.

Básicamente, votas con tus clics.

Si picas en el cebo,

creas un incentivo financiero que perpetúa este sistema.

Asegúrate de obtener mucha información distinta

en tu vida.

Sigo a gente en Twitter con la que no coincido,

porque quiero ver diferentes puntos de vista.

Mucha gente de la tecnología no les da estos dispositivos a sus hijos.

Mis hijos no usan redes sociales.

¿Es una regla o es...?

Es una regla.

Somos cuidadosos con eso.

Unos fanáticos.

Y no dejamos que nuestros hijos estén delante de la pantalla.

Tengo tres reglas simples

que facilitan la vida y que están justificadas por la investigación.

La primera es: nada de dispositivos en el dormitorio a determinada hora.

Media hora antes de acostarse, fuera dispositivos.

La segunda es: nada de redes sociales hasta el instituto.

Creo que debería ser a los 16 años.

La secundaria ya es difícil. Déjalas para el instituto.

Y la tercera es: administrar el tiempo con tu hijo.

Si hablas con ellos y dices:

"¿Cuántas horas al día quieres usar tu dispositivo,

¿cuál es una buena cantidad?", suelen decir algo razonable.

Sé perfectamente

que no voy a hacer que todos borren sus cuentas de redes sociales,

pero algunos sí,

y conseguir que algunas personas borren sus cuentas importa mucho,

y el motivo es que crea el espacio para una conversación,

porque quiero que haya suficiente gente

que esté libre de manipulación para tener una conversación social

que no esté limitada por la manipulación. ¡Hacedlo! Salid del sistema.

Borradlas. Fuera estupideces.

El mundo es precioso. Fuera se está genial.

¡SÍGUENOS EN LAS REDES SOCIALES! ES BROMA.

HABLEMOS DE ARREGLARLO. THESOCIALDILEMMA.COM

Subtítulos: Carlos Aparicio