All language subtitles for The.Social.Dilemma.2020.720p.NF.WEBRip.800MB.x264-GalaxyRG

Iklankan produk atau merek dagang Anda di sini
dengan menghubungi www.OpenSubtitles.org sekarang

"TAK ADA HAL BESAR YANG MEMASUKI
KEHIDUPAN MANUSIA TANPA KUTUKAN."

SOPHOKLES

Ya, mulailah. Silakan duduk
dan buat dirimu nyaman.

- Kau baik-baik saja?
- Ya.

Pengambilan gambar pertama, tandai!

Mau mulai dengan memperkenalkan dirimu?

Halo, Dunia. Aku Bailey.
Pengambilan gambar ketiga.

- Kau baik-baik saja?
- Ini bagian terburuk.

Aku tak suka ini.

Aku bekerja di Facebook
pada tahun 2011 dan 2012.

Aku salah satu pegawai awal Instagram.

Aku bekerja di Google, YouTube.

Apple, Google, Twitter, Palm.

Aku membantu merintis Mozilla Labs
dan beralih ke Firefox.

Sudah siap? Semuanya...

Bagus.

Aku bekerja di Twitter.

Pekerjaan terakhirku di sana
adalah Wakil Presiden Senior Perekayasaan.

Aku mantan Presiden Pinterest.

Sebelum itu, aku Direktur Monetisasi

di Facebook selama lima tahun.

Saat di Twitter, kuhabiskan beberapa tahun
mengelola platform pengembang mereka,

lalu aku menjadi Kepala Produk Pelanggan.

Aku penemu bersama Google Drive,
Gmail Chat,

Halaman Facebook,
dan tombol "Suka" Facebook.

Ya. Ini sebabnya kuhabiskan delapan bulan

berbicara berulang kali dengan pengacara.

Ini membuatku takut.

Saat di sana, aku selalu merasa,
pada dasarnya, itu demi kebaikan.

Entah apa aku merasa seperti itu lagi.

Aku meninggalkan Google pada Juni 2017
karena masalah etika.

Bukan hanya di Google,
tapi industri ini secara umum.

Aku sangat khawatir.

Sangat khawatir.

Saat ini mudah untuk melupakan fakta

bahwa alat ini telah menciptakan
hal-hal indah di dunia.

Mereka mempertemukan
anggota keluarga yang hilang

dan menemukan donor organ.

Maksudku, ada perubahan sistemik berarti

yang terjadi di seluruh dunia

karena semua platform positif ini.

Kurasa kita naif

soal sisi lain dari koin itu.

Ya, setelah semua ini dirilis,
mereka membentuk hidup sendiri.

Cara mereka digunakan tak sesuai
dengan harapan kita.

Aku sangat percaya tak ada yang berniat
menimbulkan semua konsekuensi ini.

Tak ada orang jahat. Sama sekali tidak.

Lantas apa masalahnya?

Apa ada masalah dan apa itu?

Sulit memberi satu jawaban ringkas...

Aku mencoba membahas beragam masalah.

Apa masalahnya?

DOKUMENTER NETFLIX ORIGINAL

Meski menghadapi lonjakan kritik,

perusahaan teknologi besar
makin berkembang.

Seluruh industri teknologi berada
di bawah pengawasan tingkat baru.

Studi baru mengungkap kaitan

antara kesehatan mental
dan penggunaan media sosial.

Hadir untuk membahas riset terbaru...

...yang terjadi tanpa diliput sama sekali.

Puluhan juta warga Amerika
sangat kecanduan

terhadap perangkat elektronik mereka.

Itu diperparah oleh fakta
kini kita bisa mengasingkan diri...

KAWANMU MENANDAIMU DI FOTO

...dalam gelembung, berkat teknologi kami.

Berita palsu menjadi lebih maju

dan mengancam masyarakat di seluruh dunia.

Kami tak menduga ini saat membuat Twitter
lebih dari 12 tahun lalu.

Pemerintah mengatakan mereka tak yakin

serangan siber Rusia akan berhenti.

YouTube dipaksa berfokus
membersihkan situsnya.

TikTok, jika Anda berbicara
dengan remaja di luar sana,

mustahil mereka akan menghapusnya...

Hei, Isla, bisa tolong siapkan meja?

Ada pertanyaan serius

soal apakah media sosial
membuat anak kita depresi.

Isla, bisa tolong siapkan mejanya?

Prosedur kosmetik ini menjadi
sangat populer di kalangan remaja

hingga ahli bedah plastik menamai
sindrom baru untuk itu,

Dismorfia Snapchat,
dengan pasien muda yang ingin operasi

agar mereka bisa mirip
dengan swafoto berfilter mereka.

Aku masih bingung
kenapa kau memberinya itu.

Aku harus bagaimana?
Setiap anak lain di kelasnya punya.

Usianya baru 11 tahun.

Cass, tak ada yang memaksamu memilikinya.
Kau bisa tak terhubung selama kau mau.

Hei, aku terhubung tanpa ponsel.
Aku sedang mengakses internet.

Lagi pula, itu bukan koneksi nyata.
Itu hanya omong kosong...

Kapitalisme pengawasan telah membentuk

politik dan budaya
dalam cara yang tak banyak orang pahami.

ISIS mengilhami para pengikutnya
lewat internet

dan kini penganut supremasi kulit putih
melakukannya juga.

Baru-baru ini di India,

massa hakim jalanan di internet
telah membunuh lusinan orang...

Ini bukan sekadar berita palsu,
tapi juga berkonsekuensi.

Bagaimana cara menangani wabah
di era maraknya berita palsu?

Bisakah kita tertular virus korona
dengan memakan makanan Cina?

Kita telah berubah dari era informasi
menjadi era disinformasi.

Demokrasi kita sedang diserang.

Maksudku adalah, "Kurasa alat
yang telah diciptakan hari ini

mulai mengikis struktur sosial
dari cara kerja masyarakat."

Asa memberi ucapan sambutan.
Kita putar videonya.

Lalu, "Hadirin, sambutlah Tristan Harris."

- Benar.
- Bagus.

Jadi, aku naik...

dan...

MANUSIAWI
AGENDA BARU TEKNOLOGI

Intinya katakan,
"Terima kasih sudah datang."

Jadi, hari ini, aku ingin membahas
agenda baru untuk teknologi.

Alasan kami ingin melakukannya
adalah karena jika kita tanyai orang,

"Apa yang salah di industri teknologi
saat ini?"

Ada banyak keluhan, skandal,

pencurian data, kecanduan teknologi,

berita palsu, polarisasi,

dan beberapa pemilu yang diretas.

Namun, adakah sesuatu
di balik semua masalah ini

yang menyebabkan semua ini
terjadi sekaligus?

- Itu sudah bagus?
- Bagus sekali. Ya.

Aku hanya mencoba...
Aku mau orang melihat...

ada masalah yang terjadi
di industri teknologi.

Itu tak bernama
dan itu terkait dengan satu sumber...

Saat kita melihat sekeliling,

rasanya dunia menjadi gila.

Kita harus menanyai diri, apa ini normal?

Atau kita semua terpengaruh
semacam mantra?

MANTAN PAKAR ETIKA DESAIN GOOGLE

PENDIRI BERSAMA
CENTER FOR HUMANE TECHNOLOGY

Kuharap lebih banyak orang bisa memahami
cara kerjanya

karena ini seharusnya bukan hal
yang hanya diketahui industri teknologi.

Itu hal yang seharusnya semua orang tahu.

- Halo!
- Hai.

- Tristan. Senang bertemu kau.
- Tristan?

- Ya.
- Bagus.

Tristan Harris adalah
mantan pakar etika desain Google

dan dijuluki sebagai hal paling mirip
dengan nurani bagi Silicon Valley.

Dia meminta industri teknologi membawa

hal yang dia sebut "desain etis"
pada produknya.

Jarang ada orang dalam teknologi
yang sejujur itu,

tapi Tristan Harris percaya
seseorang harus melakukannya.

Dulu di Google,

aku ada di tim Gmail dan mulai kelelahan

karena kami begitu sering membahas...

harus seperti apa bentuk kotak masuk
dan warnanya.

Aku merasa kecanduan surel

dan kuanggap itu menarik

bahwa tak ada orang di Gmail yang mencoba
membuatnya tak begitu adiktif.

Kupikir,
"Apa ada lagi yang memikirkan ini?

Belum kudengar ada yang membahas ini."

Aku merasa frustrasi
dengan industri teknologi secara umum

karena kita seolah-olah tersesat.

Aku berjuang untuk mencari tahu

cara kami bisa mengubahnya dari dalam.

Saat itulah kuputuskan membuat presentasi,
semacam ajakan untuk bergerak.

Setiap hari, aku pulang dan mengerjakannya
selama beberapa jam setiap malam.

Pada dasarnya tertulis,
belum pernah ada 50 desainer,

dari pria kulit putih berusia 20-35 tahun
di California,

membuat keputusan yang akan berdampak
pada dua miliar orang.

Dua miliar orang akan mendapat ide
yang tak mereka niatkan

karena desainer di Google berkata,
"Ini cara notifikasi bekerja

di layar yang kau lihat saat bangun pagi."

Kami punya tanggung jawab moral
sebagai Google untuk pecahkan masalah ini.

Aku mengirim presentasi ini

ke 15 hingga 20 rekan terdekatku
di Google.

Aku sangat gugup
dan tak yakin bagaimana reaksinya.

Saat bekerja keesokan harinya,

mayoritas laptop menampilkan
presentasi itu.

PERHATIAN

Kemudian pada hari itu,
ada 400 penonton serentak,

jadi, itu terus menyebar.
Aku menerima surel dari seisi perusahaan.

Orang-orang di setiap departemen berkata,

"Aku setuju.
Kulihat ini memengaruhi anak-anakku

dan orang-orang di sekitarku.
Kita harus melakukan sesuatu."

Rasanya seperti aku meluncurkan revolusi
atau semacamnya.

Kemudian, aku tahu
Larry Page diberi tahu soal presentasi ini

dalam tiga pertemuan terpisah hari itu.

Itu menciptakan semacam momen budaya

yang harus Google anggap serius.

Lalu...

sirna.

Semua orang pada tahun 2006...

termasuk kami di Facebook,

sangat mengagumi Google
dan apa yang telah Google bangun,

yaitu sebuah layanan yang sangat berguna,

yang sejauh kami tahu,
memberi banyak kebaikan bagi dunia.

Mereka pun membangun
mesin penghasil uang paralel.

Kami sangat iri dengan itu.
Bagi kami, itu tampak sangat elegan

dan sempurna.

Facebook sudah ada selama dua tahun

dan aku direkrut untuk mencari tahu

model bisnis untuk perusahaan.

Aku Direktur Monetisasi. Intinya adalah,

"Kau yang akan mencari tahu
cara hal ini menghasilkan uang."

Ada banyak orang
yang melakukan banyak pekerjaan,

tapi aku jelas salah satu orang
yang menunjukkan...

kami harus menghasilkan uang...

dan kurasa model pengiklanan ini
mungkin cara yang paling elegan.

Video apa yang baru Ibu kirim?

Itu dari gelar wicara, tapi cukup bagus.
Pria itu genius.

Dia membahas penghapusan media sosial,
yang harus kau lakukan.

Aku mungkin harus mulai
memblokir surelnya.

Sungguh, aku tak paham ucapannya.
Dia lebih buruk dariku.

- Dia hanya memakainya untuk resep.
- Juga bekerja.

- Serta video olahraga.
- Juga tahu kabar kita.

Serta kabar semua orang yang pernah
dia temui di hidupnya.

Jika Anda memeriksa
umpan berita media sosial

sambil menonton kami,
Anda harus taruh ponselnya dan dengarkan

karena tamu kita berikutnya telah menulis
buku yang luar biasa

soal betapa itu menghancurkan hidup kita.

Tolong sambut penulis

Ten Arguments For Deleting
Your Social Media Accounts Right Now,

Jaron Lanier.

Itu benar.

Perusahaan seperti Google dan Facebook
adalah yang terkaya

dan tersukses sepanjang masa.

Mereka punya pegawai yang relatif sedikit.

Mereka punya komputer raksasa
yang mudah menghasilkan uang, bukan?

Untuk apa mereka dibayar?
Itu pertanyaan yang sangat penting.

Aku sudah menjadi investor
di bidang teknologi selama 35 tahun.

Pada 50 tahun pertama Silicon Valley,
industri ini membuat produk,

perangkat keras dan lunak,
dijual ke pelanggan.

Itu bisnis yang sederhana.

Selama sepuluh tahun terakhir,
perusahaan terbesar di Silicon Valley

berbisnis dengan menjual penggunanya.

Bahkan kini agak basi untuk mengatakannya,

tapi karena kita tak membayar produk
yang kita gunakan,

pengiklan membayar
produk yang kita gunakan.

Pengiklan adalah pelanggannya.

Kitalah yang dijual.

Pepatah klasiknya adalah,

"Jika kau tak membayar produknya,
berarti kaulah produknya."

KAULAH PRODUKNYA

Banyak orang berpikir,
"Google hanyalah kotak pencarian

dan Facebook hanya tempat
untuk melihat kabar teman-temanku

dan melihat foto mereka."

Namun, mereka tak sadar
mereka bersaing memikat perhatianmu.

Jadi, Facebook, Snapchat, Twitter,
Instagram, YouTube,

model bisnis perusahaan seperti ini
adalah membuat orang terpaku di layar.

Mari kita cari tahu
cara mendapatkan perhatian orang ini

sebanyak mungkin.

Kami bisa membuatmu
habiskan waktu selama apa?

Kami bisa membuatmu memberi hidupmu
sebanyak apa kepada kami?

Saat memikirkan
cara kerja beberapa perusahaan ini,

itu mulai menjadi masuk akal.

Ada banyak layanan di internet
yang kita anggap gratis.

Namun, itu tak gratis.
Semua itu dibayar oleh pengiklan.

Kenapa pengiklan membayar perusahaan itu?

Mereka membayar
untuk menampilkan iklan kepada kita.

Kitalah produknya.

Perhatian kita adalah produk
yang dijual ke pengiklan.

Itu agak terlalu sederhana.

Perubahan perlahan, kecil,
dan tak terlihat

dalam perilaku dan persepsi kita,
itulah produknya.

PERUBAHAN PERILAKU DAN PERSEPSI

Itulah produknya.
Hanya itu produk yang mungkin.

Tak ada kemungkinan lain
yang bisa disebut produk.

Hanya itu sumber uang mereka.

Mengubah perilaku,

cara berpikir, dan jati diri kita.

Perubahannya perlahan dan kecil.

Jika bisa datangi seseorang dan berkata,
"Beri aku sepuluh juta dolar

dan akan kuubah dunia
satu persen ke arah yang kau mau..."

Itu dunia! Itu bisa luar biasa
dan harganya mahal.

Baiklah.

Inilah yang selalu diimpikan semua bisnis,

untuk memiliki jaminan keberhasilan
saat iklannya dipasang.

Itulah bisnis mereka.

Mereka menjual kepastian.

Agar sukses dalam bisnis itu,

kita harus punya prediksi bagus.

Prediksi besar dimulai
dengan satu hal penting.

Kita butuh banyak data.

KITA BUTUH BANYAK DATA

Banyak orang menyebut ini
kapitalisme pengawasan.

Kapitalisme yang mengambil untung
dari jejak tak terbatas

dari semua tempat yang semua orang datangi
oleh perusahaan teknologi besar

yang model bisnisnya adalah memastikan

pengiklan bisa sesukses mungkin.

Inilah jenis lokapasar baru saat ini.

Ini lokapasar yang belum pernah ada.

Ini lokapasar yang hanya memperdagangkan
prediksi nilai saham manusia.

Seperti pasar yang memperdagangkan

prediksi nilai saham perut babi
atau minyak.

Kini kita punya pasar yang memperdagangkan

prediksi nilai saham manusia
dalam skala besar

dan pasar itu telah menghasilkan
triliunan dolar

yang menjadikan perusahaan internet
sebagai perusahaan terkaya

dalam sejarah kemanusiaan.

Aku ingin orang tahu
semua yang mereka lakukan di internet

diawasi, dilacak, dan diukur.

Setiap tindakan yang kita lakukan dipantau
dan direkam dengan hati-hati.

Misalnya, gambar yang kita lihat
dan berapa lama kita melihatnya.

Ya, sungguh, berapa lama kau melihatnya.

NAVIYA_R
WAKTU KETERLIBATAN

RYAN_M
WAKTU KETERLIBATAN

WREN_F
WAKTU KETERLIBATAN

Mereka tahu saat orang kesepian, depresi,

dan tahu saat orang melihat
foto mantan pasanganmu.

Mereka tahu yang kau lakukan
saat larut malam. Mereka tahu semuanya.

Entah kau introver, ekstrover,

jenis neurosis yang kau punya,
atau seperti apa kepribadianmu.

Mereka punya lebih banyak informasi
soal kita

daripada yang pernah dibayangkan
dalam sejarah manusia.

Ini belum pernah terjadi.

Jadi, semua data yang kita berikan
setiap saat

dimasukkan ke sistem
yang nyaris tak diawasi manusia,

yang terus membuat
prediksi yang makin membaik

tentang apa yang akan kita lakukan
dan siapa kita.

DIREKOMENDASIKAN UNTUKMU

Banyak orang salah memahami
bahwa data kita yang dijual.

Memberi data secara gratis
bukanlah minat bisnis Facebook.

Mereka apakan data itu?

Mereka membuat model
yang memprediksi tindakan kita.

Siapa pun yang punya model terbaik
akan menang.

Kecepatan gulungnya melambat.

Mendekati akhir rata-rata durasi sesinya,
mengurangi iklan.

Tampilkan teman dan keluarga.

Di sisi lain layar,

mereka seperti punya model boneka voodoo
yang menyerupai kita.

Semua yang pernah kita lakukan,

semua klik yang kita buat,

semua video yang kita tonton,
semua tombol suka.

Semua itu diolah untuk membangun
model yang lebih akurat.

Setelah modelnya ada,

kita bisa memprediksi
hal-hal yang dilakukan orang.

Baiklah, coba aku tes.

Ke mana kau akan pergi, bisa kuprediksi

video apa yang akan terus kau tonton.

Aku bisa memprediksi emosi macam apa
yang memicumu.

Ya, sempurna.

Kegagalan terhebat tahun ini.

KEGAGALAN HEBAT!

- Sempurna, itu berhasil.
- Disusul video lain.

Bagus. Mari selipkan iklan sepatu
sebelum videonya diputar.

Ada tiga tujuan utama
di banyak perusahaan teknologi ini.

Ada tujuan keterlibatan untuk menaikkan
penggunaanmu, agar terus gulirkan layar.

Ada tujuan pertumbuhan

untuk membuatmu kembali,
mengundang banyak teman,

dan agar mereka mengundang
lebih banyak teman.

Lalu ada tujuan iklan untuk memastikan
bahwa seiring semua itu terjadi,

kami menghasilkan
uang sebanyak mungkin dari iklan.

Masing-masing tujuan ini ditenagai
oleh algoritme

yang bertugas mencari tahu
apa yang harus ditunjukkan

agar jumlahnya terus naik.

Di Facebook, kami sering membahas ide

untuk bisa mengaturnya sesuai kebutuhan.

Kami membahas
soal meminta Mark mengaturnya.

"Hei, aku ingin lebih banyak pengguna
di Korea hari ini."

Putar pengaturnya.

"Mari tambah iklannya sedikit."

"Tambah monetisasinya sedikit."

Jadi, itu...

Di semua perusahaan ini,
ada tingkat presisi sebesar itu.

- Bung...
- Entah kenapa aku tak diberi kartu.

- Wasit itu payah.
- Kau benar-benar...

- Itu Rebecca. Bicaralah.
- Aku tahu siapa dia.

- Kau saja yang bicara.
- Sedang kuusahakan.

Menurut kalendernya, dia sedang istirahat.
Seharusnya kita sudah mulai.

Mau kudorong dia?

Lakukanlah.

"Temanmu, Tyler, baru bergabung.
Beri lambaian."

Ayolah.

Kirimkan lambaian tangan.

Kau bahkan tidak...
Hei, bicaralah dengannya.

TEMANMU, TYLER, BARU BERGABUNG!
BERI LAMBAIAN!

KONEKSI JARINGAN

Koneksi baru! Baiklah, kita masuk.

Lanjutkan dengan pos
dari pengguna 079044238820, Rebecca.

Ide bagus. Koordinat GPS menunjukkan
jarak mereka berdekatan.

REBECCA_G
KUTEMUKAN BELAHAN JIWAKU!

Dia siap untuk iklan.

Waktu lelang.

PRATINJAU IKLAN

Terjual! Untuk lilin rambut Deep Fade.

Ada 468 penawar yang berminat.

Kita menjual Ben seharga 3,262 sen
untuk satu impresi.

Kita telah menciptakan dunia
tempat koneksi daring menjadi hal utama,

khususnya bagi generasi muda.

Namun, di dunia itu,
setiap dua orang terhubung,

itu hanya bisa didanai
oleh orang ketiga yang licik

yang membayar
untuk memanipulasi dua orang itu.

Jadi, kita menciptakan
seluruh generasi global

yang dibesarkan dalam konteks
bahwa makna sebenarnya dari komunikasi

dan budaya adalah manipulasi.

Kita telah menempatkan penipuan
dan kelicikan

di tengah-tengah dari semua usaha kita.

"SEMUA TEKNOLOGI YANG CANGGIH

TIDAKLAH BERBEDA DARI SULAP."
ARTHUR C. CLARKE

- Pegang sisi lainnya...
- Baik.

- Di mana tempat menaruh yang baik?
- Itu bagus.

- Di sini?
- Ya.

Seperti apa ini tampil di kamera
jika kulakukan...

- Sebenarnya, kami...
- Seperti itu?

- Apa?
- Ya.

- Bisa lakukan lagi?
- Baik.

Ya. Itu mungkin tidak...

Ya.

Yang satu ini kurang...

Chris benar-benar kebingungan di sini.

Apa itu bagus?

SULAP!

Usiaku lima tahun saat belajar sulap.

Aku bisa membodohi para orang dewasa
yang bergelar doktor.

Pesulap itu hampir seperti ahli saraf
dan psikolog pertama.

Mereka yang pertama memahami
cara kerja pikiran orang.

Mereka secara langsung menguji banyak hal
pada orang-orang.

Seorang pesulap memahami sesuatu,

sebagian dari pikiranmu
yang tak kita sadari.

Itulah yang membuat ilusi berhasil.

Dokter, pengacara,

orang yang tahu cara membuat Boeing 747
atau misil nuklir,

mereka tak lebih tahu
soal betapa rentannya pikiran mereka.

Itu bidang ilmu yang berbeda.

Itulah bidang ilmu yang berlaku
untuk semua manusia.

UNIVERSITAS STANFORD

Dari sudut pandang itu, kita bisa memiliki
pemahaman sangat berbeda

soal hal yang teknologi lakukan.

Saat belajar
di Lab Teknologi Persuasif Stanford,

inilah yang kami pelajari.

Bagaimana memanfaatkan
semua yang kita tahu

tentang psikologi dari cara membujuk orang

dan menjadikannya teknologi?

Banyak dari kalian yang hadir
yang sudah genius.

Kurasa itu benar,
tapi tujuanku adalah menjadikan kalian

genius dalam perubahan perilaku.

Ada banyak tokoh ternama di Silicon Valley
yang mengikuti kelas itu,

tokoh kunci pertumbuhan di Facebook, Uber,
juga perusahaan lain,

dan belajar membuat teknologi
lebih persuasif,

Tristan salah satunya.

Teknologi persuasif itu semacam desain

yang sengaja diterapkan secara ekstrem,

agar kami bisa mengubah
perilaku seseorang.

Kami ingin mereka melakukan sesuatu

dan terus melakukan ini
dengan jari mereka.

Jika tarik layar dan segarkan,
akan muncul hal baru di atas.

Tarik dan segarkan lagi, hal baru.
Setiap kali.

Dalam psikologi,
itu disebut penguat intermiten positif.

Kita tak tahu kapan
atau apakah kita akan mendapatkannya.

Itu bekerja seperti mesin slot di Vegas.

Bukan hanya memakai
produknya secara sadar,

tapi aku mau masuk jauh ke batang otak

dan menanamkan kebiasaan secara tak sadar
di dalam dirimu

agar kau diprogram secara lebih mendalam.

Kau bahkan tak sadar.

Pria bernama James Marshall...

Setiap itu tampak di atas meja,

kau melihatnya
dan tahu jika kau mengambilnya,

mungkin ada sesuatu untukmu.

Jadi, kau memainkannya
untuk melihat kau dapat apa.

Itu bukan kebetulan, tapi teknik desain.

Dia membawa bungkal emas
ke perwira AD di San Francisco.

Ingatlah, populasi San Francisco hanya...

Contoh lainnya adalah penandaan foto.

Jadi, jika menerima surel yang menyebutkan
temanmu baru saja menandaimu di foto,

tentu kau akan membuka surel itu
dan melihat fotonya.

Itu bukan hal yang bisa kau abaikan
begitu saja.

Ini adalah kepribadian mendalam manusia
yang mereka manfaatkan.

Yang harus kau tanyakan adalah,

"Kenapa surel itu tak berisi fotonya?

Maka akan lebih mudah melihat fotonya."

Saat Facebook menemukan fitur itu,
mereka memaksimalkannya

karena itu dianggap bagus
untuk menumbuhkan aktivitas.

Mari buat orang saling menandai foto
sepanjang hari."

SETIDAKNYA SALAH SATU DARI KITA
TAMPAK BAGUS

Dia berkomentar.

Bagus.

Rebecca menerimanya dan dia merespons.

Beri tahu Ben Rebecca mengetik
agar kita tak kehilangan dia.

Mengaktifkan elipsis.

SETIDAKNYA SALAH SATU DARI KITA
TAMPAK BAGUS

Bagus, dia menjawab.

Dia mengomentari komentarnya
soal komentarnya di posnya.

Tunggu, dia berhenti mengetik.

Beri isi otomatis.

Emoji. Dia suka emoji.

ISI OTOMATIS
KETERLIBATAN

Dia memilih api.

Tadi kuharap terung.

Ada disiplin dan bidang ilmu
yang disebut "peretasan pertumbuhan".

Tim teknisi yang bertugas
meretas psikologi orang

agar dapat pertumbuhan lebih.

Mendapat pendaftaran pengguna
dan keterlibatan lebih,

juga membuat kita mengajak orang lagi.

Setelah semua tes, iterasi,
dan semua ini,

tahu hal terbesar yang kami sadari?

Buat orang ajak tujuh teman
dalam sepuluh hari.

Itu saja.

Dulu Chamath adalah
kepala pertumbuhan Facebook

dan dia sangat terkenal
di industri teknologi

karena memelopori
banyak taktik pertumbuhan

yang digunakan untuk menumbuhkan Facebook
dengan sangat cepat.

Taktik pertumbuhan itu lalu menjadi
standar untuk Silicon Valley.

Itu digunakan di Uber
dan beberapa perusahaan lain.

Salah satu yang dia pelopori adalah
penggunaan uji A/B ilmiah

dari perubahan fitur kecil.

Perusahaan seperti Google dan Facebook

akan mengeluarkan
banyak eksperimen kecil

yang terus mereka lakukan pada pengguna.

Seiring waktu,
dengan terus menjalankan eksperimen ini,

mereka mengembangkan cara paling maksimal

untuk membuat pengguna
melakukan yang mereka mau.

Itu manipulasi.

Kau membuatku merasa
seperti kelinci percobaan.

Kau memang kelinci percobaan.
Kita semua begitu.

Namun, bukan kelinci percobaan
untuk mengembangkan obat kanker.

Mereka bukan mencoba memperalat kita.

Kita hanya zombi dan mereka ingin
kita melihat lebih banyak iklan

agar mereka dapat lebih banyak uang.

Facebook melakukan hal yang mereka sebut
"eksperimen penularan skala besar".

Baiklah.

Bagaimana gunakan petunjuk bawah sadar
di halaman Facebook

agar lebih banyak orang memilih
di pemilu paruh waktu?

Mereka mendapati
mereka mampu melakukan itu.

Satu hal yang mereka simpulkan
adalah kini kita tahu

kita bisa memengaruhi perilaku
dan emosi dunia nyata

tanpa memicu kesadaran pengguna.

Mereka sama sekali tak tahu.

Kita mengarahkan
mesin inteligensi artifisial ini

pada diri kita

untuk merekayasa balik
pemicu respons kita.

Hampir seperti menstimulasi
sel saraf laba-laba

untuk melihat pemicu respons kakinya.

Ini sungguh semacam eksperimen penjara

tempat kita memaksa orang memasuki matriks

lalu kita mengambil semua uang dan data
dari semua aktivitas mereka

sebagai keuntungan.

Kita bahkan tak tahu itu sedang terjadi.

Kami ingin secara psikologis tahu
cara memanipulasimu secepat mungkin

lalu membalasnya dengan stimulasi dopamin.

Kami melakukannya dengan sangat baik
di Facebook.

Instagram dan WhatsApp melakukannya.

Snapchat dan Twitter melakukannya.

Maksudku, itu persis ide

yang akan dicetuskan
oleh peretas sepertiku

karena kita mengeksploitasi kelemahan
dalam psikologi manusia.

Kupikir kami, para penemu dan pencipta...

Aku, Mark dan...

Kevin Systrom di Instagram,
semua orang ini...

memahami ini secara sadar
dan kami tetap melakukannya.

Tak ada yang marah saat sepeda ditemukan.

Benar, bukan?
Jika semua orang mulai mengendarai sepeda,

tak ada yang bilang,
"Astaga, kita baru merusak masyarakat.

Sepeda memengaruhi orang,

menjauhkan mereka dari anak-anak mereka,

merusak struktur demokrasi,
orang tak tahu mana yang benar."

Kita tak pernah berkata begitu
soal sepeda.

Jika sesuatu adalah alat,
ia hanya duduk diam di sana,

menunggu dengan sabar.

Jika sesuatu bukan alat,
ia menuntut sesuatu darimu,

merayu, memanipulasi,
dan menginginkan sesuatu darimu.

Kita beralih dari memiliki
lingkungan teknologi berbasis alat

ke lingkungan teknologi berbasis kecanduan
dan manipulasi.

Itu yang berubah.

Media sosial bukan alat
yang menunggu untuk digunakan.

Ia punya tujuan dan cara sendiri
untuk memperolehnya

menggunakan psikologimu melawan dirimu.

"HANYA ADA DUA INDUSTRI YANG MENYEBUT
PELANGGAN MEREKA 'PENGGUNA',

NARKOBA DAN PERANTI LUNAK."
EDWARD TUFTE

Beberapa tahun lalu,
aku adalah Presiden Pinterest.

Aku pulang dan tak bisa menjauhi ponselku
begitu tiba di rumah,

meski aku punya dua anak kecil
yang butuh cinta dan perhatianku.

Aku ada di dapur, mengetik surel

atau kadang melihat Pinterest.

Kupikir, "Ini sungguh ironis.

Aku akan bekerja di siang hari

dan membangun sesuatu
yang kemudian memanipulasiku."

Aku tak bisa... Maksudku, terkadang,
aku tak bisa menahan diri.

Yang cenderung paling kugunakan
adalah Twitter.

Tadinya Reddit.

Aku bahkan harus membuat perangkat lunak
untuk hapus kecanduanku membaca Reddit.

Aku mungkin kecanduan surel.

Sungguh. Aku merasakannya.

Rasanya menarik

meski aku tahu
apa yang terjadi di balik layar,

aku masih tak bisa mengendalikan
penggunaanku.

Jadi, itu agak menakutkan.

Meski tahu cara kerjanya,
aku masih rentan terhadapnya.

Aku masih akan mengangkat ponsel
dan 20 menit akan berlalu.

Apa kau memeriksa ponsel cerdasmu
sebelum kencing saat pagi

atau sambil kencing saat pagi?

Karena hanya ada dua opsi itu.

Aku berusaha dengan tekad kuat,

"Akan kutaruh dan kutinggalkan ponselku
di mobil saat pulang."

Kurasa aku berkata pada diriku seribu kali
pada seribu hari berbeda,

"Aku takkan membawa ponselku
ke kamar tidur,"

lalu saat pukul 21.00 tiba.

"Aku mau membawa ponselku ke kamar tidur."

Jadi, itu semacam...

Kekuatan tekad adalah usaha pertama,

lalu usaha kedua adalah pemaksaan.

Perkenalkan, ini Kitchen Safe,

Kitchen Safe adalah
wadah berpengunci waktu revolusioner baru

yang membantu Anda melawan godaan.

David hanya perlu memasukkan godaan itu
ke Kitchen Safe.

Selanjutnya, dia memutar tombol
untuk mengatur waktunya

dan akhirnya, dia menekan tombol
untuk mengaktifkan kuncinya.

Kitchen Safe ini bagus...

Kita punya itu, bukan?

...gim video, kartu kredit, dan ponsel.

Ya, benar.

Begitu Kitchen Safe terkunci,

ini tak bisa dibuka
sampai waktunya mencapai nol.

Jadi, ini masalahnya.
Media sosial adalah narkoba.

Maksudku,
kita punya perintah biologis dasar

untuk terhubung dengan orang lain.

Itu secara langsung memengaruhi

pelepasan dopamin
dalam "jalur kenikmatan".

Jutaan tahun evolusi berada
di balik sistem itu

untuk membuat kita berkumpul
dan hidup di komunitas,

mencari pasangan,
dan menyebarkan spesies kita.

Jadi, tak diragukan lagi medium
seperti media sosial

yang mengoptimalkan
hubungan antarorang ini

akan memiliki potensi kecanduan.

Ayah, hentikan!

Aku harus mengirim seribu Snip lagi
sebelum makan malam.

Snip?

Aku tak tahu apa itu Snip.

- Aromanya enak, Sayang.
- Terima kasih.

Kupikir kita butuh kelima indra
untuk menikmati makan malam kita.

Jadi, kuputuskan tak boleh ada ponsel
di meja malam ini.

Jadi, serahkan kepadaku.

- Sungguh?
- Ya.

- Baiklah.
- Terima kasih. Ben?

- Baik.
- Ibu, si perompak ponsel.

- Dapat.
- Ibu!

Jadi, mereka akan aman di sini
sampai makan malam usai...

dan semua bisa bersantai. Paham?

- Boleh kulihat dari siapa itu?
- Tidak.

Aku akan mengambil garpu lagi.

Terima kasih.

Sayang, kau tak bisa membukanya.

Aku menguncinya satu jam,
jadi, biarkan saja.

Jadi, apa yang harus kita bahas?

Kita bisa membahas

orang gila Extreme Center
yang kuantar hari ini.

Tolong, Frank.

- Aku tak mau membahas politik.
- Ada apa dengan Extreme Center?

- Dia bahkan tak paham.
- Tergantung menanyai siapa.

Bagai bertanya, "Apa salahnya propaganda?"

Isla!

Astaga.

- Kau mau aku...
- Ya.

Aku mencemaskan anak-anakku.

Jika kau punya anak,
aku mencemaskan anak-anakmu.

Dengan semua pengetahuan
dan pengalaman yang kupunya,

aku mendebat anak-anakku soal waktu

yang mereka habiskan pada ponsel
dan komputer.

Kuberi tahu putraku,

"Berapa jam yang kau habiskan
pada ponselmu?"

Dia akan bilang, "Maksimal setengah jam."

Kurasa lebih dari 60-90 menit.

Kulihat statistiknya beberapa minggu lalu

- dan itu tiga jam, 45 menit.
- Itu...

Kurasa itu tidak... Rata-rata per hari?

- Ya.
- Mau kuambil sekarang?

Setiap hari, aku mengingatkan anak-anakku

tentang keseimbangan rasa suka dan duka,

kondisi kekurangan dopamin,
dan risiko kecanduan.

Momen penentuan.

Dua jam, 50 menit per hari.

- Coba lihat.
- Kugunakan lama hari ini.

- Tujuh hari ini.
- Itu sebabnya.

Instagram, enam jam, 13 menit.
Jadi, Instagram-ku lebih buruk.

Layarku hancur. Terima kasih, Cass.

Apa maksudmu, "Terima kasih, Cass"?

Kau terus membuat Ibu takut
soal ponsel kita padahal bukan masalah.

Tak butuh ponsel untuk makan malam.

Aku paham maksudmu,
tapi ini bukan masalah besar.

Jika begitu,
coba jangan gunakan selama seminggu.

Ya.

Ya, jika kau bisa menjauhinya
selama seminggu...

akan kubelikan kau layar baru.

- Mulai sekarang?
- Benar.

Baiklah. Setuju.

Namun, kau harus tinggalkan itu di sini,
Kawan.

Baiklah, aku akan mengecasnya.

Mulai saat ini, aku akan menjauh.

Baiklah.

- Waktumu dimulai.
- Satu minggu.

Astaga...

Kau pikir dia bisa?

Entahlah, kita lihat saja.

Makanlah saja, ya?

Makan malam keluarga yang bagus!

Produk teknologi ini tak dirancang

oleh psikolog anak yang berusaha
melindungi dan mengasuh anak.

Namun, hanya didesain
untuk membuat algoritme

yang mahir merekomendasikan
video berikutnya untuk kita

atau membuat kita bisa berfoto
dengan efek.

DUA SUKA

YAKIN INGIN MENGHAPUS?
TIDAK

YA

Itu bukan hanya mengendalikan
tujuan perhatian mereka.

Media sosial mulai terus menggali
lebih dalam ke batang otak,

mengambil alih harga diri
dan identitas anak.

PERCANTIK AKU

LILY_T
MANIS!

SOPHIA_M
ASTAGA, CANTIK SEKALI

OLIVIA_B
KAU MENGAGUMKAN

AVA_R
BISA PERBESAR TELINGAMU?

Kita berevolusi untuk peduli
apakah orang lain di suku kita

memandang kita baik atau tidak
karena itu penting.

Namun, apa kita berevolusi untuk menyadari
pendapat 10.000 orang tentang kita?

Kita tak berevolusi

untuk menerima persetujuan sosial
setiap lima menit.

Kita sama sekali tak dirancang
untuk mengalami itu.

Kita menyesuaikan hidup kita
mengikuti pandangan kesempurnaan ini

karena kita mendapat imbalan
dalam sinyal jangka pendek ini,

ikon hati, suka, dan jempol.

Lalu kita menyatukannya dengan nilai
dan kebenaran.

Alih-alih sebagai hal yang sebenarnya,
yaitu popularitas palsu dan rapuh...

yang hanya sesaat, membuat kita kecanduan,
dan akuilah,

membuat kita hampa sebelum melakukannya.

Karena itu memaksa kita
memasuki lingkaran ganas

yang membuat kita bilang,
"Aku harus apa berikutnya?

Karena aku butuh itu."

Bayangkan itu dilakukan
oleh dua miliar orang lainnya

lalu bayangkan reaksi orang
terhadap persepsi orang lain.

Itu sangat buruk.

Itu benar-benar buruk.

Ada peningkatan besar dalam depresi
dan kecemasan

bagi remaja Amerika

yang dimulai antara tahun 2011 dan 2013.

Jumlah gadis remaja
dari 100.000 gadis di negara ini

yang dirawat di rumah sakit setiap tahun
karena menyayat atau melukai diri sendiri,

angka itu cukup stabil
sampai sekitar tahun 2010-2011,

lalu mulai naik pesat.

Naik 62 persen
untuk gadis remaja lebih tua.

RAWAT INAP UNTUK LUKA DIRI NONFATAL

Naik 189 persen untuk gadis praremaja.
Itu hampir tiga kali lipat.

Lebih mengerikan lagi,
bunuh diri alami tren yang sama.

TINGKAT BUNUH DIRI AS
PER SEJUTA GADIS

Gadis remaja lebih tua,
usia 15 sampai 19 tahun,

mereka naik 70% dibandingkan
dekade pertama abad ini.

Para gadis praremaja,
yang punya tingkat awal sangat rendah,

mereka naik 151 persen.

Lalu pola itu mengarah ke media sosial.

MEDIA SOSIAL TERSEDIA DI PONSEL

Generasi Z,
anak-anak yang lahir usai tahun 1996,

mereka adalah generasi pertama
dalam sejarah

yang terjun ke media sosial
di sekolah menengah.

Bagaimana mereka menghabiskan waktu?

Mereka pulang dari sekolah
dan memakai gawai mereka.

Seluruh generasi ini lebih cemas, rapuh,
dan tertekan.

Mereka kurang nyaman mengambil risiko.

Tingkat permohonan SIM mereka menurun.

Jumlah orang yang pernah berkencan

atau memiliki hubungan romantis
menurun drastis.

Ini perubahan nyata dalam satu generasi.

Ingatlah, untuk semua kasus ini,
setiap perawatan di rumah sakit,

ada keluarga yang merasa trauma dan ngeri.

"Astaga, apa yang terjadi
kepada anak-anak kita?"

Ini sangat jelas bagiku.

Layanan ini membunuh orang
dan menyebabkan orang bunuh diri.

Aku tak mengenal orang tua yang bilang,
"Ya, aku ingin anak-anakku tumbuh dewasa

dengan merasa dimanipulasi

oleh desainer teknologi.

Memanipulasi perhatian
dan menjadikan PR mustahil dikerjakan,

membuat mereka mengikuti
standar kecantikan tak realistis."

Tak ada yang mau itu.

Tak ada yang mau.

Dulu kita punya perlindungan.

Saat anak-anak menonton kartun Sabtu pagi,
kita peduli soal melindungi anak-anak.

Kita bilang, "Kau tak bisa beriklan
kepada anak usia ini dengan cara ini."

Namun, muncul YouTube Kids

yang menghapus
seluruh jual-beli perhatian ini

dan kini semua anak terpapar YouTube Kids.

Semua perlindungan
dan peraturan itu hilang.

WAKTU TANPA PONSEL

Kita melatih dan mengondisikan
satu generasi orang baru...

agar ketika kita tak nyaman, kesepian,
merasa tak pasti, atau takut,

kita punya penenang digital sendiri

yang menghentikan kemampuan kita
untuk menghadapinya.

Photoshop tak punya ribuan teknisi
di sisi lain layar

yang menggunakan notifikasi,
teman-teman kita,

dan IA untuk memprediksi
apa yang akan membuat kita kecanduan,

memanipulasi kita,
atau mengizinkan pengiklan

menguji 60.000 variasi teks atau warna

untuk tahu cara memanipulasi pikiran kita
dengan sempurna.

Ini jenis kekuasaan dan pengaruh baru.

Sekali lagi kukatakan,
metode yang digunakan

untuk mempermainkan kemampuan orang
untuk kecanduan atau dipengaruhi

mungkin berbeda kali ini
dan mungkin memang begitu.

Mereka berbeda saat koran muncul
dan mesin cetak muncul.

Mereka berbeda saat televisi muncul

lalu muncul tiga jaringan besar dan...

- Saat itu.
- Saat itu, itu maksudku.

Namun, maksudku, ada sebuah tingkat baru

dan tingkat baru itu sudah sering terjadi.

Ini tingkat baru terkini yang kita lihat.

Ada narasi yang berkata,
"Kita beradaptasi saja atas itu.

Kita akan belajar hidup
dengan perangkat ini

seperti belajar hidup dengan yang lain."

Yang luput di sini adalah
ada hal baru di sini.

Mungkin hal paling berbahaya
dari semua ini adalah fakta

bahwa itu didorong oleh teknologi
yang maju dengan sangat pesat.

Kurang lebih,
dari tahun 1960-an hingga saat ini,

kekuatan memproses meningkat
sekitar satu triliun kali.

Tak ada hal yang kita punya
yang laju kenaikannya mendekati itu.

Misalnya, mobil kira-kira hanya naik
dua kali lebih cepat.

Lalu hampir semua yang lainnya
bisa diabaikan.

Mungkin yang terpenting,

sifat manusia, fisiologi, dan otak kita
tak berevolusi sama sekali.

WAKTU TANPA PONSEL

Level pikiran, raga, dan fisik manusia

takkan berubah secara mendasar.

Kita bisa melakukan

rekayasa genetika dan mengembangkan
manusia baru di masa depan,

tapi secara realistis,
kita hidup di dalam perangkat keras, otak,

yang berusia jutaan tahun,

lalu ada sebuah layar dan di baliknya,

ada ribuan teknisi dan komputer super

yang punya tujuan berbeda
dari tujuan kita.

Jadi, siapa yang akan menang
dalam hal itu?

Bagaimana kita bisa kalah?

- Entahlah.
- Di mana dia? Ini tidak normal.

Apa aku mencecarnya
dengan konten teman dan keluarga?

- Mungkin.
- Mungkin karena iklannya.

Tidak. Ada yang salah.
Mari beralih ke mode kebangkitan.

Saat memikirkan IA,
kita pikir itu akan merusak dunia.

Anda membayangkan Terminator,
Arnold Schwarzenegger.

Aku akan kembali.

Kita membayangkan pesawat nirawak
dan berpikir, "IA akan membunuh orang."

Yang orang lupa adalah
IA sudah mengendalikan dunia saat ini.

Bahkan membicarakan "IA"
hanyalah sebuah metafora.

Di perusahaan seperti Google,
ada banyak ruangan yang sangat besar.

Sebagian ada di bawah tanah,
sebagian lagi ada di bawah air,

yang hanya berisi komputer.

Begitu banyak komputer
sejauh mata memandang.

Mereka sangat saling terhubung

dan menjalankan program yang sangat rumit,

saling mengirim informasi bolak-balik
sepanjang waktu.

Mereka menjalankan beragam program

dan produk pada mesin yang sama.

Sebagiannya adalah algoritme sederhana

dan sebagian lagi algoritme

yang sangat rumit
hingga disebut kecerdasan.

Menurutku, algoritme adalah opini
yang disematkan dalam kode...

dan algoritme itu tidak objektif.

Algoritme dioptimalkan
ke sebuah definisi kesuksesan.

Jadi, bisa dibayangkan

jika perusahaan komersial membuat
sebuah algoritme

untuk definisi kesuksesan bagi mereka,

itu kepentingan komersial.

Biasanya profit.

Kita memberi komputer tujuan,
"Aku ingin hasil ini,"

lalu komputer itu sendiri
belajar melakukannya.

Itulah asal istilah "pemelajaran mesin".

Jadi, setiap hari,
ia menjadi sedikit lebih baik

dalam memilih pos dalam urutan yang tepat

agar kita bisa lebih lama
menggunakan produk itu.

Tak ada yang paham apa yang mereka lakukan

untuk mencapai tujuan itu.

Algoritme itu punya pikiran sendiri,
jadi, meski seseorang menulisnya,

itu ditulis sedemikian rupa

agar setelah kita membuat mesinnya,
mesinnya akan berubah sendiri.

Hanya ada sedikit orang
di semua perusahaan ini,

Facebook, Twitter, dan perusahaan lain...

Hanya sedikit orang yang mengerti
cara kerja sistem itu

dan bahkan mereka tak sepenuhnya mengerti

apa yang akan terjadi
dengan konten tertentu.

Jadi, sebagai manusia,
kita hampir kehilangan kendali

atas sistem ini

karena mereka mengendalikan
informasi yang kita lihat.

Mereka mengendalikan kita
melebihi kita mengendalikan mereka.

Merujuk silang dia dengan yang serupa
di zona geografisnya.

Kembaran psikometrinya.

Ada 13.694 orang yang berperilaku
sepertinya di wilayahnya.

- Apa yang mereka minati?
- Kita butuh hal yang bagus

untuk kebangkitan yang layak,
mengingat hal-hal biasa tak berhasil.

Bahkan gadis manis
di sekolah itu pun tidak.

Menurut analisisku,
menampilkan konten politik Extreme Center

punya potensi keterlibatan jangka panjang
sebesar 62,3%.

Itu tidak buruk.

Namun, bukan awal yang cukup bagus.

Baiklah. Jadi, kita sudah memberitahunya
soal foto yang ditandai,

undangan, peristiwa terkini,
bahkan pesan langsung dari Rebecca.

Bagaimana dengan pengguna 01265923010?

Ya, Ben memberi ikon hati semua posnya.

Semua posnya, selama berbulan-bulan,
lalu berhenti.

Aku menghitung
kemungkinan kebangkitan 92,3 persen

dengan notifikasi soal Ana.

HUBUNGAN BARU

Serta teman barunya.

WAKTU TANPA PONSEL

MANTAN PACARMU PUNYA HUBUNGAN BARU!

Ini pasti bercanda.

Baiklah.

ANA DAN LUIZ BERHUBUNGAN

Apa?

- Kita kembali!
- Ayo menghasilkan uang lagi.

Ya, dan hubungkan mereka
dengan seluruh dunia.

Aku memberinya akses
ke semua informasi yang mungkin dia suka.

Hei, apa kalian pernah berpikir
umpan beritanya bagus untuk Ben?

- Tidak.
- Tidak.

PENGUJIAN A/B
EXTREME CENTRE

Jadi, bayangkan kita membuka Facebook...

dan kita bermain melawan
inteligensi artifisial ini

yang tahu semuanya soal kita.

Mengantisipasi langkah kita berikutnya
dan kita tak tahu apa-apa

kecuali video kucing dan ulang tahun
yang diputar.

Pertarungan itu tak adil!

Ben dan Jerry, saatnya berangkat!

Ben?

Ben.

Ayo.

Waktunya sekolah. Ayo.

- Apa kabarmu hari ini?
- Aku gugup.

- Benarkah?
- Ya.

Kita semua mewaspadai saat

ketika teknologi akan mengalahkan kekuatan
dan kecerdasan manusia.

Kapan itu akan melampaui hal itu,

merebut profesi,
dan lebih pintar dari manusia?

Namun, ada momen lebih awal...

saat teknologi melampaui
dan mengalahkan kelemahan manusia.

Batasan-batasan yang dilampaui ini
berakar pada kecanduan,

polarisasi, radikalisasi,

memicu kemarahan, keangkuhan, semuanya.

Ini mengalahkan sifat manusia

dan sekakmat bagi kemanusiaan.

Maaf.

Salah satu cara yang kucoba
untuk membuat orang paham

betapa salahnya umpan berita
dari tempat seperti Facebook

adalah dengan memikirkan Wikipedia.

TAB BARU

Saat kunjungi sebuah laman, kita melihat
hal yang sama dengan orang lain.

Itu satu dari beberapa hal di internet
yang setidaknya menjadi kesamaan kita.

Kini bayangkan sejenak Wikipedia berkata,

"Kita akan memberi tiap orang
definisi yang khusus dan berbeda

dan kita akan dibayar orang untuk itu."

Jadi, Wikipedia memata-matai kita
dan mempertimbangkan,

"Apa yang bisa kulakukan
agar orang ini berubah sedikit

demi kepentingan komersial?" Paham?

Lalu entrinya akan diubah.

Bisa bayangkan itu?

Seharusnya bisa
karena itulah yang terjadi di Facebook.

Itulah yang terjadi
di umpan berita YouTube kita.

Saat kunjungi Google
dan mengetik "perubahan iklim adalah",

kita akan melihat hasil berbeda
tergantung tempat tinggal.

PERUBAHAN IKLIM ADALAH

Di kota tertentu,
akan muncul isian kata otomatis

bertuliskan "perubahan iklim itu hoaks."

Dalam kasus lain, akan muncul

"perubahan iklim menyebabkan
kerusakan alam."

Itu bukan fungsi untuk tampikan kebenaran
soal perubahan iklim,

tapi soal tempat kita
saat mencarinya di Google

dan hal tertentu yang Google tahu
soal minat kita.

Bahkan dua teman yang sangat dekat
sekalipun,

yang punya teman yang hampir sama,

mereka berpikir,
"Akan kulihat umpan berita di Facebook.

Aku akan melihat pembaruan yang sama."
Namun, tidak seperti itu.

Mereka melihat dunia yang berbeda

karena itu berdasarkan analisis komputer
soal apa yang ideal bagi mereka.

SEDANG MENGUDARA

Bisa dibilang
itu adalah 2,7 miliar The Truman Show.

Tiap orang punya realitas sendiri
dengan fakta...

mereka sendiri.

Kenapa kau pikir
Truman tak pernah hampir mengetahui

kebenaran soal dunianya hingga kini?

Kita menerima kenyataan dunia
yang diberikan kepada kita.

Sesederhana itu.

SEDANG MENGUDARA

Seiring waktu, kita memiliki kesan palsu
bahwa semua orang setuju dengan kita

karena semua orang di umpan berita
tampak seperti kita.

Begitu kita dalam keadaan itu,
ternyata kita mudah dimanipulasi

seperti dimanipulasi oleh pesulap.

Pesulap menunjukkan trik kartu dan bilang,
"Pilih kartu apa saja."

Yang tak kita sadari
adalah mereka sudah mengaturnya

agar kita memilih kartu yang mereka mau.

Begitulah Facebook bekerja.
Ia duduk di sana dan berkata,

"Hei, kau yang memilih teman
dan tautan yang kau ikuti."

Namun, itu omong kosong. Seperti pesulap.

Facebook bertanggung jawab
atas umpan berita kita.

Kita semua hanya menggunakan
fakta yang berbeda.

Saat itu terjadi dalam skala besar,

kita tak bisa lagi menghadapi
atau menyerap informasi

yang bertentangan dengan pandangan dunia
yang kita ciptakan.

Itu berarti kita bukan lagi individu
yang objektif dan konstruktif.

Buka matamu! Jangan percaya kebohongan!

Lalu kita melihat ke sisi lain

dan mulai berpikir,
"Bagaimana mereka bisa begitu bodoh?

Lihatlah semua informasi
yang terus kulihat ini.

Kenapa mereka tak melihat info yang sama?"

Jawabannya, "Mereka memang tak melihat
info yang sama."

Buka matamu! Jangan percaya kebohongan!

Seperti apa Partai Republik?

Orang yang tak tahu apa-apa.

Partai Demokrat adalah sindikat kejahatan,
bukan partai politik sungguhan.

Studi besar baru dari Pew Research Center
terhadap 10.000 orang dewasa Amerika

mendapati kita lebih terpecah
dari sebelumnya,

dengan polarisasi pribadi dan politis
di level tertinggi pada 20 tahun terakhir.

POLARISASI POLITIS AS
MEDIAN DEMOKRAT - MEDIAN REPUBLIK

Ada lebih dari sepertiga Partai Republik
yang berkata

Partai Demokrat
adalah ancaman bagi negara

dan seperempat lebih Demokrat
berkata sama soal Partai Republik.

Begitu banyak masalah yang kita bahas,
misalnya seputar polarisasi politik,

ditampilkan secara besar-besaran
di TV kabel.

Media punya masalah yang sama

karena model bisnis mereka, pada umumnya,

adalah menjual perhatian kita
kepada pengiklan.

Internet adalah cara lebih efisien baru
untuk melakukan itu.

Di YouTube, aku mengerjakan
rekomendasi YouTube.

Aku khawatir algoritme yang kukerjakan

sebenarnya meningkatkan polarisasi
di masyarakat.

Namun, dari sudut pandang waktu menonton,

polarisasi ini sangat efisien
untuk membuat orang tetap daring.

Alasan para guru mengajarkan hal ini
hanyalah karena mereka dibayar.

- Itu konyol sekali.
- Hei, Benji.

Tak ada latihan sepak bola hari ini?

Ada. Aku hanya melihat berita
yang kulewatkan.

Risetlah sendiri.
Info apa pun dari Extreme Center...

Hal yang kau tonton itu bukan berita.

Kau selalu membahas betapa kacaunya
keadaan saat ini. Mereka juga.

Namun, itu hanya propaganda.

Tak ada yang benar.
Intinya adalah apa yang masuk akal.

Ben, aku serius. Itu buruk untukmu.

Sebainya kau berlatih sepak bola.

Aku membagi ini karena aku peduli.

Aku peduli terhadap kalian yang disesatkan
dan itu tak baik. Paham?

Orang mengira algoritme ini dirancang

untuk memberikan yang mereka inginkan,
tapi ternyata tidak.

Algoritme ini sebenarnya mencoba mencari
beberapa perangkap yang sangat kuat,

mencari perangkap mana
yang paling sesuai dengan minat kita.

Lalu jika kita mulai menonton
salah satu video itu,

itu akan merekomendasikannya
berulang kali.

Tak ada yang mau ini terjadi.

Hanya saja, inilah yang dilakukan
sistem rekomendasi.

Sampai-sampai Kyrie Irving,
pemain basket terkenal,

berkata dia percaya Bumi datar
yang meminta maaf kemudian

dan dia menyalahkan
video perangkap di YouTube.

Kau mengeklik YouTube

lalu kita masuk ke perangkap
yang sangat dalam.

Saat dia datang ke NPR untuk berkata,

"Maaf telah meyakini ini.
Aku tak mau menyesatkan orang,"

sekelompok siswa di kelas
yang diwawancarai bilang,

"Penganut Bumi bulat memengaruhinya."

Teori konspirasi Bumi datar
direkomendasikan

ratusan juta kali oleh algoritme itu.

Mudah untuk berpikir

bahwa hanya beberapa orang bodoh
yang meyakininya,

tapi algoritme ini makin cerdas
setiap harinya.

Jadi, kini mereka meyakinkan orang-orang
bahwa Bumi itu datar,

tapi besok, mereka akan meyakinkanmu
tentang hal keliru lainnya.

Pada 7 November, tagar "Pizzagate" lahir.

Pizzagate...

Astaga.

Aku masih tak yakin
bagaimana awalnya ini terjadi,

tapi ide bahwa memesan piza berarti
memesan orang yang diperdagangkan.

Saat grup itu makin besar di Facebook,

mesin rekomendasi Facebook
mulai menyarankan para pengguna biasa

untuk bergabung dengan grup Pizzagate.

Jadi, jika pengguna, misalnya,
anti-vaksin, meyakini teori jejak kimia,

atau menunjukkan kepada algoritme Facebook

bahwa mereka cenderung memercayai
teori konspirasi,

mesin rekomendasi Facebook akan menyajikan
grup Pizzagate.

Akhirnya, ini berujung pada seorang pria
yang muncul dengan pistol

dan memutuskan dia akan membebaskan
anak-anak dari basemen

dari tempat piza yang tak punya basemen.

- Kenapa kau kemari?
- Memastikan tak ada apa-apa di sana.

- Soal apa?
- Jaringan pedofilia.

- Soal apa?
- Jaringan pedofilia.

Maksudnya, Pizzagate.

Ini contoh teori konspirasi

yang disebarkan di semua jejaring sosial.

Mesin rekomendasi jejaring sosial itu
secara sukarela menyajikannya kepada orang

yang tak pernah sama sekali mencari
istilah "Pizzagate".

PIZZAGATE
WADAH DEMOKRAT DAN PEDOFIL

Ada sebuah studi MIT yang menyebutkan

berita palsu di Twitter menyebar

enam kali lebih cepat
daripada berita sebenarnya.

Seperti apa dunia itu

jika ada yang lebih unggul enam kali lipat
daripada yang lain?

Kita bisa membayangkan semua hal ini

seperti mengubah neraca perilaku manusia.

Mereka membuat sebagian perilaku
lebih sulit atau lebih mudah.

Kita selalu bebas menghadapi yang sulit,

tapi jarang ada yang mau.

Jadi, dalam skala besar di masyarakat,
kita memiringkan neraca itu,

mengubah pikiran
dan perilaku miliaran orang.

Kita menciptakan sistem yang berprasangka
terhadap informasi palsu.

Bukan karena kita mau,

tapi karena informasi palsu memberi
semua perusahaan itu lebih banyak uang

daripada kebenaran.
ebenaran itu membosankan.

Ini model bisnis yang mencari profit
dari disinformasi.

Kita menghasilkan uang
dengan membebaskan pesan tak terkontrol

diterima siapa saja dengan harga terbaik.

Karena perubahan iklim? Ya.

Itu hoaks. Ya, itu nyata. Itulah intinya.

Makin sering mereka membahasnya
dan makin kita terpecah,

kekuatan dan kendali mereka
akan makin besar.

Facebook punya triliunan pos umpan berita
seperti ini.

Mereka tak bisa tahu
apa yang nyata atau benar.

Itu sebabnya pembahasan ini
sangat penting sekarang.

Bukan hanya COVID-19 yang menyebar cepat.

Ada rangkaian informasi yang salah
tentang virus ini di internet.

Ide bahwa minum lebih banyak air
akan menghapus virus korona dari tubuh

adalah salah satu mitos soal virus ini
yang beredar di media sosial.

Pemerintah merencanakan peristiwa ini,
menciptakan virusnya,

dan melakukan simulasi
tentang reaksi berbagai negara.

Virus korona itu hoaks.

SARS, virus korona.

Lihatlah tahun pembuatannya. 2018.

Kurasa pemerintah Amerika memulai ini.

Tak ada yang sakit.

Tak ada yang kenal orang yang sakit.

Mungkin pemerintah menggunakan
virus korona sebagai alasan

agar semua orang tetap di rumah
karena ada hal lain terjadi.

Virus korona tidak membunuh orang,

tapi radiasi 5G yang mereka pancarkan.

MENARA 5G DIPOTONG DAN DIBAKAR

Kita dibombardir dengan rumor.

Orang-orang meledakkan menara seluler.

Kita melihat Rusia dan Cina menyebarkan
rumor dan teori konspirasi.

Tadi pagi,
muncul kepanikan dan protes di Ukraina...

Orang tak tahu apa yang benar
dan kini menjadi masalah hidup dan mati.

Sumber-sumber yang menyebarkan
informasi virus korona palsu

telah mengumpulkan
sekitar 52 juta keterlibatan.

Maksudmu, larutan perak akan efektif.

Anggaplah itu belum diuji
pada jenis virus korona ini...

Apa yang kita lihat dengan COVID
hanyalah versi ekstrem

dari apa yang terjadi
di seluruh ekosistem informasi kita.

Media sosial memperkuat gosip
dan desas-desus eksponensial

hingga kita tak tahu apa yang benar,

apa pun isu yang kita pedulikan.

Kau masih tergabung di tim?

Aku akan membeli camilan
sebelum latihan jika kau mau ikut.

Lupakan saja.

KAMI MEMBUTUHKANMU,
BERGABUNGLAH SEKARANG

Sembilan dari sepuluh orang
merasa tak puas saat ini.

Jika dipikir lagi, EC mirip
dengan gerakan politik dalam sejarah.

Kita melawan gangguan ini.

Kalian adalah kaumku. Aku percaya kalian.

- Konten Extreme Center itu hebat.
- Dia amat menyukainya.

Melakukan lelang.

Ada 843 penawar, dia terjual
seharga 4,35 sen ke pabrik senjata.

Ayo promosikan beberapa acara ini.

Unjuk rasa mendatang di zona geografisnya
akhir pekan ini.

Aku juga punya naravlog baru.

Sejujurnya, percayalah,
aku bersedia melakukan apa saja.

Maksudku, apa saja.

- Berlanggananlah
- Ben?

dan kembalilah lagi karena percayalah,

aku punya rencana sangat besar.

Rencana sangat besar.

Salah satu masalah dengan Facebook
adalah sebagai alat persuasi,

itu mungkin hal terhebat
yang pernah dibuat.

Sekarang, bayangkan artinya itu
di tangan diktator atau pemimpin otoriter.

Jika kita ingin mengendalikan
populasi negaramu,

tak pernah ada alat
yang seefektif Facebook.

Beberapa implikasi yang paling meresahkan

dari pemerintah dan pelaku jahat lain
yang menjadikan media sosial senjata

adalah menyebabkan bahaya di dunia nyata.

Kurasa contoh paling menonjol

yang banyak diberitakan
adalah kejadian di Myanmar.

KANTOR KEPRESIDENAN MYANMAR

Di Myanmar,
saat orang memikirkan internet,

yang terpikir adalah Facebook.

Yang sering terjadi adalah
saat orang-orang membeli ponsel,

pemilik toko ponsel
akan memasangkan Facebook

dan membuatkan mereka akun.

Jadi, saat mendapatkan ponsel,
hal pertama yang mereka buka

dan yang mereka tahu cara membukanya
hanyalah Facebook.

Penyelidikan mengejutkan baru mengungkap
makin sulitnya Facebook

mengatasi ujaran kebencian di Myanmar.

BERHENTI MEMBUNUH MUSLIM

Facebook benar-benar memberi militer
dan pelaku jahat lainnya

cara baru memanipulasi opini publik

dan membantu memicu kekerasan
terhadap Muslim Rohingya

yang termasuk pembunuhan massal,

membakar seluruh desa,

pemerkosaan massal,

dan kejahatan berat lain
terhadap kemanusiaan

yang kini membuat 700.000 Muslim Rohingya
harus meninggalkan Myanmar.

Ini bukan karena pelaku propaganda
yang gencar tak ada sebelumnya,

tapi karena semua platform ini
memungkinkan

penyebaran narasi manipulatif
dengan sangat mudah

dan tanpa membayar mahal.

Jika aku ingin memanipulasi pemilu,

aku bisa masuk ke grup teori konspirasi
di Facebook,

menemukan 100 orang
yang percaya bahwa Bumi benar-benar datar

dan menganggap pendaratan di bulan
adalah teori konspirasi,

lalu bisa kuminta Facebook memberiku
seribu pengguna yang tampak seperti itu.

Facebook akan dengan senang hati mengirim
ribuan pengguna yang mirip mereka

yang kini bisa kujejali
dengan teori konspirasi lainnya.

Terjual seharga 3,4 sen per impresi.

- Video EC baru untuk dipromosikan.
- Satu iklan lagi siap.

Algoritme dan politisi manipulatif menjadi
sangat ahli

dalam mempelajari cara memicu kita,

makin mahir menciptakan berita palsu
yang kita serap seolah-olah itu kenyataan

dan membingungkan kita
untuk meyakini kebohongan itu.

Seolah-olah kita kehilangan kendali
atas jati diri dan keyakinan kita.

...agar mereka bisa memihak.

Ada kebohongan di sini dan di sana.

Agar mereka bisa terus berkuasa
dan mengendalikan semuanya.

Mereka bisa mengendalikan pikiran kita

agar mereka bisa menyimpan rahasia mereka.

CDC MENGAKU MENUTUPI
FAKTA VAKSIN MEMICU AUTISME

Bayangkan dunia
tempat kebenaran tak dipercaya.

VAKSIN ITU BERACUN
LINDUNGI ANAK KITA

Semua orang percaya
pemerintah membohongi mereka.

Semuanya adalah teori konspirasi.

"Aku tak boleh percaya siapa pun.
Aku benci pihak lain."

Itulah arah semua ini.

Gempa bumi politik di Eropa
terus bergemuruh,

kali ini di Italia dan Spanyol.

Koalisi sentris tradisional Eropa
kehilangan mayoritas suaranya

sementara partai sayap kanan dan kiri
alami peningkatan.

Mundur.

Baiklah, ayo.

Akun-akun ini dengan sengaja
dan secara khusus berusaha

menebar pertikaian politik di Hong Kong.

Baiklah, Ben.

Bagaimana rasanya menjadi negara

yang sumber informasi utamanya
adalah Facebook dan media sosial?

Demokrasi hancur begitu cepat.

Enam bulan.

Setelah kekacauan di Chicago,

bentrokan antara pemrotes dan pendukung,

Demokrasi menghadapi krisis kepercayaan.

Yang kita lihat adalah serangan global
terhadap demokrasi.

Mayoritas negara yang menjadi target
adalah negara-negara

yang menjalankan pemilu demokratis.

Ini terjadi dalam skala besar.

Oleh pihak negara dan pemilik jutaan dolar
yang berkata,

"Aku ingin mengacaukan Kenya
atau Kamerun.

Angola? Itu hanya seharga ini."

Pemilu luar biasa berlangsung
hari Minggu lalu di Brasil.

Dengan kampanye yang didukung
media sosial.

Kami dari industri teknologi
telah menciptakan alat

untuk mengacaukan
dan mengikis struktur masyarakat,

di setiap negara sekaligus, di mana-mana.

Ini terjadi di Jerman, Spanyol, Prancis,
Brasil, Australia.

Beberapa negara maju di dunia

kini saling menghancurkan

dan apa kesamaan mereka?

Sepengetahuanmu, apa kau percaya
Facebook memengaruhi hasil pemilu 2016?

Itu sulit.

Itu...

Kenyataannya adalah
ada begitu banyak faktor.

Perwakilan dari Facebook, Twitter,
dan Google kembali ke Capitol Hill

untuk kesaksian hari kedua

soal campur tangan Rusia
dalam pemilu 2016.

Manipulasi oleh pihak ketiga
bukanlah peretasan.

Rusia tak meretas Facebook.

Yang mereka lakukan adalah
menggunakan alat yang dibuat Facebook

untuk pengiklan dan pengguna yang sah,

yang mereka terapkan untuk tujuan jahat.

Itu seperti perang
dengan kendali jarak jauh.

Satu negara bisa memanipulasi negara lain

tanpa menyerbu perbatasan fisiknya.

Kita melihat video kekerasan ini.

Tampaknya itu bak sampah yang didorong...

Namun, itu bukan soal siapa
yang ingin kita pilih,

tapi soal menabur kekacauan
dan perpecahan di masyarakat.

Ini terjadi di Huntington Beach,
sebuah demonstrasi...

Ini soal membuat dua pihak

yang tak bisa
dan mau saling mendengar lagi,

yang tak saling percaya lagi.

Ini kota tempat kebencian diumbar

dan berubah menjadi kekerasan rasial.

KETEGANGAN VIRGINIA
TIGA TEWAS DALAM KEKERASAN

Ben!

Cassandra!

- Cass!
- Ben!

Kemari kau!

Angkat tangan. Berlutut. Tiarap.

- Tenang...
- Ben!

Hei! Angkat tangan!

Berbaliklah. Tiarap.

Apa kita ingin sistem ini dijual
kepada penawar tertinggi?

PRANCIS 2019

Demokrasi yang bisa dijual dan kita bisa
menjangkau benak siapa pun yang kita mau,

membuat kebohongan pada populasi tertentu
dan membuat perang budaya?

Apa kita mau itu?

Kita adalah bangsa...

yang tak saling bicara lagi.

SENATOR FLORIDA, AS

Kita bangsa orang yang berhenti berteman
dengan orang

karena pilihan mereka di pemilu lalu.

Kita bangsa yang mengisolasi diri

untuk menonton saluran
yang membenarkan kita saja.

Pesan saya hari ini
adalah kesukuan menghancurkan kita.

Ini menghancurkan negara kita.

Bukan seperti ini
cara orang dewasa waras bertindak.

Jika semua berhak meyakini
fakta yang mereka mau,

tak perlu ada kompromi
dan orang-orang tak perlu berkumpul.

Bahkan,
orang-orang tak perlu berinteraksi.

Kita harus memiliki pemahaman bersama
tentang kenyataan.

Atau kita bukan negara.

Jadi, solusi jangka panjangnya
adalah membangun lebih banyak alat IA

yang menemukan pola penggunaan layanan
yang mustahil dilakukan orang sungguhan.

Kita mengizinkan para pakar teknologi
menganggap ini sebagai masalah

yang siap mereka pecahkan.

Itu bohong.

Orang-orang membahas IA
seolah-olah itu akan paham kebenaran.

IA takkan menyelesaikan masalah ini.

IA tak bisa memecahkan
masalah berita palsu.

Google tak punya pilihan untuk bilang,

"Apa ini konspirasi? Apa ini kebenaran?"

Karena mereka tak tahu kebenaran.

Mereka tak punya proksi kebenaran
yang lebih baik dari klik.

Jika kita tak setuju soal apa yang benar

atau kebenaran itu sungguh ada,

kita akan hancur.

Ini masalah di bawah masalah lain,

karena jika tak bisa sepakat
soal apa yang benar,

kita tak bisa keluar
dari semua masalah kita.

Sebaiknya sarankan dia ikuti
Klub Sepak Bola Bumi Datar.

Jangan tunjukkan kabar olahraga lagi.
Dia tak tertarik.

Banyak orang di Silicon Valley
yang meyakini sebuah teori

bahwa kita sedang membangun
otak super global

dan semua pengguna
hanyalah neuron kecil yang bisa ditukar.

Tak ada yang penting.

Itu memaksa orang mengambil peran aneh

yang menjadikan kita
sebuah elemen komputer kecil

yang diprogram lewat manipulasi perilaku

untuk melayani otak raksasa ini
dan kita tak penting.

Kita takkan dibayar, diakui,
dan tak bisa menentukan nasib sendiri.

Kami akan diam-diam memanipulasimu
karena kau simpul komputer,

jadi, kami harus memprogrammu
karena begitulah simpul komputer.

Astaga.

Saat memikirkan teknologi
yang menjadi ancaman eksistensial,

itu pernyataan berani dan...

Maka akan mudah bagi kita untuk berpikir,
"Baiklah, aku membawa ponsel...

menggulir, mengeklik, menggunakannya.

Di mana ancaman eksistensialnya?

Ada komputer super,

di sisi lain layar, mengarah ke otakku,

membuatku menonton satu video lagi.
Di mana ancaman eksistensialnya?"

Ini bukan soal teknologi
yang menjadi ancaman eksistensial.

DENGAR PENDAPAT SENAT AS
SOAL TEKNOLOGI PERSUASIF

Namun, kemampuan teknologi

untuk menghadirkan kemungkinan terburuk
di masyarakat

dan kemungkinan terburuk itulah
ancaman eksistensialnya.

SENAT AMERIKA SERIKAT

Jika teknologi menciptakan

kekacauan massal, kemarahan,
ketidaksopanan,

kurangnya saling percaya,

kesepian, alienasi,
peningkatan polarisasi,

peretasan pemilu, populisme,

gangguan, dan ketidakmampuan berfokus
pada isu sebenarnya...

itulah masyarakat.

Kini masyarakat tak mampu
menyembuhkan dirinya

dan berubah menjadi semacam kekacauan.

Ini memengaruhi semua orang,
meski kita tak memakai produk ini.

Semua ini telah menjadi
Frankenstein digital

yang mengubah dunia
sesuai bayangan mereka,

entah itu kesehatan mental anak-anak

atau politik dan wacana politik kita,

tanpa bertanggung jawab membahasnya
di ranah publik.

- Jadi, itu kembali ke...
- Menurutmu siapa yang bertanggung jawab?

Kurasa kita harus meminta platform
bertanggung jawab

karena saat mengambil alih iklan pemilu,

mereka bertanggung jawab
melindungi pemilu.

Saat menguasai kesehatan mental anak
atau acara Sabtu pagi,

mereka bertanggung jawab
melindungi Sabtu pagi.

Perlombaan untuk menarik perhatian orang
tak akan hilang.

Teknologi kita akan menjadi lebih menyatu
dengan kehidupan kita.

IA akan lebih mahir memprediksi
hal yang membuat kita melihat layar,

bukan lebih buruk dalam memprediksinya.

Usiaku 62 tahun,

makin tua
seiring percakapan ini berlangsung,

tapi aku akan memberitahumu...

Aku mungkin akan mati
dan mungkin akan bersyukur untuk itu

saat semua ini membuahkan hasil.

Karena kupikir ini membuatku sangat takut.

Apa kau sependapat?

Atau aku bereaksi berlebihan
pada situasi yang kurang kuketahui?

Apa yang paling kau cemaskan?

Kurasa dalam jangka pendek...

perang saudara.

Jika kita teruskan situasi saat ini,
anggaplah hingga 20 tahun lagi...

peradaban kita mungkin akan hancur
karena kebodohan yang disengaja.

Kita mungkin gagal menghadapi
tantangan perubahan iklim.

Kita mungkin memperburuk demokrasi dunia

sehingga mereka jatuh
ke dalam disfungsi autokrat yang aneh.

Kita mungkin merusak ekonomi global.

Kita mungkin tak selamat.

Aku sungguh menganggap ini eksistensial.

Apa ini generasi terakhir

yang akan tahu rasanya
sebelum ilusi ini terjadi?

Bagaimana kita terbangun dari matriks
saat kita tak tahu ada di matriks?

"MENJADI UTOPIA ATAU DILUPAKAN,
AKAN DITENTUKAN OLEH LOMBA ESTAFET

HINGGA SAAT TERAKHIR..."
BUCKMINSTER FULLER

Banyak ucapan kami yang terdengar
seolah-olah ini...

hanyalah hanya malapetaka
dan kesuraman sepihak.

Seperti, "Astaga,
teknologi menghancurkan dunia...

dan anak-anak," tapi tidak.

Ini membingungkan
karena ini utopia sekaligus distopia.

Aku bisa menekan tombol di ponselku
dan mobil akan muncul dalam 30 detik,

lalu aku bisa pergi ke tujuanku.

Itu ajaib. Itu luar biasa.

Saat kami membuat tombol "Suka",
motivasi kami adalah,

"Bisakah kita menyebarkan aura positif
dan cinta di dunia?"

Lalu berpikir bahwa kini remaja tertekan
saat tak banyak dapat respons "Suka"

atau itu bisa mengarah
ke polarisasi politik,

tak terpikir oleh kami.

Kurasa mereka tak berniat jahat.

Hanya model bisnisnya yang bermasalah.

Kita bisa menutup layanannya
dan menghancurkan apa pun itu,

nilai pemegang saham 20 miliar dolar,
dituntut...

Namun, kita tak bisa membalikkan
keadaan seperti masa lalu.

Kita bisa membuat modifikasi kecil,
tapi pada akhirnya,

pendapatan dan penggunaan harus meningkat,
kuartal dari kuartal.

Makin besar itu,
makin sulit bagi siapa pun untuk berubah.

Yang kulihat adalah sekelompok orang yang
terjebak oleh model bisnis,

insentif ekonomi,
dan tekanan pemegang saham

yang membuatnya hampir mustahil
untuk melakukan hal lain.

Kurasa kita harus menerima fakta

bahwa perusahaan boleh berfokus
menghasilkan uang.

Yang buruk adalah saat tak ada regulasi,
aturan, dan persaingan

dan perusahaan bertindak
sebagai pemerintah yang asli.

Lalu mereka berkata,
"Kami bisa mengatur diri."

Itu sebuah kebohongan. Itu konyol.

Insentif keuangan bisa dibilang
mengatur dunia,

jadi, apa pun solusi masalah ini
haruslah mengubah insentif keuangan itu.

Tak ada alasan fiskal
agar perusahaan ini berubah.

Itu sebabnya kita perlu peraturan.

Perusahaan telepon punya
banyak data sensitif soal kita

dan ada banyak hukum yang memastikan
mereka tak berbuat salah.

Kita hampir tak punya hukum
tentang privasi digital misalnya.

Kita bisa memajaki pemungutan
dan pemrosesan data.

Sama seperti saat kita membayar
tagihan air

dengan memantau jumlah penggunaan air,

kenakan pajak pada perusahaan ini
atas aset data yang mereka miliki.

Itu memberi mereka alasan fiskal

untuk tak memperoleh semua data
di planet ini.

Hukum jauh tertinggal dalam hal ini.

Yang kutahu, situasi saat ini ada
bukan untuk melindungi pengguna,

tapi untuk perlindungan hak dan privilese

dari semua perusahaan raksasa
yang sangat kaya ini.

Apa kita akan selalu tunduk
kepada orang terkaya dan paling berkuasa?

Atau kita akan bilang,

"Ada kalanya saat kepentingan nasional,

ada kalanya saat kepentingan orang
atau para pengguna,

sebenarnya lebih penting

daripada keuntungan
bagi orang yang sudah menjadi miliarder"?

Pasar-pasar ini merusak demokrasi
dan kebebasan.

Mereka harus dilarang.

Ini bukan proposal radikal.

Ada pasar lain yang kita larang.

Kita melarang pasar organ manusia.

Kami melarang pasar budak manusia.

Karena mereka punya konsekuensi merusak
yang tak terelakkan.

Kita hidup di dunia

tempat pohon mati bernilai lebih,
secara finansial, daripada yang hidup.

Dunia tempat paus mati lebih berharga
daripada yang hidup.

Jika ekonomi kita terus bekerja
seperti itu

dan perusahaan tak diatur,

mereka akan terus menghancurkan pohon,

membunuh paus,

menambang tanah,
dan terus menarik minyak dari tanah,

meski kita tahu itu menghancurkan planet

dan membuat dunia yang lebih buruk
untuk generasi mendatang.

Ini pemikiran jangka pendek

berdasarkan perilaku
yang menuhankan keuntungan ini,

seolah-olah secara ajaib,
tiap perusahaan yang bertindak egois ini

akan memberikan hasil terbaik.

Ini sudah memengaruhi lingkungan
sejak lama.

Yang menakutkan
dan semoga ini menjadi pemicu terakhir

yang akan menyadarkan kita
sebagai peradaban

akan betapa salahnya teori ini sejak awal

adalah menganggap
bahwa kini kitalah pohon dan pausnya.

Perhatian kita bisa ditambang.

Kita akan lebih menguntungkan perusahaan

jika kita menghabiskan waktu
menatap layar,

menatap iklan,

daripada menghabiskan waktu itu
untuk menikmati hidup.

Jadi, kini kita melihat akibatnya.

Kita melihat perusahaan menggunakan
inteligensi artifisial yang kuat

untuk mengakali dan mencari cara
menarik perhatian kita

menuju hal yang mereka mau kita lihat,
daripada hal yang paling konsisten

dengan tujuan, nilai, dan hidup kita.

PIDATO UTAMA HARI INI
STEVE JOBS

Arti komputer bagiku adalah

ini alat paling luar biasa
yang pernah kami buat.

Itu setara dengan sepeda
untuk pikiran kita.

Ide soal teknologi manusiawi,
itulah awal mula Silicon Valley.

Lalu kita kehilangan arah
karena itu menjadi tindakan yang keren,

bukan yang benar.

Dulu internet adalah
tempat yang aneh dan gila.

Itu eksperimental.

Dulu hal-hal kreatif terjadi di internet
dan tentu masih hingga kini,

tapi kini rasanya itu seperti mal raksasa.

Aku berpikir, "Astaga, pasti ada sesuatu
yang lebih dari itu."

Kurasa aku hanya optimistis.

Karena kurasa kita bisa mengubah
rupa dan arti media sosial.

Cara kerja teknologi bukan hukum fisika.
Tidak mustahil diubah.

Ini adalah pilihan yang dibuat
manusia sepertiku selama ini.

Manusia bisa mengubah teknologi itu.

Pertanyaannya sekarang adalah
apakah kita bersedia mengakui

bahwa hasil buruk itu adalah
wujud produk dari pekerjaan kita.

Kita membangun ini
dan bertanggung jawab untuk mengubahnya.

Model ekstraksi perhatian

bukanlah cara memperlakukan manusia
yang kita mau.

Ini perasaanku saja atau...

Pria yang malang.

Struktur masyarakat yang sehat

bergantung pada keluarnya kita
dari model bisnis merusak ini.

Kita bisa menuntut
produk ini dirancang secara manusiawi.

Kita bisa menuntut untuk tak diperlakukan
sebagai sumber daya yang bisa diekstraksi.

Tujuannya mungkin bisa berupa
cara kita membuat dunia lebih baik.

Dalam sejarah, setiap ada perubahan
ke arah yang lebih baik,

itu karena seseorang maju dan berkata,

"Ini bodoh. Kita bisa lebih baik."

Para kritikuslah yang mendorong perbaikan.

Para kritikuslah
yang benar-benar optimistis.

Halo.

Maksudku, itu agak gila, bukan?

Seolah-olah desain fundamental
dari hal ini...

tidak berjalan ke arah yang baik.

Seluruhnya.

Jadi, terdengar gila jika berkata
kita harus mengubah semua itu,

tapi itu yang harus kita lakukan.

Menurutmu, kita akan berhasil?

Harus.

Sepertinya kau sangat optimistis.

Aku terdengar seperti itu?

Ya, maksudku...
Sulit kupercaya kau terus mengatakan itu

karena aku berpikir, "Sungguh?
Aku merasa kita menuju distopia.

Aku merasa kita menuju distopia
dengan cepat

dan butuh keajaiban
untuk mengeluarkan kita darinya."

Keajaiban itu, tentu saja,
adalah keinginan bersama.

Aku merasa optimistis
kita akan menemukan solusi,

tapi kurasa itu akan butuh waktu lama.

Karena tak semua orang menganggap ini
sebagai masalah.

Kurasa salah satu kegagalan besar
dalam teknologi saat ini

adalah kegagalan kepemimpinan

dari orang-orang yang tampil
dan melakukan percakapan terbuka

yang bukan hanya soal hal-hal baik,
tapi juga yang tak sempurna

agar seseorang bisa membangun
sesuatu yang baru.

Pada akhirnya,

mesin ini takkan berubah
sampai ada tekanan publik yang besar.

Dengan melakukan percakapan ini
dan menyuarakan pendapat kita,

dalam beberapa kasus
melalui teknologi ini,

kita bisa mulai mengubah keadaan
dan pembahasan.

Ini mungkin terdengar aneh,
tapi ini dunia dan komunitasku.

Aku tak membenci
dan mau merugikan Google atau Facebook.

Aku hanya ingin mengubah mereka
agar mereka tak menghancurkan dunia.

Aku sudah menghapus banyak aplikasi
dari ponselku

yang kurasa hanya membuang waktuku.

Semua aplikasi media sosial dan berita.

Aku pun mematikan notifikasi

pada apa pun yang menggetarkan kakiku
dengan informasi

yang tak tepat waktu
dan penting bagiku saat ini.

Karena alasan itu juga,
aku tak mengantongi kue.

Kurangi jumlah notifikasi yang didapat.

Matikan notifikasi.

Mematikan semua notifikasi.

Aku tak menggunakan Google lagi,
tapi Qwant

yang tak menyimpan riwayat pencarian kita.

Jangan pernah menerima
video rekomendasi di YouTube.

Selalu memilih.
Itu cara melawan yang lain.

Ada banyak ekstensi Chrome
yang menghapus rekomendasi.

Aku suka kau merekomendasikan sesuatu
untuk membatalkan yang kau buat.

Ya.

Sebelum membagi,

periksa fakta, pertimbangkan sumbernya,
riset lebih banyak di Google.

Jika sepertinya itu dirancang
untuk memancing emosi kita,

mungkin memang begitu.

Intinya, kita memilih dengan klik.

Jika mengeklik umpan klik,

kita menciptakan insentif keuangan
yang melanggengkan sistem yang ada.

Pastikan kita mendapat beragam informasi
dalam hidupmu sendiri.

Aku mengikuti orang yang tak kusukai
di Twitter

karena aku ingin melihat
sudut pandang berbeda.

Perhatikan banyak orang
di industri teknologi

tak memberikan perangkat ini
kepada anak mereka.

Anak-anakku tak menggunakan media sosial.

Apa itu aturan atau...

Itu aturannya.

Kami fanatik soal itu.

Kami gila.

Kami tak memberikan anak-anak kami
waktu di depan layar.

Aku sudah memikirkan
tiga aturan sederhana

yang mempermudah hidup keluarga
dan itu dibenarkan oleh penelitian.

Aturan pertama adalah
tak ada gawai di kamar tidur

pada waktu tetap setiap malam.

Apa pun waktunya, 30 menit sebelum tidur,
semua gawai keluar.

Aturan kedua adalah tak ada media sosial
sampai SMA.

Secara pribadi,
kurasa usianya harus 16 tahun.

SMP sudah cukup sulit.
Jadi, jauhkan hingga SMA.

Aturan ketiga adalah menyusun
anggaran waktu dengan anak-anak kita.

Jika bicara dengan mereka dan berkata,

"Berapa jam sehari
kau mau menggunakan gawaimu?

Menurutmu, berapa durasi yang sesuai,"

jawaban mereka sering kali masuk akal.

Dengar, aku tahu betul

aku tak akan membuat semua orang
menghapus akun media sosial mereka,

tapi kurasa ada beberapa orang

dan membuat beberapa orang
menghapus akun mereka itu sangat penting.

Alasannya adalah itu menciptakan ruang
untuk percakapan

karena aku ingin ada cukup banyak orang
di masyarakat

yang bebas dari mesin manipulasi
untuk melakukan percakapan sosial

yang tak dibatasi oleh mesin manipulasi.

Jadi, lakukanlah! Keluar dari sistem.

Ya, hapuslah. Lepaskan benda bodoh itu.

Dunia ini indah.
Lihat, di luar sana bagus.

IKUTI KAMI DI MEDIA SOSIAL!

HANYA BERCANDA

AYO MEMBAHAS CARA MEMPERBAIKINYA
THESOCIALDILEMMA.COM

Terjemahan subtitle oleh Alphino Fajar

Dukung kami dan jadilah anggota VIP
supaya semua iklan tidak ditampilkan di www.OpenSubtitles.org