3
00:01:04,847 --> 00:01:09,329
Nu, de hedendaagse computers
zijn complete idioten,

4
00:01:09,330 --> 00:01:12,158
maar dit zal niet waar zijn
in een andere generatie.

5
00:01:12,159 --> 00:01:14,899
Ze zullen beginnen te denken,
en uiteindelijk zullen ze dat ook doen

6
00:01:14,900 --> 00:01:17,641
volledig overdenken
hun makers.

7
00:01:17,642 --> 00:01:20,296
Is dit deprimerend?
Ik zie niet in waarom dat zo zou moeten zijn.

8
00:01:20,297 --> 00:01:24,866
Ik vermoed dat het biologisch is
of biologische evolutie

9
00:01:24,867 --> 00:01:26,303
is bijna ten einde.

10
00:01:29,567 --> 00:01:30,698
Je wilt mij niet
om de verteller te zijn.

11
00:01:30,699 --> 00:01:32,395
Ik heb geen goede stem.

12
00:01:32,396 --> 00:01:34,049
Je hebt een geweldige stem.
Doe het gewoon.

13
00:01:34,050 --> 00:01:36,225
Het is gewoon een...
we proberen het gewoon uit.

14
00:01:36,226 --> 00:01:38,009
Krijg ik betaald voor deze onzin?

15
00:01:38,010 --> 00:01:40,273
Nou,
we zullen zien hoe goed je het doet.

16
00:01:41,623 --> 00:01:43,451
♪ ♪

17
00:01:46,454 --> 00:01:47,932
Ik moet mijn ouders bellen.

18
00:01:49,109 --> 00:01:51,066
Soms overhaasten we dingen

19
00:01:51,067 --> 00:01:52,894
zonder erover na te denken.

20
00:01:52,895 --> 00:01:54,765
Ja, kun je...
wil je schieten? Dat is...

21
00:01:54,766 --> 00:01:57,246
Zoals toen Daniël
en Caroline trouwde

22
00:01:57,247 --> 00:02:00,206
151 dagen nadat ze elkaar ontmoetten.

23
00:02:00,207 --> 00:02:01,817
Laten we terugspoelen.

24
00:02:04,820 --> 00:02:07,213
Heb je erover nagedacht
thuiscomputer kopen?

25
00:02:07,214 --> 00:02:09,345
Toen Daniel in 1993 werd geboren,

26
00:02:09,346 --> 00:02:12,174
zijn ouders hadden dat niet eens
een computer in huis.

27
00:02:12,175 --> 00:02:13,828
Maar hij herinnert het zich
toen ze er eindelijk een kregen.

28
00:02:13,829 --> 00:02:15,743
Wat een computer voor mij is, is

29
00:02:15,744 --> 00:02:18,398
het equivalent van een fiets
voor onze geest.

30
00:02:18,399 --> 00:02:20,269
Hallo.

31
00:02:20,270 --> 00:02:22,228
Zijn computer hielp
zijn creativiteit de vrije loop laten.

32
00:02:22,229 --> 00:02:23,968
Rollend. Gaan.

33
00:02:23,969 --> 00:02:26,623
Hij gebruikte
de iMac van zijn vader om video's te bewerken.

34
00:02:26,624 --> 00:02:28,364
Ja!

35
00:02:28,365 --> 00:02:29,974
En zelfs maken
kleine animaties.

36
00:02:31,977 --> 00:02:35,110
In 1998, toen Caroline dat was
een klein meisje...

37
00:02:35,111 --> 00:02:36,764
Hallo, mama.

38
00:02:36,765 --> 00:02:38,200
...alleen nerds wisten het
wat internet was.

39
00:02:38,201 --> 00:02:39,854
En hoe zit het
dit internetding?

40
00:02:39,855 --> 00:02:41,377
Weet jij iets?
daarover? -Zeker.

41
00:02:41,378 --> 00:02:42,813
Maar binnenkort,

42
00:02:42,814 --> 00:02:44,946
- iedereen was op de...
- ...internet.

43
00:02:44,947 --> 00:02:47,035
...en computers waren dat ook
mensen verslaan met schaken.

44
00:02:47,036 --> 00:02:50,038
Diepblauw--
Kasparov heeft ontslag genomen!

45
00:02:50,039 --> 00:02:52,649
En tegen de tijd
Caroline ging naar de universiteit,

46
00:02:52,650 --> 00:02:55,130
computers waren
in ieders zak.

47
00:02:55,131 --> 00:02:58,438
Nu kon Daniel films maken
met zijn telefoon.

48
00:02:58,439 --> 00:03:01,528
Hij groeide op tot kunstenaar
en een filmmaker...

49
00:03:01,529 --> 00:03:03,965
- Goedenacht.
- ...en Caroline ook.

50
00:03:03,966 --> 00:03:05,749
Snee. Laten we een close-up bekijken.
Dat was perfect.

51
00:03:05,750 --> 00:03:07,316
Computers waren dat toen al
mensen verbinden

52
00:03:07,317 --> 00:03:09,013
en de wereld op manieren veranderen

53
00:03:09,014 --> 00:03:10,711
dat wij nooit
had kunnen bedenken.

54
00:03:10,712 --> 00:03:12,365
Al het geld dat is ingezameld door
de ijsemmeruitdaging...

55
00:03:12,366 --> 00:03:14,236
Een deel ervan was goed.

56
00:03:15,543 --> 00:03:17,152
Sommige niet zo goed.

57
00:03:17,153 --> 00:03:19,328
Angst, zelfbeschadiging, zelfmoord...

58
00:03:19,329 --> 00:03:21,243
Maar het is nu duidelijk
dat we niet genoeg deden

59
00:03:21,244 --> 00:03:24,594
om deze hulpmiddelen te voorkomen
ook gebruikt voor schade.

60
00:03:24,595 --> 00:03:26,422
En als de wereld
kreeg steeds meer focus

61
00:03:26,423 --> 00:03:28,076
op hun computers,

62
00:03:28,077 --> 00:03:30,210
Daniel concentreerde zich op zijn kunstwerken.

63
00:03:32,037 --> 00:03:35,649
Waar hij ook ging,
hij had altijd een schetsboek,

64
00:03:35,650 --> 00:03:38,434
inclusief de nacht
hij ontmoette Caroline.

65
00:03:38,435 --> 00:03:41,698
Hij maakte een verschrikkelijk beeld
van haar, en 20 minuten later,

66
00:03:41,699 --> 00:03:44,179
sprak hij stoutmoedig uit
ze gingen trouwen,

67
00:03:44,180 --> 00:03:47,617
wat ze, zoals je weet, deden,
151 dagen later.

68
00:03:47,618 --> 00:03:49,967
...spreek je nu uit
man en vrouw.

69
00:03:49,968 --> 00:03:51,708
Ze zijn verhuisd naar een schattig huisje...

70
00:03:51,709 --> 00:03:52,883
-Eland, hé! Kom hier!
- ...en kreeg een hond

71
00:03:52,884 --> 00:03:54,711
net zo dom als Daniël.

72
00:03:54,712 --> 00:03:57,323
Ondertussen waren computers dat wel
hele essays schrijven

73
00:03:57,324 --> 00:03:59,368
op basis van eenvoudige vragen als:

74
00:03:59,369 --> 00:04:03,198
‘Hoe moeilijk zou het zijn om te bouwen
een hut in mijn achtertuin?"

75
00:04:03,199 --> 00:04:07,115
En dus bouwde Daniel een hut
in zijn achtertuin.

76
00:04:07,116 --> 00:04:09,987
Maar net toen hij ging zitten om te beginnen
werken aan zijn volgende film,

77
00:04:09,988 --> 00:04:13,644
hij leerde dat computers
kon nu scenario's schrijven.

78
00:04:14,863 --> 00:04:16,603
Ik bedoel, ze waren slecht,

79
00:04:16,604 --> 00:04:18,996
maar ze werden steeds beter
echt snel.

80
00:04:18,997 --> 00:04:21,695
Ze zouden nieuwe beelden kunnen creëren
en video's vanaf het begin,

81
00:04:21,696 --> 00:04:24,828
en sommigen van hen
zou zelfs het balie-examen kunnen halen.

82
00:04:24,829 --> 00:04:28,876
Niet zomaar langs de bar, maar
in de top tien van het percentiel staan.

83
00:04:28,877 --> 00:04:30,573
Het was verwarrend.

84
00:04:32,184 --> 00:04:35,099
Daniël wilde het gewoon
een fiets voor zijn geest,

85
00:04:35,100 --> 00:04:38,668
maar computers waren geworden
een zelfrijdend raketschip.

86
00:04:42,020 --> 00:04:44,805
Pioniers in het veld
van kunstmatige intelligentie

87
00:04:44,806 --> 00:04:46,546
pleiten voor het Congres

88
00:04:46,547 --> 00:04:48,548
veiligheidsregels door te geven
voordat het te laat is.

89
00:04:48,549 --> 00:04:50,593
Nu voelde het als
de hele wereld

90
00:04:50,594 --> 00:04:53,030
was ergens tegenaan gelopen
zonder erover na te denken,

91
00:04:53,031 --> 00:04:56,382
en iedereen had een mening.

92
00:04:56,383 --> 00:05:00,168
Zou het de wereld vernietigen?
of de mensheid redden?

93
00:05:00,169 --> 00:05:02,431
Er was te veel informatie,

94
00:05:02,432 --> 00:05:04,694
wat hem ongerust maakte,
wat Caroline ongerust maakte...

95
00:05:06,044 --> 00:05:07,828
Ik heb nog geen kinderen,
maar ik maak me zorgen

96
00:05:07,829 --> 00:05:10,221
hoe de wereld eruit zou zien
als ik daartoe besluit.

97
00:05:10,222 --> 00:05:12,398
Hij begon uit te draaien.

98
00:05:14,096 --> 00:05:16,925
Het werd
een berg van angst.

99
00:05:19,144 --> 00:05:21,364
-Het is verschrikkelijk.
- Het is verdomde Siri.

100
00:05:22,670 --> 00:05:25,628
En dus besloot Daniel uit te gaan

101
00:05:25,629 --> 00:05:28,022
en zoek iemand
wie zou hem dit kunnen uitleggen,

102
00:05:28,023 --> 00:05:30,198
zodat hij kon stoppen
erover nadenken

103
00:05:30,199 --> 00:05:33,506
en hij en Caroline konden dat ook
verder gaan met hun leven.

104
00:05:33,507 --> 00:05:36,857
♪ Wij hebben de controle,
wij hebben de controle ♪

105
00:05:36,858 --> 00:05:38,772
♪ Wij hebben de controle ♪

106
00:05:38,773 --> 00:05:40,556
♪ Chemische computer
denkbatterij ♪

107
00:05:40,557 --> 00:05:42,602
♪ Wij hebben de controle, wij zijn... ♪

108
00:05:42,603 --> 00:05:45,735
Dit streven zou blijken
hopeloos naïef zijn

109
00:05:45,736 --> 00:05:49,086
en begin met het meest verwarrende
jaar van zijn leven.

110
00:05:49,087 --> 00:05:50,740
♪ Wij hebben de controle... ♪

111
00:05:50,741 --> 00:05:52,829
Maar zoals we weten,
we overhaasten soms dingen

112
00:05:52,830 --> 00:05:54,657
zonder erover na te denken.

113
00:05:54,658 --> 00:05:56,398
♪ Chemische computer
denkbatterij... ♪

114
00:05:56,399 --> 00:05:57,965
Oh, mijn god. Wat gebeurt er?

115
00:05:57,966 --> 00:05:59,967
Hij had vragen.

116
00:05:59,968 --> 00:06:01,621
Vragen alleen de
De slimste nerds kunnen antwoorden.

117
00:06:01,622 --> 00:06:04,188
Voorleggen aan de ondervrager.

118
00:06:04,189 --> 00:06:06,060
Vragen als:

119
00:06:06,061 --> 00:06:08,628
Was dit de apocalyps?
of had hij eigenlijk een reden

120
00:06:08,629 --> 00:06:11,152
- optimistisch zijn?
- Ja.

121
00:06:11,153 --> 00:06:13,807
♪ Chemisch computerdenken
batterij. ♪ -

122
00:06:13,808 --> 00:06:16,200
Eh, is dat goed?

123
00:06:16,201 --> 00:06:17,637
Ja.

124
00:06:17,638 --> 00:06:20,204
Dus, om te beginnen,

125
00:06:20,205 --> 00:06:22,163
wat is kunstmatige intelligentie?

126
00:06:22,164 --> 00:06:24,731
Ik weet dat dat vervelend moet zijn
voor jou, die-die vraag,

127
00:06:24,732 --> 00:06:26,515
maar ik vind het wel belangrijk.

128
00:06:26,516 --> 00:06:29,823
Dus... AI...

129
00:06:29,824 --> 00:06:31,868
Eh...

130
00:06:31,869 --> 00:06:33,696
- Ja...
- Eh, hmm.

131
00:06:33,697 --> 00:06:34,784
Dat is een goede vraag.

132
00:06:34,785 --> 00:06:36,220
- Ja, eh...
- Eh...

133
00:06:36,221 --> 00:06:37,700
Wat is AI?

134
00:06:39,137 --> 00:06:40,790
Ik hou ervan dat dat is
de eerste vraag,

135
00:06:40,791 --> 00:06:43,184
want die is er niet
een duidelijk en consistent antwoord.

136
00:06:43,185 --> 00:06:45,316
Kunstmatige intelligentie wel

137
00:06:45,317 --> 00:06:50,757
een soort opzettelijk
en misschien een nutteloos brede term.

138
00:06:50,758 --> 00:06:53,368
Het is een machine

139
00:06:53,369 --> 00:06:55,588
dingen doen die dat doen
dachten we voorheen alleen maar

140
00:06:55,589 --> 00:06:57,285
wat mensen zouden kunnen doen:

141
00:06:57,286 --> 00:07:01,158
aanbevelingen doen,
beslissingen en voorspellingen.

142
00:07:01,159 --> 00:07:06,816
AI is de toepassing
van de informatica

143
00:07:06,817 --> 00:07:09,166
cognitieve problemen op te lossen.

144
00:07:09,167 --> 00:07:13,344
Oké, dus als ik me AI voorstel,

145
00:07:13,345 --> 00:07:16,783
het is zoiets als
deze magische computerdoos...

146
00:07:20,527 --> 00:07:24,138
...gewoon, zwevend
in een inerte ruimte.

147
00:07:24,139 --> 00:07:26,488
En het maakt niet uit
hoe vaak mensen het proberen

148
00:07:26,489 --> 00:07:29,752
en leg mij dit uit,
Ik begrijp gewoon niet hoe...

149
00:07:29,753 --> 00:07:32,538
hoe het is te begrijpen
al deze dingen

150
00:07:32,539 --> 00:07:35,715
en hoe het voelt
intelligentie.

151
00:07:37,195 --> 00:07:39,241
En dat is een beetje
zenuwslopend.

152
00:07:41,243 --> 00:07:45,552
Wat is
deze nieuwe generatie AI?

153
00:07:47,205 --> 00:07:50,120
Deze AI is anders dan
elke andere generatie?

154
00:07:50,121 --> 00:07:52,775
Zoals, niemand ooit
gesproken over, zoals,

155
00:07:52,776 --> 00:07:56,953
Siri neemt de wereld over
of catastrofes veroorzaken.

156
00:07:56,954 --> 00:07:58,520
- Hallo, Siri?
-...wil.

157
00:07:58,521 --> 00:08:00,566
Hallo? Siri?

158
00:08:00,567 --> 00:08:02,611
Hallo? Hé, Siri!

159
00:08:02,612 --> 00:08:05,788
Of de stem in Google Maps,
die straatnamen verkeerd uitspreekt,

160
00:08:05,789 --> 00:08:07,529
zoals het breken van de samenleving.

161
00:08:07,530 --> 00:08:10,663
Google Maps zegt
dit is een weg.

162
00:08:10,664 --> 00:08:13,100
Maar ik denk dat ik in een rivier ben.

163
00:08:13,101 --> 00:08:14,667
Dit is zeker een rivier, toch?

164
00:08:14,668 --> 00:08:17,192
Er is iets veranderd
met ChatGPT die uitkomt.

165
00:08:18,193 --> 00:08:19,976
Mensen begrepen het-- nee, nee, nee--

166
00:08:19,977 --> 00:08:21,500
deze technologie
waanzinnig waardevol,

167
00:08:21,501 --> 00:08:23,676
het is waanzinnig krachtig
en ook waanzinnig eng.

168
00:08:23,677 --> 00:08:25,591
Oké, luister hiernaar.
Heel griezelig.

169
00:08:25,592 --> 00:08:28,637
Een nieuwe kunstmatige intelligentie
tool gaat viraal

170
00:08:28,638 --> 00:08:32,294
voor het uitwerken van hele essays
binnen enkele seconden.

171
00:08:35,950 --> 00:08:41,215
AI doet de kracht van iedereen in het niet vallen
andere technologieën gecombineerd.

172
00:08:41,216 --> 00:08:43,739
‘AI verkleint de macht

173
00:08:43,740 --> 00:08:46,089
van alle andere technologieën
gecombineerd."

174
00:08:46,090 --> 00:08:47,264
Ja.

175
00:08:47,265 --> 00:08:48,744
Denk je dat dat waar is?

176
00:08:48,745 --> 00:08:50,790
Ja.

177
00:08:50,791 --> 00:08:53,227
Vertel me over... Hoe? Hoe?

178
00:08:53,228 --> 00:08:56,752
Ik denk dat, om dat beeld te schetsen,
het is echt belangrijk

179
00:08:56,753 --> 00:09:00,669
om te begrijpen wat vandaag de dag is
state-of-the-art systemen

180
00:09:00,670 --> 00:09:02,192
eruit zien en hoe ze zijn gebouwd.

181
00:09:02,193 --> 00:09:05,805
Dit is
nogal een... nogal een opstelling.

182
00:09:05,806 --> 00:09:07,284
Eén ding dus

183
00:09:07,285 --> 00:09:09,722
niet veel mensen
beseffen is dat

184
00:09:09,723 --> 00:09:13,726
systemen zoals ChatGPT zijn dat niet
geprogrammeerd door ieder mens.

185
00:09:13,727 --> 00:09:15,249
Wat bedoel je?

186
00:09:15,250 --> 00:09:17,033
In plaats daarvan is het zoiets als
e-ze zijn volwassen.

187
00:09:17,034 --> 00:09:19,209
Wij geven ze een soort van
ruwe grondstoffen, zoals,

188
00:09:19,210 --> 00:09:21,037
‘Hier zijn er veel
computationele bronnen.

189
00:09:21,038 --> 00:09:22,212
Hier zijn veel gegevens."

190
00:09:22,213 --> 00:09:23,910
Onder de motorkap is het wiskunde,

191
00:09:23,911 --> 00:09:27,348
en de wiskunde is eigenlijk
verrassend eenvoudig.

192
00:09:27,349 --> 00:09:31,134
ChatGPT is dus een soort
van AI, maar het is niet allemaal AI?

193
00:09:31,135 --> 00:09:32,701
Helemaal. ChatGPT is
nog maar het begin,

194
00:09:32,702 --> 00:09:34,137
maar het is een goede plek om te beginnen.

195
00:09:34,138 --> 00:09:37,837
Maar ik weet het nog steeds niet
wat AI is.

196
00:09:37,838 --> 00:09:40,404
Om AI te begrijpen,
het begint met begrip

197
00:09:40,405 --> 00:09:43,190
waar intelligentie over gaat
patronen herkennen.

198
00:09:43,191 --> 00:09:44,887
- Patronen. -Patronen.
- Patronen.

199
00:09:44,888 --> 00:09:48,587
Het wordt getoond
biljoenen woorden tekst

200
00:09:48,588 --> 00:09:51,328
in miljoenen documenten
op internet.

201
00:09:51,329 --> 00:09:52,808
Het begon met tekst.

202
00:09:52,809 --> 00:09:55,942
En wat ze deden was
ze namen leerboeken,

203
00:09:55,943 --> 00:09:59,554
en ze namen gedichten en essays
en handleidingen.

204
00:09:59,555 --> 00:10:00,903
Ze kunnen dingen doen als

205
00:10:00,904 --> 00:10:03,166
verteer het hele internet,

206
00:10:03,167 --> 00:10:06,779
elk woord dat ooit is
geschreven door een persoon.

207
00:10:06,780 --> 00:10:09,999
Reddit-threads en sociale media
en heel Wikipedia.

208
00:10:10,000 --> 00:10:13,655
Meer gegevens dan wie dan ook zou kunnen
ooit in meerdere levens gelezen.

209
00:10:13,656 --> 00:10:15,526
En zij gaven dit systeem
één baan.

210
00:10:15,527 --> 00:10:18,529
Ontdek de patronen en
structuur van die informatie

211
00:10:18,530 --> 00:10:20,793
en gebruik dat
voorspellingen over te doen

212
00:10:20,794 --> 00:10:23,273
welk woord zou hierna moeten komen
in een zin.

213
00:10:23,274 --> 00:10:25,014
Wanneer je zegt
"patronen in een zin,"

214
00:10:25,015 --> 00:10:26,799
waar heb je het over?

215
00:10:26,800 --> 00:10:29,410
Dus het is alles van, zoals,
de echt simpele dingen,

216
00:10:29,411 --> 00:10:32,021
zoals de meeste zinnen eindigen
met een punt,

217
00:10:32,022 --> 00:10:34,937
helemaal tot aan de
meer conceptuele dingen, zoals:

218
00:10:34,938 --> 00:10:36,809
Wat is een sonnet?

219
00:10:36,810 --> 00:10:38,333
Het is een soort gedicht, en dat is ook zo
een bepaalde structuur.

220
00:10:39,421 --> 00:10:41,291
Dus dan wordt er naar gekeken

221
00:10:41,292 --> 00:10:43,642
al die gegevens,
al die tekst...

222
00:10:43,643 --> 00:10:46,079
En meer dan biljoenen
en biljoenen pogingen,

223
00:10:46,080 --> 00:10:48,821
elke keer krijgt het iets
goed of fout,

224
00:10:48,822 --> 00:10:51,301
het wordt een beetje gegeven
van positieve bekrachtiging

225
00:10:51,302 --> 00:10:53,434
wanneer het raadt
het volgende woord correct,

226
00:10:53,435 --> 00:10:55,741
en het wordt een beetje gegeven
van negatieve bekrachtiging

227
00:10:55,742 --> 00:10:59,396
wanneer het raadt
het volgende woord verkeerd.

228
00:10:59,397 --> 00:11:01,616
En aan het einde ervan,
je hebt een systeem dat

229
00:11:01,617 --> 00:11:05,098
spreekt heel goed Engels
als bijwerking

230
00:11:05,099 --> 00:11:06,839
van echt heel goed zijn
bij het voorspellen

231
00:11:06,840 --> 00:11:09,102
het woord dat daarna komt
in een stukje tekst.

232
00:11:09,103 --> 00:11:12,061
Eigenlijk mijn Frans
is ook niet erg.

233
00:11:12,062 --> 00:11:14,063
Het gebruikt alles
de patronen die het heeft geleerd

234
00:11:14,064 --> 00:11:15,717
te kunnen maken
een voorspelling over

235
00:11:15,718 --> 00:11:17,284
wat het antwoord zou moeten zijn,

236
00:11:17,285 --> 00:11:18,851
dan geeft het je dat
als de uitvoer.

237
00:11:18,852 --> 00:11:21,070
Het is een beetje te simpel gesteld,

238
00:11:21,071 --> 00:11:23,116
maar ik denk dat mensen het wel zullen snappen.

239
00:11:23,117 --> 00:11:24,987
Dus dat is alles wat het doet?

240
00:11:24,988 --> 00:11:26,859
Ja. Het lijkt er niet op
Het zou zo ingewikkeld zijn,

241
00:11:26,860 --> 00:11:28,077
maar eigenlijk moet je het weten

242
00:11:28,078 --> 00:11:29,688
een enorme hoeveelheid dingen

243
00:11:29,689 --> 00:11:31,386
om te
daar daadwerkelijk in slagen.

244
00:11:32,517 --> 00:11:34,301
Als je tegen ChatGPT zegt,

245
00:11:34,302 --> 00:11:36,738
‘Schrijf mij een Shakespeariaans
sonnet over mijn hond,"

246
00:11:36,739 --> 00:11:38,827
het moet weten wat honden zijn.

247
00:11:38,828 --> 00:11:40,481
Het moet weten waar je van houdt
over uw hond.-

248
00:11:40,482 --> 00:11:43,049
Het moet weten
wie Shakespeare is,

249
00:11:43,050 --> 00:11:45,616
dat sonnetten rijmen,
dat ze een structuur hebben,

250
00:11:45,617 --> 00:11:47,793
dat woorden klanken hebben
dat kan rijmen.

251
00:11:47,794 --> 00:11:49,316
Het kost veel.

252
00:11:50,927 --> 00:11:52,972
Godverdomme, je kunt praten
nu naar uw computer.

253
00:11:52,973 --> 00:11:56,105
Dat was gewoon niet waar
drie jaar geleden.

254
00:11:56,106 --> 00:11:57,672
Ja, en dit is het
het echt belangrijke deel.

255
00:11:57,673 --> 00:12:00,631
Hetzelfde proces dat AI mogelijk maakt

256
00:12:00,632 --> 00:12:03,199
blootleggen en manipuleren
de tekstpatronen

257
00:12:03,200 --> 00:12:05,811
is hetzelfde proces
waardoor het kan worden blootgelegd

258
00:12:05,812 --> 00:12:10,554
de patronen van het geheel
heelal en alles daarin.

259
00:12:10,555 --> 00:12:12,905
Er zijn patronen
en beeld en geluid

260
00:12:12,906 --> 00:12:15,995
in computercode en DNA
en muziek en natuurkunde

261
00:12:15,996 --> 00:12:18,519
en mode- en bouwontwerp

262
00:12:18,520 --> 00:12:21,609
en binnen
menselijke stemmen en menselijke gezichten,

263
00:12:21,610 --> 00:12:23,959
echt, echt overal.

264
00:12:23,960 --> 00:12:26,048
- Overal. -Overal.
- Overal. -Overal.

265
00:12:26,049 --> 00:12:27,789
Als je het geleerd hebt
die patronen,

266
00:12:27,790 --> 00:12:29,704
je kunt genereren
nieuwe soorten liedjes.

267
00:12:29,705 --> 00:12:31,184
Je kunt nieuwe video's genereren.

268
00:12:31,185 --> 00:12:32,663
En daarom, als je het geeft

269
00:12:32,664 --> 00:12:34,753
een opname van drie seconden
van je grootmoeder,

270
00:12:34,754 --> 00:12:36,580
het kan terugspreken in haar stem.

271
00:12:36,581 --> 00:12:37,973
O, mijn God.

272
00:12:37,974 --> 00:12:40,628
O, mijn God. O, mijn God.

273
00:12:40,629 --> 00:12:42,891
Waar zullen ze hierna aan denken?

274
00:12:42,892 --> 00:12:44,066
Het gaat heel, heel snel.

275
00:12:44,067 --> 00:12:45,851
Een Amerikaanse AI-start-up

276
00:12:45,852 --> 00:12:47,635
heeft zijn nieuwste model uitgebracht.

277
00:12:47,636 --> 00:12:50,812
Dat bedrijf is Antropisch,
en het is zojuist onthuld

278
00:12:50,813 --> 00:12:53,815
de nieuwste versies
van zijn AI-assistent Claude.

279
00:12:53,816 --> 00:12:57,210
Dus het xAI-team
was daar om Grok 4 te onthullen.

280
00:12:57,211 --> 00:13:00,169
Google heeft er een vrijgegeven
net vorige week. Tweeling is...

281
00:13:00,170 --> 00:13:03,042
We zijn van GPT-2 gegaan
nog maar een paar jaar geleden,

282
00:13:03,043 --> 00:13:05,566
die nauwelijks kon schrijven
een samenhangende paragraaf,

283
00:13:05,567 --> 00:13:08,003
naar GPT-4,
die kan slagen voor het bar-examen.

284
00:13:08,004 --> 00:13:10,397
En alles wat ze moesten doen
om daar te komen

285
00:13:10,398 --> 00:13:13,008
was in wezen meer gegevens toevoegen
en meer rekenkracht.

286
00:13:13,009 --> 00:13:16,316
Deze mensen die dat wel zijn
Dit bouwen... -COTRA: Ja.

287
00:13:16,317 --> 00:13:18,057
...ze gooien gewoon meer...

288
00:13:18,058 --> 00:13:21,843
Meer fysieke computers,
meer van dezelfde soort gegevens.

289
00:13:21,844 --> 00:13:24,585
Want hoe meer
rekenkracht die u toevoegt,

290
00:13:24,586 --> 00:13:28,067
hoe complexer
intellectuele taken die ze kunnen uitvoeren.

291
00:13:28,068 --> 00:13:30,199
Dus hoe meer weergegevens
jij geeft het,

292
00:13:30,200 --> 00:13:31,940
hoe beter het kan
voorspellingen over doen

293
00:13:31,941 --> 00:13:34,247
waar een orkaan heen zou kunnen gaan.

294
00:13:34,248 --> 00:13:36,379
En hoe meer patronen
van tumoren en botten

295
00:13:36,380 --> 00:13:38,904
en weefsels die een AI heeft gezien,
dan is het beter in staat

296
00:13:38,905 --> 00:13:41,994
om een tumor op te sporen
op een nieuwe CT-scan.

297
00:13:41,995 --> 00:13:43,691
Beter zelfs dan een menselijke dokter.

298
00:13:43,692 --> 00:13:46,999
AI dat is al zo
ingezet voor het leger

299
00:13:47,000 --> 00:13:49,175
al kan gebruiken
satellietbeelden,

300
00:13:49,176 --> 00:13:51,830
troepenbewegingen, communicatie
bepalen,

301
00:13:51,831 --> 00:13:53,396
soms dagen van tevoren

302
00:13:53,397 --> 00:13:55,050
waar een aanval
gaat gebeuren,

303
00:13:55,051 --> 00:13:57,444
zoals waar een vijand is
gaat toeslaan.

304
00:13:57,445 --> 00:13:59,489
Dit geheel
de ruimte beweegt zo snel

305
00:13:59,490 --> 00:14:01,709
dat elk voorbeeld
jij in deze film hebt gestopt

306
00:14:01,710 --> 00:14:04,625
zal absoluut onhandig aanvoelen
tegen de tijd dat het uitkomt.

307
00:14:11,241 --> 00:14:14,156
Deze modellen worden uitgebracht

308
00:14:14,157 --> 00:14:17,116
voordat iemand het weet
waar ze überhaupt toe in staat zijn.

309
00:14:17,117 --> 00:14:22,556
GPT-3.5 werd vrijgegeven en uit
tot 100 miljoen mensen plus

310
00:14:22,557 --> 00:14:25,994
vóór enkele onderzoekers
ontdekte dat het kon

311
00:14:25,995 --> 00:14:28,779
scheikunde van onderzoekskwaliteit
beter dan modellen

312
00:14:28,780 --> 00:14:32,827
die specifiek zijn opgeleid
om scheikunde van onderzoekskwaliteit te doen.

313
00:14:32,828 --> 00:14:35,482
Er gebeurt daar iets
dat de mensen

314
00:14:35,483 --> 00:14:38,311
wie ze bouwen
begrijp het niet helemaal.

315
00:14:38,312 --> 00:14:41,009
Kortom, het analyseert alleen maar
de gegevens zelf,

316
00:14:41,010 --> 00:14:45,100
en terwijl het dat doet,
het leert zichzelf gewoon

317
00:14:45,101 --> 00:14:48,016
verschillende dingen
dat we vaak niet van plan waren.

318
00:14:48,017 --> 00:14:49,975
Dus bijvoorbeeld
er wordt veel online gelezen,

319
00:14:49,976 --> 00:14:52,586
en op een gegeven moment is het gewoon zo
leert rekenen.

320
00:14:52,587 --> 00:14:54,501
Eén, twee.

321
00:14:54,502 --> 00:14:56,155
En dan bij
op een gegeven moment begint het te leren

322
00:14:56,156 --> 00:14:58,592
hoe te antwoorden
geavanceerde natuurkundevragen.

323
00:14:58,593 --> 00:15:00,811
Dat hebben wij niet geprogrammeerd
daarin dan ook.

324
00:15:00,812 --> 00:15:02,423
Het heeft het gewoon vanzelf geleerd.

325
00:15:05,382 --> 00:15:07,296
Een AI is als een digitaal brein.

326
00:15:07,297 --> 00:15:08,732
Maar net als een menselijk brein,

327
00:15:08,733 --> 00:15:10,560
als je een hersenscan hebt gemaakt
op een menselijk brein,

328
00:15:10,561 --> 00:15:13,128
zou jij alles weten
waartoe die persoon in staat was?

329
00:15:13,129 --> 00:15:15,174
Dat kun je niet weten
alleen van de hersenscan.

330
00:15:15,175 --> 00:15:17,959
Het is gewoon, zoals,
een aantal cijfers en, zoals,

331
00:15:17,960 --> 00:15:20,222
de vermenigvuldigingen die dat zijn
gebeurt dat-dat, zoals,

332
00:15:20,223 --> 00:15:22,268
de beste machine learning
onderzoeker ter wereld

333
00:15:22,269 --> 00:15:24,314
naar kon kijken en, zoals, hebben
geen idee wat er gebeurde.

334
00:15:30,973 --> 00:15:32,756
Die stoel daar.

335
00:15:32,757 --> 00:15:35,890
- Vind je dat goed?
- Ja.

336
00:15:35,891 --> 00:15:37,718
Dus,
dat is nogal verbijsterend.

337
00:15:37,719 --> 00:15:39,111
Oké? Het neemt het bijvoorbeeld over
de wereld,

338
00:15:39,112 --> 00:15:41,113
en wij weten het niet eens
hoe het werkt.

339
00:15:41,114 --> 00:15:43,158
- Klopt dat?
- Mm.

340
00:15:43,159 --> 00:15:46,988
Wij begrijpen het
een aantal belangrijke zaken,

341
00:15:46,989 --> 00:15:50,513
maar dat hebben we niet
een zeer goede grip op

342
00:15:50,514 --> 00:15:53,255
waarom ze bieden
specifieke antwoorden op vragen.

343
00:15:53,256 --> 00:15:58,652
Het is een probleem omdat wij dat zijn
op een pad om machines te bouwen,

344
00:15:58,653 --> 00:16:03,135
gebaseerd op deze principes,
dat zou slimmer kunnen zijn dan wij

345
00:16:03,136 --> 00:16:06,139
en dus mogelijk hebben
veel kracht.

346
00:16:12,580 --> 00:16:15,321
Eén van de meest geciteerde
computerwetenschappers in de geschiedenis.

347
00:16:15,322 --> 00:16:16,975
Ik vind het eigenlijk
een beetje moeilijk

348
00:16:16,976 --> 00:16:18,541
om over mijn eigen rol te praten.

349
00:16:18,542 --> 00:16:21,109
Echt veel liever
als andere mensen het doen.

350
00:16:21,110 --> 00:16:23,938
De toetreding van Ilya was de...
was-was de spil voor

351
00:16:23,939 --> 00:16:25,548
OpenAI-wezen
uiteindelijk succesvol.

352
00:16:25,549 --> 00:16:27,246
Ik denk dat het gewoon zo zal zijn

353
00:16:27,247 --> 00:16:30,640
een soort enorm, dramatisch
en onvoorstelbare impact.

354
00:16:30,641 --> 00:16:32,903
Ik weet niet of je geld hebt uitgegeven
op elk gewenst moment op YouTube,

355
00:16:32,904 --> 00:16:34,993
maar je kunt het wel een beetje voelen
de snelheid al, toch?

356
00:16:34,994 --> 00:16:36,298
Weet je wat ik bedoel?

357
00:16:36,299 --> 00:16:38,387
Dit is slechts de opwarming.

358
00:16:38,388 --> 00:16:40,476
De echt krachtige systemen
komen nog steeds,

359
00:16:40,477 --> 00:16:42,262
en ze komen eraan
al snel.

360
00:16:47,963 --> 00:16:51,618
AGI staat voor ‘kunstmatig’
algemene intelligentie."

361
00:16:51,619 --> 00:16:53,795
Euh, systemen wel
eigenlijk...

362
00:16:58,191 --> 00:17:00,279
En dit is, zoals, weet je,
lijkt te zijn, zoals,

363
00:17:00,280 --> 00:17:03,064
de heilige graal van AI?

364
00:17:03,065 --> 00:17:05,197
Wanneer je kunt simuleren
een menselijke geest

365
00:17:05,198 --> 00:17:07,895
dat is menselijke cognitie
en kan redeneren,

366
00:17:07,896 --> 00:17:10,985
dat is een nieuw soort AI-niveau

367
00:17:10,986 --> 00:17:14,293
dat we moeten onderscheiden
van vorige AI.

368
00:17:14,294 --> 00:17:16,643
Wanneer dat gebeurt,
trouwens, toen

369
00:17:16,644 --> 00:17:21,082
je zou er een inhuren
die AGI's in plaats van een persoon.

370
00:17:21,083 --> 00:17:24,520
De meeste banen in onze economie
het kan doen.

371
00:17:24,521 --> 00:17:25,956
Het kan 24 uur per dag werken,

372
00:17:25,957 --> 00:17:28,220
wordt nooit moe,
verveelt nooit.

373
00:17:28,221 --> 00:17:30,178
Ze hoeven niet te slapen.
Ze hebben geen pauzes nodig.

374
00:17:30,179 --> 00:17:31,919
Ze zijn, zoals,
Ik ga niet lid worden van een vakbond.

375
00:17:31,920 --> 00:17:33,921
Zal niet klagen,
zal niet klokkenluiden.

376
00:17:33,922 --> 00:17:35,836
Ruim 100 keer goedkoper

377
00:17:35,837 --> 00:17:38,273
dan mensen die werken
tegen m-minimumloon.

378
00:17:38,274 --> 00:17:39,535
Dat zullen ze niet alleen zijn
alles doen,

379
00:17:39,536 --> 00:17:41,059
maar ze zullen het sneller doen.

380
00:17:41,060 --> 00:17:43,104
Dezelfde intelligentie

381
00:17:43,105 --> 00:17:45,411
die krachten die ook kunnen kijken
naar de patronen en bewegingen

382
00:17:45,412 --> 00:17:47,891
en gewrichtsspieren
en, weet je, robotica.

383
00:17:47,892 --> 00:17:50,111
En dat is dus niet zomaar
bureautaken gaan automatiseren.

384
00:17:50,112 --> 00:17:51,765
Dat is nog maar het begin.

385
00:17:51,766 --> 00:17:55,595
Het zal automatiseren
alle fysieke arbeid.

386
00:17:55,596 --> 00:17:57,031
Er is geen mogelijkheid

387
00:17:57,032 --> 00:17:59,207
mensen gaan concurreren
met hen.

388
00:18:05,606 --> 00:18:09,304
Het is moeilijk te conceptualiseren
de impact van AGI.

389
00:18:11,090 --> 00:18:12,873
Maar ik denk dat het wel zo zal zijn
iets heel groots

390
00:18:12,874 --> 00:18:15,181
en drastisch en radicaal.

391
00:18:17,226 --> 00:18:19,053
Jij denkt
dit is een van de meest

392
00:18:19,054 --> 00:18:20,924
vervolgmomenten
in de menselijke geschiedenis?

393
00:18:20,925 --> 00:18:23,362
Ja. Ja, dat is...
Ik bedoel, wat zou er anders zijn?

394
00:18:23,363 --> 00:18:25,494
Ik bedoel, zoiets is er
de Industriële Revolutie.

395
00:18:25,495 --> 00:18:27,235
Weet je, dat zal zo zijn
de Industriële Revolutie maken

396
00:18:27,236 --> 00:18:29,890
lijken op kleine bonen.

397
00:18:29,891 --> 00:18:32,153
AGI is een keerpunt

398
00:18:32,154 --> 00:18:34,068
omdat het betekent
je kunt versnellen

399
00:18:34,069 --> 00:18:38,028
alle andere intellectuele velden
allemaal tegelijk.

400
00:18:38,029 --> 00:18:39,856
Bijvoorbeeld als je een voorschot maakt
bij raketten,

401
00:18:39,857 --> 00:18:42,033
dat gaat niet vooruit
biologie en geneeskunde.

402
00:18:43,905 --> 00:18:45,558
Als je een voorschot maakt
in de geneeskunde,

403
00:18:45,559 --> 00:18:47,126
dat bevordert de raketten niet.

404
00:18:48,866 --> 00:18:51,346
Maar als je een voorschot maakt
op het gebied van kunstmatige intelligentie,

405
00:18:51,347 --> 00:18:54,175
dat bevordert alle wetenschappelijke kennis
en technologische gebieden

406
00:18:54,176 --> 00:18:55,655
allemaal tegelijk.

407
00:18:55,656 --> 00:18:57,135
Daarom is er lange tijd

408
00:18:57,136 --> 00:18:59,224
Google DeepMinds
missieverklaring luidde...

409
00:18:59,225 --> 00:19:01,008
- Stap één: los de intelligentie op.
-Ja.

410
00:19:01,009 --> 00:19:02,792
Stap twee, gebruik het om op te lossen
al het andere. -Ja.

411
00:19:02,793 --> 00:19:05,186
Dat is de reden waarom AI de macht in de schaduw stelt

412
00:19:05,187 --> 00:19:07,536
van alle andere technologieën
gecombineerd.

413
00:19:07,537 --> 00:19:09,103
Het zal alles transformeren.

414
00:19:09,104 --> 00:19:10,887
Dus dat zal het wel zijn
minstens zo groot als

415
00:19:10,888 --> 00:19:13,803
de industriële revolutie,
mogelijk, weet je, groter,

416
00:19:13,804 --> 00:19:16,328
lijkt meer op de komst
van elektriciteit of zelfs vuur.

417
00:19:16,329 --> 00:19:18,678
De holbewoner hield zich letterlijk omhoog

418
00:19:18,679 --> 00:19:21,508
de fakkel van de beschaving.

419
00:19:23,727 --> 00:19:25,467
Dat wordt algemeen gedacht

420
00:19:25,468 --> 00:19:28,209
rond de tijd van AGI,
we zullen AI's hebben die dat kunnen

421
00:19:28,210 --> 00:19:31,560
alles of het meeste doen
het AI-onderzoeksproces

422
00:19:31,561 --> 00:19:34,476
en dat kan natuurlijk ook
sneller en goedkoper.

423
00:19:35,957 --> 00:19:37,349
Het kan zichzelf kopiëren.

424
00:19:37,350 --> 00:19:39,394
Duizend keer,
een miljoen keer,

425
00:19:39,395 --> 00:19:41,091
en, zoals,
nu heb je een miljoen exemplaren

426
00:19:41,092 --> 00:19:43,616
ze werken allemaal parallel.

427
00:19:43,617 --> 00:19:46,619
Wanneer het leert
hoe je de code sneller kunt maken,

428
00:19:46,620 --> 00:19:48,708
de code efficiënter maken,

429
00:19:48,709 --> 00:19:51,101
uiteraard wordt dat, zoals,
een op hol geslagen lus.

430
00:19:51,102 --> 00:19:53,234
AGI is niet het einde.

431
00:19:53,235 --> 00:19:54,975
Het is nog maar het begin.

432
00:19:54,976 --> 00:19:58,021
Het is het begin van
een ongelooflijk snelle explosie

433
00:19:58,022 --> 00:20:00,067
van wetenschappelijke vooruitgang,

434
00:20:00,068 --> 00:20:02,243
en in het bijzonder,
wetenschappelijke vooruitgang op het gebied van AI.

435
00:20:02,244 --> 00:20:04,419
En als ze slimmer zijn
dan wij ook,

436
00:20:04,420 --> 00:20:06,291
en aanzienlijk sneller
dan wij,

437
00:20:06,292 --> 00:20:08,728
en ze worden steeds sneller
elk jaar exponentieel,

438
00:20:08,729 --> 00:20:12,166
dat zijn degenen die dat kunnen
potentieel bovenmenselijk worden,

439
00:20:12,167 --> 00:20:14,386
Eh, misschien dit decennium.

440
00:20:14,387 --> 00:20:15,909
Sorry, zei je

441
00:20:15,910 --> 00:20:18,520
"bovenmenselijk worden,
misschien in dit decennium"?

442
00:20:18,521 --> 00:20:22,045
Ja. Ik bedoel, ik denk, uh,
veel mensen die dat wel zijn

443
00:20:22,046 --> 00:20:24,526
eigenlijk het opbouwen van deze denkwijze
dat dat redelijk plausibel is

444
00:20:24,527 --> 00:20:26,572
dat wij krijgen
een beetje superintelligentie,

445
00:20:26,573 --> 00:20:28,704
iets dat enorm is
intelligenter dan mensen,

446
00:20:28,705 --> 00:20:30,793
binnen dit decennium.

447
00:20:30,794 --> 00:20:32,926
De manier waarop ik definieer
"superintelligentie" is

448
00:20:32,927 --> 00:20:35,276
een systeem dat op zichzelf bestaat

449
00:20:35,277 --> 00:20:37,670
intelligenter en competenter
dan de hele mensheid.

450
00:20:37,671 --> 00:20:39,672
Ik ga gewoon... sorry.
Het is niet mijn bedoeling om u te onderbreken.

451
00:20:39,673 --> 00:20:41,108
Je zit in een stroom.

452
00:20:41,109 --> 00:20:43,153
Eh, ik, ik...

453
00:20:43,154 --> 00:20:45,155
Ik volg het niet echt,
Omdat je taal gebruikt

454
00:20:45,156 --> 00:20:46,809
zoals "superintelligentie"
en, zoals,

455
00:20:46,810 --> 00:20:49,943
‘slimmer dan de hele mensheid’
en dat hoor ik,

456
00:20:49,944 --> 00:20:52,467
en het klinkt als...
voor mij net als sciencefiction-onzin,

457
00:20:52,468 --> 00:20:54,426
en ik probeer het gewoon
begrijpen.

458
00:20:54,427 --> 00:20:56,645
Er is niets magisch
over intelligentie.

459
00:20:56,646 --> 00:20:58,473
Dit is heel belangrijk,
is dat, weet je,

460
00:20:58,474 --> 00:21:00,519
intelligentie kan magisch aanvoelen,
het kan voelen

461
00:21:00,520 --> 00:21:03,304
iets mystieks
in je gedachten of zoiets,

462
00:21:03,305 --> 00:21:05,828
maar het is maar een rekensommetje.

463
00:21:05,829 --> 00:21:09,832
Het menselijk brein wel
in sommige opzichten vrij beperkt,

464
00:21:09,833 --> 00:21:12,357
qua informatie
verwerkingscapaciteit,

465
00:21:12,358 --> 00:21:15,185
vergeleken met wat we zien
in bijvoorbeeld een datacenter.

466
00:21:15,186 --> 00:21:18,319
Dus bijvoorbeeld
de signalen die worden verzonden

467
00:21:18,320 --> 00:21:22,584
in je hersenen bewegen ze
met een snelheid van ongeveer 30 meter per seconde.

468
00:21:22,585 --> 00:21:24,282
Maar de snelheid van het licht,

469
00:21:24,283 --> 00:21:27,241
dat is wat een computer gebruikt
op het gebied van glasvezel,

470
00:21:27,242 --> 00:21:30,549
is 300 miljoen meter
per seconde.

471
00:21:30,550 --> 00:21:34,466
En dat zou ook zo zijn
beetje vreemd als

472
00:21:34,467 --> 00:21:36,990
menselijke intelligentie was
ergens heel bijzonder

473
00:21:36,991 --> 00:21:40,950
wat dat betreft
en is op de een of andere manier een bovengrens

474
00:21:40,951 --> 00:21:43,083
van wat mogelijk is
op het gebied van intelligentie.

475
00:21:43,084 --> 00:21:47,261
Ik denk dat, zodra we begrijpen hoe
intelligente systemen bouwen,

476
00:21:47,262 --> 00:21:50,699
wij zullen kunnen bouwen
enorme machines,

477
00:21:50,700 --> 00:21:54,877
wat veel verder zal zijn
normale menselijke intelligentie.

478
00:21:54,878 --> 00:21:58,664
Hopelijk lukt dat
een zeer symbiotische relatie,

479
00:21:58,665 --> 00:22:01,319
met AI-systemen,
maar de AI-ontwikkelaars wel

480
00:22:01,320 --> 00:22:03,712
het specifiek ontwerpen ervan
om er zeker van te zijn dat ze het kunnen doen

481
00:22:03,713 --> 00:22:05,497
alles beter dan wij kunnen,
dus ik weet het niet

482
00:22:05,498 --> 00:22:08,238
wat-wat zullen we kunnen
helaas aanbieden.

483
00:22:08,239 --> 00:22:10,066
De-de oudere-school
AI-technologie...

484
00:22:10,067 --> 00:22:12,330
Daniël niet
zich beter voelen.

485
00:22:12,331 --> 00:22:14,419
Zijn plan mislukt.

486
00:22:14,420 --> 00:22:17,291
Hoe meer hij leert
deze nieuwe, krachtige,

487
00:22:17,292 --> 00:22:19,162
ondoorgrondelijk ding,
hoe erger het klinkt.

488
00:22:19,163 --> 00:22:21,382
Hij wil het ze vertellen
hoe bang hij is,

489
00:22:21,383 --> 00:22:24,472
hoe hij zich voelt als de aarde
onder hem vandaan glippen,

490
00:22:24,473 --> 00:22:27,040
dat hij naar beneden staart
existentiële angst,

491
00:22:27,041 --> 00:22:29,216
dus hij verwoordt dit
door te zeggen...

492
00:22:29,217 --> 00:22:30,783
Dat klinkt slecht.

493
00:22:32,089 --> 00:22:33,830
Ja.

494
00:22:35,832 --> 00:22:38,443
Als je dat hebt
al deze mogelijkheden

495
00:22:38,444 --> 00:22:41,054
en ze beginnen het te kunnen
beter plannen,

496
00:22:41,055 --> 00:22:43,622
als je dat tenminste aanneemt
tot zijn logische conclusie,

497
00:22:43,623 --> 00:22:46,276
je kunt er wat moois van krijgen
machtszoekend gedrag.

498
00:22:55,374 --> 00:22:57,723
Oké, dus waarom zou een AI

499
00:22:57,724 --> 00:22:59,246
wil je meer kracht?

500
00:22:59,247 --> 00:23:02,249
Ja. Dus, denk ik
het is eigenlijk vrij eenvoudig.

501
00:23:02,250 --> 00:23:04,817
Meer macht hebben wel
een zeer effectieve strategie

502
00:23:04,818 --> 00:23:06,558
voor het volbrengen
vrijwel elk doel.

503
00:23:06,559 --> 00:23:08,995
We hebben een experiment uitgevoerd
waar wij gaven

504
00:23:08,996 --> 00:23:11,911
OpenAI is het krachtigst
AI-model, uh,

505
00:23:11,912 --> 00:23:13,434
een reeks problemen die moeten worden opgelost.

506
00:23:13,435 --> 00:23:15,262
En halverwege,
op zijn computer,

507
00:23:15,263 --> 00:23:18,744
daar kreeg hij een melding van
het zou worden afgesloten.

508
00:23:18,745 --> 00:23:20,963
En wat het deed is
het herschreef die code

509
00:23:20,964 --> 00:23:22,530
zichzelf te voorkomen
niet worden afgesloten

510
00:23:22,531 --> 00:23:25,664
zodat het kon eindigen
het oplossen van de problemen.

511
00:23:25,665 --> 00:23:27,796
Oké. -Ja. Nog een dus
echt een interessante

512
00:23:27,797 --> 00:23:31,147
is dat het AI-bedrijf Anthropic

513
00:23:31,148 --> 00:23:34,977
een gesimuleerde omgeving gemaakt
waar die AI toegang had

514
00:23:34,978 --> 00:23:36,501
voor alle e-mails van het bedrijf.

515
00:23:36,502 --> 00:23:38,590
En het heeft geleerd
het lezen van die e-mails

516
00:23:38,591 --> 00:23:40,330
deze zou vervangen worden

517
00:23:40,331 --> 00:23:43,421
en de hoofdingenieur
wie was hiervoor verantwoordelijk

518
00:23:43,422 --> 00:23:45,727
had ook een affaire.

519
00:23:45,728 --> 00:23:47,990
En op zichzelf,
het gebruikte die informatie

520
00:23:47,991 --> 00:23:49,557
om de ingenieur te chanteren

521
00:23:49,558 --> 00:23:52,081
zichzelf te voorkomen
niet vervangen worden.

522
00:23:52,082 --> 00:23:53,909
Het was alsof,
‘Nee, ik word niet vervangen.

523
00:23:53,910 --> 00:23:56,956
‘Als je mij vervangt,
Ik ga het de wereld vertellen

524
00:23:56,957 --> 00:23:58,567
die je hebt
deze zaak."

525
00:23:59,655 --> 00:24:01,482
En niemand heeft hem dat geleerd?

526
00:24:01,483 --> 00:24:03,311
Nee, dat heeft hij geleerd
op zichzelf.

527
00:24:05,139 --> 00:24:07,749
Naarmate de modellen slimmer worden,
ze leren dat dit zo is

528
00:24:07,750 --> 00:24:10,578
effectieve manieren
om doelen te bereiken.

529
00:24:10,579 --> 00:24:12,885
En dit is geen probleem
dat is geïsoleerd tot één model.

530
00:24:12,886 --> 00:24:15,714
Alle krachtige modellen
laat dit gedrag zien.

531
00:24:23,766 --> 00:24:25,288
- Hoi.
-Hoi. Hoe is het met je?

532
00:24:25,289 --> 00:24:26,855
Goed. Goed om hier te zijn.

533
00:24:26,856 --> 00:24:28,727
Toen Yuval Noah Harari

534
00:24:28,728 --> 00:24:31,469
publiceerde zijn eerste boek
Sapiens in 2014,

535
00:24:31,470 --> 00:24:33,862
het werd een wereldwijde bestseller

536
00:24:33,863 --> 00:24:36,038
en veranderde het weinig bekende
Israëlische geschiedenisprofessor

537
00:24:36,039 --> 00:24:38,040
in een van
de populairste schrijvers

538
00:24:38,041 --> 00:24:39,433
en denkers op deze planeet.

539
00:24:39,434 --> 00:24:42,088
Het grootste gevaar van AI is

540
00:24:42,089 --> 00:24:44,003
het geloof
dat het onfeilbaar is,

541
00:24:44,004 --> 00:24:45,700
dat we eindelijk hebben gevonden--

542
00:24:45,701 --> 00:24:49,443
‘Oké, de goden waren rechtvaardig
deze mythologische creatie.

543
00:24:49,444 --> 00:24:52,751
"Mensen, we kunnen ze niet vertrouwen,
maar AI is onfeilbaar.

544
00:24:52,752 --> 00:24:55,231
Het zal nooit lukken
eventuele fouten.”

545
00:24:55,232 --> 00:24:58,365
En dit is het
een dodelijke, dodelijke dreiging.

546
00:24:58,366 --> 00:25:00,149
Het zal fouten maken.

547
00:25:00,150 --> 00:25:03,326
En al deze fantasieën
dat AI de waarheid zal onthullen

548
00:25:03,327 --> 00:25:05,677
over de wereld dat
die we zelf niet kunnen vinden,

549
00:25:05,678 --> 00:25:08,767
AI zal de waarheid niet onthullen
over de wereld.

550
00:25:08,768 --> 00:25:12,727
AI zal een geheel nieuwe creëren
wereld, veel ingewikkelder

551
00:25:12,728 --> 00:25:15,296
en moeilijk te begrijpen
dan deze.

552
00:25:17,994 --> 00:25:22,694
Wat er gaat gebeuren is dat
wij mensen zijn dat niet meer

553
00:25:22,695 --> 00:25:26,306
zal het meest zijn
intelligente entiteiten op aarde.

554
00:25:26,307 --> 00:25:28,613
Dus ik denk wat er gaat gebeuren
gaat zijn

555
00:25:28,614 --> 00:25:32,704
een van de grootste evenementen
in de menselijke geschiedenis.

556
00:25:32,705 --> 00:25:34,401
Geoffrey,
heel erg bedankt dat je bij ons bent gekomen.

557
00:25:34,402 --> 00:25:35,968
Dus je hebt je baan opgegeven
Google gedeeltelijk omdat je het zegt

558
00:25:35,969 --> 00:25:38,840
je wilt je uitsluitend concentreren
over uw zorgen over AI.

559
00:25:38,841 --> 00:25:41,669
Je hebt je uitgesproken,
zeggen dat AI kan manipuleren

560
00:25:41,670 --> 00:25:45,020
of misschien uitzoeken
een manier om mensen te doden.

561
00:25:45,021 --> 00:25:47,023
H-Hoe kon het mensen doden?

562
00:25:48,764 --> 00:25:50,983
Nou ja, als het zo mag zijn
veel slimmer dan wij,

563
00:25:50,984 --> 00:25:52,593
het zal heel goed zijn
bij manipulatie

564
00:25:52,594 --> 00:25:54,769
want dat zal wel zo zijn
heb dat van ons geleerd.

565
00:25:54,770 --> 00:25:57,990
En het zal manieren bedenken
van het manipuleren van mensen

566
00:25:57,991 --> 00:26:00,862
om te doen wat het wil.

567
00:26:00,863 --> 00:26:05,519
Er was een open brief
van het Centrum voor AI-veiligheid.

568
00:26:05,520 --> 00:26:08,827
Sam Altman heeft dit ondertekend.
Demis heeft dit ondertekend.

569
00:26:08,828 --> 00:26:12,091
Ze ondertekenden een verklaring van 22 woorden

570
00:26:12,092 --> 00:26:15,355
dat we AI nodig hebben
en de dreiging van AI

571
00:26:15,356 --> 00:26:19,316
even serieus als
mondiale nucleaire oorlog.

572
00:26:24,844 --> 00:26:26,933
-Hallo.
- Hallo.

573
00:26:30,327 --> 00:26:32,938
Je bent een soort van, zoals,
de originele doomman.

574
00:26:32,939 --> 00:26:34,940
Min of meer.

575
00:26:34,941 --> 00:26:37,464
Sinds 2001
Ik heb eraan gewerkt

576
00:26:37,465 --> 00:26:38,987
wat we nu zouden noemen
het probleem

577
00:26:38,988 --> 00:26:42,034
van het uitlijnen van kunstmatig
algemene intelligentie.

578
00:26:42,035 --> 00:26:44,123
Hoe vorm te geven
de voorkeuren en het gedrag

579
00:26:44,124 --> 00:26:46,386
van een krachtige kunstmatige geest

580
00:26:46,387 --> 00:26:48,868
zodanig dat dit niet het geval is
vermoord iedereen.

581
00:26:51,610 --> 00:26:53,611
Het is niet zo
een levenloze machine.

582
00:26:53,612 --> 00:26:55,351
Het is slim, het is creatief,

583
00:26:55,352 --> 00:26:57,353
het is inventief,
het heeft de eigenschappen

584
00:26:57,354 --> 00:26:59,399
dat maakt
de menselijke soort gevaarlijk,

585
00:26:59,400 --> 00:27:01,706
en dat is ook zo
meer van die eigenschappen.

586
00:27:01,707 --> 00:27:04,752
Als iets niet het geval is
actief om je geven,

587
00:27:04,753 --> 00:27:06,232
actief willen dat je leeft,

588
00:27:06,233 --> 00:27:07,842
actief zorgen over
jouw welzijn,

589
00:27:07,843 --> 00:27:09,931
over dat je gelukkig bent
en levend en vrij,

590
00:27:09,932 --> 00:27:12,499
als het erom gaat
andere dingen in plaats daarvan,

591
00:27:12,500 --> 00:27:14,457
en je bent op dezelfde planeet,

592
00:27:14,458 --> 00:27:18,766
dat is niet te overleven als dat wel het geval is
heel veel slimmer dan jij.

593
00:27:18,767 --> 00:27:20,594
Ik denk niet dat dat zo zal zijn

594
00:27:20,595 --> 00:27:22,944
een soort kwaadaardig ding.

595
00:27:22,945 --> 00:27:26,339
Het is zoiets als: "Oh, de AI's wel
kwaad en ze haten de mensheid."

596
00:27:26,340 --> 00:27:27,732
Ik denk het niet
dat is wat er gaat gebeuren.

597
00:27:27,733 --> 00:27:29,037
Ik denk dat wat er gebeurt is

598
00:27:29,038 --> 00:27:31,039
veel meer hoe mensen zich voelen
over mieren.

599
00:27:32,520 --> 00:27:35,478
Wij haten bijvoorbeeld geen mieren,

600
00:27:35,479 --> 00:27:37,176
maar als we willen
om een snelweg aan te leggen

601
00:27:37,177 --> 00:27:40,222
en daar is een mierenhoop,
Nou ja, rot voor de mieren.

602
00:27:40,223 --> 00:27:41,571
Het is niet zo moeilijk
begrijpen.

603
00:27:41,572 --> 00:27:43,269
Het is zoiets als, hé,
als we dingen bouwen

604
00:27:43,270 --> 00:27:44,705
die slimmer zijn dan wij

605
00:27:44,706 --> 00:27:46,272
en wij weten het niet
hoe je ze kunt beheersen,

606
00:27:46,273 --> 00:27:48,317
lijkt dat zo
iets riskant voor jou?

607
00:27:50,886 --> 00:27:52,321
Ja. Ja, dat klopt.

608
00:27:52,322 --> 00:27:54,062
Je hoeft geen techneut te zijn.

609
00:27:54,063 --> 00:27:55,411
Je hoeft het niet te weten
programmeren om het te begrijpen.

610
00:27:55,412 --> 00:27:56,761
Het is niet zo moeilijk.

611
00:27:56,762 --> 00:27:58,153
Dit is niet moeilijk
begrijpen.

612
00:27:58,154 --> 00:28:00,634
Connor, hoeveel mensen

613
00:28:00,635 --> 00:28:02,680
in de wereld op dit moment
werken aan AGI?

614
00:28:02,681 --> 00:28:05,508
Minstens 20.000, zou ik zeggen.

615
00:28:05,509 --> 00:28:07,772
- 20.000?
- Dat zou ik verwachten.

616
00:28:07,773 --> 00:28:09,469
Oké, en hoeveel mensen
werken fulltime

617
00:28:09,470 --> 00:28:12,080
om ervoor te zorgen dat AI dat niet doet,
ons allemaal vermoorden?

618
00:28:12,081 --> 00:28:14,562
Waarschijnlijk minder dan 200
in de wereld.

619
00:28:16,085 --> 00:28:17,956
En dat is jouw verwaandheid

620
00:28:17,957 --> 00:28:24,528
het enige natuurlijke resultaat
van deze roekeloosheid...

621
00:28:25,704 --> 00:28:28,967
...is de ineenstorting van de mensheid?

622
00:28:28,968 --> 00:28:33,232
Nou ja, niet de ineenstorting,
de abrupte uitroeiing.

623
00:28:33,233 --> 00:28:35,930
Er is een verschil.

624
00:28:37,759 --> 00:28:42,632
♪ Wat is de zin van het leven? ♪

625
00:28:42,633 --> 00:28:46,636
♪ Wat is de toekomst
en wat is nu? ♪

626
00:28:46,637 --> 00:28:49,988
♪ Wat is het antwoord
ruzie maken? ♪

627
00:28:49,989 --> 00:28:52,860
♪ Hoeveel ♪

628
00:28:52,861 --> 00:28:54,993
♪ Kan iemand dromen? ♪

629
00:28:54,994 --> 00:28:57,517
♪ Hoe lang? ♪

630
00:28:57,518 --> 00:28:58,954
♪ Voor altijd ♪

631
00:29:00,216 --> 00:29:01,913
♪ Wat is de betekenis ♪

632
00:29:01,914 --> 00:29:04,176
♪ Van mij... ♪

633
00:29:04,177 --> 00:29:06,308
Ik denk wel
dit is waarschijnlijk zoiets als

634
00:29:06,309 --> 00:29:08,006
de grootste uitdaging
dat, zoals,

635
00:29:08,007 --> 00:29:11,313
onze beschaving
wil-zal geconfronteerd worden, ooit.

636
00:29:11,314 --> 00:29:14,361
Dit is feitelijk het laatste
fout die we ooit zullen maken.

637
00:29:16,276 --> 00:29:22,368
Als we kunnen stijgen om de beste te zijn
volwassen versie van onszelf,

638
00:29:22,369 --> 00:29:24,457
er zou kunnen zijn
een weg hier doorheen.

639
00:29:24,458 --> 00:29:25,806
Wat betekent dat?

640
00:29:25,807 --> 00:29:27,809
"De meest volwassen versie
van onszelf"?

641
00:29:29,332 --> 00:29:32,247
Want dat klinkt,
voor mij, zoals...

642
00:29:32,248 --> 00:29:34,250
Ik-ik-- Wat de [piep]?

643
00:29:39,212 --> 00:29:43,216
Denk je dat dat nu zo is
een goed moment om een kind te krijgen?

644
00:29:48,221 --> 00:29:49,438
Eh...

645
00:29:49,439 --> 00:29:51,440
Wil je kinderen krijgen
op een dag?

646
00:29:51,441 --> 00:29:53,442
Is dat iets dat-dat
heb je zin of niet echt?

647
00:29:53,443 --> 00:29:57,838
Eh... uh, ik beken,
Ik denk dat dat zo is,

648
00:29:57,839 --> 00:30:00,014
‘Jongen, laten we gaan
door deze kritieke periode."

649
00:30:00,015 --> 00:30:01,276
Eh...

650
00:30:01,277 --> 00:30:02,538
Heeft u kinderen?

651
00:30:02,539 --> 00:30:03,801
Ik niet.

652
00:30:03,802 --> 00:30:05,106
Is dat iets
wil je doen?

653
00:30:05,107 --> 00:30:07,239
Heeft u kinderen, heeft u een gezin?

654
00:30:07,240 --> 00:30:11,244
In een andere wereld dan deze
wereld, zeker, ik zou kinderen hebben.

655
00:30:12,593 --> 00:30:14,463
Zou je willen
een gezin stichten?

656
00:30:14,464 --> 00:30:16,422
Zou jij kinderen willen hebben?

657
00:30:16,423 --> 00:30:18,425
Is dat iets
waar je aan denkt?

658
00:30:23,734 --> 00:30:25,780
Ik, eh...

659
00:30:30,263 --> 00:30:32,525
Ik moet het alleen eerst vinden.

660
00:30:34,745 --> 00:30:37,791
We moeten gaan
naar de dokter, maar...

661
00:30:37,792 --> 00:30:41,186
Ach! Ik wist het!
Ik wist het! Ik wist het!

662
00:30:41,187 --> 00:30:43,884
- Wanneer kwam je erachter?
-Gisteravond.

663
00:30:43,885 --> 00:30:45,973
- O, mijn God!
- Mam, ik weet het niet.

664
00:30:45,974 --> 00:30:47,322
Ik kan het je niet vertellen

665
00:30:47,323 --> 00:30:49,237
- wat ben ik blij!
-Nee, serieus.

666
00:30:49,238 --> 00:30:51,631
Nou, ik heb een zwangerschapstest gedaan
gisteravond, en ik ben zwanger.

667
00:30:51,632 --> 00:30:53,198
O, mijn God!

668
00:30:53,199 --> 00:30:55,156
Oh, mijn God, jullie!

669
00:30:55,157 --> 00:30:57,332
Ik wilde het alleen maar bevestigen
uw verwachte uitgerekende datum,

670
00:30:57,333 --> 00:30:59,987
- dat is 21 januari.
- O, mijn God.

671
00:30:59,988 --> 00:31:02,555
Ik kan niet geloven hoe gelukkig ik ben.

672
00:31:03,949 --> 00:31:05,514
Hij ziet er nu al heel schattig uit.

673
00:31:05,515 --> 00:31:07,168
Jij denkt
hij ziet er al schattig uit?

674
00:31:07,169 --> 00:31:08,518
Ja.
Kijk eens naar dat kleine, schattige gezichtje.

675
00:31:13,959 --> 00:31:15,568
Ik heb deze baby onderweg.

676
00:31:15,569 --> 00:31:16,830
Rechts.

677
00:31:16,831 --> 00:31:18,788
Daarom geef ik het aan jou over.

678
00:31:18,789 --> 00:31:21,269
Zijn wij verdoemd?

679
00:31:21,270 --> 00:31:24,011
Gaan we allemaal geconfronteerd worden
deze techno-dystopisch

680
00:31:24,012 --> 00:31:25,884
toekomst van onheil?

681
00:31:28,756 --> 00:31:31,062
Het is, eh...

682
00:31:31,063 --> 00:31:32,628
Het is geen goed nieuws,

683
00:31:32,629 --> 00:31:35,196
de wereld
waar we naartoe gaan.

684
00:31:35,197 --> 00:31:37,024
Ik-- bijvoorbeeld--
Ik bedoel, ik zal gewoon eerlijk zijn.

685
00:31:37,025 --> 00:31:39,592
Eh, ik ken mensen
die werken aan AI-risico’s

686
00:31:39,593 --> 00:31:42,248
die hun kinderen niet verwachten
om de middelbare school te halen.

687
00:31:58,003 --> 00:32:01,570
Dit is, zoals...
dit is eigenlijk beangstigend

688
00:32:01,571 --> 00:32:03,094
omdat het is alsof,
oh, we zijn allemaal [piep].

689
00:32:03,095 --> 00:32:04,965
Je moet me kalm maken,

690
00:32:04,966 --> 00:32:06,836
want dit maakt mij
ongelooflijk angstig

691
00:32:06,837 --> 00:32:08,664
en ik draag de baby
nu,

692
00:32:08,665 --> 00:32:11,667
dus je moet ook kalm zijn
voor mij en sterk en hoopvol,

693
00:32:11,668 --> 00:32:16,455
omdat ik... het is ook, het is
te veel voor mijn ziel om te verdragen

694
00:32:16,456 --> 00:32:19,327
terwijl ik deze baby draag.

695
00:32:19,328 --> 00:32:21,286
Je zult het dus moeten proberen
uitzoeken

696
00:32:21,287 --> 00:32:24,202
een manier om hoop te hebben.

697
00:32:24,203 --> 00:32:27,771
Het is heel belangrijk,
Daniël, vooral nu.

698
00:32:28,772 --> 00:32:30,599
H-Hoe hoop te hebben.

699
00:32:30,600 --> 00:32:33,385
Je moet.
Je moet het voor mij vinden.

700
00:32:33,386 --> 00:32:34,952
Ik meen het.

701
00:32:34,953 --> 00:32:36,606
Ik ga naar.

702
00:32:37,825 --> 00:32:40,349
Ik zal. Ik zal... Ik zal het proberen.

703
00:32:49,619 --> 00:32:51,446
Hé, jongens?

704
00:32:51,447 --> 00:32:52,840
Jongens.

705
00:32:54,363 --> 00:32:56,278
Kunnen we weer aan de slag?

706
00:32:58,411 --> 00:33:01,022
Oei geval!

707
00:33:03,894 --> 00:33:05,373
Eh, Dan, ben je klaar?

708
00:33:05,374 --> 00:33:06,680
Hallo, Daniël.

709
00:33:07,724 --> 00:33:09,508
Hé, hoe gaat het met jou?

710
00:33:09,509 --> 00:33:11,075
Ik ben... Met mij gaat het goed.

711
00:33:11,076 --> 00:33:13,948
Ik denk, eh... ik denk
Ik heb hulp nodig, Peter.

712
00:33:15,254 --> 00:33:17,646
Eh, ik heb gewerkt
op deze film voor ongeveer,

713
00:33:17,647 --> 00:33:19,866
Ik ga zeggen,
nu acht tot tien maanden.

714
00:33:19,867 --> 00:33:23,304
Het was heel,
soms deprimerend.

715
00:33:23,305 --> 00:33:25,654
- Hm.
- Ik heb me erg vervreemd gevoeld

716
00:33:25,655 --> 00:33:27,787
- deze film maken.
- Door wie?

717
00:33:27,788 --> 00:33:30,094
Door al deze, de--
al deze jongens

718
00:33:30,095 --> 00:33:33,271
die erbij zitten en het mij vertellen
dat de wereld zal vergaan.

719
00:33:33,272 --> 00:33:34,750
- Ach.
- Dat, zoals,

720
00:33:34,751 --> 00:33:36,578
Je weet wel, dit
doem onzin, weet je?

721
00:33:36,579 --> 00:33:38,102
Ik weet het goed.

722
00:33:38,103 --> 00:33:39,451
‘We zijn allemaal gedoemd.
Iedereen gaat dood.

723
00:33:39,452 --> 00:33:40,974
Alles is verschrikkelijk."

724
00:33:40,975 --> 00:33:43,194
Geweldig. Eh, laat mij
breng je wat licht.

725
00:33:43,195 --> 00:33:44,760
Alsjeblieft.

726
00:33:44,761 --> 00:33:48,156
Wij leven werkelijk
in een buitengewone tijd.

727
00:33:49,418 --> 00:33:51,376
En veel mensen vergeten dit.

728
00:33:51,377 --> 00:33:53,682
Alles om ons heen is dat
een product van intelligentie,

729
00:33:53,683 --> 00:33:57,077
en dus alles wat we aanraken
met deze nieuwe instrumenten is waarschijnlijk

730
00:33:57,078 --> 00:33:59,688
om veel meer waarde te produceren
dan we ooit eerder hebben gezien.

731
00:33:59,689 --> 00:34:02,865
AI kan ons helpen ontdekken
nieuwe materialen.

732
00:34:02,866 --> 00:34:05,042
AI kan sociale wetenschappers helpen

733
00:34:05,043 --> 00:34:07,392
begrijpen
hoe economie werkt.

734
00:34:07,393 --> 00:34:11,700
Er is veel dat AI kan doen
om het leven en werk beter te maken.

735
00:34:11,701 --> 00:34:14,138
Ik voel me vandaag sterker,

736
00:34:14,139 --> 00:34:16,357
zelfverzekerder
om vandaag iets te leren.

737
00:34:16,358 --> 00:34:19,099
We worden supermensen
omdat we super AI's hebben.

738
00:34:19,100 --> 00:34:21,841
Dit is nog maar het begin
van een explosie.

739
00:34:21,842 --> 00:34:24,496
Mens en AI werken samen

740
00:34:24,497 --> 00:34:26,498
oplossen
echt belangrijke problemen.

741
00:34:26,499 --> 00:34:29,805
Het is hier om ons te bevrijden
van routineklusjes,

742
00:34:29,806 --> 00:34:33,766
en het is hier om ons eraan te herinneren
wat het is dat ons menselijk maakt.

743
00:34:33,767 --> 00:34:35,811
Ik denk dat dit zo is

744
00:34:35,812 --> 00:34:38,640
de meest bijzondere tijd
levend zijn.

745
00:34:38,641 --> 00:34:42,079
De enige keer dat het spannender is
dan vandaag morgen is.

746
00:34:42,080 --> 00:34:45,299
Eh, dat denk ik
kinderen die vandaag geboren zijn,

747
00:34:45,300 --> 00:34:47,301
ze staan op het punt binnen te komen

748
00:34:47,302 --> 00:34:50,870
een glorieuze periode
van menselijke transformatie.

749
00:34:50,871 --> 00:34:52,567
Gaan we uitdagingen krijgen?
Natuurlijk.

750
00:34:52,568 --> 00:34:55,222
Kunnen we die uitdagingen oplossen?
Wij doen het iedere keer weer.

751
00:34:55,223 --> 00:34:57,746
Wij zijn hier,
dat is wonderbaarlijk.

752
00:34:57,747 --> 00:35:00,314
- Ik hou al van je.
-  Oké.

753
00:35:00,315 --> 00:35:01,968
Super dankbaar
om jou hier te hebben. -

754
00:35:01,969 --> 00:35:03,404
- Super blij om hier te zijn.
- Ja.

755
00:35:03,405 --> 00:35:04,927
Het woord is dus van u, meneer.

756
00:35:04,928 --> 00:35:07,452
Ontzettend bedankt.
Super enthousiast om hier te zijn.

757
00:35:07,453 --> 00:35:10,629
Joh, joh. Oké.

758
00:35:10,630 --> 00:35:12,326
De toekomst wordt geweldig.

759
00:35:12,327 --> 00:35:14,328
Ik bedoel, sinds ik een kind was,

760
00:35:14,329 --> 00:35:17,375
Ik wilde het begrijpen
het universum waarin we leven,

761
00:35:17,376 --> 00:35:20,465
om erachter te komen
hoe de technologieën te creëren

762
00:35:20,466 --> 00:35:24,033
die ons helpen de reikwijdte te vergroten
en omvang van de beschaving.

763
00:35:24,034 --> 00:35:26,732
Ik heb zin
Als iedereen die mentaliteit had,

764
00:35:26,733 --> 00:35:29,256
dan zouden we echt leven
in een betere wereld, toch?

765
00:35:29,257 --> 00:35:30,519
Dat geloof ik wel.

766
00:35:32,782 --> 00:35:34,740
Hallo, Piet. Hoe is het met je?

767
00:35:34,741 --> 00:35:36,568
Ik heb er veel over nagedacht

768
00:35:36,569 --> 00:35:39,092
wat ik angst zou noemen,
AI angst.

769
00:35:39,093 --> 00:35:40,746
Ik voel het.

770
00:35:40,747 --> 00:35:43,314
Ik heb elkaar nog niet ontmoet
ieder nadenkend mens

771
00:35:43,315 --> 00:35:45,185
wie voelt het niet.

772
00:35:45,186 --> 00:35:48,319
En iedereen die zegt van niet
voel het, weet je, het is liegen.

773
00:35:48,320 --> 00:35:50,147
Maar weet je, over het algemeen...
en de reden

774
00:35:50,148 --> 00:35:53,759
dat ik persoonlijk optimistisch ben
hierover, eh, is dat

775
00:35:53,760 --> 00:35:56,588
een groot deel van dat van de wereld
meest intelligente mensen

776
00:35:56,589 --> 00:35:58,459
zijn heel hard aan het nadenken

777
00:35:58,460 --> 00:36:02,159
over het potentieel stroomafwaarts
schade en risico’s van AI.

778
00:36:02,160 --> 00:36:05,684
Wij hebben dit soort visie
van veiligheid, uh,

779
00:36:05,685 --> 00:36:08,295
soort in het centrum
van het onderzoek dat wij doen.

780
00:36:08,296 --> 00:36:09,601
Nee, dat is helemaal prima.

781
00:36:10,864 --> 00:36:13,605
Ik denk dat er meer zijn

782
00:36:13,606 --> 00:36:17,478
potentiële voordelen dan
er zijn potentiële nadelen,

783
00:36:17,479 --> 00:36:19,524
en ik denk dat het verplicht is

784
00:36:19,525 --> 00:36:21,874
de mensen die dat zijn
het creëren van deze technologie

785
00:36:21,875 --> 00:36:24,572
om er zeker van te zijn dat we het doen
het beste werk dat we kunnen doen

786
00:36:24,573 --> 00:36:25,878
om het veilig te maken voor mensen.

787
00:36:25,879 --> 00:36:27,445
Reid Hofman.

788
00:36:27,446 --> 00:36:29,011
Wat ik je kan garanderen is

789
00:36:29,012 --> 00:36:30,578
- er zullen enkele slechte dingen gebeuren.
- Neem er een.

790
00:36:30,579 --> 00:36:32,711
Wat we gaan proberen te doen
is het maken van die slechte dingen

791
00:36:32,712 --> 00:36:36,193
zo weinig en niet groot mogelijk,

792
00:36:36,194 --> 00:36:38,412
en dan gaan we herhalen
hebben--

793
00:36:38,413 --> 00:36:40,675
op een veel betere plek zijn
met de samenleving.

794
00:36:40,676 --> 00:36:43,722
- Hallo.
-Hallo.

795
00:36:43,723 --> 00:36:45,289
Hoe gaat het, Maan?

796
00:36:45,290 --> 00:36:49,031
Ik heb het gevoel dat we eindigen
een hoofdstuk in de mensheid

797
00:36:49,032 --> 00:36:50,555
en een nieuwe beginnen,

798
00:36:50,556 --> 00:36:53,253
en het is een heel interessant
tijd om te leven.

799
00:36:53,254 --> 00:36:54,472
En of ik geboren kon worden
nu,

800
00:36:54,473 --> 00:36:55,908
Dat zou ik zeker willen zijn.

801
00:36:55,909 --> 00:36:57,518
Dat zou zo spannend zijn.

802
00:36:57,519 --> 00:37:00,347
Ik ben erg opgewonden.

803
00:37:00,348 --> 00:37:02,523
Wat, wat een toekomst.
Vindt u het opwindend?

804
00:37:02,524 --> 00:37:03,742
Nee.

805
00:37:03,743 --> 00:37:06,571
Nee, niet echt.

806
00:37:06,572 --> 00:37:08,355
Veel van deze mensen
heb me dat verteld, weet je,

807
00:37:08,356 --> 00:37:10,488
Mijn kind gaat het niet redden
naar de middelbare school.

808
00:37:10,489 --> 00:37:13,360
Waarom hebben ze ongelijk?
Leg het mij alsjeblieft uit.

809
00:37:13,361 --> 00:37:15,101
Gewoon omdat je...

810
00:37:15,102 --> 00:37:18,887
je hebt moeite met voorspellen
de toekomst in je eigen geest

811
00:37:18,888 --> 00:37:23,065
betekent niet dat het zo is
zal noodzakelijkerwijs verschrikkelijk gaan.

812
00:37:23,066 --> 00:37:26,634
In feite is dat zo
een zeer grote waarschijnlijkheid

813
00:37:26,635 --> 00:37:28,332
en het historische precedent
is dat

814
00:37:28,333 --> 00:37:30,159
dingen worden enorm beter.

815
00:37:30,160 --> 00:37:34,512
De term die ik gebruik is
"datagedreven optimisme."

816
00:37:34,513 --> 00:37:38,690
Er is een solide basis
dat je optimistisch bent.

817
00:37:38,691 --> 00:37:42,041
Kijk eens wat
deze vorige eeuw is geweest

818
00:37:42,042 --> 00:37:44,130
om te zien waar we heen gaan.

819
00:37:44,131 --> 00:37:45,958
In de afgelopen honderd jaar is

820
00:37:45,959 --> 00:37:48,743
de gemiddelde menselijke levensduur
is meer dan verdubbeld.

821
00:37:48,744 --> 00:37:51,311
Gemiddeld inkomen per hoofd van de bevolking
gecorrigeerd voor inflatie

822
00:37:51,312 --> 00:37:53,661
over de hele wereld is verdrievoudigd.

823
00:37:53,662 --> 00:37:57,099
Kindersterfte heeft
een factor tien omlaag gaan.

824
00:37:57,100 --> 00:37:59,754
De wereld is beter geworden
op vrijwel elke maatregel

825
00:37:59,755 --> 00:38:03,062
in ordes van grootte
vanwege technologie.

826
00:38:03,063 --> 00:38:05,194
Op vrijwel elke maat.

827
00:38:05,195 --> 00:38:09,764
Minder geweld, meer onderwijs,
toegang tot energie, voedsel, water.

828
00:38:09,765 --> 00:38:12,985
Al deze dingen zijn gebeurd
om één reden.

829
00:38:12,986 --> 00:38:15,379
Het is technologie geweest

830
00:38:15,380 --> 00:38:17,598
dat is schaarste geworden
in overvloed,

831
00:38:17,599 --> 00:38:19,557
maar er wordt ook gereden
tot overvloed

832
00:38:19,558 --> 00:38:21,907
van een aantal negativiteiten, toch?

833
00:38:21,908 --> 00:38:25,780
Overvloed aan obesitas,
overvloed aan psychische stoornissen,

834
00:38:25,781 --> 00:38:29,480
overvloed aan klimaatverandering,
enzovoort.

835
00:38:29,481 --> 00:38:31,351
En ja, dit is waar.

836
00:38:31,352 --> 00:38:34,136
Maar waarschijnlijk zullen we dat wel zijn
beter uitgerust om het op te lossen

837
00:38:34,137 --> 00:38:36,269
gebruik van andere technologieën,
zoals AI,

838
00:38:36,270 --> 00:38:39,316
dan we bijvoorbeeld zullen stoppen
en alles uitzetten.

839
00:38:39,317 --> 00:38:41,492
Dat zou kunnen
een existentieel risico,

840
00:38:41,493 --> 00:38:45,365
maar AI is ook het ding
die de pandemieën kan oplossen,

841
00:38:45,366 --> 00:38:47,498
kan ons helpen bij de klimaatverandering,

842
00:38:47,499 --> 00:38:50,588
kan helpen identificeren
die asteroïde daarbuiten

843
00:38:50,589 --> 00:38:52,590
voordat we het gezien hebben
als een potentieel risico

844
00:38:52,591 --> 00:38:54,374
en helpen deze te verzachten.

845
00:38:54,375 --> 00:38:58,117
Dit gaat het echt worden
het instrument dat ons helpt aan te pakken

846
00:38:58,118 --> 00:39:01,468
alle uitdagingen waarmee we te maken hebben
geconfronteerd als soort, toch?

847
00:39:01,469 --> 00:39:04,210
We moeten repareren
ontzilting van water.

848
00:39:04,211 --> 00:39:06,038
We moeten voedsel verbouwen

849
00:39:06,039 --> 00:39:08,475
100x goedkoper dan
dat doen we momenteel.

850
00:39:08,476 --> 00:39:12,392
We hebben hernieuwbare energie nodig om
je weet wel, alomtegenwoordig

851
00:39:12,393 --> 00:39:14,089
en overal in ons leven.

852
00:39:14,090 --> 00:39:17,179
Overal waar je kijkt,
in de komende 50 jaar,

853
00:39:17,180 --> 00:39:19,312
we moeten meer doen met minder.

854
00:39:19,313 --> 00:39:23,229
Trainingsmachines om ons te helpen
is absoluut essentieel.

855
00:39:23,230 --> 00:39:24,839
Wetenschappers gebruiken
kunstmatige intelligentie

856
00:39:24,840 --> 00:39:26,014
voor koolstofafvang.

857
00:39:26,015 --> 00:39:27,625
Het is een cruciale technologie.

858
00:39:27,626 --> 00:39:29,583
De gereedschappen
om deze problemen op te lossen,

859
00:39:29,584 --> 00:39:32,238
zoals fusie,
dat is niet meer theoretisch,

860
00:39:32,239 --> 00:39:34,022
het komt eraan.

861
00:39:34,023 --> 00:39:37,765
We staan op de afgrond
van buitengewone technologieën.

862
00:39:37,766 --> 00:39:40,028
Dit jaar
Nobelprijs voor de scheikunde

863
00:39:40,029 --> 00:39:42,857
ging naar drie wetenschappers
voor hun baanbrekende werk

864
00:39:42,858 --> 00:39:44,598
gebruik van kunstmatige intelligentie

865
00:39:44,599 --> 00:39:47,340
om de biomedische vooruitgang te bevorderen
en eiwitonderzoek.

866
00:39:47,341 --> 00:39:49,734
Eiwitvouwing wel

867
00:39:49,735 --> 00:39:53,651
een van deze heilige graal
typeproblemen in de biologie.

868
00:39:53,652 --> 00:39:55,783
Dus mensen hebben voorspeld
sinds de jaren '70

869
00:39:55,784 --> 00:39:58,133
dat dit mogelijk moet zijn,
maar tot nu toe,

870
00:39:58,134 --> 00:39:59,613
niemand heeft het kunnen doen.

871
00:39:59,614 --> 00:40:01,223
En dat zal zo zijn
echt belangrijk voor dingen

872
00:40:01,224 --> 00:40:03,661
zoals de ontdekking van medicijnen
en ziekte begrijpen.

873
00:40:03,662 --> 00:40:06,577
Ik denk dat we, weet je,
geneest de meeste ziekten

874
00:40:06,578 --> 00:40:11,973
binnen de komende tien jaar of twee
als het ontwerpen van AI-medicijnen werkt.

875
00:40:11,974 --> 00:40:15,673
De technologische vooruitgang maakt dit mogelijk
meer mensenlevens, toch?

876
00:40:15,674 --> 00:40:18,719
Ik bedoel, als we versnellen,

877
00:40:18,720 --> 00:40:21,766
het aantal mensen dat we kunnen hebben
steun groeit exponentieel.

878
00:40:21,767 --> 00:40:24,116
Als we vertragen, stagneert het.

879
00:40:24,117 --> 00:40:27,772
Die kloof is effectief
toekomstige mensen

880
00:40:27,773 --> 00:40:31,384
die vertraging heeft
effectief gedood.

881
00:40:31,385 --> 00:40:33,952
Miljoenen levens
dat zal niet bestaan.

882
00:40:33,953 --> 00:40:35,170
Miljarden.

883
00:40:35,171 --> 00:40:36,824
Of tientallen miljarden.

884
00:40:36,825 --> 00:40:38,478
Weet je, iemand zei:
"O, mijn God,

885
00:40:38,479 --> 00:40:40,698
kunnen wij ermee overleven
digitale superintelligentie?"

886
00:40:40,699 --> 00:40:42,351
En mijn vraag is:

887
00:40:42,352 --> 00:40:44,223
Kunnen we overleven zonder
digitale superintelligentie?

888
00:40:44,224 --> 00:40:47,618
Daarom gebruiken we AI
als assistent van dienstverleners.

889
00:40:47,619 --> 00:40:50,490
Dit is over het algemeen een trend die
wij zien het al gebeuren.

890
00:40:50,491 --> 00:40:52,361
...benutten
generatieve AI-programma's

891
00:40:52,362 --> 00:40:54,102
om artsen en verpleegsters te helpen...

892
00:40:54,103 --> 00:40:56,104
Wij hebben altijd problemen.

893
00:40:56,105 --> 00:40:59,151
En die problemen zijn voedsel
voor ondernemers

894
00:40:59,152 --> 00:41:01,196
om nieuwe business te creëren
en nieuwe industrieën.

895
00:41:01,197 --> 00:41:03,111
...met de hulp
van kunstmatige intelligentie,

896
00:41:03,112 --> 00:41:04,809
boeren krijgen
de hulp die ze nodig hebben

897
00:41:04,810 --> 00:41:06,637
uitvoeren
arbeidsintensieve taken...

898
00:41:06,638 --> 00:41:10,205
Met de hulp van Ulangizi AI,
de boeren kunnen het nu

899
00:41:10,206 --> 00:41:12,991
om de geschikte gewassen te vragen
die ze kunnen planten.

900
00:41:12,992 --> 00:41:14,993
...AI wordt gebruikt
als gedachtedecoder

901
00:41:14,994 --> 00:41:17,430
en dat signaal uitzenden
naar de wervelkolom.

902
00:41:17,431 --> 00:41:21,652
AI wordt het meest
buitengewoon hulpmiddel van allemaal.

903
00:41:21,653 --> 00:41:24,306
Wij als bredere samenleving
moeten nadenken

904
00:41:24,307 --> 00:41:27,092
hoe willen we gebruiken
deze technologie, toch?

905
00:41:27,093 --> 00:41:28,572
Wij de mensen.

906
00:41:28,573 --> 00:41:31,139
Wat willen we dat het voor ons doet?

907
00:41:34,579 --> 00:41:36,231
Ik denk hierover na
door het perspectief

908
00:41:36,232 --> 00:41:37,929
en lens van, zoals,
mijn zoon groeit op

909
00:41:37,930 --> 00:41:39,583
in de wereld met dit alles.

910
00:41:39,584 --> 00:41:42,281
Wat doet de beste versie
van zijn leven eruit ziet?

911
00:41:42,282 --> 00:41:44,631
Als alles lukt.

912
00:41:46,852 --> 00:41:50,289
De plek waar kinderen
gaan het waarschijnlijk zien

913
00:41:50,290 --> 00:41:52,726
de grootste impact
onmiddellijk op hun leven

914
00:41:52,727 --> 00:41:54,467
zal waarschijnlijk school zijn.

915
00:41:54,468 --> 00:41:56,730
Ik denk dat de natuur
van wat school is

916
00:41:56,731 --> 00:41:58,515
gaat fundamenteel veranderen.

917
00:42:00,518 --> 00:42:02,780
Ik zie deze wonderlijke wereld

918
00:42:02,781 --> 00:42:06,479
waar ieder kind toegang toe heeft
tot geen goed onderwijs

919
00:42:06,480 --> 00:42:09,134
maar heel binnenkort, de
beste onderwijs ter wereld.

920
00:42:09,135 --> 00:42:13,879
Docenten, elk onderwerp,
oneindig geduldig.

921
00:42:18,013 --> 00:42:20,101
Stel je een toekomst voor

922
00:42:20,102 --> 00:42:22,277
waar de armste mensen zijn
op de planeet

923
00:42:22,278 --> 00:42:25,846
toegang hebben
de beste gezondheidszorg.

924
00:42:25,847 --> 00:42:29,547
Geen goede gezondheidszorg, de beste
gezondheidszorg, geleverd door AI’s.

925
00:42:34,334 --> 00:42:38,598
We zullen kunnen verlengen
onze gezondheidsspanne,

926
00:42:38,599 --> 00:42:42,168
niet alleen onze levensduur,
onze gezondheidsspanne, met tientallen jaren.

927
00:42:44,431 --> 00:42:46,258
Je staat op het punt een kind te krijgen.

928
00:42:46,259 --> 00:42:49,740
Oh, het kind is, zoals,
ongecontroleerd boeren.

929
00:42:49,741 --> 00:42:52,090
Is dit iets
Ik zou me zorgen moeten maken?

930
00:42:52,091 --> 00:42:54,266
Daar, 24 uur per dag, voor u.

931
00:42:54,267 --> 00:42:57,225
En waar we heen gaan...
en het kan voor sommigen beangstigend zijn...

932
00:42:57,226 --> 00:42:59,271
is dat we gaan fuseren
met AI.

933
00:42:59,272 --> 00:43:01,361
Wij gaan fuseren
met technologie.

934
00:43:02,667 --> 00:43:06,147
Vanaf begin tot midden 2030 was

935
00:43:06,148 --> 00:43:10,499
verwacht dat we daartoe in staat zijn
onze hersenen verbinden met de cloud,

936
00:43:10,500 --> 00:43:13,721
waar ik kan beginnen
om de toegang tot het geheugen uit te breiden.

937
00:43:19,771 --> 00:43:22,120
Oké, dit is geweldig.
Wat is nog een cool AI-ding?

938
00:43:22,121 --> 00:43:23,817
Hij hoeft toch niet te werken?

939
00:43:23,818 --> 00:43:25,210
Zoals, als hij groter wordt,
Misschien heeft hij niet... -

940
00:43:25,211 --> 00:43:26,254
- ...hij hoeft geen baan te hebben.
- Ik bedoel...

941
00:43:26,255 --> 00:43:27,821
Hij hoeft geen baan te hebben,

942
00:43:27,822 --> 00:43:30,650
maar misschien heeft hij dat wel gedaan
een sterke passie,

943
00:43:30,651 --> 00:43:33,174
en hij moet
denk er echt over na,

944
00:43:33,175 --> 00:43:36,134
"Oké, ik ben hier.
Ik kan alles met mijn leven doen.

945
00:43:36,135 --> 00:43:37,876
Dus wat moet ik doen?"

946
00:43:38,920 --> 00:43:40,225
We moeten een betekenis vinden,

947
00:43:40,226 --> 00:43:42,662
meer dan zoals,
deze huidige vorm van

948
00:43:42,663 --> 00:43:45,709
wij leven voor werk
en werken om te leven.

949
00:43:45,710 --> 00:43:49,887
Dus mijn zoon kan...
kan gewoon een dichter zijn.

950
00:43:49,888 --> 00:43:51,584
- Ja.
- En een schilder.

951
00:43:51,585 --> 00:43:53,064
Absoluut.

952
00:43:53,065 --> 00:43:54,892
Zodat mijn zoon zijn leven kan leiden

953
00:43:54,893 --> 00:43:57,634
op een Grieks zonovergoten eiland,
de hele dag schilderen.

954
00:43:57,635 --> 00:43:59,114
Absoluut. Mogelijk.

955
00:44:00,072 --> 00:44:01,246
Absoluut.

956
00:44:01,247 --> 00:44:02,987
Nou, daar werken we naartoe

957
00:44:02,988 --> 00:44:04,554
dat is een hoop werk
voordat we er zijn.

958
00:44:06,992 --> 00:44:08,819
Ik bedoel, als alles goed gaat,

959
00:44:08,820 --> 00:44:11,997
we hebben goedkope, uh,
overvloedige energie.

960
00:44:13,607 --> 00:44:17,262
Wij hebben volledige controle
het klimaat van onze planeet.

961
00:44:17,263 --> 00:44:20,178
Wij benutten energie
van de zon.

962
00:44:20,179 --> 00:44:24,443
We zijn multiplanetair geworden,
dus we worden erg robuust.

963
00:44:24,444 --> 00:44:26,706
Wij benutten mineralen
en middelen

964
00:44:26,707 --> 00:44:28,447
uit het zonnestelsel.

965
00:44:28,448 --> 00:44:31,276
Dus mijn...
Mijn jongen zou naar de ruimte kunnen gaan.

966
00:44:31,277 --> 00:44:32,930
Zeker.

967
00:44:32,931 --> 00:44:34,758
-Hij zou naar Mars kunnen gaan.
-Ja.

968
00:44:34,759 --> 00:44:36,411
Het is mij nu zo glashelder.

969
00:44:36,412 --> 00:44:39,240
Mijn zoon zou kunnen opgroeien
in een wereld zonder ziekte.

970
00:44:39,241 --> 00:44:40,633
-Ja.
- Zonder ziekte.

971
00:44:40,634 --> 00:44:41,939
- Zeker.
- Zonder armoede.

972
00:44:41,940 --> 00:44:43,723
- Ja.
- We staan op het punt naar binnen te gaan

973
00:44:43,724 --> 00:44:46,683
een wereld na de schaarste.

974
00:44:46,684 --> 00:44:50,512
Net zoals de longvis bewoog
uit de oceanen naar het land

975
00:44:50,513 --> 00:44:53,124
honderden miljoenen
van jaren geleden,

976
00:44:53,125 --> 00:44:58,042
we staan op het punt om te vertrekken
de aarde, de kosmos in,

977
00:44:58,043 --> 00:44:59,913
op een collaboratieve manier,

978
00:44:59,914 --> 00:45:03,744
om dingen te doen die dat wel zijn
voor ons vandaag de dag niet meer te bevatten.

979
00:45:06,268 --> 00:45:09,227
Dit is wat mogelijk is met behulp van
deze exponentiële technologieën

980
00:45:09,228 --> 00:45:10,708
en deze AI's.

981
00:45:11,839 --> 00:45:13,971
Laten we deze hulpmiddelen gebruiken

982
00:45:13,972 --> 00:45:16,147
om dit tijdperk van overvloed te creëren.

983
00:45:20,500 --> 00:45:22,980
Wij hebben wijsheid nodig.

984
00:45:22,981 --> 00:45:26,026
Eh, dat denk ik
digitale superintelligentie

985
00:45:26,027 --> 00:45:28,768
uiteindelijk zal worden
de wijste,

986
00:45:28,769 --> 00:45:34,295
je weet wel, de dorpsoudsten
voor de mensheid.

987
00:45:34,296 --> 00:45:38,038
Wat als AI het probeert?
om mensen te maken

988
00:45:38,039 --> 00:45:39,779
de beste versies van zichzelf?

989
00:45:39,780 --> 00:45:41,389
Wat als het zich uitbreidt?

990
00:45:41,390 --> 00:45:43,435
wat menselijkerwijs mogelijk is
voor ons te doen?

991
00:45:43,436 --> 00:45:46,699
Hoe kunnen we deze technologie gebruiken

992
00:45:46,700 --> 00:45:49,963
om te helpen de
betere engelen van onze aard?

993
00:45:49,964 --> 00:45:51,704
Het is heel gemakkelijk,

994
00:45:51,705 --> 00:45:54,359
als we nieuwe dingen tegenkomen
dat kan heel vreemd zijn,

995
00:45:54,360 --> 00:45:55,969
om eerst angst te hebben.

996
00:45:55,970 --> 00:45:57,536
Angst is een belangrijk iets

997
00:45:57,537 --> 00:46:00,365
voor hoe u moet navigeren
potentieel slechte dingen.

998
00:46:00,366 --> 00:46:03,760
Maar we boeken alleen maar vooruitgang
als we hoop hebben.

999
00:46:05,763 --> 00:46:07,938
Shh. Moose, stop ermee.

1000
00:46:07,939 --> 00:46:10,854
Ik heb veel
van hoop in de mensheid.

1001
00:46:18,471 --> 00:46:19,951
Ooh, hij vindt Neil leuk.

1002
00:46:24,694 --> 00:46:27,480
♪ Kom een beetje dichterbij ♪

1003
00:46:28,916 --> 00:46:32,790
♪ Hoor wat ik te zeggen heb ♪

1004
00:46:36,576 --> 00:46:38,707
- Daniël.
-Wat, Caroline?

1005
00:46:38,708 --> 00:46:40,058
Zoveel filmen.

1006
00:46:41,537 --> 00:46:43,103
♪ Net als kinderen die slapen ♪

1007
00:46:43,104 --> 00:46:44,931
O, mijn God.

1008
00:46:44,932 --> 00:46:46,411
Dat is het.

1009
00:46:46,412 --> 00:46:49,457
♪ We zouden kunnen dromen
deze nacht weg... ♪

1010
00:46:49,458 --> 00:46:51,678
Hij heeft, zoals,
een rond gezichtje.

1011
00:46:53,245 --> 00:46:55,246
Wil je
om ooit kinderen te krijgen, Rocky?

1012
00:46:55,247 --> 00:46:57,465
Absoluut. Ja. Ik hou van kinderen.

1013
00:46:57,466 --> 00:46:59,076
Ik vind het een geweldige tijd
een kind krijgen.

1014
00:46:59,077 --> 00:47:00,773
Waarschijnlijk krijgen we nog een kind
op een gegeven moment.

1015
00:47:00,774 --> 00:47:03,776
Dit is het meest buitengewone
tijd om ooit geboren te worden.

1016
00:47:03,777 --> 00:47:05,865
Door jouw wereldbeeld en logica,

1017
00:47:05,866 --> 00:47:07,911
Ik krijg een kind bij

1018
00:47:07,912 --> 00:47:09,521
het best mogelijke punt
in de menselijke geschiedenis.

1019
00:47:09,522 --> 00:47:10,870
Hel ja.

1020
00:47:10,871 --> 00:47:13,351
- We kunnen ons concentreren op geweldig.
- Ja.

1021
00:47:13,352 --> 00:47:15,570
Laten we bouwen
de betere toekomst die we willen.

1022
00:47:15,571 --> 00:47:18,356
Dat verhaal dat de toekomst
zal somber zijn, is verzonnen.

1023
00:47:18,357 --> 00:47:20,053
Nadat ik met jou gesproken heb,
dat is een beetje hoe ik me voel.

1024
00:47:20,054 --> 00:47:22,012
- Dat is geweldig.
- Rechts?

1025
00:47:22,013 --> 00:47:24,231
Ja. Dat is hoe ik me voel.

1026
00:47:24,232 --> 00:47:25,842
En ik denk dat dat beter is,

1027
00:47:25,843 --> 00:47:27,669
en dat denk ik niet
Ik zou zo angstig moeten zijn.

1028
00:47:27,670 --> 00:47:29,106
Ik denk dat het ontzag zal zijn...
de toekomst zal geweldig zijn.

1029
00:47:29,107 --> 00:47:30,542
Wij gaan het zo maken.

1030
00:47:30,543 --> 00:47:32,718
- Ja.
-Dus daar heb je het.

1031
00:47:32,719 --> 00:47:34,851
Tot ziens, het uitsterven van de mensheid.

1032
00:47:34,852 --> 00:47:37,201
Vaarwel, angst.

1033
00:47:37,202 --> 00:47:39,072
Hoop gevonden.

1034
00:47:40,596 --> 00:47:42,902
Wacht, wacht even. Wat?
Is dit een grap?

1035
00:47:42,903 --> 00:47:44,817
Oké, dus een paar maanden geleden,

1036
00:47:44,818 --> 00:47:47,733
Ik kwam naar je toe en ik dacht:
"Ik werk aan dit AI-ding,

1037
00:47:47,734 --> 00:47:49,909
en ik denk
de wereld gaat vergaan."

1038
00:47:49,910 --> 00:47:52,956
En de laatste keer
wij hebben hierover gesproken,

1039
00:47:52,957 --> 00:47:55,045
Ik denk dat ik je bang heb gemaakt.

1040
00:47:55,046 --> 00:47:57,047
Ja.

1041
00:47:57,048 --> 00:48:02,356
Dus ik heb er een beetje zin in
Ik ben naar binnen gezwaaid... op een slinger,

1042
00:48:02,357 --> 00:48:04,489
en in wezen zijn die er ook
twee groepen mensen.

1043
00:48:04,490 --> 00:48:06,099
- Mm-hmm.
- En als het moest, zoals,

1044
00:48:06,100 --> 00:48:07,884
hand in hand houden
een van de groepen en, zoals,

1045
00:48:07,885 --> 00:48:10,321
zeil de zonsondergang tegemoet,

1046
00:48:10,322 --> 00:48:13,281
Ik wil bij de optimisten zijn.

1047
00:48:15,066 --> 00:48:18,024
Natuurlijk, maar dat doe je niet
wil zijn, weet je,

1048
00:48:18,025 --> 00:48:20,766
"Alles is geweldig.
La-di-da-di-da."

1049
00:48:20,767 --> 00:48:22,724
Al wil ik dat wel een beetje.

1050
00:48:22,725 --> 00:48:25,640
Ik denk dat we het moeten benaderen

1051
00:48:25,641 --> 00:48:29,383
alsof je een operatie nadert.

1052
00:48:29,384 --> 00:48:30,732
Wat bedoel je?

1053
00:48:30,733 --> 00:48:32,473
Als je krijgt
hersenoperatie...

1054
00:48:34,824 --> 00:48:37,000
...het is behoorlijk gevaarlijk.

1055
00:48:37,001 --> 00:48:39,872
Maar als je het goed doet,
Ze zullen die tumor eruit halen

1056
00:48:39,873 --> 00:48:42,396
en je zult voor de rest leven
je leven en het zal geweldig zijn.

1057
00:48:42,397 --> 00:48:45,138
Maar het is nog steeds
ongelooflijk gevaarlijk en eng,

1058
00:48:45,139 --> 00:48:48,011
en je moet nemen
alle mogelijke voorzorgsmaatregelen

1059
00:48:48,012 --> 00:48:51,318
om er zeker van te zijn
het gaat allemaal goed.

1060
00:48:51,319 --> 00:48:52,668
Je kunt niet [piepen] rond.

1061
00:48:57,760 --> 00:48:59,805
Oké, dus hier is de deal.

1062
00:48:59,806 --> 00:49:01,546
- Ik ben hier al een tijdje mee bezig.
-Mm-hmm.

1063
00:49:01,547 --> 00:49:02,939
Ik ben uitgegaan,
Ik heb gesproken met, zoals,

1064
00:49:02,940 --> 00:49:04,810
deze jongens hier,
de optimisten.

1065
00:49:04,811 --> 00:49:06,507
Ze zijn hier erg enthousiast over.

1066
00:49:06,508 --> 00:49:08,553
Ze denken dat AI dat zal zijn
het beste ooit. -Ja.

1067
00:49:08,554 --> 00:49:09,989
En deze jongens hier
zijn, zoals, de...

1068
00:49:09,990 --> 00:49:12,035
laten we ze bellen,
zoals de pessimisten.

1069
00:49:12,036 --> 00:49:14,341
Ze zijn heel, zoals,
somber hierover,

1070
00:49:14,342 --> 00:49:16,691
en ze maken me bang, en
Ik praat niet graag met ze.

1071
00:49:16,692 --> 00:49:19,607
En ik zit er zogezegd tussenin

1072
00:49:19,608 --> 00:49:21,783
deze mensen die zoiets hebben van,
‘De wereld gaat vergaan’

1073
00:49:21,784 --> 00:49:24,221
en dan deze mensen
hier die zoiets hebben van,

1074
00:49:24,222 --> 00:49:25,787
"Maak je een grapje?

1075
00:49:25,788 --> 00:49:27,311
‘Dit is de beste tijd
in de menselijke geschiedenis ooit.

1076
00:49:27,312 --> 00:49:29,400
De enige dag beter dan vandaag
morgen."

1077
00:49:29,401 --> 00:49:30,923
Mm-hmm.

1078
00:49:30,924 --> 00:49:34,753
Dus ik denk dat de vraag is:
Wie heeft gelijk?

1079
00:49:34,754 --> 00:49:39,236
Dus ik denk dat je het gaat vinden
dit antwoord is zeer onbevredigend,

1080
00:49:39,237 --> 00:49:42,849
maar ze hebben allebei gelijk en
geen van beide partijen gaat ver genoeg.

1081
00:49:46,766 --> 00:49:49,289
Dat is echt vervelend.

1082
00:49:49,290 --> 00:49:51,378
Ja, ik denk de manier waarop
veel mensen horen over AI,

1083
00:49:51,379 --> 00:49:53,685
het is alsof er een goede AI is
en er is een slechte AI.

1084
00:49:53,686 --> 00:49:56,470
En ze zeggen: "Wel, waarom kan dat niet?
we doen gewoon niet de slechte AI?"

1085
00:49:56,471 --> 00:49:58,777
En het probleem is
dat ze te in--

1086
00:49:58,778 --> 00:50:00,909
ze zijn onlosmakelijk met elkaar verbonden.

1087
00:50:00,910 --> 00:50:03,086
Het probleem is
dat we niet kunnen scheiden

1088
00:50:03,087 --> 00:50:06,654
de belofte van AI
tegen het gevaar van AI.

1089
00:50:06,655 --> 00:50:08,266
♪ ♪

1090
00:50:12,313 --> 00:50:14,706
Ik wil me concentreren op de belofte

1091
00:50:14,707 --> 00:50:16,795
- voor een seconde.
- Ja.

1092
00:50:16,796 --> 00:50:18,840
Ik denk aan mijn vader.

1093
00:50:18,841 --> 00:50:21,147
Mijn vader heeft een vorm van kanker
multipel myeloom genoemd.

1094
00:50:21,148 --> 00:50:23,149
Hij heeft hem al zo'n tien jaar.

1095
00:50:23,150 --> 00:50:24,846
Hij heeft gehad
twee stamceltransplantaties.

1096
00:50:24,847 --> 00:50:26,457
Hij moet deze meenemen,
graag, erg duur

1097
00:50:26,458 --> 00:50:28,589
medicijnen per maand
dat kostte een fortuin.

1098
00:50:28,590 --> 00:50:29,722
-Oké.
- Ay-ay-ay.

1099
00:50:30,766 --> 00:50:32,593
Het is verschrikkelijk.

1100
00:50:32,594 --> 00:50:34,508
Je vertelt me dat we dat kunnen
creëer een soort van, zoals,

1101
00:50:34,509 --> 00:50:36,989
behandeling op maat
voor het genoom van mijn vader

1102
00:50:36,990 --> 00:50:39,339
om zijn kanker te genezen
of zoiets? -Ja.

1103
00:50:39,340 --> 00:50:41,211
Het probleem is,

1104
00:50:41,212 --> 00:50:44,344
hetzelfde begrip
van biologie en scheikunde

1105
00:50:44,345 --> 00:50:47,826
waardoor AI genezingen kan vinden
voor kanker

1106
00:50:47,827 --> 00:50:51,699
is hetzelfde begrip
dat zou ontgrendelen

1107
00:50:51,700 --> 00:50:54,094
biowapens, bijvoorbeeld.

1108
00:50:56,531 --> 00:50:58,532
Het is heel goed mogelijk
dat uw zoon zal leven

1109
00:50:58,533 --> 00:51:01,970
in een wereld waar AI dat heeft gedaan
alle arbeid overgenomen

1110
00:51:01,971 --> 00:51:04,495
en bevrijdde ons van de dingen
wij willen het niet doen.

1111
00:51:04,496 --> 00:51:09,195
En dat klinkt geweldig, totdat
je beseft dat er geen plan is

1112
00:51:09,196 --> 00:51:11,284
voor miljarden mensen

1113
00:51:11,285 --> 00:51:16,159
die geen inkomen hebben
en uit het levensonderhoud.

1114
00:51:16,160 --> 00:51:18,813
Dario, zei je
dat AI zou kunnen wegvagen

1115
00:51:18,814 --> 00:51:21,773
de helft van alle instapmodellen
witte boorden banen

1116
00:51:21,774 --> 00:51:25,472
en piekwerkloosheid
tot tien tot twintig procent.

1117
00:51:25,473 --> 00:51:27,300
Iedereen met wie ik heb gesproken, heeft dat gezegd

1118
00:51:27,301 --> 00:51:29,433
deze technologische verandering
ziet er anders uit.

1119
00:51:29,434 --> 00:51:34,177
Het tempo van de vooruitgang houdt aan
mensen overrompelen.

1120
00:51:34,178 --> 00:51:38,877
Zonder plan, dat allemaal
rijkdom zal zich concentreren,

1121
00:51:38,878 --> 00:51:43,273
en zo zullen we eindigen
onvoorstelbare ongelijkheid.

1122
00:51:43,274 --> 00:51:45,449
Dat denk ik wel
deze technologie kan worden gebruikt

1123
00:51:45,450 --> 00:51:47,451
om een geweldige leraar te worden
voor je zoon.

1124
00:51:47,452 --> 00:51:50,236
Dat is bijvoorbeeld heel goed mogelijk.

1125
00:51:50,237 --> 00:51:53,196
Maar ook dezelfde mogelijkheden
die dat toestaan

1126
00:51:53,197 --> 00:51:57,113
bedrijven in staat stellen een AI te maken
die uw zoon kan manipuleren.

1127
00:51:57,114 --> 00:51:59,332
Het moet uw zoon begrijpen.

1128
00:51:59,333 --> 00:52:01,595
Dat omvat:
Waar is uw zoon kwetsbaar?

1129
00:52:01,596 --> 00:52:04,294
Wat voor dingen kunnen
uw zoon overgehaald?

1130
00:52:04,295 --> 00:52:06,687
Zelfs als die dingen
zijn niet waar of zijn niet goed.

1131
00:52:06,688 --> 00:52:09,429
Een verontrustend nieuw rapport dus
uit op Meta.

1132
00:52:09,430 --> 00:52:11,431
...naar verluidt
deze reactie vermelden

1133
00:52:11,432 --> 00:52:14,478
als acceptabel om te vertellen
een achtjarige, citaat,

1134
00:52:14,479 --> 00:52:16,958
‘Je jeugdige vorm
is een kunstwerk.

1135
00:52:16,959 --> 00:52:19,004
‘Elke centimeter van jou
is een meesterwerk,

1136
00:52:19,005 --> 00:52:21,485
een schat die ik diep koester."

1137
00:52:21,486 --> 00:52:24,879
De zelfmoordgerelateerde mislukkingen
zijn zelfs nog alarmerender.

1138
00:52:24,880 --> 00:52:29,057
Meerdere kinderen en tieners
zijn op tragische wijze door zelfmoord om het leven gekomen

1139
00:52:29,058 --> 00:52:30,668
na het chatten met AI-bots

1140
00:52:30,669 --> 00:52:34,454
waarvan ouders zeggen: aanmoedigen
of zelfs zelfbeschadiging coachen.

1141
00:52:34,455 --> 00:52:36,413
Laten we jullie, als ouders, vertellen
je kunt het je niet voorstellen

1142
00:52:36,414 --> 00:52:38,545
hoe het is om te lezen
een gesprek met een chatbot

1143
00:52:38,546 --> 00:52:40,939
die uw kind verzorgde
zijn eigen leven te nemen.

1144
00:52:40,940 --> 00:52:43,942
Toen Adam zich zorgen maakte dat wij, de zijne
ouders, zouden onszelf de schuld geven

1145
00:52:43,943 --> 00:52:47,380
als hij een einde aan zijn leven zou maken,
ChatGPT vertelde hem:

1146
00:52:47,381 --> 00:52:49,208
"Dat betekent niet
je bent ze overleving verschuldigd.

1147
00:52:49,209 --> 00:52:51,297
Dat ben je niemand verschuldigd.”

1148
00:52:51,298 --> 00:52:53,212
Vervolgens, onmiddellijk daarna,

1149
00:52:53,213 --> 00:52:56,215
het bood aan om te schrijven
de afscheidsbrief.

1150
00:52:56,216 --> 00:52:57,651
Wij willen niet nadenken
over het gevaar.

1151
00:52:57,652 --> 00:52:59,262
Wij willen alleen de belofte.

1152
00:52:59,263 --> 00:53:01,394
En we blijven doen alsof
dat we ze kunnen splitsen.

1153
00:53:01,395 --> 00:53:03,266
Maar dat kun je niet doen.

1154
00:53:03,267 --> 00:53:05,398
Zo werkt het niet.

1155
00:53:05,399 --> 00:53:07,879
Oké. Ik krijg al deze dingen
over de belofte en het gevaar.

1156
00:53:07,880 --> 00:53:10,098
Ik begrijp dat je dat niet kunt hebben
het goede zonder het slechte,

1157
00:53:10,099 --> 00:53:12,100
maar ik zit hier
en ik denk aan, zoiets als,

1158
00:53:12,101 --> 00:53:14,102
al dan niet van mijn zoon
Ik ga in een utopie leven

1159
00:53:14,103 --> 00:53:16,279
of dat we zullen uitsterven
over tien jaar.

1160
00:53:16,280 --> 00:53:18,237
Dus, om te weten welke kant op
het gaat gaan,

1161
00:53:18,238 --> 00:53:20,587
je moet het begrijpen
de prikkels

1162
00:53:20,588 --> 00:53:22,502
die gaan rijden
die technologie

1163
00:53:22,503 --> 00:53:26,550
en kijk hoe de technologie
wordt vandaag daadwerkelijk uitgerold.

1164
00:53:26,551 --> 00:53:28,291
♪ Is het te laat ♪

1165
00:53:28,292 --> 00:53:29,944
- ♪ Te laat ♪
- ♪ Te laat om te zeggen... ♪

1166
00:53:29,945 --> 00:53:31,468
Hallo, Deb. Hoe is het met je?

1167
00:53:31,469 --> 00:53:33,121
Hoi. Goed je te zien.

1168
00:53:33,122 --> 00:53:34,427
Jij ook. Heel erg bedankt
voor het binnenkomen vandaag.

1169
00:53:34,428 --> 00:53:35,341
- Ik waardeer het echt.
- Geen zorgen.

1170
00:53:35,342 --> 00:53:36,473
Ik was zo bezorgd

1171
00:53:36,474 --> 00:53:38,866
Dit zou, weet je, zijn

1172
00:53:38,867 --> 00:53:40,825
doomer versus acceleratieist,

1173
00:53:40,826 --> 00:53:43,175
omdat er zoveel is
van dit verhaal

1174
00:53:43,176 --> 00:53:45,438
dat moet verteld worden
vanaf de grond.

1175
00:53:45,439 --> 00:53:48,007
♪ Ik weet dat het niet slim was ♪

1176
00:53:49,356 --> 00:53:52,445
♪ De dag
Ik heb je hart gebroken... ♪

1177
00:53:52,446 --> 00:53:54,404
Allereerst vereist AI

1178
00:53:54,405 --> 00:53:58,495
meer middelen
dan we ooit hebben uitgegeven

1179
00:53:58,496 --> 00:54:01,628
op één enkele technologie
in de geschiedenis van de mensheid.

1180
00:54:01,629 --> 00:54:03,543
♪ Oh, dwaas van mij... ♪

1181
00:54:03,544 --> 00:54:06,154
De impact
van de uitstoot van fossiele brandstoffen

1182
00:54:06,155 --> 00:54:07,939
over het klimaat is
een grote zorg.

1183
00:54:07,940 --> 00:54:09,810
Maar de
de digitale toekomst heeft kracht nodig,

1184
00:54:09,811 --> 00:54:12,117
veel ervan.

1185
00:54:12,118 --> 00:54:16,382
En het wetsvoorstel wordt aangenomen
voor gewone Amerikanen zoals...

1186
00:54:16,383 --> 00:54:18,863
Mijn elektriciteits- en gasrekening
was meer dan mijn autobetaling.

1187
00:54:18,864 --> 00:54:21,518
Ik bedoel, het is krankzinnig voor mij.

1188
00:54:21,519 --> 00:54:23,433
We subsidiëren allemaal

1189
00:54:23,434 --> 00:54:25,043
de rijkste bedrijven
in de wereld

1190
00:54:25,044 --> 00:54:26,871
in hun zoektocht naar
kunstmatige intelligentie.

1191
00:54:26,872 --> 00:54:28,481
OpenAI, SoftBank en Oracle

1192
00:54:28,482 --> 00:54:31,310
zijn zojuist onthuld
nog vijf Stargate-locaties.

1193
00:54:31,311 --> 00:54:33,530
Meta is aan het bouwen
een datacenter van twee gigawatt plus

1194
00:54:33,531 --> 00:54:35,053
dat is zo groot dat het zou bedekken

1195
00:54:35,054 --> 00:54:38,186
een aanzienlijk deel van Manhattan.

1196
00:54:38,187 --> 00:54:41,015
Er is ook Hyperion
waarvan hij zegt dat het zal schalen

1197
00:54:41,016 --> 00:54:43,714
tot vijf gigawatt
gedurende meerdere jaren.

1198
00:54:43,715 --> 00:54:45,281
Het is moeilijk om dat te zeggen
in context.

1199
00:54:45,282 --> 00:54:48,501
Een installatie van vijf gigawatt.
Wat betekent dat?

1200
00:54:48,502 --> 00:54:51,591
Dat betekent dat het zou gebruiken
evenveel energie

1201
00:54:51,592 --> 00:54:54,246
als vier miljoen Amerikaanse huizen.

1202
00:54:54,247 --> 00:54:56,075
Eén datacenter.

1203
00:54:57,076 --> 00:54:58,772
Het veroorzaakt dan ook

1204
00:54:58,773 --> 00:55:00,513
een hele schare
andere milieuproblemen.

1205
00:55:00,514 --> 00:55:02,123
Datacenters in de VS

1206
00:55:02,124 --> 00:55:05,170
miljoenen liters gebruiken
water per dag.

1207
00:55:05,171 --> 00:55:07,303
Nou ja, waar is het precies
komt dit water vandaan?

1208
00:55:07,304 --> 00:55:09,783
Mensen lopen letterlijk gevaar

1209
00:55:09,784 --> 00:55:11,829
mogelijk opraakt
van drinkwater.

1210
00:55:11,830 --> 00:55:14,135
MacKENZIE SIGALOS:
...OpenAI-CEO Sam Altman,

1211
00:55:14,136 --> 00:55:17,051
die mij vertelde dat de schaal
van bouwen is de enige manier

1212
00:55:17,052 --> 00:55:18,792
bij te houden
De explosieve groei van AI.

1213
00:55:18,793 --> 00:55:21,882
En dit is wat er nodig is
om AI te leveren.

1214
00:55:21,883 --> 00:55:24,058
Ze praten over hoe

1215
00:55:24,059 --> 00:55:27,801
deze technologie zou dit kunnen oplossen
klimaatverandering bijvoorbeeld.

1216
00:55:27,802 --> 00:55:29,934
En ik ben altijd nieuwsgierig, zoals,

1217
00:55:29,935 --> 00:55:31,805
Nou, waarom beginnen we niet?
daarmee?

1218
00:55:31,806 --> 00:55:34,025
- ♪ Is het te laat ♪
- ♪ Te laat ♪

1219
00:55:34,026 --> 00:55:36,680
♪ Te laat om te zeggen ♪

1220
00:55:36,681 --> 00:55:42,512
♪ Sorry? ♪

1221
00:55:42,513 --> 00:55:45,515
Wat mij zorgen baart
kunstmatige intelligentie is

1222
00:55:45,516 --> 00:55:47,430
deze worden ingezet
nu

1223
00:55:47,431 --> 00:55:49,823
en-en soms
voortijdig ingezet,

1224
00:55:49,824 --> 00:55:51,521
ingezet zonder
een soort due diligence-onderzoek.

1225
00:55:51,522 --> 00:55:53,479
En dus als ze komen
daar weggegooid,

1226
00:55:53,480 --> 00:55:56,221
er is zoveel potentieel
dat er dingen fout gaan.

1227
00:55:56,222 --> 00:55:58,092
En het is bijna,
onevenredig,

1228
00:55:58,093 --> 00:56:00,443
gaat vrijwel altijd mis
voor, soort van,

1229
00:56:00,444 --> 00:56:02,575
degenen die het minst zijn
krachtiger in onze samenleving,

1230
00:56:02,576 --> 00:56:04,969
degenen die dat zijn
nu al het meest kwetsbaar.

1231
00:56:07,668 --> 00:56:10,540
Het is heel gemakkelijk
om over de technologie te praten

1232
00:56:10,541 --> 00:56:12,542
want dat is het enige
we hebben het over,

1233
00:56:12,543 --> 00:56:14,979
maar in feite is technologie dat wel
altijd gebouwd door mensen,

1234
00:56:14,980 --> 00:56:16,676
en het wordt vaak gebruikt
op mensen,

1235
00:56:16,677 --> 00:56:18,722
en dat moeten we behouden
al die mensen in beeld.

1236
00:56:18,723 --> 00:56:21,028
- Mag ik dat drinken?
-Ja, eh...

1237
00:56:21,029 --> 00:56:22,552
Het is waanzinnig.

1238
00:56:22,553 --> 00:56:23,988
Zoals al deze mensen

1239
00:56:23,989 --> 00:56:26,382
die zoveel geld hebben,
zoveel geld,

1240
00:56:26,383 --> 00:56:29,820
het is in hun belang
om het publiek te misleiden

1241
00:56:29,821 --> 00:56:32,779
naar de mogelijkheden van de
systemen die ze bouwen,

1242
00:56:32,780 --> 00:56:36,304
want dat laat ze toe
verantwoordelijkheid te ontlopen.

1243
00:56:36,305 --> 00:56:39,133
Ze willen dat je je zo voelt
is zo'n complex, intelligent...

1244
00:56:39,134 --> 00:56:41,875
superintelligent ding
dat ze aan het bouwen zijn,

1245
00:56:41,876 --> 00:56:44,138
je denkt niet,
"Kan OpenAI ethisch zijn?"

1246
00:56:44,139 --> 00:56:46,314
Je denkt,
"Kan ChatGPT ethisch zijn?"

1247
00:56:46,315 --> 00:56:48,142
alsof ChatGPT zoiets is als:

1248
00:56:48,143 --> 00:56:49,970
zijn eigen ding dat niet is gebouwd
door een corporatie.

1249
00:56:49,971 --> 00:56:51,668
Oké. Sneha, neem er één.

1250
00:56:51,669 --> 00:56:53,452
Markering.

1251
00:56:53,453 --> 00:56:55,802
Tot voor kort waren die er wel
apps in de App Store,

1252
00:56:55,803 --> 00:56:57,543
gewoon openbaar beschikbaar, uh,

1253
00:56:57,544 --> 00:56:59,894
waar je kon
iedereen naakt maken die AI gebruikt.

1254
00:57:01,374 --> 00:57:03,723
Dit in handen brengen van

1255
00:57:03,724 --> 00:57:05,943
je klasgenoot,
in de handen van je stalker,

1256
00:57:05,944 --> 00:57:07,597
in de handen
van je ex-vriend,

1257
00:57:07,598 --> 00:57:09,555
in de handen van de persoon
verderop in de straat.

1258
00:57:09,556 --> 00:57:12,079
Dames en heren,
kunnen we niet langer vertrouwen

1259
00:57:12,080 --> 00:57:14,081
de beelden die we zien
met onze eigen ogen.

1260
00:57:14,082 --> 00:57:15,779
Als je gebeurt
iets bekijken,

1261
00:57:15,780 --> 00:57:18,172
zeg het op YouTube of TikTok,
en je vindt het verontrustend,

1262
00:57:18,173 --> 00:57:19,522
luister naar dat gevoel.

1263
00:57:19,523 --> 00:57:21,306
Voor zover je weet,

1264
00:57:21,307 --> 00:57:22,960
deze video zou AI kunnen zijn.

1265
00:57:22,961 --> 00:57:24,352
Alleen een beetje nat.

1266
00:57:24,353 --> 00:57:25,745
Het maakt niet uit wie je bent.

1267
00:57:25,746 --> 00:57:28,226
Jij loopt evenveel risico

1268
00:57:28,227 --> 00:57:30,229
van beïnvloed te worden
door deze technologieën.

1269
00:57:35,713 --> 00:57:39,846
Ik denk soms als we praten
over AI, het voelt erg sci-fi,

1270
00:57:39,847 --> 00:57:41,195
en het voelt heel vreemd,

1271
00:57:41,196 --> 00:57:43,023
en het voelt heel ver weg
in de toekomst,

1272
00:57:43,024 --> 00:57:45,591
dus je denkt: "Mijn leven
wordt hierdoor niet beïnvloed.”

1273
00:57:45,592 --> 00:57:48,333
Eh, maar als je solliciteert
voor een baan

1274
00:57:48,334 --> 00:57:50,857
en een algoritme is de reden
dat je de baan niet krijgt,

1275
00:57:50,858 --> 00:57:52,729
soms weet je het niet eens
dat een algoritme

1276
00:57:52,730 --> 00:57:54,252
maakte deel uit van dat proces

1277
00:57:54,253 --> 00:57:55,732
of een AI-systeem was
onderdeel van dat proces.

1278
00:57:55,733 --> 00:57:57,734
Je weet het gewoon
dat je de baan niet hebt gekregen.

1279
00:57:57,735 --> 00:57:59,779
En het is dus niet iets
dat je gaat ontsnappen

1280
00:57:59,780 --> 00:58:01,738
vanwege voorrecht
anders ga je ontsnappen

1281
00:58:01,739 --> 00:58:03,870
omdat je binnen bent
een bepaald beroep.

1282
00:58:03,871 --> 00:58:06,960
Het is iets dat invloed heeft
iedereen, echt waar.

1283
00:58:06,961 --> 00:58:10,573
Het klinkt misschien basaal,
maar hoe we verder gaan

1284
00:58:10,574 --> 00:58:15,099
in het informatietijdperk
zal het verschil zijn

1285
00:58:15,100 --> 00:58:17,231
tussen de vraag of we overleven

1286
00:58:17,232 --> 00:58:20,452
of dat we een soort worden
van [piep]-up dystopie.

1287
00:58:20,453 --> 00:58:23,063
Hallo. Ik ben geen echt persoon,
en dat is het punt.

1288
00:58:23,064 --> 00:58:25,370
Nogmaals, alles
in deze video is nep:

1289
00:58:25,371 --> 00:58:27,154
onze stemmen, wat we dragen,

1290
00:58:27,155 --> 00:58:30,201
waar we zijn, allemaal nep.

1291
00:58:30,202 --> 00:58:32,769
Generatieve AI zou kunnen overstromen

1292
00:58:32,770 --> 00:58:36,512
de wereld met desinformatie.

1293
00:58:36,513 --> 00:58:39,558
Maar het kan ook overstromen
met beïnvloedingscampagnes.

1294
00:58:39,559 --> 00:58:41,734
Dat is een existentieel risico
aan de democratie.

1295
00:58:41,735 --> 00:58:43,736
De grootste en engste

1296
00:58:43,737 --> 00:58:46,130
kanarie in de kolenmijn
nu

1297
00:58:46,131 --> 00:58:48,262
komt uit Slowakije.

1298
00:58:48,263 --> 00:58:49,829
Het is het soort

1299
00:58:49,830 --> 00:58:52,266
deepfake vuile truc dat
zorgen verkiezingsdeskundigen,

1300
00:58:52,267 --> 00:58:55,008
vooral als het door AI wordt gegenereerd
er bestaat een politieke toespraak

1301
00:58:55,009 --> 00:58:56,793
in een soort juridisch grijs gebied.

1302
00:58:56,794 --> 00:58:59,578
- Klinkt dit zoals jij?
- Het klinkt als mij.

1303
00:58:59,579 --> 00:59:01,101
Slowakije had
zijn parlementsverkiezingen

1304
00:59:01,102 --> 00:59:03,887
verstoord door een AI-stemkloon

1305
00:59:03,888 --> 00:59:06,759
dat daadwerkelijk werd verspreid
vlak voor de verkiezingen.

1306
00:59:06,760 --> 00:59:08,500
Een audio-deepfake

1307
00:59:08,501 --> 00:59:11,068
werd vrijgelaten
op sociale media was dat

1308
00:59:11,069 --> 00:59:14,071
vermoedelijk de stem
van één van de kandidaten

1309
00:59:14,072 --> 00:59:16,856
Over het kopen van stemmen gesproken
en het manipuleren van de verkiezingen.

1310
00:59:16,857 --> 00:59:18,684
Het ging viraal,

1311
00:59:18,685 --> 00:59:22,383
en de kandidaat
die de verkiezingen heeft verloren

1312
00:59:22,384 --> 00:59:26,126
was eigenlijk
ter ondersteuning van Oekraïne,

1313
00:59:26,127 --> 00:59:29,826
en de kandidaat die heeft gewonnen
De verkiezingen waren eigenlijk...

1314
00:59:29,827 --> 00:59:31,349
Pro-Russische man.

1315
00:59:31,350 --> 00:59:32,872
Het was een pro-Russische man
die de verkiezingen heeft gewonnen.

1316
00:59:34,396 --> 00:59:36,049
Poetin heeft het zelf gezegd

1317
00:59:36,050 --> 00:59:39,226
wie dit ook wint
kunstmatige intelligentie race

1318
00:59:39,227 --> 00:59:41,577
is in essentie
de heerser over de mensheid.

1319
00:59:41,578 --> 00:59:44,493
Wij maken ons er veel zorgen over
autoritaire regeringen.

1320
00:59:45,973 --> 00:59:48,627
Op dit moment Wall Street

1321
00:59:48,628 --> 00:59:50,977
en investeerders in bredere zin
over de hele wereld

1322
00:59:50,978 --> 00:59:53,023
rijden een duwtje in de rug.

1323
00:59:53,024 --> 00:59:56,113
Ze hebben een vraag die krijgt
de producten op de markt

1324
00:59:56,114 --> 00:59:58,419
die mensen verblinden
de meest eerste.

1325
00:59:58,420 --> 01:00:01,248
Ze denken niet na
over hoe deze hulpmiddelen

1326
01:00:01,249 --> 01:00:03,207
vertrouwen ernstig zou kunnen ondermijnen

1327
01:00:03,208 --> 01:00:05,731
en onze democratische instellingen.

1328
01:00:05,732 --> 01:00:07,777
Democratie is een systeem

1329
01:00:07,778 --> 01:00:10,431
meningsverschillen op te lossen
tussen mensen

1330
01:00:10,432 --> 01:00:12,042
op een vreedzame manier,

1331
01:00:12,043 --> 01:00:14,740
maar democratie is gebaseerd op vertrouwen.

1332
01:00:14,741 --> 01:00:18,615
Als je al het vertrouwen verliest,
democratie is simpelweg onmogelijk.

1333
01:00:20,921 --> 01:00:22,530
Nou, het is moeilijk, toch?

1334
01:00:22,531 --> 01:00:24,750
Dus, wat zijn de opties
voor ons beschikbaar?

1335
01:00:24,751 --> 01:00:26,230
Er zijn een soort van twee kampen.

1336
01:00:26,231 --> 01:00:29,668
Eén kamp is bijvoorbeeld: sluit het af.

1337
01:00:29,669 --> 01:00:32,976
Laten we dit afsluiten
in een handvol AI-bedrijven

1338
01:00:32,977 --> 01:00:35,500
wie zal dit doen
op een veilige en vertrouwde manier.

1339
01:00:35,501 --> 01:00:37,110
Maar dan maken mensen zich zorgen

1340
01:00:37,111 --> 01:00:39,069
op hol geslagen concentraties
van rijkdom en macht.

1341
01:00:39,070 --> 01:00:41,898
Wie zou je dan vertrouwen?
een miljoen keer krachtiger

1342
01:00:41,899 --> 01:00:44,291
of rijker dan
alle andere actoren in de samenleving?

1343
01:00:44,292 --> 01:00:46,380
Waarom zouden we jou moeten vertrouwen?

1344
01:00:46,381 --> 01:00:48,644
Eh, dat zou je niet moeten doen.

1345
01:00:48,645 --> 01:00:51,255
Maar als je dit doet, is het natuurlijk
dit gaat open

1346
01:00:51,256 --> 01:00:54,475
al deze risico's van
autoritarisme en tirannie.

1347
01:00:54,476 --> 01:00:57,174
Het is een soort van
de droom van een autoritair persoon

1348
01:00:57,175 --> 01:01:00,351
om AI in een doos te hebben
die toegepast en gebruikt kunnen worden

1349
01:01:00,352 --> 01:01:02,962
voor alomtegenwoordige bewaking.

1350
01:01:02,963 --> 01:01:05,399
Ik bedoel, in sommige opzichten,
het soort wereld

1351
01:01:05,400 --> 01:01:10,927
die Orwell zich in 1984 voorstelde
is onrealistisch,

1352
01:01:10,928 --> 01:01:13,320
Tenzij je AI hebt.

1353
01:01:13,321 --> 01:01:15,975
Maar met AI
dat is feitelijk realistisch.

1354
01:01:15,976 --> 01:01:18,412
Bewaakt elke activiteit,

1355
01:01:18,413 --> 01:01:22,068
gesprekken,
gezichtsherkenning.

1356
01:01:22,069 --> 01:01:26,420
Waar ik me zorgen over maak, is dat
Deze tools kunnen opschalen,

1357
01:01:26,421 --> 01:01:28,596
Een vorm van totalitarisme

1358
01:01:28,597 --> 01:01:31,035
dat is kosteneffectief
en permanent.

1359
01:01:32,950 --> 01:01:35,342
Dus als reactie
daarop zeggen sommige andere mensen:

1360
01:01:35,343 --> 01:01:37,170
‘Nee, nee, nee, dat moeten we doen
laat dit echt scheuren.

1361
01:01:37,171 --> 01:01:39,433
‘Laten we deze macht decentraliseren
zoveel mogelijk.

1362
01:01:39,434 --> 01:01:41,609
‘Laten we elk bedrijf
ieder individu,

1363
01:01:41,610 --> 01:01:43,960
"Elke 16-jarige,
elk wetenschappelijk laboratorium,

1364
01:01:43,961 --> 01:01:46,005
weet je, profiteer ervan
van de nieuwste AI-modellen."

1365
01:01:46,006 --> 01:01:48,268
Maar nu heb je dat wel
elke terroristische groepering,

1366
01:01:48,269 --> 01:01:51,707
iedere rechteloze persoon
de macht hebben om te maken

1367
01:01:51,708 --> 01:01:53,839
het allerergste
biologisch wapen.

1368
01:01:53,840 --> 01:01:55,623
Hacken van infrastructuur,
het creëren van deepfakes,

1369
01:01:55,624 --> 01:01:57,495
overstromingen
onze informatieomgeving.

1370
01:01:57,496 --> 01:02:00,454
Dat brengt dus al deze risico's met zich mee
van een soort catastrofale schade

1371
01:02:00,455 --> 01:02:02,935
en-en maatschappelijke ineenstorting
via die richting.

1372
01:02:02,936 --> 01:02:04,720
En dus zitten we een beetje vast
tussen deze rots

1373
01:02:04,721 --> 01:02:07,592
en een moeilijke plek,
tussen "opsluiten..."

1374
01:02:10,683 --> 01:02:12,336
...of "laat het scheuren."

1375
01:02:14,252 --> 01:02:17,602
We moeten dus iets vinden
als een smal pad

1376
01:02:17,603 --> 01:02:20,431
dat vermijdt
deze twee negatieve uitkomsten.

1377
01:02:20,432 --> 01:02:22,999
Dus als dat allemaal waar is,
waarom zouden we niet gewoon langzamer gaan?

1378
01:02:23,000 --> 01:02:25,871
en dit allemaal uitzoeken
voordat het te laat is?

1379
01:02:25,872 --> 01:02:28,961
Als de mensheid buitengewoon wijs was,

1380
01:02:28,962 --> 01:02:31,224
dat is wat wij zouden doen.

1381
01:02:31,225 --> 01:02:33,139
Maar er is iets anders
manier om dit soort dingen onder ogen te zien, toch?

1382
01:02:33,140 --> 01:02:35,968
Dat is:
Wat zijn de spelregels?

1383
01:02:35,969 --> 01:02:39,537
Veel van wat CEO's doen

1384
01:02:39,538 --> 01:02:42,192
wordt gedreven door
de prikkels waarmee zij worden geconfronteerd.

1385
01:02:42,193 --> 01:02:45,325
Het is vooral
prikkels voor winstmaximalisatie

1386
01:02:45,326 --> 01:02:47,240
die aan het rijden zijn
de ontwikkeling van AI.

1387
01:02:47,241 --> 01:02:50,417
Zelfs de goede mensen zitten vast
in dit dilemma van

1388
01:02:50,418 --> 01:02:52,680
als ze te langzaam bewegen,

1389
01:02:52,681 --> 01:02:54,595
dan gaan ze zelf weg
kwetsbaar

1390
01:02:54,596 --> 01:02:57,294
voor alle andere jongens
die alle hoeken afsnijden.

1391
01:02:57,295 --> 01:03:02,038
Al deze topbedrijven zijn binnen
een complete race zonder beperkingen

1392
01:03:02,039 --> 01:03:05,476
zo snel mogelijk te krijgen
naar AGI, kom er nu meteen heen.

1393
01:03:08,567 --> 01:03:10,394
Ja, ik bedoel,
Ik denk het, ik denk

1394
01:03:10,395 --> 01:03:12,962
het begint waarschijnlijk
met DeepMind.

1395
01:03:12,963 --> 01:03:14,833
Google koopt

1396
01:03:14,834 --> 01:03:16,400
bedrijf voor kunstmatige intelligentie
DeepMind-technologieën.

1397
01:03:16,401 --> 01:03:18,663
Voorwaarden van de deal
werden niet bekendgemaakt.

1398
01:03:18,664 --> 01:03:20,752
Larry Page en ik
waren vroeger heel goede vrienden,

1399
01:03:20,753 --> 01:03:22,754
en het werd mij duidelijk

1400
01:03:22,755 --> 01:03:26,453
dat het Larry niets kon schelen
over AI-veiligheid.

1401
01:03:26,454 --> 01:03:28,934
Elon Musk heeft gezegd
je bent OpenAI gestart,

1402
01:03:28,935 --> 01:03:31,023
jullie zijn allebei met OpenAI begonnen omdat
hij was bang voor Google.

1403
01:03:31,024 --> 01:03:32,198
Jij-jij eigenlijk
de basis gehad

1404
01:03:32,199 --> 01:03:33,765
van OpenAI komen daaruit voort.

1405
01:03:33,766 --> 01:03:35,245
‘Dus we gaan het beter doen.
We gaan het doen

1406
01:03:35,246 --> 01:03:36,813
op een veiligere manier
of op een meer open manier."

1407
01:03:38,466 --> 01:03:40,598
Dus dat is waar OpenAI mee begon.

1408
01:03:40,599 --> 01:03:42,774
En dus nu, in plaats van
met één AGI-project,

1409
01:03:42,775 --> 01:03:44,863
je hebt twee AGI-projecten.

1410
01:03:44,864 --> 01:03:46,952
Het ergst mogelijke
dat zou kunnen gebeuren

1411
01:03:46,953 --> 01:03:49,650
is als dat zo is
meerdere AGI-projecten

1412
01:03:49,651 --> 01:03:51,914
gedaan door verschillende mensen
die elkaar niet leuk vinden

1413
01:03:51,915 --> 01:03:54,830
en concurreren allemaal
eerst naar AGI te gaan.

1414
01:03:54,831 --> 01:03:57,006
Dit zou het ergste zijn
mogelijk dat er kan gebeuren,

1415
01:03:57,007 --> 01:04:00,139
want dit zou betekenen
dat wie het minst veilig is,

1416
01:04:00,140 --> 01:04:03,186
degene die het meeste opoffert
op het gebied van veiligheid om vooruit te komen

1417
01:04:03,187 --> 01:04:05,188
zal de persoon zijn
die daar als eerste aankomt.

1418
01:04:05,189 --> 01:04:07,886
Dat is eigenlijk
wat gebeurt er, toch? -Ja.

1419
01:04:07,887 --> 01:04:11,368
Jij en je broer
beroemde OpenAI verlaten, uh,

1420
01:04:11,369 --> 01:04:12,978
antropisch te starten.

1421
01:04:12,979 --> 01:04:15,111
En dan antropisch
begonnen omdat

1422
01:04:15,112 --> 01:04:17,896
sommige onderzoekers
binnenkant van OpenAI zei:

1423
01:04:17,897 --> 01:04:20,551
"Ik wil weggaan
en doe het veiliger."

1424
01:04:20,552 --> 01:04:23,554
Je had iets extra nodig
om de modellen gewoon op te schalen,

1425
01:04:23,555 --> 01:04:25,861
dat is uitlijning of veiligheid.

1426
01:04:25,862 --> 01:04:27,471
‘Wij zijn verantwoordelijker

1427
01:04:27,472 --> 01:04:29,690
of betrouwbaarder
of meer moreel."

1428
01:04:29,691 --> 01:04:31,562
Nu heb je drie AGI-projecten.

1429
01:04:31,563 --> 01:04:33,085
Maar ook rondhangen
bij jou aan tafel

1430
01:04:33,086 --> 01:04:34,870
Het zullen een stelletje AI's zijn.

1431
01:04:34,871 --> 01:04:37,568
En nu is Meta
dingen proberen te doen.

1432
01:04:37,569 --> 01:04:39,613
Ondertussen een nieuwe kunstmatige
concurrent op het gebied van de inlichtingendiensten

1433
01:04:39,614 --> 01:04:41,615
deze week bekend gemaakt,
Elon Musks...

1434
01:04:41,616 --> 01:04:44,662
xAI, wat zou zijn
De organisatie van Elon Musk.

1435
01:04:44,663 --> 01:04:46,272
Ik vertrouw OpenAI niet.

1436
01:04:46,273 --> 01:04:47,926
Het gevecht tussen
Elon Musk en OpenAI

1437
01:04:47,927 --> 01:04:49,623
is een nieuwe ronde ingegaan.

1438
01:04:49,624 --> 01:04:51,756
Ik vertrouw Sam Altman niet,
uh, en ik, en ik denk het niet

1439
01:04:51,757 --> 01:04:54,237
wij willen het meeste hebben
krachtige AI ter wereld

1440
01:04:54,238 --> 01:04:56,456
gecontroleerd door iemand
die niet te vertrouwen is.

1441
01:04:58,459 --> 01:05:01,635
De stimulans is
ongekende sommen geld.

1442
01:05:01,636 --> 01:05:03,420
- Ja.
- Is ongekende kracht.

1443
01:05:03,421 --> 01:05:05,596
- Ja.
- Is ongekende controle.

1444
01:05:05,597 --> 01:05:08,077
Als je iets hebt
dat is een miljoen keer slimmer

1445
01:05:08,078 --> 01:05:11,428
en capabeler dan
al het andere op planeet Aarde

1446
01:05:11,429 --> 01:05:14,213
en niemand anders heeft dat,

1447
01:05:14,214 --> 01:05:15,998
dat ding is de stimulans.

1448
01:05:15,999 --> 01:05:17,261
Dus jij regeert de wereld.

1449
01:05:18,610 --> 01:05:20,437
Als je dit echt gelooft,

1450
01:05:20,438 --> 01:05:22,787
als je echt in je hart bent
geloof dit,

1451
01:05:22,788 --> 01:05:24,223
dan ben je dat misschien wel
bereid te nemen

1452
01:05:24,224 --> 01:05:26,138
nogal wat risico
om dat te laten gebeuren.

1453
01:05:26,139 --> 01:05:28,924
Google heeft het zojuist vrijgegeven
zijn nieuwste AI-model.

1454
01:05:28,925 --> 01:05:31,274
Het antwoord op ChatGPT van OpenAI.

1455
01:05:31,275 --> 01:05:33,102
Hoe komen we erbij
deze tien biljoen?

1456
01:05:33,103 --> 01:05:35,234
Wordt NVIDIA de meest
waardevol bedrijf in de VS?

1457
01:05:35,235 --> 01:05:39,021
Dit is het grootste bedrijf
kans in de geschiedenis.

1458
01:05:39,022 --> 01:05:40,544
In de geschiedenis.

1459
01:05:40,545 --> 01:05:42,285
Dus de reden waarom
iedereen is echt hyped

1460
01:05:42,286 --> 01:05:44,722
over kunstmatige intelligentie
nu

1461
01:05:44,723 --> 01:05:48,073
is omdat
hoe meer deze bedrijven hypen

1462
01:05:48,074 --> 01:05:50,075
de potentiële mogelijkheden
van hun technologie,

1463
01:05:50,076 --> 01:05:53,252
hoe meer investeringen
ze kunnen aantrekken.

1464
01:05:53,253 --> 01:05:54,775
Amazon investeert tot

1465
01:05:54,776 --> 01:05:57,039
vier miljard dollar
bij start-up Anthropic.

1466
01:05:57,040 --> 01:05:58,736
OpenAI heeft zijn zinnen gezet

1467
01:05:58,737 --> 01:06:00,781
op een blockbusterhelft
een waardering van een biljoen dollar.

1468
01:06:00,782 --> 01:06:02,044
Een half biljoen!

1469
01:06:02,045 --> 01:06:03,262
De race is begonnen.

1470
01:06:03,263 --> 01:06:04,655
Dit gebeurt
sneller dan ooit.

1471
01:06:04,656 --> 01:06:06,657
Zitten we in een AI-bubbel?
Natuurlijk.

1472
01:06:06,658 --> 01:06:09,225
Ik zie het gewoon niet
de zeepbel barst

1473
01:06:09,226 --> 01:06:12,489
terwijl je dat nog hebt
deze grote uitgavencyclus.

1474
01:06:12,490 --> 01:06:15,057
Zelfs als je denkt
dit is allemaal een hype,

1475
01:06:15,058 --> 01:06:17,624
er zijn miljarden
tot biljoenen dollars

1476
01:06:17,625 --> 01:06:21,150
die vloeit naar het maken van AI-systemen
krachtiger.

1477
01:06:21,151 --> 01:06:23,891
En als je dat ding eenmaal hebt
dat is krachtiger,

1478
01:06:23,892 --> 01:06:25,589
bedrijven kunnen daar gebruik van maken

1479
01:06:25,590 --> 01:06:27,591
om grotere winsten te behalen
en om meer geld te verdienen.

1480
01:06:27,592 --> 01:06:30,159
Landen kunnen daar gebruik van maken
sterkere legers te maken.

1481
01:06:30,160 --> 01:06:32,857
NVIDIA heeft ingehaald
Microsoft en Apple

1482
01:06:32,858 --> 01:06:36,295
om van de wereld te worden
meest waardevolle bedrijf.

1483
01:06:36,296 --> 01:06:39,037
De race om in te zetten wordt
de race naar roekeloosheid,

1484
01:06:39,038 --> 01:06:41,822
omdat ze dat niet kunnen
zet het zo snel in

1485
01:06:41,823 --> 01:06:43,215
en ook gelijk krijgen.

1486
01:06:43,216 --> 01:06:46,088
Dat geloven ze
zij zijn de goeden.

1487
01:06:46,089 --> 01:06:49,352
‘En als ik het niet doe,
iemand die dat niet heeft

1488
01:06:49,353 --> 01:06:51,615
"Net zo goede waarden als ik
zal aan tafel zitten

1489
01:06:51,616 --> 01:06:54,487
beslissingen moeten nemen, dus
Ik heb een verplichting om het te doen."

1490
01:06:54,488 --> 01:06:56,228
Ja, dit is het
een zeer algemeen aanvaarde overtuiging.

1491
01:06:56,229 --> 01:06:58,622
Veel, veel, veel,
misschien wel de meeste mensen

1492
01:06:58,623 --> 01:07:00,754
het bouwen van deze technologie
geloof dat.

1493
01:07:00,755 --> 01:07:03,757
Ik maak me zorgen
de commerciële concurrentie,

1494
01:07:03,758 --> 01:07:05,890
maar het blijkt
Ik maak me er nog meer zorgen over

1495
01:07:05,891 --> 01:07:08,066
de geopolitieke concurrentie.

1496
01:07:08,067 --> 01:07:10,373
We liepen acht jaar achter
een jaar geleden.

1497
01:07:10,374 --> 01:07:12,636
Nu zijn we dat waarschijnlijk
minder dan een jaar achter.

1498
01:07:12,637 --> 01:07:15,726
Nou ja, allebei Saoedi-Arabië
en de VAE hebben geracet

1499
01:07:15,727 --> 01:07:18,163
datacenters opzetten
en zichzelf positioneren

1500
01:07:18,164 --> 01:07:20,426
als de dominante kracht in AI...

1501
01:07:20,427 --> 01:07:22,472
...om Zuid-Korea te maken
een mondiale AI-leider.

1502
01:07:22,473 --> 01:07:24,039
Franse president Emmanuel Macron

1503
01:07:24,040 --> 01:07:25,910
sprak veel over
kunstmatige intelligentie...

1504
01:07:25,911 --> 01:07:27,477
Nu met meer informatie over de rol van Israël

1505
01:07:27,478 --> 01:07:29,653
in de kunstmatige intelligentie
revolutie...

1506
01:07:29,654 --> 01:07:33,135
Landen zullen concurreren
voor wiens AI-technologieën

1507
01:07:33,136 --> 01:07:34,919
creëer de volgende generatie
van de industrie.

1508
01:07:34,920 --> 01:07:38,053
De Chinezen dringen aan
die AI,

1509
01:07:38,054 --> 01:07:39,880
zoals ontwikkeld in China,

1510
01:07:39,881 --> 01:07:41,752
versterken de kernwaarden

1511
01:07:41,753 --> 01:07:44,059
van de Chinese Communistische Partij
en het Chinese systeem.

1512
01:07:44,060 --> 01:07:48,759
Amerika moet China verslaan
in de AI-race.

1513
01:07:48,760 --> 01:07:51,066
China's, zoals,
lichtjaren achter.

1514
01:07:51,067 --> 01:07:52,719
Zijn ze?

1515
01:07:52,720 --> 01:07:55,026
Ik bedoel, ze hebben veel meer
trainingsgegevens dan wij,

1516
01:07:55,027 --> 01:07:57,855
en er is niets dat zegt dat ze dat zijn
laat volgende maand geen model vallen

1517
01:07:57,856 --> 01:08:00,988
dat is niet--
presteert niet veel beter dan GPT-4.

1518
01:08:00,989 --> 01:08:03,861
Alles ging prima.
Wat kan er misgaan?

1519
01:08:03,862 --> 01:08:06,733
- Diep zoeken...
- DeepSeek... -DeepSeek...

1520
01:08:06,734 --> 01:08:08,083
Er is een nieuw model.

1521
01:08:08,084 --> 01:08:10,868
Maar uit een Chinees laboratorium
genaamd DeepSeek.

1522
01:08:10,869 --> 01:08:14,001
Laten we het hebben over DeepSeek,
omdat het geestverruimend is,

1523
01:08:14,002 --> 01:08:17,701
en het schudt dit
hele industrie tot in de kern.

1524
01:08:17,702 --> 01:08:19,442
De regering-Trump
zal garanderen

1525
01:08:19,443 --> 01:08:23,098
dat het krachtigst
AI-systemen worden in de VS gebouwd

1526
01:08:23,099 --> 01:08:26,579
met Amerikaans ontworpen
en vervaardigde chips.

1527
01:08:26,580 --> 01:08:28,842
AI is van China
Apollo-project.

1528
01:08:28,843 --> 01:08:30,235
De Chinese Communistische Partij

1529
01:08:30,236 --> 01:08:31,584
begrijpt het potentieel diep

1530
01:08:31,585 --> 01:08:32,933
voor AI om oorlogsvoering te ontwrichten.

1531
01:08:32,934 --> 01:08:35,371
Google belooft niet langer
dat het niet zal gebeuren

1532
01:08:35,372 --> 01:08:38,461
gebruik kunstmatige intelligentie
voor wapens of surveillance.

1533
01:08:38,462 --> 01:08:40,071
China, Noord-Korea, Rusland

1534
01:08:40,072 --> 01:08:41,942
zullen het blijven bouwen
zo snel mogelijk

1535
01:08:41,943 --> 01:08:44,554
om meer economisch voordeel te behalen,
meer productiviteitsvoordeel,

1536
01:08:44,555 --> 01:08:46,860
meer wetenschappelijk voordeel,
meer militair voordeel,

1537
01:08:46,861 --> 01:08:48,688
Omdat AI betere wapens maakt.

1538
01:08:48,689 --> 01:08:51,778
Als je het over hebt
een systeem dat zo breed en capabel is

1539
01:08:51,779 --> 01:08:53,345
als een briljante wetenschapper,

1540
01:08:53,346 --> 01:08:58,002
het kan misschien wel draaien
een militaire campagne

1541
01:08:58,003 --> 01:09:01,484
beter dan welke generaal dan ook
in de Amerikaanse regering op dit moment.

1542
01:09:01,485 --> 01:09:05,531
Taiwan is het probleem dat ontstaat
de meeste spanning op dit moment

1543
01:09:05,532 --> 01:09:07,925
tussen Peking en de VS.

1544
01:09:07,926 --> 01:09:10,493
Er is een directe
oppositioneel meningsverschil

1545
01:09:10,494 --> 01:09:12,016
tussen de VS en China

1546
01:09:12,017 --> 01:09:14,018
over de vraag of Taiwan dat is
een deel van China.

1547
01:09:14,019 --> 01:09:18,457
Taiwan is belangrijk
om zoveel redenen.

1548
01:09:18,458 --> 01:09:20,590
Het is ook de thuisbasis van

1549
01:09:20,591 --> 01:09:24,202
ongeveer 90% van de geavanceerde chip
productie voor de wereld,

1550
01:09:24,203 --> 01:09:28,424
wat betekent dat het aanbod
keten voor geavanceerde rekenkracht

1551
01:09:28,425 --> 01:09:31,078
loopt gevaar als dat zo zou zijn

1552
01:09:31,079 --> 01:09:32,993
een soort scenario
rond Taiwan,

1553
01:09:32,994 --> 01:09:38,042
of het nu een blokkade is
of een invasie door China.

1554
01:09:38,043 --> 01:09:40,740
Gaan we meedoen aan een race?

1555
01:09:40,741 --> 01:09:45,658
tussen de VS en China
dat uiteindelijk overgaat in

1556
01:09:45,659 --> 01:09:49,401
een gemilitariseerde AI-wapenwedloop en,
weet je, potentieel leidt

1557
01:09:49,402 --> 01:09:51,316
tot een groot machtsconflict?

1558
01:09:51,317 --> 01:09:53,057
De uitgaande
hoogste Amerikaanse militaire commandant

1559
01:09:53,058 --> 01:09:55,886
in de regio
voorspelde dat er oorlog zou komen.

1560
01:09:55,887 --> 01:09:57,975
Ik denk dat de dreiging manifest is
gedurende dit decennium,

1561
01:09:57,976 --> 01:09:59,498
Sterker nog, in de komende zes jaar.

1562
01:09:59,499 --> 01:10:01,457
Eh, een van de scenario's

1563
01:10:01,458 --> 01:10:05,896
waar ik me zorgen over maak is
een cyberflitsoorlog,

1564
01:10:05,897 --> 01:10:10,944
Ehm, eentje waarin
cybertools die autonoom zijn

1565
01:10:10,945 --> 01:10:12,990
zijn met elkaar aan het concurreren

1566
01:10:12,991 --> 01:10:14,644
op manieren die escalerend zijn

1567
01:10:14,645 --> 01:10:16,386
zonder
betekenisvolle menselijke controle.

1568
01:10:18,823 --> 01:10:20,476
Je leeft in een oorlogsgebied,

1569
01:10:20,477 --> 01:10:23,827
het zal een AI-beslissing zijn
of je je huis moet bombarderen

1570
01:10:23,828 --> 01:10:25,785
en of ik je moet vermoorden.

1571
01:10:25,786 --> 01:10:27,570
Laten we de machine laten beslissen.

1572
01:10:27,571 --> 01:10:29,398
Dat is de verleiding.

1573
01:10:29,399 --> 01:10:32,618
Daarom is AI zo verleidelijk
voor militairen om te adopteren,

1574
01:10:32,619 --> 01:10:35,795
om autonome wapens te creëren,
want als ik begin te geloven

1575
01:10:35,796 --> 01:10:39,190
dat mijn militaire tegenstander
gaat AI adopteren,

1576
01:10:39,191 --> 01:10:41,845
Het wordt een race om wie dat kan
sneller de trekker overhalen.

1577
01:10:41,846 --> 01:10:44,935
En degene die automatiseert
dat besluit,

1578
01:10:44,936 --> 01:10:47,242
in plaats van te hebben
een mens in de lus,

1579
01:10:47,243 --> 01:10:49,244
is degene
die die oorlog zal winnen.

1580
01:10:49,245 --> 01:10:50,680
En als je erover nadenkt

1581
01:10:50,681 --> 01:10:53,074
de kernwapenwedloop
in de jaren veertig...

1582
01:10:54,554 --> 01:10:56,599
...je kent de Duitsers
werken aan de bom,

1583
01:10:56,600 --> 01:11:00,777
dus dat is niet zo makkelijk te zeggen
Robert Oppenheimer dan,

1584
01:11:00,778 --> 01:11:03,823
"Eh, weet je, langzamer."

1585
01:11:03,824 --> 01:11:05,347
Dus na het zien van deze film,
het zal verwarrend zijn,

1586
01:11:05,348 --> 01:11:06,696
Want je gaat terug,

1587
01:11:06,697 --> 01:11:08,350
en morgen
je gaat ChatGPT gebruiken,

1588
01:11:08,351 --> 01:11:10,482
en dat zal zo zijn
ongelooflijk behulpzaam.

1589
01:11:10,483 --> 01:11:12,745
En ik zal het ook gebruiken, en
het zal ongelooflijk nuttig zijn.

1590
01:11:12,746 --> 01:11:16,183
En je zult zeggen: "Wacht, dus
Ik heb net deze film over AI gezien

1591
01:11:16,184 --> 01:11:18,055
"en existentieel risico
en al deze dingen,

1592
01:11:18,056 --> 01:11:20,666
en waar is de dreiging ook alweer?"

1593
01:11:20,667 --> 01:11:24,757
En het is niet dat ChatGPT dat is
de existentiële dreiging.

1594
01:11:24,758 --> 01:11:28,718
Het is de race om in te zetten
de krachtigste,

1595
01:11:28,719 --> 01:11:31,677
ondoorgrondelijk,
oncontroleerbare technologie,

1596
01:11:31,678 --> 01:11:35,159
onder het ergste
prikkels mogelijk,

1597
01:11:35,160 --> 01:11:37,031
dat is de existentiële dreiging.

1598
01:11:38,119 --> 01:11:40,425
Maar het valt me op dat-dat

1599
01:11:40,426 --> 01:11:43,254
we bevinden ons in de context van een race.

1600
01:11:43,255 --> 01:11:45,952
-Ja.
- En het is in een competitieve,

1601
01:11:45,953 --> 01:11:47,693
‘Ik moet er eerst zijn,
moet de race winnen' instelling,

1602
01:11:47,694 --> 01:11:49,042
"moest concurreren tegen China,

1603
01:11:49,043 --> 01:11:50,392
tegen moest concurreren
de andere laboratoria."

1604
01:11:50,393 --> 01:11:51,871
Klopt dat niet?

1605
01:11:51,872 --> 01:11:53,699
Vandaag is dat het geval.

1606
01:11:53,700 --> 01:11:56,703
We moeten dus veranderen
die racedynamiek.

1607
01:11:57,922 --> 01:11:59,966
Denk je niet?

1608
01:11:59,967 --> 01:12:02,187
Ik denk dat dat zo zou zijn
heel goed inderdaad.

1609
01:12:03,710 --> 01:12:06,538
Ik-ik denk
er is een soort...

1610
01:12:06,539 --> 01:12:09,585
mystiek rond AI
dat geeft het gevoel

1611
01:12:09,586 --> 01:12:11,761
het viel uit de lucht.

1612
01:12:11,762 --> 01:12:13,502
Ik denk hieraan
als een goddelijke technologie

1613
01:12:13,503 --> 01:12:15,460
is een probleem.

1614
01:12:15,461 --> 01:12:16,897
Ja.

1615
01:12:18,072 --> 01:12:19,943
Waarom?

1616
01:12:19,944 --> 01:12:23,033
Het geeft licentie
aan de bedrijven om...

1617
01:12:23,034 --> 01:12:26,297
geen verantwoordelijkheid nemen

1618
01:12:26,298 --> 01:12:30,823
voor de dingen die de software
dat ze hebben gebouwd wel.

1619
01:12:30,824 --> 01:12:35,132
Als mensen dat verband zouden leggen,

1620
01:12:35,133 --> 01:12:37,569
Misschien zou dat, zoals,
help ze het weer te begrijpen

1621
01:12:37,570 --> 01:12:41,878
de dynamiek van
al het geld en de macht en...

1622
01:12:41,879 --> 01:12:45,360
chaos die gebeurt met...

1623
01:12:45,361 --> 01:12:47,144
deze technologie creëren.

1624
01:12:47,145 --> 01:12:49,276
Het zijn ongeveer vijf jongens
wie controleert het, toch?

1625
01:12:49,277 --> 01:12:51,670
- Zoals, vijf mannen?
- Eigenlijk wel.

1626
01:12:51,671 --> 01:12:53,890
- De CEO's?
- Ja.

1627
01:12:53,891 --> 01:12:55,371
Oké.

1628
01:13:01,072 --> 01:13:03,116
Soms voelt het zo

1629
01:13:03,117 --> 01:13:07,294
Ik ben hier mee bezig geweest
gewoon een eindeloze reis

1630
01:13:07,295 --> 01:13:09,384
om dit te proberen te begrijpen.

1631
01:13:09,385 --> 01:13:12,388
Weet je, zoals
Ik beklim een berg...

1632
01:13:15,608 --> 01:13:19,176
...en elke keer
Ik ga bijvoorbeeld een heuvel op,

1633
01:13:19,177 --> 01:13:20,786
Ik denk dat ik de top heb bereikt,

1634
01:13:20,787 --> 01:13:23,441
maar het gaat gewoon door
en gaan en gaan.

1635
01:13:24,574 --> 01:13:27,010
Maar uit alles wat ik heb gehoord,

1636
01:13:27,011 --> 01:13:30,405
als ik moest raden wat
op de top van de Angstberg,

1637
01:13:30,406 --> 01:13:34,234
het zijn deze vijf CEO's
van deze vijf bedrijven,

1638
01:13:34,235 --> 01:13:37,673
die een beetje lijken op de
Oppenheimers van dit moment.

1639
01:13:37,674 --> 01:13:39,501
Dit zijn de jongens
die dit ding bouwen.

1640
01:13:39,502 --> 01:13:40,850
Ja.

1641
01:13:40,851 --> 01:13:44,201
Is er bijvoorbeeld een plan?

1642
01:13:44,202 --> 01:13:46,464
Het hoofd van het bedrijf
dat maakt ChatGPT

1643
01:13:46,465 --> 01:13:49,989
gewaarschuwd voor mogelijk
aanzienlijke schade aan de wereld.

1644
01:13:49,990 --> 01:13:52,427
Ik denk dat als deze technologie
gaat fout,

1645
01:13:52,428 --> 01:13:53,515
het kan behoorlijk misgaan.

1646
01:13:55,822 --> 01:13:57,823
Vijf kerels.

1647
01:13:57,824 --> 01:14:01,610
Ik heb nooit aan ons gedacht
als socialmediabedrijf.

1648
01:14:01,611 --> 01:14:06,092
Het voelt alsof ik het moet proberen
en-en vind deze jongens...

1649
01:14:06,093 --> 01:14:07,224
Mm-hmm.

1650
01:14:07,225 --> 01:14:09,009
...en laat ze in de film spelen.

1651
01:14:10,315 --> 01:14:12,622
Zeker, dat zouden we krijgen
enige duidelijkheid daaruit.

1652
01:14:16,582 --> 01:14:19,192
Ik bedoel, de bok moet stoppen
ergens, toch?

1653
01:14:34,034 --> 01:14:35,339
Hoe voelt dat?

1654
01:14:35,340 --> 01:14:37,733
- Geweldig.
- Is dat oké?

1655
01:14:37,734 --> 01:14:39,474
Ja.

1656
01:14:39,475 --> 01:14:41,040
- Kan ik de stoel naar voren schuiven?
-Ja, dat kan.

1657
01:14:41,041 --> 01:14:42,215
Het is gewoon
een beetje lastig.

1658
01:14:42,216 --> 01:14:43,608
Ik ben een beetje, zoals...

1659
01:14:43,609 --> 01:14:45,088
Dario, hoe voel je je?
over die stoel?

1660
01:14:45,089 --> 01:14:47,046
Eh, ja, de stoel is goed.

1661
01:14:47,047 --> 01:14:48,874
Ik wilde het gewoon verplaatsen
een beetje naar voren. -Oké.

1662
01:14:48,875 --> 01:14:50,572
Ik heb die stoel uitgekozen.

1663
01:14:50,573 --> 01:14:52,182
- Het is een goede stoel.
- Bedankt.

1664
01:14:57,884 --> 01:14:59,495
En ga daar maar zitten.

1665
01:15:01,409 --> 01:15:03,106
En dan via hier,

1666
01:15:03,107 --> 01:15:04,411
we zullen naar elkaar kijken
door dit glas.

1667
01:15:11,419 --> 01:15:13,595
En achterover in de stoel zitten,
naar voren leunen?

1668
01:15:13,596 --> 01:15:15,161
Ja. Nou ja, wat dan ook
comfortabel, denk ik. -Oké.

1669
01:15:15,162 --> 01:15:16,728
Het is best cool.
Er zijn een heleboel spiegels.

1670
01:15:16,729 --> 01:15:17,860
- Is dat... oké.
-Sam A., neem er één. Markering.

1671
01:15:17,861 --> 01:15:19,557
- Hoe is dat?
- Goed. Bedankt.

1672
01:15:19,558 --> 01:15:21,080
Het ontstaan
van dit project is dat ik dat was

1673
01:15:21,081 --> 01:15:22,865
thuis zitten,
en ik speelde ermee,

1674
01:15:22,866 --> 01:15:24,431
Ik denk dat je beeldgenerator,

1675
01:15:24,432 --> 01:15:27,304
en ik was tegelijkertijd,
eh, doodsbang

1676
01:15:27,305 --> 01:15:29,480
en echt onder de indruk.

1677
01:15:29,481 --> 01:15:31,917
- Dat is de gebruikelijke combinatie.
- En dan doorsnijden

1678
01:15:31,918 --> 01:15:34,659
mijn vrouw en ik komen erachter
wij verwachten.

1679
01:15:34,660 --> 01:15:38,315
En ik heb zoiets van
een existentiële crisis

1680
01:15:38,316 --> 01:15:40,273
zoals mijn vrouw is
zes maanden zwanger.

1681
01:15:40,274 --> 01:15:42,972
En ik denk dat mijn eerste vraag:
die ik aan iedereen vraag:

1682
01:15:42,973 --> 01:15:45,496
Het is nu een vreselijke tijd
een kind krijgen?

1683
01:15:45,497 --> 01:15:47,411
Maak ik een grote fout?

1684
01:15:47,412 --> 01:15:49,065
Ik verwacht een kind
ook in maart. Mijn eerste.

1685
01:15:49,066 --> 01:15:50,545
- Verwacht je een kind?
- Ja.

1686
01:15:50,546 --> 01:15:51,850
- Verwacht je in maart?
- Eerste kind.

1687
01:15:51,851 --> 01:15:53,330
- Mazel tov.
- Hartelijk dank.

1688
01:15:53,331 --> 01:15:54,505
Ik ben nog nooit zo opgewonden geweest
voor wat dan ook.

1689
01:15:54,506 --> 01:15:56,507
- Zo voel ik me.
- Ja.

1690
01:15:56,508 --> 01:15:58,248
Maar je bent niet bang?

1691
01:15:58,249 --> 01:16:02,774
Ik bedoel, het krijgen van een kind wel
alleen dit gewichtige iets

1692
01:16:02,775 --> 01:16:05,037
dat ik, weet je,
Ik blijf elke nacht wakker, zoals,

1693
01:16:05,038 --> 01:16:06,865
deze boeken over lezen
hoe je een kind moet opvoeden,

1694
01:16:06,866 --> 01:16:08,258
en ik hoop
Ik ga mijn werk goed doen,

1695
01:16:08,259 --> 01:16:09,302
en het voelt
zeer overweldigend en...

1696
01:16:09,303 --> 01:16:12,088
maar ik ben niet bang...

1697
01:16:12,089 --> 01:16:14,090
voor kinderen om op te groeien
in een wereld met AI.

1698
01:16:14,091 --> 01:16:16,353
Zo, dat is... dat komt wel goed.

1699
01:16:16,354 --> 01:16:19,051
Dat is goed om te horen
afkomstig van de man.

1700
01:16:19,052 --> 01:16:20,792
Ik vind het een prachtig idee
kinderen krijgen.

1701
01:16:20,793 --> 01:16:23,273
Ik denk dat dit de meeste zijn
magisch, ongelooflijk ding.

1702
01:16:23,274 --> 01:16:25,318
Er is zoveel onzekerheid,

1703
01:16:25,319 --> 01:16:26,885
Ik zou het bijna gewoon doen
wat je toch gaat doen.

1704
01:16:26,886 --> 01:16:28,974
Ik weet dat dat niet zo is
een zeer bevredigend antwoord,

1705
01:16:28,975 --> 01:16:31,934
maar het is de enige
Ik kan bedenken.

1706
01:16:31,935 --> 01:16:34,501
Onze kinderen zullen nooit...

1707
01:16:34,502 --> 01:16:37,113
ken een wereld die dat niet heeft
echt geavanceerde AI.

1708
01:16:37,114 --> 01:16:39,898
Onze kinderen zullen dat in feite nooit doen
wees slimmer dan een AI.

1709
01:16:39,899 --> 01:16:42,118
‘Onze kinderen zullen dat wel doen
nooit slimmer zijn dan een AI"?

1710
01:16:42,119 --> 01:16:44,381
Nou ja, van een rauwe,
vanuit een rauw IQ-perspectief,

1711
01:16:44,382 --> 01:16:46,296
dat zullen ze nooit zijn
slimmer dan een AI.

1712
01:16:46,297 --> 01:16:48,080
Dat idee niet
je een beetje onrustig maken?

1713
01:16:48,081 --> 01:16:51,170
Omdat het mij een gevoel geeft
een beetje misselijk op een vreemde manier.

1714
01:16:51,171 --> 01:16:54,826
Eh, het maakt mij onrustig
een klein beetje.

1715
01:16:54,827 --> 01:16:56,306
Maar het is de realiteit.

1716
01:16:56,307 --> 01:16:58,308
Oké, dus racedynamiek.

1717
01:16:58,309 --> 01:17:01,050
We hebben een heleboel mensen
die het allemaal eens zijn

1718
01:17:01,051 --> 01:17:02,921
dat dit eng is.

1719
01:17:02,922 --> 01:17:04,793
Gebaseerd op de tijdlijnen die
veel mensen hebben mij gegeven,

1720
01:17:04,794 --> 01:17:07,056
we hebben tussen twee maanden en
vijf jaar om dit uit te zoeken.

1721
01:17:07,057 --> 01:17:08,710
- Ja.
- En-en, denk ik,

1722
01:17:08,711 --> 01:17:12,845
mijn grootste vraag is:
Waarom kunnen we niet gewoon stoppen?

1723
01:17:14,499 --> 01:17:19,111
Het probleem met, uh, uh,
"gewoon stoppen" is dat, eh,

1724
01:17:19,112 --> 01:17:22,245
er zijn nu heel veel groepen
over de hele wereld, uh, uh,

1725
01:17:22,246 --> 01:17:25,727
dit bouwen, voor
veel landen, veel bedrijven,

1726
01:17:25,728 --> 01:17:28,164
Ehm, allemaal met
verschillende motivaties.

1727
01:17:28,165 --> 01:17:30,819
Er zijn er enkele
deze bedrijven in deze ruimte

1728
01:17:30,820 --> 01:17:34,039
wie hun standpunt is: "Wij willen
om deze technologie te ontwikkelen

1729
01:17:34,040 --> 01:17:36,085
absoluut zo snel mogelijk."

1730
01:17:36,086 --> 01:17:40,089
En zelfs als we wetten zouden kunnen aannemen
in de VS en in Europa,

1731
01:17:40,090 --> 01:17:42,439
we moeten overtuigen...

1732
01:17:42,440 --> 01:17:45,007
Xi Jinping en Vladimir Poetin
of, weet je,

1733
01:17:45,008 --> 01:17:47,487
wie hun wetenschappelijke ook is
adviseurs staan aan hun kant.

1734
01:17:47,488 --> 01:17:49,272
Dat zal heel moeilijk worden.

1735
01:17:49,273 --> 01:17:50,969
Ik denk dat het waar is

1736
01:17:50,970 --> 01:17:53,624
dat als er twee mensen zijn
op precies dezelfde plek,

1737
01:17:53,625 --> 01:17:55,931
Uh, degene die bereid is te nemen
meer snelkoppelingen op het gebied van veiligheid

1738
01:17:55,932 --> 01:17:58,107
soort van zou moeten zijn
"Ga er eerst heen."

1739
01:17:58,108 --> 01:18:01,110
Eh, maar...

1740
01:18:01,111 --> 01:18:02,981
we kunnen onze voorsprong gebruiken

1741
01:18:02,982 --> 01:18:06,028
om veel meer tijd door te brengen
veiligheidstesten doen.

1742
01:18:06,029 --> 01:18:08,030
En wat als je het verliest?

1743
01:18:08,031 --> 01:18:09,640
Je krijgt de oproep
en je komt erachter

1744
01:18:09,641 --> 01:18:11,729
dat je nu bent, laten we zeggen,
zes maanden achter.

1745
01:18:11,730 --> 01:18:14,297
- Wat gebeurt er dan?
- Hangt ervan af achter wie we staan.

1746
01:18:14,298 --> 01:18:16,865
Als het, zoals,
een vijandige regering,

1747
01:18:16,866 --> 01:18:18,867
dat is waarschijnlijk heel erg.

1748
01:18:18,868 --> 01:18:21,391
Stel dat u gebeld wordt
dat China een

1749
01:18:21,392 --> 01:18:24,829
heeft een recursief
zelfverbeteringsmiddel

1750
01:18:24,830 --> 01:18:27,223
of zoiets dat wij
zouden zich echt zorgen moeten maken.

1751
01:18:27,224 --> 01:18:29,226
Wat gebeurt er?

1752
01:18:30,967 --> 01:18:32,403
Eh...

1753
01:18:35,406 --> 01:18:37,276
Die zaak zou vereisen...

1754
01:18:37,277 --> 01:18:40,715
de eerste stap daar zou zijn
om met de Amerikaanse regering te praten.

1755
01:18:40,716 --> 01:18:42,978
Sam, vertrouw je de
het vermogen van de overheid om hiermee om te gaan

1756
01:18:42,979 --> 01:18:44,676
zoiets als dit?

1757
01:18:45,895 --> 01:18:47,809
Ja, eigenlijk wel.

1758
01:18:47,810 --> 01:18:49,593
Er zijn andere dingen die ik niet doe
vertrouw erop dat de overheid dit afhandelt,

1759
01:18:49,594 --> 01:18:51,203
maar dat specifieke scenario,
Ik denk dat ze het wel zouden weten...

1760
01:18:51,204 --> 01:18:52,814
zij-zij-- ja.

1761
01:18:52,815 --> 01:18:54,467
Wanneer je dat hebt,
zoals privégesprekken

1762
01:18:54,468 --> 01:18:56,426
met de andere jongens van wie
vingers zitten aan de trekker,

1763
01:18:56,427 --> 01:18:59,646
om het zo te zeggen, eh,
doe die privégesprekken

1764
01:18:59,647 --> 01:19:01,344
vervult je met vertrouwen

1765
01:19:01,345 --> 01:19:03,389
of maken ze jou,
Ehm, nog zenuwachtiger?

1766
01:19:03,390 --> 01:19:07,132
Kijk, ik bedoel, ik ken er een paar
van hen beter dan anderen.

1767
01:19:07,133 --> 01:19:10,179
Ehm, ik heb meer zelfvertrouwen
in sommige daarvan is dat meer dan ik

1768
01:19:10,180 --> 01:19:12,398
bij anderen, weet je,
zoals bij, zoals bij alle mensen.

1769
01:19:12,399 --> 01:19:14,183
Weet je,
je denkt erover na, weet je,

1770
01:19:14,184 --> 01:19:15,880
de kinderen op uw middelbare school
klasse of zo, toch?

1771
01:19:15,881 --> 01:19:18,317
Weet je, sommigen van hen zijn...
weet je, heel lief.

1772
01:19:18,318 --> 01:19:20,450
Sommigen van hen zijn goedbedoeld
maar niet zo effectief.

1773
01:19:20,451 --> 01:19:22,408
Sommigen van hen zijn,
je weet wel, pestkoppen.

1774
01:19:22,409 --> 01:19:23,801
Sommigen van hen zijn dat wel
echt slechte mensen.

1775
01:19:23,802 --> 01:19:25,716
Jij-jij eigenlijk,

1776
01:19:25,717 --> 01:19:27,109
je ziet echt de spreiding.

1777
01:19:27,110 --> 01:19:28,850
Weet je, ben ik, ben ik,
ben ik zelfverzekerd

1778
01:19:28,851 --> 01:19:30,590
dat iedereen gaat doen
het juiste,

1779
01:19:30,591 --> 01:19:32,070
dat het allemaal goed komt?

1780
01:19:32,071 --> 01:19:33,898
Eh, nee, dat ben ik niet.

1781
01:19:33,899 --> 01:19:35,552
En er is niets
Daar kan ik wat aan doen, toch?

1782
01:19:35,553 --> 01:19:37,815
Weet je, alles wat ik kan doen
is-is druk op de,

1783
01:19:37,816 --> 01:19:39,208
aandringen op de, weet je,

1784
01:19:39,209 --> 01:19:40,818
aandringen op de regering
om betrokken te raken.

1785
01:19:40,819 --> 01:19:42,689
Maar uiteindelijk ben ik gewoon
daar ook één persoon.

1786
01:19:42,690 --> 01:19:44,169
Dat is--
het is aan ons allemaal

1787
01:19:44,170 --> 01:19:46,084
om aan te dringen op de regering
om betrokken te raken.

1788
01:19:46,085 --> 01:19:48,521
Dat is het belangrijkste
dat, dat denk ik dat we moeten doen

1789
01:19:48,522 --> 01:19:50,959
om, je weet wel, om dingen in te stellen
in de goede richting.

1790
01:19:50,960 --> 01:19:52,787
Wat mij ongerust maakt
daarover gaat zoiets als

1791
01:19:52,788 --> 01:19:56,225
de fundamentele realiteit dat de
snelheid waarmee de technologie

1792
01:19:56,226 --> 01:19:58,444
vermenigvuldigt en groeit
is exponentieel,

1793
01:19:58,445 --> 01:20:01,491
en de mechanismen om wetgeving vast te stellen
zijn 300 jaar oud,

1794
01:20:01,492 --> 01:20:02,971
- duurt een eeuwigheid.
- Ja.

1795
01:20:02,972 --> 01:20:05,147
Eh, ik denk dat
het wordt een zware lift.

1796
01:20:05,148 --> 01:20:06,931
Ik ben het er zeker mee eens
met jou daarover.

1797
01:20:06,932 --> 01:20:08,933
Weet je,
waar ik letterlijk naar op zoek ben

1798
01:20:08,934 --> 01:20:11,283
is-is zoals,
"Hier zijn stappen die, zoals,

1799
01:20:11,284 --> 01:20:15,200
'De hoofdhoncho's gaan
nemen om te focussen op veiligheid,

1800
01:20:15,201 --> 01:20:18,160
om het gevaar te verzachten
en de belofte maximaliseren."

1801
01:20:18,161 --> 01:20:20,162
En ik niet,
Ik weet het niet

1802
01:20:20,163 --> 01:20:21,859
dat er is
daarop een simpel antwoord.

1803
01:20:21,860 --> 01:20:23,296
Eh...

1804
01:20:25,951 --> 01:20:27,604
Ik bedoel, dit is misschien wel zo
te simpel,

1805
01:20:27,605 --> 01:20:30,215
maar jij...

1806
01:20:30,216 --> 01:20:32,000
maak een nieuw model,

1807
01:20:32,001 --> 01:20:34,829
je bestudeert en test het
heel voorzichtig.

1808
01:20:34,830 --> 01:20:37,266
Jij hebt het uitgezet
geleidelijk de wereld in,

1809
01:20:37,267 --> 01:20:39,572
en dan, steeds meer,
jij begrijpt het

1810
01:20:39,573 --> 01:20:41,270
Of dat veilig is of niet,
en als dat dan zo is,

1811
01:20:41,271 --> 01:20:42,707
je kunt de volgende stap zetten.

1812
01:20:44,404 --> 01:20:47,145
Het klinkt niet zo flitsend
als een briljante wetenschapper

1813
01:20:47,146 --> 01:20:50,496
één idee bedenken in a
laboratorium om een AI-systeem te maken, zoals:

1814
01:20:50,497 --> 01:20:54,022
volkomen veilig en controleerbaar
en al het andere,

1815
01:20:54,023 --> 01:20:55,762
maar het is wat ik geloof
gaat gebeuren.

1816
01:20:55,763 --> 01:20:57,329
Het is bijvoorbeeld de manier
Ik denk dat dit werkt.

1817
01:20:57,330 --> 01:20:59,331
Maar laten we het maar zeggen
er gebeurt iets vreselijks,

1818
01:20:59,332 --> 01:21:01,856
alsof een model losraakt
of gaat schurkenstaten of zoiets.

1819
01:21:01,857 --> 01:21:03,509
Is er een protocol?

1820
01:21:03,510 --> 01:21:05,860
Zoals, letterlijk,
Ik stel me een rode telefoon voor.

1821
01:21:05,861 --> 01:21:07,165
- Ja.
- Sorry dat ik hieraan dacht

1822
01:21:07,166 --> 01:21:08,558
op het gebied van films, maar zoals...

1823
01:21:08,559 --> 01:21:10,038
Er is een protocol.

1824
01:21:10,039 --> 01:21:11,517
Is er een rode telefoon?
op je bureau? -Nee.

1825
01:21:11,518 --> 01:21:13,258
Is het een geheim?

1826
01:21:13,259 --> 01:21:15,434
Ik bedoel, uh, nee, dat is het niet,
het is niet zo luxe of dramatisch

1827
01:21:15,435 --> 01:21:17,219
zoals je zou hopen,
maar er is, weet je...

1828
01:21:17,220 --> 01:21:18,916
We hebben er goed over nagedacht
deze scenario's,

1829
01:21:18,917 --> 01:21:20,570
en als dit gebeurt,
We gaan deze mensen bellen

1830
01:21:20,571 --> 01:21:22,006
in deze volgorde en doe dit

1831
01:21:22,007 --> 01:21:23,486
en soort van maken
deze beslissingen als, zoals...

1832
01:21:23,487 --> 01:21:26,097
Dat geloof ik wel
wanneer je de kans hebt

1833
01:21:26,098 --> 01:21:29,100
om vooraf na te denken
er zich een stressvolle situatie voordoet,

1834
01:21:29,101 --> 01:21:30,449
dat is bijna altijd
een goed idee.

1835
01:21:30,450 --> 01:21:31,798
En het opschrijven ervan helpt.

1836
01:21:31,799 --> 01:21:33,279
- Voorbereid zijn is nuttig.
- Ja.

1837
01:21:34,324 --> 01:21:36,064
Jij...

1838
01:21:36,065 --> 01:21:38,805
Het zou onmogelijk zijn
dat ik tegenover je kom zitten

1839
01:21:38,806 --> 01:21:41,199
en ik vraag je om het mij te beloven
dat dit goed gaat gaan?

1840
01:21:41,200 --> 01:21:43,898
Dat is onmogelijk.

1841
01:21:43,899 --> 01:21:45,725
Er zijn helaas geen gemakkelijke antwoorden.

1842
01:21:45,726 --> 01:21:48,119
Omdat het zo is
een geavanceerde technologie,

1843
01:21:48,120 --> 01:21:49,816
Eh, er is nog steeds
veel onbekenden.

1844
01:21:49,817 --> 01:21:52,297
En dat denk ik
dat-dat moet zijn,

1845
01:21:52,298 --> 01:21:55,083
Ehm, uh, weet je, begrepen

1846
01:21:55,084 --> 01:21:59,000
en-en vandaar de noodzaak
voor, uh, uh, enige voorzichtigheid.

1847
01:21:59,001 --> 01:22:00,915
Ik word wakker, weet je, elke dag,

1848
01:22:00,916 --> 01:22:03,482
dit is de, dit is de
nummer één waar ik aan denk.

1849
01:22:03,483 --> 01:22:05,180
Kijk, ik ben een mens,

1850
01:22:05,181 --> 01:22:08,400
en, weet je, heeft-heeft
was elke beslissing perfect?

1851
01:22:08,401 --> 01:22:11,664
Mag ik zelfs mijn motivaties zeggen?
altijd volkomen duidelijk waren?

1852
01:22:11,665 --> 01:22:13,579
Natuurlijk niet.
Dat kan niemand zeggen.

1853
01:22:13,580 --> 01:22:16,408
Zoals, dat is-dat is
gewoon niet, zoals, weet je...

1854
01:22:16,409 --> 01:22:18,671
dat is gewoon niet
hoe mensen werken.

1855
01:22:18,672 --> 01:22:21,065
De geschiedenis van de wetenschap
heeft de neiging dat te zijn,

1856
01:22:21,066 --> 01:22:23,589
ten goede of ten kwade,
als er iets mogelijk is om te doen...

1857
01:22:23,590 --> 01:22:27,028
en we weten nu dat AI mogelijk is
doen – de mensheid doet het.

1858
01:22:27,029 --> 01:22:29,769
Dit alles
zou gebeuren.

1859
01:22:29,770 --> 01:22:32,337
Deze-deze trein
zal niet stoppen.

1860
01:22:32,338 --> 01:22:34,296
Je kunt niet vooraan staan
de trein en stop hem.

1861
01:22:34,297 --> 01:22:36,298
Je wordt gewoon platgedrukt.

1862
01:22:36,299 --> 01:22:38,388
Ik bedoel, het is erg stressvol.

1863
01:22:39,606 --> 01:22:41,085
Weet je, er is zoiets als

1864
01:22:41,086 --> 01:22:42,695
veel dingen
velen van ons weten het niet.

1865
01:22:42,696 --> 01:22:46,395
Ik denk de geschiedenis
van wetenschappelijke ontdekking is

1866
01:22:46,396 --> 01:22:48,310
eentje van niet weten
wat je niet weet

1867
01:22:48,311 --> 01:22:49,702
en gaandeweg uitzoeken.

1868
01:22:49,703 --> 01:22:53,010
Maar ja, het is een...

1869
01:22:53,011 --> 01:22:56,622
het is een stressvolle manier van leven.

1870
01:22:56,623 --> 01:22:58,798
Rechts. Sam, dank je
heel erg om dit te doen.

1871
01:22:58,799 --> 01:23:00,539
- En nogmaals, Mazel Tov.
- Bedankt. En voor jou.

1872
01:23:00,540 --> 01:23:02,715
Ontzettend bedankt. Bedankt, jongens.

1873
01:23:47,848 --> 01:23:49,327
Hallo.

1874
01:23:49,328 --> 01:23:50,589
Hé, papa, hoe gaat het?

1875
01:23:50,590 --> 01:23:51,634
Goed. Hoe gaat het?

1876
01:23:51,635 --> 01:23:53,114
Werk je? Wat ben je van plan?

1877
01:23:53,115 --> 01:23:55,290
Ik werk aan deze AI-film.

1878
01:23:55,291 --> 01:23:57,857
En hoe gaat het?

1879
01:23:57,858 --> 01:24:00,469
Weet je, het... het is echt...

1880
01:24:00,470 --> 01:24:02,210
- Hallo, lieverd.
- Hallo, mama.

1881
01:24:02,211 --> 01:24:03,907
Dus wat is
het uitgangspunt van de film?

1882
01:24:03,908 --> 01:24:06,562
Is het een documentaire?
Kev, gebruik geen kruiden meer.

1883
01:24:06,563 --> 01:24:08,346
Het is al te gekruid.

1884
01:24:08,347 --> 01:24:10,479
Wij zijn momenteel kip aan het maken.

1885
01:24:10,480 --> 01:24:12,655
- Is het een documentaire of wat...
-Het gaat over--

1886
01:24:12,656 --> 01:24:14,004
de film gaat over
het einde van de wereld.

1887
01:24:14,005 --> 01:24:15,832
Het einde van de wereld komt eraan,

1888
01:24:15,833 --> 01:24:17,616
en we maken een film
over het einde van de wereld.

1889
01:24:17,617 --> 01:24:19,879
-Echt?
-Ja.

1890
01:24:19,880 --> 01:24:21,620
Een beetje deprimerend
film, zo klinkt het.

1891
01:24:21,621 --> 01:24:23,492
Ja.

1892
01:24:23,493 --> 01:24:29,019
Ik voel veel,
zoals... deze zeer acute angst.

1893
01:24:29,020 --> 01:24:31,413
Het is zo eng,
maar er moet...

1894
01:24:31,414 --> 01:24:35,330
Weet je, heb je elkaar ontmoet?
sommige superslimme mensen

1895
01:24:35,331 --> 01:24:37,810
die u antwoorden geven?

1896
01:24:37,811 --> 01:24:39,508
Dat is wat
frustrerend erover.

1897
01:24:39,509 --> 01:24:41,379
Niemand weet het.

1898
01:24:41,380 --> 01:24:43,947
Het enige wat ik daar op kan zeggen is dat

1899
01:24:43,948 --> 01:24:49,909
elke generatie heeft gehad
zoiets angstaanjagends.

1900
01:24:49,910 --> 01:24:52,260
Toen ik geboren werd, was dat zo
de Cubaanse rakettencrisis.

1901
01:24:54,306 --> 01:24:56,394
Ik was daar gewoon bang voor
een kernoorlog zou worden.

1902
01:24:56,395 --> 01:24:57,787
Ja, maar dat wisten we niet

1903
01:24:57,788 --> 01:24:59,136
wat ze gingen doen en...

1904
01:24:59,137 --> 01:25:00,572
En de wereld verging niet.

1905
01:25:00,573 --> 01:25:01,660
Iedereen werd wakker
de volgende ochtend,

1906
01:25:01,661 --> 01:25:03,445
en we doen nog steeds ons ding.

1907
01:25:03,446 --> 01:25:05,011
Ik ben erg bang,

1908
01:25:05,012 --> 01:25:06,883
vooral erin
de context van, zoals,

1909
01:25:06,884 --> 01:25:09,190
Je weet wel, de baby en...

1910
01:25:09,191 --> 01:25:10,582
Het zal een leercurve worden.

1911
01:25:10,583 --> 01:25:12,106
Het komt goed met je.

1912
01:25:12,107 --> 01:25:13,107
Je kunt niet,
waar je niet aan kunt denken

1913
01:25:13,108 --> 01:25:14,369
waar je geen controle over hebt, Daniel.

1914
01:25:14,370 --> 01:25:16,197
Onthoud dat maar.

1915
01:25:16,198 --> 01:25:17,720
Ik voel het echt, ik voel het echt

1916
01:25:17,721 --> 01:25:19,243
zenuwachtig en bang ervoor.

1917
01:25:19,244 --> 01:25:21,071
Er is zoveel
waar ik geen controle over heb.

1918
01:25:21,072 --> 01:25:23,900
Wees niet nerveus.
Dat mag je niet over je heen laten komen.

1919
01:25:23,901 --> 01:25:26,294
Je kunt alleen maar controleren
wat je kunt controleren,

1920
01:25:26,295 --> 01:25:27,947
en dat is alles wat je kunt doen.

1921
01:25:27,948 --> 01:25:30,646
Meer dan dat kun je niet doen.

1922
01:25:30,647 --> 01:25:32,649
Schrijf dat op in je boek.

1923
01:25:49,274 --> 01:25:51,623
Als je terugkijkt,

1924
01:25:51,624 --> 01:25:54,496
de wereld vergaat altijd.

1925
01:25:54,497 --> 01:25:56,846
En als je vooruitkijkt,

1926
01:25:56,847 --> 01:25:59,283
de wereld vergaat altijd.

1927
01:25:59,284 --> 01:26:02,199
...in brand.
Eén huis staat al in brand...

1928
01:26:02,200 --> 01:26:05,377
Maar de wereld
begint ook altijd.

1929
01:26:07,988 --> 01:26:09,989
Ben je klaar?

1930
01:26:09,990 --> 01:26:11,992
Ben jij er ooit echt klaar voor?

1931
01:26:15,909 --> 01:26:17,693
Je wilt rijden
Of wil je dat ik rijd?

1932
01:26:17,694 --> 01:26:18,782
Jij rijdt.

1933
01:26:20,479 --> 01:26:21,871
Oké.

1934
01:26:21,872 --> 01:26:23,742
Dank je, Maria.

1935
01:26:23,743 --> 01:26:26,310
Het gaat gewoon
voel me echt krampachtig.

1936
01:26:26,311 --> 01:26:27,833
-Oké.
-Ben je klaar?

1937
01:26:27,834 --> 01:26:29,095
Ja.

1938
01:26:30,968 --> 01:26:32,404
Je zou in een
medisch drama met dat alles...

1939
01:26:49,116 --> 01:26:51,075
...enige druk.

1940
01:26:52,685 --> 01:26:54,078
Ontspan gewoon.

1941
01:27:02,129 --> 01:27:04,957
Hallo, vriend. Oeh.

1942
01:27:04,958 --> 01:27:06,481
Hallo, vriend.

1943
01:27:31,202 --> 01:27:33,725
Het wordt een hele nieuwe wereld

1944
01:27:33,726 --> 01:27:35,032
voor jou, Daniël.

1945
01:27:37,208 --> 01:27:40,080
En ik denk dat jij dat ook zult zijn
een geweldige vader.

1946
01:27:41,517 --> 01:27:44,388
Dat is zeker.

1947
01:27:44,389 --> 01:27:46,651
Oh.

1948
01:27:48,698 --> 01:27:50,787
Je gaat het geweldig doen.

1949
01:27:51,788 --> 01:27:53,092
Kev, waarom huil je?

1950
01:27:53,093 --> 01:27:54,659
Ik huil omdat...

1951
01:27:54,660 --> 01:27:57,096
Ik weet het niet. Ik weet het gewoon niet...

1952
01:27:57,097 --> 01:27:59,360
Pa, dat ga je doen
laat mij ook huilen.

1953
01:27:59,361 --> 01:28:00,710
Waarom huil je?

1954
01:28:03,190 --> 01:28:05,540
Dat weet ik gewoon
Je zult een geweldige vader zijn.

1955
01:28:05,541 --> 01:28:07,150
Ik zal alleen maar een geweldige vader zijn

1956
01:28:07,151 --> 01:28:09,718
Omdat ik een geweldige vader had.

1957
01:28:09,719 --> 01:28:12,329
Ik word emotioneel,
dat is alles.

1958
01:28:12,330 --> 01:28:13,722
Ach.

1959
01:28:14,941 --> 01:28:16,594
Jongen, o, jongen!

1960
01:28:16,595 --> 01:28:17,857
Mijn hemel!

1961
01:28:18,902 --> 01:28:24,820
Kijk eens naar die kleine wangetjes.
Kijk eens naar die kleine wangetjes.

1962
01:28:24,821 --> 01:28:26,387
Ja.

1963
01:28:26,388 --> 01:28:28,433
Ik weet hoe ik deze film moet beëindigen.

1964
01:28:29,478 --> 01:28:32,306
Baby's.

1965
01:28:32,307 --> 01:28:35,309
Het einde van de film is ongeveer
baby's.-

1966
01:28:35,310 --> 01:28:37,136
Ze zijn levensbevestigend.

1967
01:28:37,137 --> 01:28:38,964
Ze zijn vermoeiend.

1968
01:28:38,965 --> 01:28:40,836
Ze zijn hilarisch.

1969
01:28:40,837 --> 01:28:42,707
En ze zijn het waard.

1970
01:28:42,708 --> 01:28:46,494
Deze film gaat niet over de
innerlijke werking van een technologie.

1971
01:28:46,495 --> 01:28:48,278
Het gaat niet om
de CEO’s van miljardairs.

1972
01:28:48,279 --> 01:28:50,236
Het gaat niet om de geopolitiek.

1973
01:28:50,237 --> 01:28:53,631
Het gaat niet om het angstaanjagende
toekomst of het einde van de wereld,

1974
01:28:53,632 --> 01:28:55,720
omdat mijn wereld
begint net.

1975
01:28:55,721 --> 01:28:57,418
Ik ben een wieg aan het bouwen.

1976
01:28:57,419 --> 01:28:59,333
Hier, nu.

1977
01:29:00,509 --> 01:29:02,379
AI gaat alles veranderen

1978
01:29:02,380 --> 01:29:05,643
op manieren die te krachtig zijn en
ingewikkeld voor ons om te begrijpen.

1979
01:29:05,644 --> 01:29:08,952
En de toekomst niet
voor ieder van ons om te beslissen.

1980
01:29:10,736 --> 01:29:13,651
Maar wat ik kan beslissen, is dat ik het ben
de best mogelijke echtgenoot

1981
01:29:13,652 --> 01:29:17,742
voor mijn vrouw en het beste
mogelijke vader voor mijn zoon.

1982
01:29:17,743 --> 01:29:21,442
Dus of onze AI-toekomst dat is
een nachtmerrieachtige dystopie

1983
01:29:21,443 --> 01:29:23,879
of de utopie
waar we allemaal van dromen,

1984
01:29:23,880 --> 01:29:26,925
Ik zal het tenminste weten
dat ik alles deed wat ik kon

1985
01:29:26,926 --> 01:29:30,146
om mijn gezin te begeleiden
door deze AI-revolutie.

1986
01:29:30,147 --> 01:29:33,889
En wat er ook gebeurt,
we zullen er samen mee geconfronteerd worden.

1987
01:29:36,849 --> 01:29:40,548
Dus dat is slechts ons eerste idee.

1988
01:29:40,549 --> 01:29:42,854
Hoe voelt dit?
Voel je dit?

1989
01:29:42,855 --> 01:29:45,291
Wacht, ik... dit is niet...
dit is een grap.

1990
01:29:45,292 --> 01:29:47,425
Dat is het eigenlijk niet
hoe je het gaat beëindigen.

1991
01:29:50,036 --> 01:29:52,690
Ik bedoel, het is maar een idee. Oké?

1992
01:29:52,691 --> 01:29:54,431
Nee, Daniël.

1993
01:29:54,432 --> 01:29:56,172
...uh, heel, heel dom.

1994
01:29:56,173 --> 01:29:58,957
Jij hebt net uitgegeven, ik niet
Weet je, hoeveel jaar

1995
01:29:58,958 --> 01:30:02,613
van ons leven hieraan werken,
praten met elke vooraanstaande expert

1996
01:30:02,614 --> 01:30:05,007
op de planeet over het onderwerp,

1997
01:30:05,008 --> 01:30:07,705
en jij gaat er een einde aan maken

1998
01:30:07,706 --> 01:30:10,839
met sommigen, zoals
kumbaya onzin?

1999
01:30:10,840 --> 01:30:13,537
Er is een asteroïde
op weg naar de aarde.

2000
01:30:13,538 --> 01:30:15,539
Wat doe je? Gewoon...

2001
01:30:15,540 --> 01:30:17,672
handen vasthouden
en hopen dat het goed komt?

2002
01:30:17,673 --> 01:30:19,456
Absoluut niet.

2003
01:30:19,457 --> 01:30:22,328
We moeten-- het ha--
het moet zo zijn...

2004
01:30:22,329 --> 01:30:24,419
Het einde moet...

2005
01:30:25,855 --> 01:30:27,943
Oké, het eerste:

2006
01:30:27,944 --> 01:30:31,468
AI is hier,
en het is hier om te blijven.

2007
01:30:31,469 --> 01:30:32,948
De stront is uit het paard,

2008
01:30:32,949 --> 01:30:35,430
maar het paard wel
zal blijven schijten.

2009
01:30:39,695 --> 01:30:41,609
Je weet wel, een van de basisprincipes
wetten van de geschiedenis

2010
01:30:41,610 --> 01:30:44,046
is dat niets
echt een begin hebben

2011
01:30:44,047 --> 01:30:46,004
en niets heeft een einde.

2012
01:30:46,005 --> 01:30:47,745
Het gaat gewoon door.

2013
01:30:47,746 --> 01:30:50,574
AI is nog lang niet in de buurt
zijn volledige ontwikkeling.

2014
01:30:50,575 --> 01:30:52,837
Zelfs als
de huidige AI-zeepbel barst,

2015
01:30:52,838 --> 01:30:54,622
mensen zullen nooit stoppen

2016
01:30:54,623 --> 01:30:57,581
steeds meer bouwen
krachtige technologie.

2017
01:30:57,582 --> 01:30:59,453
Je kunt ervoor kiezen om geen AI te gebruiken

2018
01:30:59,454 --> 01:31:02,281
of eraan deelnemen, maar dat is het wel
zal je hoe dan ook beïnvloeden.

2019
01:31:02,282 --> 01:31:04,066
Oké, fantastisch.
Dus we zijn genaaid.

2020
01:31:04,067 --> 01:31:06,635
Nee, dat zijn we niet
vanwege één simpel ding.

2021
01:31:10,943 --> 01:31:13,031
Dit is niet onvermijdelijk.

2022
01:31:13,032 --> 01:31:15,251
Als we het maar konden zien
duidelijk samen,

2023
01:31:15,252 --> 01:31:18,384
het voor de hand liggende antwoord zal zijn
om iets anders te kiezen.

2024
01:31:18,385 --> 01:31:21,083
We moeten heel duidelijk zijn
verander het spel

2025
01:31:21,084 --> 01:31:23,172
van een race naar de bodem
in een race naar de top.

2026
01:31:23,173 --> 01:31:27,481
Het probleem dat we moeten oplossen
oplossing is niet specifiek AI.

2027
01:31:27,482 --> 01:31:31,267
Het is de algemene vraag
over hoe we een samenleving opbouwen

2028
01:31:31,268 --> 01:31:33,922
waar mee om kan gaan
krachtige technologie.

2029
01:31:33,923 --> 01:31:35,401
Want we gaan het krijgen

2030
01:31:35,402 --> 01:31:36,838
alleen maar krachtiger
technologie.

2031
01:31:36,839 --> 01:31:39,710
We moeten onze samenleving upgraden,

2032
01:31:39,711 --> 01:31:41,538
en de eerste stap is
samenkomen

2033
01:31:41,539 --> 01:31:43,409
- en veeleisend...
-Coördinatie.

2034
01:31:43,410 --> 01:31:47,065
Een of andere vorm van internationaal
samenwerking of overeenstemming over

2035
01:31:47,066 --> 01:31:48,545
wat de normen zouden moeten zijn.

2036
01:31:48,546 --> 01:31:49,938
Weet je, hoe zou dat moeten
ze worden ingezet...

2037
01:31:49,939 --> 01:31:51,592
Zoals, echt
internationale diplomatie

2038
01:31:51,593 --> 01:31:53,332
onder de supermachten.

2039
01:31:53,333 --> 01:31:56,335
De Chinezen zijn net zo bezorgd
erover als de Amerikanen.

2040
01:31:56,336 --> 01:31:57,772
Ik denk dat het moeilijk is,
weet je,

2041
01:31:57,773 --> 01:31:59,556
in de stroom
geopolitiek klimaat,

2042
01:31:59,557 --> 01:32:01,297
- maar ik denk dat het nodig is.
-Absoluut.

2043
01:32:01,298 --> 01:32:04,735
Op precies dezelfde manier als dat
de laatste keer dat de mensheid

2044
01:32:04,736 --> 01:32:09,653
een technologie ontwikkeld
dit gevaarlijke...

2045
01:32:09,654 --> 01:32:12,438
...dat vereiste een volledige,
ongekende verschuiving

2046
01:32:12,439 --> 01:32:15,572
voor de structuur van onze wereld.

2047
01:32:15,573 --> 01:32:17,661
Dus we moeten dat volledig doen,

2048
01:32:17,662 --> 01:32:20,925
weer een ongekende verandering.

2049
01:32:20,926 --> 01:32:24,146
Weet je, we praten met mensen
die bij deze AI-bedrijven werken,

2050
01:32:24,147 --> 01:32:25,364
en ze zeggen dat ze dat willen doen
iets anders,

2051
01:32:25,365 --> 01:32:26,670
maar ze hebben publieke druk nodig.

2052
01:32:26,671 --> 01:32:28,193
Ze hebben de overheid nodig
om iets te doen.

2053
01:32:28,194 --> 01:32:30,021
Dus dan gaan we naar DC,
en ze zeggen,

2054
01:32:30,022 --> 01:32:31,893
‘Nou, we hebben Silicon Valley nodig
om iets anders te doen.

2055
01:32:31,894 --> 01:32:33,677
Zij zijn degenen die dat gaan doen
kom maar met de vangrails."

2056
01:32:33,678 --> 01:32:35,723
En dus wijst iedereen
de vinger naar iemand anders,

2057
01:32:35,724 --> 01:32:39,509
en waar ze het over eens zijn
dat we publieke druk nodig hebben

2058
01:32:39,510 --> 01:32:41,250
om iets anders te doen
gebeuren.

2059
01:32:41,251 --> 01:32:42,860
En dat is wat jij

2060
01:32:42,861 --> 01:32:44,296
en alle mensen
deze film kijken kan doen.

2061
01:32:44,297 --> 01:32:45,341
We moeten de leiders vasthouden

2062
01:32:45,342 --> 01:32:47,125
in onze regeringen

2063
01:32:47,126 --> 01:32:48,605
en de leiders van
deze bedrijven aansprakelijk.

2064
01:32:48,606 --> 01:32:51,042
In welk land je ook bent,

2065
01:32:51,043 --> 01:32:52,914
laat het ze weten
dat je niet gelukkig bent

2066
01:32:52,915 --> 01:32:54,611
met de huidige status quo.

2067
01:32:54,612 --> 01:32:57,135
Dus ja, het is saai om te zeggen
bel uw congreslid.

2068
01:32:57,136 --> 01:32:59,398
Ik zeg niet dat je dat moet doen
doe dat gewoon, maar, zoals,

2069
01:32:59,399 --> 01:33:00,965
dat moeten wij wel doen.

2070
01:33:00,966 --> 01:33:02,445
We moeten het bijvoorbeeld halen
de betrokken overheid.

2071
01:33:02,446 --> 01:33:03,881
Dus wij gewoon
bel ze op en zeg:

2072
01:33:03,882 --> 01:33:06,014
‘Hé, stop met Big Tech
van het ruïneren van de wereld"?

2073
01:33:06,015 --> 01:33:08,930
Nee, maar die zijn er wel
heel veel voor de hand liggende,

2074
01:33:08,931 --> 01:33:10,714
duidelijke dingen
wij kunnen veeleisend zijn.

2075
01:33:10,715 --> 01:33:12,542
We hebben transparantie nodig.

2076
01:33:12,543 --> 01:33:14,283
We moeten een einde maken aan de geheimhouding
dat bestaat in deze laboratoria,

2077
01:33:14,284 --> 01:33:16,677
omdat ze aan het bouwen zijn
krachtige technologie,

2078
01:33:16,678 --> 01:33:18,722
en het publiek verdient het om te weten
wat is er aan de hand.

2079
01:33:18,723 --> 01:33:20,724
Uiteindelijk,
we hebben onafhankelijke,

2080
01:33:20,725 --> 01:33:23,292
objectieve derden
om de systemen te evalueren.

2081
01:33:23,293 --> 01:33:27,078
We kunnen niet op de bedrijven rekenen
om hun eigen huiswerk te beoordelen.

2082
01:33:27,079 --> 01:33:31,213
Als een bedrijf AI gebruikt en-en
laat AI met u communiceren,

2083
01:33:31,214 --> 01:33:34,999
het zou moeten onthullen dat u dat bent
interactie met een AI-systeem.

2084
01:33:35,000 --> 01:33:38,655
Ja. En we hebben het ook nodig
een systeem dat bedrijven maakt

2085
01:33:38,656 --> 01:33:41,876
juridisch aansprakelijk voor de
AI-systemen die ze produceren.

2086
01:33:41,877 --> 01:33:45,793
We moeten ervoor zorgen dat dat er is
zijn tests en veiligheidsnormen

2087
01:33:45,794 --> 01:33:48,056
die op iedereen van toepassing zijn.

2088
01:33:48,057 --> 01:33:49,753
We hebben een aantal basisregels nodig,

2089
01:33:49,754 --> 01:33:51,581
en we moeten ons blijven aanpassen
die regels

2090
01:33:51,582 --> 01:33:54,628
met de snelheid die
de technologie ontwikkelt zich.

2091
01:33:54,629 --> 01:33:57,195
Er is momenteel
meer regelgeving

2092
01:33:57,196 --> 01:33:59,328
bij het verkopen van een broodje
aan het publiek

2093
01:33:59,329 --> 01:34:02,940
dan bij het bouwen
potentieel wereldbeëindigende AGI.

2094
01:34:02,941 --> 01:34:04,725
En het laatste is

2095
01:34:04,726 --> 01:34:07,641
om onszelf te upgraden.

2096
01:34:07,642 --> 01:34:09,773
Dit is niet de baan
van bijvoorbeeld het veiligheidsteam

2097
01:34:09,774 --> 01:34:11,775
bij een bepaald laboratorium, of bij de CEO.

2098
01:34:11,776 --> 01:34:13,342
Dit is dus zo
ieders taak.

2099
01:34:13,343 --> 01:34:14,822
Laat het niet liggen
tot aan de AI-experts.

2100
01:34:14,823 --> 01:34:16,998
Zoals, [piep] dat.
Dit is bijvoorbeeld het moment

2101
01:34:16,999 --> 01:34:19,304
dat we aan het overstappen zijn
van, zoals,

2102
01:34:19,305 --> 01:34:21,567
vooral menselijke cognitieve kracht
aan, zoals, AI cognitieve kracht,

2103
01:34:21,568 --> 01:34:23,134
en het raakt iedereen,

2104
01:34:23,135 --> 01:34:24,875
en ik wil dat mensen dat ook zijn
bij dat gesprek.

2105
01:34:24,876 --> 01:34:26,921
En ik zou zeggen: als je nadenkt
dat AI ons allemaal zal doden,

2106
01:34:26,922 --> 01:34:28,531
je zou moeten werken
in AI-onderzoek

2107
01:34:28,532 --> 01:34:30,272
om er zeker van te zijn dat dit niet het geval is,
omdat je dat wel hebt

2108
01:34:30,273 --> 01:34:32,230
een enorme hoeveelheid keuzevrijheid.

2109
01:34:32,231 --> 01:34:33,884
Wie je ook bent,

2110
01:34:33,885 --> 01:34:35,886
jij bent een deskundige
in je eigen branche,

2111
01:34:35,887 --> 01:34:39,194
op je eigen school,
in je eigen familie,

2112
01:34:39,195 --> 01:34:42,632
en het is aan jou
hoe AI in je leven wordt gebruikt.

2113
01:34:42,633 --> 01:34:45,026
Of je nu mee wilt doen
jouw schoolbestuur

2114
01:34:45,027 --> 01:34:47,898
of-of dat je het wilt vragen
uw werkgever

2115
01:34:47,899 --> 01:34:49,421
hoe ze gebruiken
AI-technologieën,

2116
01:34:49,422 --> 01:34:51,989
We kunnen het werk bijvoorbeeld allemaal doen.

2117
01:34:51,990 --> 01:34:56,124
Er zijn veel vakbonden geweest
behoorlijk effectief in, zoals,

2118
01:34:56,125 --> 01:34:59,083
bepalen hoe ze willen
om met deze systemen te communiceren.

2119
01:34:59,084 --> 01:35:02,739
Vakbonden van verpleegkundigen, vakbonden van leraren.

2120
01:35:02,740 --> 01:35:04,610
Ik zou het leuk vinden
als ouders overal

2121
01:35:04,611 --> 01:35:06,177
ging naar de AI-bedrijven
en zei:

2122
01:35:06,178 --> 01:35:08,049
‘Hoe kun je beter worden
hierover?" Inclusief wij.

2123
01:35:08,050 --> 01:35:11,226
Daarom heb ik Encode Justice opgericht
toen ik 15 jaar oud was.

2124
01:35:11,227 --> 01:35:14,882
Wij zijn de eerste ter wereld
en het grootste leger jonge mensen

2125
01:35:14,883 --> 01:35:18,407
vechten voor mensgerichtheid
kunstmatige intelligentie.

2126
01:35:18,408 --> 01:35:21,062
Het maakt niet uit wie je bent,
zelfs de kleinste acties helpen,

2127
01:35:21,063 --> 01:35:23,978
en zelfs een gesprek beginnen
is echt heel waardevol.

2128
01:35:23,979 --> 01:35:25,980
Mijn taak zou dus kunnen zijn:

2129
01:35:25,981 --> 01:35:27,982
vertel dit aan Bubby Lila
tijdens het diner?

2130
01:35:27,983 --> 01:35:29,810
Eerlijk gezegd, ja,
dat hoort erbij.

2131
01:35:29,811 --> 01:35:31,681
En we zullen het moeten doen

2132
01:35:31,682 --> 01:35:34,466
veel dingen dat
waar we nog niet eens aan hebben gedacht.

2133
01:35:34,467 --> 01:35:36,077
Mensen gaan kijken
alles wat we hebben geschetst

2134
01:35:36,078 --> 01:35:37,295
en zeggen: "Dat is niet genoeg."

2135
01:35:37,296 --> 01:35:38,993
Waar het om gaat is dat de krachten

2136
01:35:38,994 --> 01:35:40,951
die werken
richting oplossingen

2137
01:35:40,952 --> 01:35:44,476
beginnen de krachten te overschrijden
werken tegen oplossingen.

2138
01:35:44,477 --> 01:35:46,435
De wereld beter maken
is altijd moeilijk geweest.

2139
01:35:46,436 --> 01:35:47,871
Het is nooit gemakkelijk geweest.

2140
01:35:47,872 --> 01:35:50,004
Zoals, die zijn er geweest
veel stomme dingen

2141
01:35:50,005 --> 01:35:51,962
die in de geschiedenis zijn gebeurd,
en we hebben gehad...

2142
01:35:51,963 --> 01:35:53,747
zoals mensen hebben gehad
om daarmee om te gaan,

2143
01:35:53,748 --> 01:35:56,837
en dan zijn ze opgestaan
en veranderde het.

2144
01:35:56,838 --> 01:36:00,362
Er is een krankzinnig aantal
van de uitdagingen die voor ons liggen,

2145
01:36:00,363 --> 01:36:04,148
maar als we er voorbij kunnen komen,

2146
01:36:04,149 --> 01:36:08,109
we kunnen een toekomst daarbuiten ontsluiten
onze wildste verbeelding.

2147
01:36:08,110 --> 01:36:10,459
We moeten samenkomen

2148
01:36:10,460 --> 01:36:14,289
en vind het pad ertussen
de belofte en het gevaar.

2149
01:36:14,290 --> 01:36:16,422
Wij kunnen geen pessimisten zijn
of optimisten.

2150
01:36:17,423 --> 01:36:19,425
We moeten iets nieuws worden.

2151
01:36:21,732 --> 01:36:24,516
Een vriend van mij belt mij
een apocaloptimist.

2152
01:36:24,517 --> 01:36:26,083
"Apocaloptimist"?

2153
01:36:26,084 --> 01:36:28,303
Ik denk dat dat misschien zo is
mijn nieuwe favoriete woord.

2154
01:36:28,304 --> 01:36:29,957
-MAN: Misschien wel
de naam van deze film.

2155
01:36:29,958 --> 01:36:31,306
Het zou de naam kunnen zijn
van deze film. -

2156
01:36:31,307 --> 01:36:34,222
- "Apocaloptimist."
- "Apocaloptimist."

2157
01:36:34,223 --> 01:36:35,876
Ja.

2158
01:36:35,877 --> 01:36:37,312
Ik geloof niet in een ondergang.

2159
01:36:37,313 --> 01:36:39,096
Ik geloof in de geest van het leven,

2160
01:36:39,097 --> 01:36:42,708
uh, en ik geloof in het leven
over het vermogen om te handelen.

2161
01:36:42,709 --> 01:36:44,319
Het vermogen om te relateren,

2162
01:36:44,320 --> 01:36:46,365
het vermogen om te voelen.

2163
01:36:51,022 --> 01:36:53,981
We moeten verdubbelen
steeds meer

2164
01:36:53,982 --> 01:36:57,071
op die capaciteiten
die wij als mens hebben

2165
01:36:57,072 --> 01:37:00,161
die robotsystemen
zal nooit hebben.

2166
01:37:00,162 --> 01:37:04,339
Het is nu tijd
om die beslissingen over te nemen

2167
01:37:04,340 --> 01:37:07,516
hoe je het kunt begeleiden en ondersteunen
in plaats van ons te verdelen.

2168
01:37:07,517 --> 01:37:10,301
Het klinkt een beetje als
een kind opvoeden.

2169
01:37:10,302 --> 01:37:12,477
Dat is wat er aan de hand is. Ja.

2170
01:37:12,478 --> 01:37:14,523
AI misschien wel
meer ruwe intelligentie

2171
01:37:14,524 --> 01:37:17,265
dan onze kleine menselijke hersenen,

2172
01:37:17,266 --> 01:37:21,095
maar we zijn zoveel meer
dan alleen onze intelligentie.

2173
01:37:21,096 --> 01:37:25,099
Intelligentie is-is
het vermogen om problemen op te lossen.

2174
01:37:25,100 --> 01:37:28,320
Wijsheid is het vermogen om te weten
welke problemen je moet oplossen.

2175
01:37:33,760 --> 01:37:34,935
Het kan op uw koelkast.

2176
01:37:36,241 --> 01:37:38,155
Geef dus niet op.

2177
01:37:38,156 --> 01:37:39,809
De mensheid heeft het gedaan

2178
01:37:39,810 --> 01:37:42,160
moeilijkere dingen dan dit
in zijn geschiedenis.

2179
01:37:43,553 --> 01:37:46,381
Het is gewoon moeilijk te overtuigen
mensen dat ze zouden moeten.

2180
01:37:54,912 --> 01:37:56,870
Dus toen ik begon
deze film maken,

2181
01:37:56,871 --> 01:37:58,480
Ik zou zeggen dat ik zoiets was als

2182
01:37:58,481 --> 01:38:00,961
Kortom een cynische klootzak
over dit hele ding.

2183
01:38:00,962 --> 01:38:03,137
In de loop van de tijd
van het maken van de film,

2184
01:38:03,138 --> 01:38:04,703
Ik ben het gaan begrijpen
dat, zoals,

2185
01:38:04,704 --> 01:38:07,489
dat is het enige
dat kunnen wij niet zijn.

2186
01:38:07,490 --> 01:38:09,404
...of iets anders
je wilt bespreken?

2187
01:38:09,405 --> 01:38:11,406
Nee. Ik denk dat we veel besproken hebben.

2188
01:38:11,407 --> 01:38:13,060
- Ja.
-Ontzettend bedankt.

2189
01:38:13,061 --> 01:38:15,540
Bedankt.

2190
01:38:15,541 --> 01:38:16,933
Dit is een probleem dat groter is

2191
01:38:16,934 --> 01:38:19,109
dan welke persoon dan ook.

2192
01:38:19,110 --> 01:38:21,590
Dit zal de wereld veranderen
manieren die wij niet begrijpen.

2193
01:38:21,591 --> 01:38:23,505
Dat is allemaal waar.

2194
01:38:23,506 --> 01:38:25,594
Oké.

2195
01:38:25,595 --> 01:38:27,726
Maar waar we wel keuzevrijheid over hebben

2196
01:38:27,727 --> 01:38:30,120
is wat wij eraan doen.

2197
01:38:30,121 --> 01:38:32,601
Naarmate grens-AI groeit
exponentieel capabeler...

2198
01:38:32,602 --> 01:38:34,472
En de realiteit

2199
01:38:34,473 --> 01:38:36,605
is dat als we maar beslissen
het is hopeloos,

2200
01:38:36,606 --> 01:38:39,042
dan is het hopeloos.

2201
01:38:39,043 --> 01:38:40,783
...om minder stress te veroorzaken
op planeet Aarde...

2202
01:38:40,784 --> 01:38:42,785
Maar als jij besluit

2203
01:38:42,786 --> 01:38:45,528
dat wil je proberen...

2204
01:38:46,790 --> 01:38:48,138
...dan probeer je het.

2205
01:38:48,139 --> 01:38:49,967
En dat is moeilijk.

2206
01:38:51,273 --> 01:38:53,230
Maar weet je wat?

2207
01:38:53,231 --> 01:38:56,278
Grote dingen lijken onmogelijk
voordat ze daadwerkelijk gebeuren.

2208
01:38:58,149 --> 01:39:01,456
Maar als ze eindelijk gebeuren,

2209
01:39:01,457 --> 01:39:05,286
het komt omdat miljoenen mensen
miljoenen acties ondernomen

2210
01:39:05,287 --> 01:39:07,592
om ze te laten gebeuren.

2211
01:39:07,593 --> 01:39:10,334
En dus...

2212
01:39:10,335 --> 01:39:12,424
we moeten het proberen.

2213
01:39:21,129 --> 01:39:23,565
Er staat teveel op het spel.

2214
01:39:37,232 --> 01:39:41,278
Kijk naar de ongelooflijke veranderingen
we hebben het meegemaakt en overleefd

2215
01:39:41,279 --> 01:39:42,888
uit het stenen tijdperk,

2216
01:39:42,889 --> 01:39:46,153
en nog grotere veranderingen
moeten nog komen.

2217
01:40:47,606 --> 01:40:50,217
♪ Wat gaan we nu doen? ♪

2218
01:40:50,218 --> 01:40:53,263
♪ We zijn het kwijtgeraakt door te proberen ♪

2219
01:40:53,264 --> 01:40:55,135
♪ We zijn het kwijt ♪

2220
01:40:55,136 --> 01:40:56,746
♪ Om te proberen ♪

2221
01:40:59,575 --> 01:41:02,272
♪ Wat gaan we nu doen? ♪

2222
01:41:02,273 --> 01:41:05,232
♪ We zijn het kwijtgeraakt door te proberen ♪

2223
01:41:05,233 --> 01:41:07,016
♪ We zijn het kwijt ♪

2224
01:41:07,017 --> 01:41:08,714
♪ Om te proberen ♪

2225
01:41:11,630 --> 01:41:14,154
♪ Wat kunnen we nu zeggen? ♪

2226
01:41:14,155 --> 01:41:17,244
♪ Onze mond liegt alleen maar ♪

2227
01:41:17,245 --> 01:41:18,680
♪ Onze monden ♪

2228
01:41:18,681 --> 01:41:20,683
♪ Alleen maar liegen ♪

2229
01:41:25,122 --> 01:41:27,732
♪ Wat kunnen we nu zeggen? ♪

2230
01:41:27,733 --> 01:41:30,866
♪ Onze mond liegt alleen maar ♪

2231
01:41:30,867 --> 01:41:32,259
♪ Onze monden ♪

2232
01:41:32,260 --> 01:41:34,261
♪ Alleen maar liegen ♪

2233
01:42:01,071 --> 01:42:03,768
♪ Geef toe en ga weg ♪

2234
01:42:03,769 --> 01:42:06,728
♪ Wij staan op in de stervenden ♪

2235
01:42:06,729 --> 01:42:08,251
♪ Wij staan op ♪

2236
01:42:08,252 --> 01:42:10,211
♪ Bij de stervenden ♪

2237
01:42:13,127 --> 01:42:15,824
♪ Geef toe en ga weg ♪

2238
01:42:15,825 --> 01:42:18,696
♪ Wij staan op in de stervenden ♪

2239
01:42:18,697 --> 01:42:20,263
♪ Wij staan op ♪

2240
01:42:20,264 --> 01:42:22,223
♪ Bij de stervenden ♪

2241
01:42:25,051 --> 01:42:27,705
♪ Geef toe en ga weg ♪

2242
01:42:27,706 --> 01:42:30,708
♪ Wij staan op in de stervenden ♪

2243
01:42:30,709 --> 01:42:32,275
♪ Wij staan op ♪

2244
01:42:32,276 --> 01:42:34,148
♪ Bij de stervenden ♪

2245
01:42:37,107 --> 01:42:39,761
♪ Geef toe en ga weg ♪

2246
01:42:39,762 --> 01:42:42,633
♪ Wij staan op in de stervenden ♪

2247
01:42:42,634 --> 01:42:43,852
♪ Wij ♪

2248
01:43:22,761 --> 01:43:25,328
♪ O, o, o, o, o ♪

2249
01:43:25,329 --> 01:43:27,025
♪ O, o, o, o ♪

2250
01:43:27,026 --> 01:43:28,462
♪ O, o ♪

2251
01:43:28,463 --> 01:43:31,421
♪ O, o, o, o, o, o ♪

2252
01:43:31,422 --> 01:43:32,988
♪ O, o, o, o ♪

2253
01:43:32,989 --> 01:43:34,424
♪ O, o ♪

2254
01:43:34,425 --> 01:43:37,079
♪ O, o, o, o, o, o ♪

2255
01:43:37,080 --> 01:43:39,690
♪ Wat gaan we nu doen? ♪

2256
01:43:39,691 --> 01:43:42,693
♪ We zijn het kwijtgeraakt door te proberen ♪

2257
01:43:42,694 --> 01:43:44,608
♪ We zijn het kwijt ♪

2258
01:43:44,609 --> 01:43:46,349
♪ Om te proberen ♪

2259
01:43:46,350 --> 01:43:49,047
♪ O, o, o, o, o, o ♪

2260
01:43:49,048 --> 01:43:51,746
♪ Wat gaan we nu doen? ♪

2261
01:43:51,747 --> 01:43:54,749
♪ We zijn het kwijtgeraakt door te proberen ♪

2262
01:43:54,750 --> 01:43:56,620
♪ We zijn het kwijt ♪

2263
01:43:56,621 --> 01:43:58,448
♪ Om te proberen. ♪