1
00:00:06,000 --> 00:00:12,074
Sprijină-ne și devii membru VIP Pentru
eliminați toate anunțurile 

2
00:00:30,682 --> 00:00:31,814
Bună, Alpha.

3
00:00:32,684 --> 00:00:34,034
Buna ziua.

4
00:00:34,077 --> 00:00:35,296
Ma puteti ajuta sa scriu codul?

5
00:00:37,559 --> 00:00:39,082
Am fost instruit să răspund la întrebări,

6
00:00:40,562 --> 00:00:42,216
dar sunt capabil să învăț.

7
00:00:43,695 --> 00:00:45,958
E foarte deschis din partea ta.

8
00:00:46,002 --> 00:00:48,657
Multumesc. Mă bucur că ești fericit cu mine.

9
00:00:50,311 --> 00:00:51,312
Ce face acest tip?

10
00:00:54,532 --> 00:00:56,621
Acesta este un dezvoltator.

11
00:00:56,665 --> 00:00:58,014
La ce crezi că lucrează?

12
00:00:59,537 --> 00:01:01,017
Aceasta este o întrebare dificilă.

13
00:01:01,061 --> 00:01:02,888
Aș putea lucra la o funcție nouă,

14
00:01:02,932 --> 00:01:05,239
o remediere a erorilor sau altceva.

15
00:01:05,282 --> 00:01:06,327
Este foarte posibil.

16
00:01:06,370 --> 00:01:07,328
Da.

17
00:01:10,548 --> 00:01:11,854
Îmi vezi rucsacul?

18
00:01:13,986 --> 00:01:15,292
Asta e o rachetă de badminton.

19
00:01:15,336 --> 00:01:17,903
Este o rachetă de squash, dar arată destul de asemănător.

20
00:01:20,123 --> 00:01:21,690
Asta e o rachetă de badminton.

21
00:01:21,733 --> 00:01:23,126
Nu, dar nu ești prima persoană.

22
00:01:23,170 --> 00:01:24,649
Fă acea greșeală.

23
00:01:34,703 --> 00:01:35,965
AI, tehnologie

24
00:01:36,008 --> 00:01:38,402
care înainta cu o viteză amețitoare.

25
00:01:38,446 --> 00:01:40,796
Inteligența artificială este la modă.

26
00:01:40,839 --> 00:01:42,319
Unii trag acum un semnal de alarmă despre...

27
00:01:42,363 --> 00:01:43,886
Este cu siguranță îngrijorător.

28
00:01:43,929 --> 00:01:45,322
Aceasta este o cursă a înarmărilor AI.

29
00:01:45,366 --> 00:01:46,454
nu stim

30
00:01:46,497 --> 00:01:47,585
Cum vor decurge toate acestea?

31
00:01:47,629 --> 00:01:48,891
Dar e clar că ceva se întâmplă.

32
00:01:53,809 --> 00:01:55,115
Sunt un pic neliniştit.

33
00:01:57,073 --> 00:02:00,120
Încercarea de a construi o IA generală este cea mai interesantă călătorie,

34
00:02:00,163 --> 00:02:02,383
după părerea mea, că oamenii au întreprins vreodată.

35
00:02:04,254 --> 00:02:06,300
Dacă chiar ai de gând să iei asta în serios,

36
00:02:06,343 --> 00:02:08,345
Nu este mult timp

37
00:02:08,389 --> 00:02:09,825
Viața este foarte scurtă.

38
00:02:12,523 --> 00:02:14,482
Scopul meu în viață este să rezolv

39
00:02:14,525 --> 00:02:16,875
Inteligența generală artificială.

40
00:02:16,919 --> 00:02:20,357
Și pe parcurs, utilizați AI ca instrument definitiv

41
00:02:20,401 --> 00:02:21,750
Pentru a rezolva toate problemele lumii

42
00:02:21,793 --> 00:02:23,230
Cele mai complexe probleme științifice.

43
00:02:25,449 --> 00:02:27,103
Cred că acesta este mai mare decât Internetul.

44
00:02:27,147 --> 00:02:28,452
Cred că acesta este mai mare decât mobilul.

45
00:02:29,671 --> 00:02:31,020
Cred că seamănă mai degrabă

46
00:02:31,063 --> 00:02:32,891
sosirea energiei electrice sau a incendiului.

47
00:02:45,687 --> 00:02:46,731
Lideri mondiali

48
00:02:46,775 --> 00:02:48,516
și experți în inteligență artificială

49
00:02:48,559 --> 00:02:49,908
se întâlnesc pentru prima dată

50
00:02:49,952 --> 00:02:52,781
summit global privind siguranța AI,

51
00:02:52,824 --> 00:02:54,348
Disponibil să analizeze riscurile

52
00:02:54,391 --> 00:02:56,611
de tehnologie în creștere rapidă și, de asemenea...

53
00:02:56,654 --> 00:02:57,873
Cred că acesta este ceva foarte important.

54
00:02:57,916 --> 00:03:00,136
moment critic pentru întreaga umanitate.

55
00:03:01,093 --> 00:03:03,618
Se simte ca și cum am fi în prag

56
00:03:03,661 --> 00:03:05,794
a unor lucruri uimitoare care se întâmplă.

57
00:03:05,837 --> 00:03:07,056
Lasă-mă să te ghidez

58
00:03:07,099 --> 00:03:08,275
Câteva dintre reacțiile din ziarele de astăzi.

59
00:03:08,318 --> 00:03:10,015
Cred că AGI este destul de aproape.

60
00:03:10,059 --> 00:03:12,844
Este clar că există un interes enorm pentru ceea ce este capabil să facă.

61
00:03:12,888 --> 00:03:14,803
Unde ne duce.

62
00:03:14,846 --> 00:03:15,978
Acesta este momentul

63
00:03:16,021 --> 00:03:17,936
Mi-am trăit toată viața.

64
00:03:22,202 --> 00:03:24,987
Mintea m-a fascinat mereu.

65
00:03:25,030 --> 00:03:27,990
Așa că am decis să studiez neuroștiințe.

66
00:03:28,033 --> 00:03:29,948
Pentru că am vrut să fiu inspirată

67
00:03:29,992 --> 00:03:31,646
De la creier la AI.

68
00:03:31,689 --> 00:03:33,300
Îmi amintesc că l-am întrebat pe Demis:

69
00:03:33,343 --> 00:03:34,649
„Care este scopul final?”

70
00:03:34,692 --> 00:03:36,172
Îl știi? Deci vii aici.

71
00:03:36,216 --> 00:03:38,218
și vei studia neuroștiința

72
00:03:38,261 --> 00:03:41,438
Și poate vei obține un doctorat dacă muncești din greu.

73
00:03:42,874 --> 00:03:44,136
Iar el a spus:

74
00:03:44,180 --> 00:03:46,965
„Știi, vreau să pot rezolva AI.

75
00:03:47,009 --> 00:03:49,359
„Vreau să fiu capabil să rezolv inteligența”.

76
00:03:49,403 --> 00:03:51,361
Creierul uman este singura dovadă existentă

77
00:03:51,405 --> 00:03:53,494
Avem, poate în întregul univers,

78
00:03:53,537 --> 00:03:56,279
Fie posibilă inteligența generală.

79
00:03:56,323 --> 00:03:59,282
Și am crezut că cineva în această clădire

80
00:03:59,326 --> 00:04:00,370
ar trebui să fie interesat

81
00:04:00,414 --> 00:04:02,590
În general, inteligență ca a mea.

82
00:04:02,633 --> 00:04:04,809
Și apoi a apărut numele lui Shane.

83
00:04:04,853 --> 00:04:07,334
Următorul nostru vorbitor de astăzi este Shane Legg.

84
00:04:07,377 --> 00:04:08,596
El este din Noua Zeelandă,

85
00:04:08,639 --> 00:04:11,512
unde s-a pregătit în matematică și balet clasic.

86
00:04:11,555 --> 00:04:14,079
Mașinile devin cu adevărat mai inteligente?

87
00:04:14,123 --> 00:04:16,517
Unii spun da, alții spun că nu.

88
00:04:16,560 --> 00:04:17,648
Nu este foarte clar

89
00:04:17,692 --> 00:04:18,867
Știm că devin mult mai repede.

90
00:04:18,910 --> 00:04:20,216
la efectuarea calculelor.

91
00:04:20,260 --> 00:04:21,609
Dar chiar mergem înainte?

92
00:04:21,652 --> 00:04:23,828
În ceea ce privește inteligența generală?

93
00:04:23,872 --> 00:04:25,700
Eram amândoi obsedați de IAG,

94
00:04:25,743 --> 00:04:27,397
Inteligența generală artificială.

95
00:04:27,441 --> 00:04:29,704
Așa că astăzi voi vorbi despre

96
00:04:29,747 --> 00:04:32,097
Diferite abordări ale construirii IAG.

97
00:04:32,141 --> 00:04:33,882
Cu colegul meu Demis Hassabis,

98
00:04:33,925 --> 00:04:35,884
Căutăm modalități de a încorpora ideile.

99
00:04:35,927 --> 00:04:37,451
a neuroștiinței teoretice.

100
00:04:37,494 --> 00:04:41,585
M-am simțit de parcă suntem păstrătorii unui secret.

101
00:04:41,629 --> 00:04:43,152
că nimeni altcineva nu știa.

102
00:04:43,195 --> 00:04:45,415
Shane și cu mine nu cunoșteam pe nimeni în mediul academic.

103
00:04:45,459 --> 00:04:47,809
ar sprijini ceea ce făceam.

104
00:04:47,852 --> 00:04:50,855
AI era aproape un cuvânt rușinos

105
00:04:50,899 --> 00:04:52,857
de folosit în cercurile academice, nu?

106
00:04:52,901 --> 00:04:54,903
Dacă ai spus că lucrezi în AI,

107
00:04:54,946 --> 00:04:57,993
Deci clar că nu ai fost un om de știință serios.

108
00:04:58,036 --> 00:05:00,082
Așa că l-am convins pe Shane de modul corect de a face asta.

109
00:05:00,125 --> 00:05:01,344
Ar fi înființarea unei companii.

110
00:05:01,388 --> 00:05:03,215
Ei bine, hai să încercăm să o facem.

111
00:05:03,259 --> 00:05:04,913
Inteligența generală artificială.

112
00:05:04,956 --> 00:05:06,915
S-ar putea să nu fie nici măcar posibil.

113
00:05:06,958 --> 00:05:08,482
Nu suntem siguri cum o vom face,

114
00:05:08,525 --> 00:05:11,528
dar avem niște idei sau, într-un fel, abordări.

115
00:05:11,572 --> 00:05:14,966
Sume uriașe de bani, sume uriașe de riscuri,

116
00:05:15,010 --> 00:05:16,533
Multe calcule.

117
00:05:18,709 --> 00:05:20,320
Și dacă reușim acest lucru,

118
00:05:20,363 --> 00:05:23,540
Va fi cel mai mare lucru din istorie, nu?

119
00:05:23,584 --> 00:05:26,108
Acesta este un lucru foarte dificil pentru un investitor tipic.

120
00:05:26,151 --> 00:05:27,327
să-ți pui banii.

121
00:05:27,370 --> 00:05:29,633
Este aproape ca și cum ai cumpăra un bilet de loterie.

122
00:05:29,677 --> 00:05:32,462
Voi vorbi despre sistemul de neuroștiințe.

123
00:05:32,506 --> 00:05:36,727
și cum ar putea fi folosit pentru a ne ajuta să construim un IAG.

124
00:05:36,771 --> 00:05:37,946
Găsirea finanțării inițiale

125
00:05:37,989 --> 00:05:39,208
Pentru că asta a fost foarte greu.

126
00:05:39,251 --> 00:05:41,253
Să rezolvăm toată inteligența.

127
00:05:41,297 --> 00:05:42,907
Vă puteți imagina câteva din privirile pe care le-am avut.

128
00:05:42,951 --> 00:05:44,779
Când am lansat asta.

129
00:05:44,822 --> 00:05:47,912
Deci sunt VC și mă uit în jur

130
00:05:47,956 --> 00:05:51,002
700 până la 1.000 de proiecte pe an.

131
00:05:51,046 --> 00:05:54,789
Și finanțez literalmente 1% dintre ele.

132
00:05:54,832 --> 00:05:57,139
Aproximativ opt proiecte pe an.

133
00:05:57,182 --> 00:06:00,272
Asta înseamnă că 99% din timp sunteți în modul „Nu”.

134
00:06:00,316 --> 00:06:01,622
„Stai puțin. Îți spun,

135
00:06:01,665 --> 00:06:03,798
„Acesta este cel mai important lucru din toate timpurile.

136
00:06:03,841 --> 00:06:05,103
„Vă fac toată această pregătire

137
00:06:05,147 --> 00:06:06,235
„despre cum să... explic

138
00:06:06,278 --> 00:06:07,671
„cum se conectează cu creierul,

139
00:06:07,715 --> 00:06:09,412
„De ce este momentul potrivit și apoi mă întrebi,

140
00:06:09,456 --> 00:06:10,979
„Dar ce ai, cum vei face bani?

141
00:06:11,022 --> 00:06:12,154
„‘Care este produsul tău?”

142
00:06:12,197 --> 00:06:15,984
Este o întrebare foarte prozaică.

143
00:06:16,506 --> 00:06:17,942
știi?

144
00:06:17,986 --> 00:06:19,117
-Nu ai ascultat ce am spus?

145
00:06:19,161 --> 00:06:21,076
Aveam nevoie de investitori

146
00:06:21,119 --> 00:06:23,470
că nu vor investi neapărat

147
00:06:23,513 --> 00:06:25,123
Pentru că ei cred că este cel mai bun

148
00:06:25,167 --> 00:06:26,690
decizie de investitie.

149
00:06:26,734 --> 00:06:27,865
Probabil că vor investi

150
00:06:27,909 --> 00:06:29,476
Pentru că ei cred că e foarte tare.

151
00:06:29,519 --> 00:06:31,478
El este Silicon Valley

152
00:06:31,521 --> 00:06:33,523
Versiunea omului din spatele perdelei

153
00:06:33,567 --> 00:06:34,872
în Vrăjitorul din Oz.

154
00:06:34,916 --> 00:06:36,265
A avut foarte mult de-a face cu a-ți oferi

155
00:06:36,308 --> 00:06:39,007
PayPal, Facebook, YouTube și Yelp.

156
00:06:39,050 --> 00:06:40,443
Dacă toată lumea spune „X”,

157
00:06:40,487 --> 00:06:43,185
Peter Thiel bănuiește că opusul

158
00:06:43,228 --> 00:06:44,708
Este foarte posibil să fie adevărat.

159
00:06:44,752 --> 00:06:47,276
Așa că Peter Thiel a fost primul nostru mare investitor.

160
00:06:47,319 --> 00:06:50,105
Dar a insistat să mergem în Silicon Valley.

161
00:06:50,148 --> 00:06:51,802
Pentru că acesta era singurul loc în care puteam...

162
00:06:51,846 --> 00:06:52,977
Talentul ar fi acolo,

163
00:06:53,021 --> 00:06:55,066
și am putea construi genul acesta de companie.

164
00:06:55,110 --> 00:06:56,981
Dar eram destul de convins că ar trebui să fim la Londra.

165
00:06:57,025 --> 00:06:59,027
Pentru că cred că Londra este un oraș incredibil.

166
00:06:59,070 --> 00:07:01,464
În plus, știam că sunt niște oameni cu adevărat minunați acolo.

167
00:07:01,508 --> 00:07:03,814
S-a antrenat la Cambridge, Oxford și UCL.

168
00:07:03,858 --> 00:07:05,033
În Silicon Valley,

169
00:07:05,076 --> 00:07:06,643
Toată lumea începe o companie în fiecare an,

170
00:07:06,687 --> 00:07:07,818
si apoi daca nu merge,

171
00:07:07,862 --> 00:07:09,603
O lași și începi ceva nou.

172
00:07:09,646 --> 00:07:11,169
Asta nu este favorabil

173
00:07:11,213 --> 00:07:14,564
la o provocare de cercetare pe termen lung.

174
00:07:14,608 --> 00:07:17,349
Deci am fost o excepție totală pentru el.

175
00:07:17,393 --> 00:07:20,962
Bună ziua tuturor. Bun venit la DeepMind.

176
00:07:21,005 --> 00:07:22,529
Deci care este misiunea noastră?

177
00:07:23,747 --> 00:07:25,706
Rezumăm așa...

178
00:07:25,749 --> 00:07:28,012
Misiunea DeepMind este de a construi primul

179
00:07:28,056 --> 00:07:29,579
mașină de învățare generală.

180
00:07:29,623 --> 00:07:31,712
De aceea, aici subliniem întotdeauna cuvântul „general” și „învățare”.

181
00:07:31,755 --> 00:07:32,887
Ele sunt lucrurile cheie.

182
00:07:32,930 --> 00:07:35,106
Misiunea noastră a fost să construim un IAG,

183
00:07:35,150 --> 00:07:36,760
o inteligență generală artificială.

184
00:07:36,804 --> 00:07:40,372
Și asta înseamnă că avem nevoie de un sistem care să fie general.

185
00:07:40,416 --> 00:07:42,723
Nu înveți să faci un lucru anume.

186
00:07:42,766 --> 00:07:45,073
Aceasta este o parte cheie a inteligenței umane.

187
00:07:45,116 --> 00:07:46,683
Putem învăța să facem multe, multe lucruri.

188
00:07:46,727 --> 00:07:48,685
Desigur, va fi multă muncă grea.

189
00:07:48,729 --> 00:07:51,079
Dar unul dintre lucrurile care mă ține treaz noaptea

190
00:07:51,122 --> 00:07:53,168
Nu este să pierdem această ocazie, știi,

191
00:07:53,211 --> 00:07:54,430
Pentru a face cu adevărat diferența aici,

192
00:07:54,474 --> 00:07:56,824
și au un mare impact asupra lumii.

193
00:07:56,867 --> 00:07:58,303
Primii oameni care au venit

194
00:07:58,347 --> 00:08:00,262
și sa alăturat DeepMind a crezut cu adevărat în vis.

195
00:08:00,305 --> 00:08:02,090
Dar aceasta a fost, cred, una dintre primele ori

196
00:08:02,133 --> 00:08:04,440
Au găsit un loc plin de alți visători.

197
00:08:04,484 --> 00:08:06,398
Știi, am compilat acest proiect Manhattan,

198
00:08:06,442 --> 00:08:08,400
Dacă vrei, hai să rezolvăm AI împreună.

199
00:08:08,444 --> 00:08:09,750
În primii doi ani,

200
00:08:09,793 --> 00:08:10,794
Eram în modul complet stealth.

201
00:08:10,838 --> 00:08:12,274
Și atunci nu am putut spune nimănui

202
00:08:12,317 --> 00:08:14,755
Ce făceam sau unde lucram?

203
00:08:14,798 --> 00:08:16,104
Totul a fost destul de vag.

204
00:08:16,147 --> 00:08:17,584
Nu avea prezență publică.

205
00:08:17,627 --> 00:08:18,933
Nu te puteai uita la un site web.

206
00:08:18,976 --> 00:08:21,109
Biroul era într-o locație secretă.

207
00:08:21,152 --> 00:08:23,981
Când am intervievat oameni în acele zile de început,

208
00:08:24,025 --> 00:08:26,288
Ar părea foarte nervoși.

209
00:08:27,463 --> 00:08:29,639
Am avut cel puțin un candidat care a spus:

210
00:08:29,683 --> 00:08:31,989
„Tocmai i-am trimis un mesaj soției mele pentru a-i spune exact...

211
00:08:32,033 --> 00:08:33,338
„Unde mă duc pentru orice eventualitate

212
00:08:33,382 --> 00:08:34,514
„Acesta se dovedește a fi un fel de înșelătorie oribilă

213
00:08:34,557 --> 00:08:35,819
„și vor să mă răpească”.

214
00:08:35,863 --> 00:08:39,693
Ei bine, noua mea persoană preferată, care este un investitor,

215
00:08:39,736 --> 00:08:43,000
Cel cu care lucrez de un an este Elon Musk.

216
00:08:43,044 --> 00:08:44,132
Deci, pentru cei care nu știu,

217
00:08:44,175 --> 00:08:45,350
Așa arată.

218
00:08:45,394 --> 00:08:47,483
Și nu m-am gândit prea mult la AI.

219
00:08:47,527 --> 00:08:49,137
până vorbim.

220
00:08:49,180 --> 00:08:51,269
Misiunea lor este să moară pe Marte sau așa ceva.

221
00:08:51,313 --> 00:08:52,923
Dar nu în impact.

222
00:08:52,967 --> 00:08:54,185
Deci...

223
00:08:55,186 --> 00:08:57,145
Am luat niște decizii importante

224
00:08:57,188 --> 00:08:59,321
despre modul în care urma să abordăm construirea AI.

225
00:08:59,364 --> 00:09:01,105
Aceasta este o configurație de învățare prin întărire.

226
00:09:01,149 --> 00:09:02,803
Acesta este genul de configurație la care ne gândim

227
00:09:02,846 --> 00:09:06,328
Când spunem că construim, știi, un agent AI.

228
00:09:06,371 --> 00:09:08,504
Practic este agentul, care este AI,

229
00:09:08,548 --> 00:09:09,984
Și apoi mai este mediul.

230
00:09:10,027 --> 00:09:11,159
cu care interacționați.

231
00:09:11,202 --> 00:09:12,464
Am decis că jocurile,

232
00:09:12,508 --> 00:09:13,988
atâta timp cât ești foarte disciplinat

233
00:09:14,031 --> 00:09:15,293
despre cum le folosești,

234
00:09:15,337 --> 00:09:17,252
Sunt terenul de antrenament perfect

235
00:09:17,295 --> 00:09:19,341
pentru dezvoltarea IA.

236
00:09:19,384 --> 00:09:21,691
Am vrut să încercăm să creăm un algoritm

237
00:09:21,735 --> 00:09:23,650
care ar putea fi antrenat să joace

238
00:09:23,693 --> 00:09:26,043
câteva zeci de jocuri Atari diferite.

239
00:09:26,087 --> 00:09:27,479
La fel ca o ființă umană,

240
00:09:27,523 --> 00:09:29,525
Trebuie să folosești același creier pentru a juca toate jocurile.

241
00:09:29,569 --> 00:09:30,874
Te poți gândi la asta

242
00:09:30,918 --> 00:09:33,007
că oferiți agentului cartuşul.

243
00:09:33,050 --> 00:09:34,312
Iar tu spui,

244
00:09:34,356 --> 00:09:35,705
„Bine, imaginează-ți că te-ai născut în acea lume.

245
00:09:35,749 --> 00:09:37,533
„cu acel cartuș și puteți interacționa pur și simplu

246
00:09:37,577 --> 00:09:39,404
„cu pixelii și vezi scorul.

247
00:09:40,362 --> 00:09:41,668
— Ce poţi face?

248
00:09:43,974 --> 00:09:47,369
Deci ceea ce vei face este să-ți iei funcția Q. QK...

249
00:09:47,412 --> 00:09:49,197
Q-learning este una dintre cele mai vechi metode

250
00:09:49,240 --> 00:09:50,894
pentru învățare prin întărire.

251
00:09:50,938 --> 00:09:53,680
Și ceea ce am făcut a fost să combinăm învățarea prin întărire

252
00:09:53,723 --> 00:09:56,770
cu învățare profundă într-un singur sistem.

253
00:09:56,813 --> 00:09:59,337
Nimeni nu combinase vreodată acele două lucruri împreună.

254
00:09:59,381 --> 00:10:01,426
la scară pentru a face ceva impresionant,

255
00:10:01,470 --> 00:10:03,515
și trebuia să dovedim această teză.

256
00:10:03,559 --> 00:10:06,780
Am încercat să facem Pong ca primul joc.

257
00:10:06,823 --> 00:10:08,129
Părea cel mai simplu lucru.

258
00:10:08,172 --> 00:10:10,218
nu a fost numărat

259
00:10:10,261 --> 00:10:11,828
Orice controlezi

260
00:10:11,872 --> 00:10:12,873
sau ce ar trebui să facă.

261
00:10:12,916 --> 00:10:14,657
Tot ce știi este că scorul este bun.

262
00:10:14,701 --> 00:10:18,052
și trebuie să înveți ce fac controalele tale,

263
00:10:18,095 --> 00:10:20,620
și construiește totul... primele principii.

264
00:10:29,193 --> 00:10:30,412
Chiar nu a funcționat.

265
00:10:32,588 --> 00:10:34,068
îi spuneam lui Shane:

266
00:10:34,111 --> 00:10:37,071
„Poate că greșim și nici măcar nu putem juca Pong”.

267
00:10:37,114 --> 00:10:38,812
A fost puțin stresant,

268
00:10:38,855 --> 00:10:40,422
Ne gândim cât de departe trebuie să mergem

269
00:10:40,465 --> 00:10:42,337
Dacă ar fi să construim cu adevărat

270
00:10:42,380 --> 00:10:44,426
un sistem în general inteligent.

271
00:10:44,469 --> 00:10:45,732
Și am simțit că era timpul

272
00:10:45,775 --> 00:10:47,255
Renunță și mergi mai departe.

273
00:10:48,169 --> 00:10:49,387
Și deodată...

274
00:10:51,389 --> 00:10:53,609
Primim primul punct.

275
00:10:53,653 --> 00:10:56,612
Și apoi m-am gândit: „Este la întâmplare?”

276
00:10:56,656 --> 00:10:59,180
„Nu, nu, acum chiar capătă importanță”.

277
00:10:59,223 --> 00:11:00,703
A fost foarte interesant că chestia asta

278
00:11:00,747 --> 00:11:02,226
că înainte nici nu puteam să înțeleg

279
00:11:02,270 --> 00:11:03,532
Cum se mută un palet

280
00:11:03,575 --> 00:11:05,926
Dintr-o dată reușise să facă totul corect.

281
00:11:05,969 --> 00:11:07,144
Apoi am primit niște puncte.

282
00:11:07,188 --> 00:11:08,624
Și apoi a câștigat primul său meci.

283
00:11:08,668 --> 00:11:10,974
Și apoi trei luni mai târziu, niciun om nu l-a putut învinge.

284
00:11:11,018 --> 00:11:14,238
Nu i-ai spus regulile, cum să obții scorul, nimic.

285
00:11:14,282 --> 00:11:16,110
Și îi spui doar să maximizeze scorul,

286
00:11:16,153 --> 00:11:17,372
și se duce și o face.

287
00:11:17,415 --> 00:11:18,678
Aceasta este prima dată

288
00:11:18,721 --> 00:11:20,549
Cineva făcuse această ucenicie de la început până la sfârșit.

289
00:11:20,592 --> 00:11:24,292
„Bine, așa că avem asta să funcționeze într-un mod destul de general.

290
00:11:24,335 --> 00:11:25,772
„Acum hai să încercăm un alt joc”.

291
00:11:25,815 --> 00:11:27,512
Așa că am încercat Breakout.

292
00:11:27,556 --> 00:11:29,123
La început, după 100 de jocuri,

293
00:11:29,166 --> 00:11:30,777
Agentul nu este foarte bun.

294
00:11:30,820 --> 00:11:32,474
De cele mai multe ori mingea lipsește.

295
00:11:32,517 --> 00:11:34,389
Dar începi să înțelegi ideea.

296
00:11:34,432 --> 00:11:35,999
Că bâta trebuie să meargă spre minge.

297
00:11:36,043 --> 00:11:37,566
Acum, după 300 de jocuri,

298
00:11:37,609 --> 00:11:40,656
Este la fel de bun pe cât îl poate juca orice om.

299
00:11:40,700 --> 00:11:42,049
Ne-am gândit: „Ei bine, e destul de tare”.

300
00:11:42,092 --> 00:11:44,312
dar am lăsat sistemul să funcționeze pentru încă 200 de jocuri,

301
00:11:44,355 --> 00:11:46,053
Și a făcut acest lucru uimitor.

302
00:11:46,096 --> 00:11:47,358
Am găsit strategia optimă

303
00:11:47,402 --> 00:11:49,404
era să sape un tunel în jurul lateral

304
00:11:49,447 --> 00:11:51,667
și plasați mingea în spatele peretelui.

305
00:11:51,711 --> 00:11:53,234
În sfârșit, agentul

306
00:11:53,277 --> 00:11:54,365
chiar realizează

307
00:11:54,409 --> 00:11:55,627
Ce credeai că voi realiza.

308
00:11:55,671 --> 00:11:57,325
E un sentiment grozav, nu?

309
00:11:57,368 --> 00:11:59,283
Adică, când facem cercetări,

310
00:11:59,327 --> 00:12:00,676
Acesta este cel mai bun lucru la care putem spera.

311
00:12:00,720 --> 00:12:03,200
Începem să generalizăm la 50 de jocuri,

312
00:12:03,244 --> 00:12:05,463
Și practic am creat o rețetă.

313
00:12:05,507 --> 00:12:06,813
Am putea doar să luăm un joc

314
00:12:06,856 --> 00:12:08,379
pe care nu le-am mai văzut până acum.

315
00:12:08,423 --> 00:12:09,903
Am rula algoritmul pe asta,

316
00:12:09,946 --> 00:12:13,036
și DQN ar putea fi antrenat de la zero,

317
00:12:13,080 --> 00:12:14,429
Atinge nivelul uman

318
00:12:14,472 --> 00:12:15,996
sau uneori mai bun decât nivelul uman.

319
00:12:16,039 --> 00:12:18,433
Nu l-am construit pentru a reproduce niciuna dintre ele.

320
00:12:18,476 --> 00:12:20,522
Am putea să-i dăm o grămadă de jocuri.

321
00:12:20,565 --> 00:12:22,654
și își va da seama singur.

322
00:12:22,698 --> 00:12:25,179
Și era ceva destul de magic în asta.

323
00:12:25,222 --> 00:12:26,528
deodată ai avut ceva

324
00:12:26,571 --> 00:12:27,921
care ar răspunde și ar învăța

325
00:12:27,964 --> 00:12:30,358
Oricare ar fi situația în care a fost parașut.

326
00:12:30,401 --> 00:12:33,013
Și asta a fost ca o mare, mare descoperire.

327
00:12:33,056 --> 00:12:35,276
A fost în multe feluri

328
00:12:35,319 --> 00:12:36,625
Primul exemplu

329
00:12:36,668 --> 00:12:39,062
de orice fel de lucru pe care îl poți suna

330
00:12:39,106 --> 00:12:40,542
o inteligenţă generală.

331
00:12:42,109 --> 00:12:43,893
Deși eram un startup bine finanțat,

332
00:12:43,937 --> 00:12:47,375
Ceea ce ne reținea era lipsa puterii de calcul.

333
00:12:47,418 --> 00:12:49,203
Mi-am dat seama că asta se va accelera

334
00:12:49,246 --> 00:12:51,466
scala noastră de timp către IAG în mod masiv.

335
00:12:51,509 --> 00:12:53,163
Obișnuiam să-l văd pe Demis destul de des.

336
00:12:53,207 --> 00:12:55,035
Am luat prânzul și a făcut-o...

337
00:12:56,210 --> 00:12:58,865
Spune-mi că ai două companii

338
00:12:58,908 --> 00:13:02,564
care au fost implicați în achiziționarea DeepMind.

339
00:13:02,607 --> 00:13:04,609
Și nu știa cu care să rămână.

340
00:13:04,653 --> 00:13:08,526
Întrebarea era dacă vreo întreprindere comercială...

341
00:13:08,570 --> 00:13:12,661
Apreciezi importanța reală a cercetării?

342
00:13:12,704 --> 00:13:15,838
Și acordați timp cercetării să dea roade.

343
00:13:15,882 --> 00:13:17,797
și să nu le sufle pe gât,

344
00:13:17,840 --> 00:13:21,539
spunând: „Vrem un fel de beneficiu comercial din asta”.

345
00:13:27,284 --> 00:13:32,463
Google a achiziționat DeepMind pentru aproximativ 400.000.000 de lire sterline.

346
00:13:32,507 --> 00:13:34,726
Fă firmă inteligența artificială

347
00:13:34,770 --> 00:13:37,947
cea mai mare achiziție europeană de până acum.

348
00:13:37,991 --> 00:13:39,644
Compania a fost fondată

349
00:13:39,688 --> 00:13:43,344
de omul de afaceri Demis Hassabis, 37 de ani.

350
00:13:43,387 --> 00:13:45,563
După achiziție, am început mentoring.

351
00:13:45,607 --> 00:13:47,261
și petrec timp cu Demis,

352
00:13:47,304 --> 00:13:48,915
și doar ascultă-l.

353
00:13:48,958 --> 00:13:52,396
Și aceasta este o persoană care în mod fundamental

354
00:13:52,440 --> 00:13:55,573
Este un om de știință și un om de știință naturală.

355
00:13:55,617 --> 00:13:58,489
El vrea ca știința să rezolve toate problemele lumii,

356
00:13:58,533 --> 00:14:00,622
și crede că o poate face.

357
00:14:00,665 --> 00:14:03,625
Nu este o persoană normală pe care o găsești la o companie de tehnologie.

358
00:14:05,496 --> 00:14:07,455
Nu numai că am putut să ne alăturăm Google

359
00:14:07,498 --> 00:14:10,240
dar este condus independent la Londra,

360
00:14:10,284 --> 00:14:11,328
Construiește-ne cultura,

361
00:14:11,372 --> 00:14:13,461
care a fost optimizat pentru avansuri

362
00:14:13,504 --> 00:14:15,419
și nu vă ocupați de produse,

363
00:14:15,463 --> 00:14:17,726
Faceți cercetare pură.

364
00:14:17,769 --> 00:14:19,293
Investitorii noștri nu au vrut să vândă,

365
00:14:19,336 --> 00:14:20,685
dar ne-am hotărât

366
00:14:20,729 --> 00:14:22,731
că asta era cel mai bine pentru misiune.

367
00:14:22,774 --> 00:14:24,646
În multe privințe, am vândut mai puțin.

368
00:14:24,689 --> 00:14:26,169
din punct de vedere al valorii înainte de a se maturiza în continuare,

369
00:14:26,213 --> 00:14:28,128
și l-ai fi putut vinde cu mult mai mulți bani.

370
00:14:28,171 --> 00:14:32,828
Și motivul este că nu există timp de pierdut.

371
00:14:32,872 --> 00:14:35,178
Sunt atât de multe lucruri care trebuie rezolvate

372
00:14:35,222 --> 00:14:37,659
în timp ce creierul încă funcționează.

373
00:14:37,702 --> 00:14:39,008
Știi, sunt încă în viață.

374
00:14:39,052 --> 00:14:40,880
Sunt toate aceste lucruri care trebuie făcute.

375
00:14:40,923 --> 00:14:42,925
Deci nu ai... Adică, câți...?

376
00:14:42,969 --> 00:14:44,492
Pentru câte miliarde ai fi dispus să negociezi?

377
00:14:44,535 --> 00:14:45,797
încă cinci ani de viață, știi,

378
00:14:45,841 --> 00:14:48,365
Fă ceea ce ți-ai propus?

379
00:14:48,409 --> 00:14:49,758
Ei bine, deodată,

380
00:14:49,801 --> 00:14:52,717
Avem această capacitate de calcul la scară largă la dispoziție.

381
00:14:52,761 --> 00:14:53,936
Ce putem face cu asta?

382
00:14:56,591 --> 00:14:59,942
Go este punctul culminant al jocurilor de societate.

383
00:14:59,986 --> 00:15:04,642
Este cel mai complex joc conceput vreodată de om.

384
00:15:04,686 --> 00:15:06,688
Sunt posibile mai multe configurații de placă

385
00:15:06,731 --> 00:15:09,821
Există mai mulți atomi în jocul Go decât în univers.

386
00:15:09,865 --> 00:15:13,390
Go este Sfântul Graal al inteligenței artificiale.

387
00:15:13,434 --> 00:15:14,522
De mulți ani,

388
00:15:14,565 --> 00:15:16,002
Oamenii au văzut acest joc

389
00:15:16,045 --> 00:15:17,917
și s-au gândit: „Uau, asta e prea greu”.

390
00:15:17,960 --> 00:15:20,180
Tot ce am încercat în AI,

391
00:15:20,223 --> 00:15:22,704
Pur și simplu cade când încerci să joci Go.

392
00:15:22,747 --> 00:15:23,966
Și de aceea se simte așa

393
00:15:24,010 --> 00:15:26,099
un adevărat test de turnesol al progresului.

394
00:15:26,142 --> 00:15:28,579
Tocmai cumpărasem DeepMind.

395
00:15:28,623 --> 00:15:30,712
Ei lucrau la învățare prin întărire.

396
00:15:30,755 --> 00:15:32,975
și ei erau experții mondiali în jocuri de noroc.

397
00:15:33,019 --> 00:15:34,846
Și atunci când au introdus ideea

398
00:15:34,890 --> 00:15:37,197
care ar putea învinge jucătorii Go de cel mai înalt nivel

399
00:15:37,240 --> 00:15:40,113
într-un joc despre care se credea a fi incalculabil,

400
00:15:40,156 --> 00:15:42,724
M-am gândit: „Ei bine, asta e destul de interesant”.

401
00:15:42,767 --> 00:15:46,467
Următorul nostru pas final este să jucăm legendarul

402
00:15:46,510 --> 00:15:49,209
Citiți Sedol în puțin peste două săptămâni.

403
00:15:50,514 --> 00:15:52,038
Un meci ca nimeni altul

404
00:15:52,081 --> 00:15:54,257
E pe cale să înceapă în Coreea de Sud.

405
00:15:54,301 --> 00:15:57,826
Lee Sedol se pregătește de luptă.

406
00:15:57,869 --> 00:15:59,262
Lee Sedol este probabil

407
00:15:59,306 --> 00:16:01,699
Unul dintre cei mai buni jucători ai ultimului deceniu.

408
00:16:01,743 --> 00:16:04,224
Îl descriu drept Roger Federer din Go.

409
00:16:05,573 --> 00:16:06,922
A apărut,

410
00:16:06,966 --> 00:16:09,838
Și deodată avem o mie de coreeni.

411
00:16:09,881 --> 00:16:13,059
care reprezintă întreaga societate coreeană,

412
00:16:13,102 --> 00:16:14,190
Cei mai buni jucători Go.

413
00:16:15,583 --> 00:16:17,802
Și apoi îl avem pe Demis.

414
00:16:17,846 --> 00:16:19,848
Și marea echipă de ingineri.

415
00:16:20,588 --> 00:16:22,285
El este foarte faimos

416
00:16:22,329 --> 00:16:25,506
pentru un joc de lupte foarte creativ.

417
00:16:25,549 --> 00:16:28,770
Deci asta ar putea fi dificil pentru noi.

418
00:16:28,813 --> 00:16:31,991
M-am gândit că Lee Sedol îi va învinge pe acești tipi,

419
00:16:32,034 --> 00:16:34,297
dar vor face o bună demonstrație.

420
00:16:34,341 --> 00:16:35,733
Bun pentru un startup.

421
00:16:38,040 --> 00:16:39,563
M-am mutat la grupul tehnic.

422
00:16:39,607 --> 00:16:40,912
Și ei au spus:

423
00:16:40,956 --> 00:16:42,305
„Permiteți-mi să vă arăt cum funcționează algoritmul nostru.”

424
00:16:43,654 --> 00:16:45,091
Dacă parcurgeți jocul propriu-zis,

425
00:16:45,134 --> 00:16:47,789
Putem vedea, mai mult sau mai puțin, cum gândește AlphaGo.

426
00:16:47,832 --> 00:16:50,226
Modul în care începem să antrenăm AlphaGo

427
00:16:50,270 --> 00:16:52,968
vă arată 100.000 de jocuri

428
00:16:53,012 --> 00:16:54,491
care au jucat fani puternici.

429
00:16:54,535 --> 00:16:55,710
Și noi inițial

430
00:16:55,753 --> 00:16:58,887
Faceți AlphaGo să imite jucătorul uman.

431
00:16:58,930 --> 00:17:00,802
și apoi prin învățare prin întărire,

432
00:17:00,845 --> 00:17:02,369
Joacă împotriva diferitelor versiuni ale ta.

433
00:17:02,412 --> 00:17:05,720
de multe milioane de ori și învață din greșelile lor.

434
00:17:05,763 --> 00:17:07,591
Hmm, asta e interesant.

435
00:17:07,635 --> 00:17:08,679
Foarte bine, prieteni,

436
00:17:08,723 --> 00:17:10,594
Vei vedea cum se face istoria.

437
00:17:12,770 --> 00:17:14,772
Așa că începe jocul.

438
00:17:14,816 --> 00:17:15,991
El este foarte concentrat.

439
00:17:16,035 --> 00:17:17,645
Dacă te uiți cu adevărat la...

440
00:17:20,909 --> 00:17:25,348
Este o mișcare foarte surprinzătoare.

441
00:17:25,392 --> 00:17:27,916
Cred că vedem o mișcare originală aici.

442
00:17:34,401 --> 00:17:35,793
Da, este o mișcare incitantă.

443
00:17:36,185 --> 00:17:37,230
imi place...

444
00:17:37,273 --> 00:17:38,579
comentatori profesioniști

445
00:17:38,622 --> 00:17:40,102
S-a spus aproape unanim

446
00:17:40,146 --> 00:17:43,323
că niciun jucător uman nu ar fi ales mutarea 37.

447
00:17:43,366 --> 00:17:45,803
Așa că am aruncat o privire la AlphaGo.

448
00:17:45,847 --> 00:17:47,414
pentru a vedea ce a crezut AlphaGo.

449
00:17:47,457 --> 00:17:50,330
Și AlphaGo a fost de fapt de acord cu acea evaluare.

450
00:17:50,373 --> 00:17:53,811
AlphaGo a spus că există o șansă la 10.000

451
00:17:53,855 --> 00:17:57,772
Acea mișcare 37 ar fi fost făcută de un jucător uman.

452
00:18:08,826 --> 00:18:10,176
Jocul Go a fost studiat

453
00:18:10,219 --> 00:18:11,568
de mii de ani.

454
00:18:11,612 --> 00:18:15,137
Și AlphaGo a descoperit ceva complet nou.

455
00:18:16,878 --> 00:18:19,707
A demisionat. Lee Sedol tocmai a demisionat.

456
00:18:19,750 --> 00:18:21,187
El este învins.

457
00:18:22,710 --> 00:18:24,668
Bătălia dintre om și mașină,

458
00:18:24,712 --> 00:18:26,235
Un computer tocmai a ieșit învingător.

459
00:18:26,279 --> 00:18:28,237
Google a oferit echipei sale DeepMind

460
00:18:28,281 --> 00:18:29,673
la proba împotriva

461
00:18:29,717 --> 00:18:32,023
Una dintre cele mai strălucite minți din lume și a câștigat.

462
00:18:32,067 --> 00:18:33,721
Atunci ne-am dat seama.

463
00:18:33,764 --> 00:18:35,244
Oamenii de la DeepMind știau ce fac.

464
00:18:35,288 --> 00:18:37,551
și acordați atenție învățării prin întărire

465
00:18:37,594 --> 00:18:38,900
așa cum au inventat-o.

466
00:18:40,075 --> 00:18:41,816
Pe baza acelei experiențe,

467
00:18:41,859 --> 00:18:44,819
AlphaGo a devenit din ce în ce mai bun.

468
00:18:44,862 --> 00:18:45,950
Și aveau o mică diagramă.

469
00:18:45,994 --> 00:18:47,517
cât de mult se îmbunătățiu.

470
00:18:47,561 --> 00:18:49,302
Și am spus: „Când se va sfârși asta?”

471
00:18:50,085 --> 00:18:50,999
Și Demis a spus:

472
00:18:51,042 --> 00:18:52,696
„Când i-am învins pe chinezi,

473
00:18:52,740 --> 00:18:55,743
„Cel mai bine cotat jucător din lume”.

474
00:18:56,961 --> 00:18:59,225
Ke Jie vs AlphaGo.

475
00:19:03,620 --> 00:19:04,795
Și cred că vom vedea

476
00:19:04,839 --> 00:19:06,145
AlphaGo merge înainte.

477
00:19:06,188 --> 00:19:08,190
AlphaGo este cu mult înainte.

478
00:19:08,234 --> 00:19:11,454
Cam la jumătatea primului joc,

479
00:19:11,498 --> 00:19:14,675
Cel mai bun jucător din lume nu se descurca atât de bine.

480
00:19:14,718 --> 00:19:17,808
Ce poate face negrul aici?

481
00:19:19,114 --> 00:19:21,247
Pare dificil.

482
00:19:21,290 --> 00:19:23,336
Și într-un moment critic...

483
00:19:32,997 --> 00:19:35,913
Guvernul chinez a ordonat întreruperea transmisiei.

484
00:19:38,307 --> 00:19:41,745
În acel moment spuneam lumii

485
00:19:41,789 --> 00:19:44,966
că ceva nou venise pe pământ.

486
00:19:47,621 --> 00:19:48,970
În anii 1950

487
00:19:49,013 --> 00:19:51,929
Când a fost lansat satelitul rusesc Sputnik,

488
00:19:53,279 --> 00:19:55,194
A schimbat cursul istoriei.

489
00:19:55,237 --> 00:19:57,544
Este o provocare pe care trebuie să o facă față SUA

490
00:19:57,587 --> 00:19:59,633
Pentru a supraviețui în era spațială.

491
00:19:59,676 --> 00:20:02,375
Acesta a fost numit momentul Sputnik.

492
00:20:02,418 --> 00:20:06,335
Momentul Sputnik a generat o reacție masivă în Statele Unite.

493
00:20:06,379 --> 00:20:10,034
În ceea ce privește finanțarea pentru știință și inginerie,

494
00:20:10,078 --> 00:20:12,254
și, în special, tehnologia spațială.

495
00:20:12,298 --> 00:20:15,823
Pentru China, AlphaGo a fost un semnal de alarmă,

496
00:20:15,866 --> 00:20:17,128
Momentul Sputnik.

497
00:20:17,172 --> 00:20:19,870
Am lansat o cursă spațială AI.

498
00:20:21,220 --> 00:20:23,047
Am avut această idee grozavă care a funcționat,

499
00:20:23,091 --> 00:20:26,355
Și acum toată lumea o știe.

500
00:20:26,399 --> 00:20:28,879
Întotdeauna este mai ușor să aterizezi pe lună.

501
00:20:28,923 --> 00:20:30,838
Dacă cineva a aterizat deja acolo.

502
00:20:32,056 --> 00:20:34,450
Va conta cine construiește AI,

503
00:20:34,494 --> 00:20:36,626
și cum este construită.

504
00:20:36,670 --> 00:20:38,324
Întotdeauna simt această presiune.

505
00:20:42,066 --> 00:20:43,764
A existat un mare lanț de evenimente.

506
00:20:43,807 --> 00:20:46,680
care a urmat tot hype-ul AlphaGo.

507
00:20:46,723 --> 00:20:48,072
Când am jucat împotriva lui Lee Sedol,

508
00:20:48,116 --> 00:20:49,248
Aveam de fapt un sistem

509
00:20:49,291 --> 00:20:50,684
care fusese antrenat cu date umane,

510
00:20:50,727 --> 00:20:52,251
În toate milioanele de jocuri

511
00:20:52,294 --> 00:20:55,036
care au fost interpretate de experți umani.

512
00:20:55,079 --> 00:20:56,994
În cele din urmă, am găsit un nou algoritm,

513
00:20:57,038 --> 00:20:59,170
o abordare mult mai elegantă a întregului sistem,

514
00:20:59,214 --> 00:21:01,172
care a eliminat de fapt toate cunoștințele umane

515
00:21:01,216 --> 00:21:03,697
și a început complet de la zero.

516
00:21:03,740 --> 00:21:06,700
Și acesta a devenit un proiect pe care l-am numit AlphaZero.

517
00:21:06,743 --> 00:21:09,529
Zero, adică nu există cunoștințe umane în buclă.

518
00:21:11,879 --> 00:21:13,054
În loc să înveți din datele umane,

519
00:21:13,097 --> 00:21:15,796
A învățat din propriile sale jocuri.

520
00:21:15,839 --> 00:21:17,841
Așa că a devenit cu adevărat propriul său profesor.

521
00:21:21,280 --> 00:21:23,499
AlphaZero este un experiment

522
00:21:23,543 --> 00:21:26,720
Cât de puține cunoștințe putem pune în aceste sisteme?

523
00:21:26,763 --> 00:21:28,243
și cât de rapid și eficient

524
00:21:28,287 --> 00:21:29,723
Pot ei să învețe?

525
00:21:29,766 --> 00:21:32,552
Dar celălalt lucru este că AlphaZero nu are reguli.

526
00:21:32,595 --> 00:21:33,553
Învață prin experiență.

527
00:21:36,120 --> 00:21:38,862
Următorul pas a fost să o facem mai generală.

528
00:21:38,906 --> 00:21:40,995
astfel încât să poți juca orice joc cu doi jucători.

529
00:21:41,038 --> 00:21:42,344
Lucruri precum șahul,

530
00:21:42,388 --> 00:21:44,085
și de fapt orice tip de doi jucători

531
00:21:44,128 --> 00:21:45,391
Joc informativ perfect.

532
00:21:45,434 --> 00:21:46,653
Merge foarte bine.

533
00:21:46,696 --> 00:21:47,828
Merge foarte, foarte bine.

534
00:21:47,871 --> 00:21:50,091
- Oh, wow. - Se coboară, foarte repede.

535
00:21:50,134 --> 00:21:53,050
AlphaGo avea nevoie de câteva luni pentru a se antrena,

536
00:21:53,094 --> 00:21:55,662
dar AlphaZero ar putea începe dimineața

537
00:21:55,705 --> 00:21:57,794
Jucând complet aleatoriu

538
00:21:57,838 --> 00:22:01,015
iar apoi din cauza ceaiului, fiind la un nivel supraomenesc.

539
00:22:01,058 --> 00:22:03,365
Și pentru cină va fi cea mai puternică entitate de șah.

540
00:22:03,409 --> 00:22:04,758
a existat vreodată

541
00:22:04,801 --> 00:22:06,629
- Incredibil, este incredibil. - Da.

542
00:22:06,673 --> 00:22:09,371
Și-a descoperit propriul stil de atac, știi?

543
00:22:09,415 --> 00:22:11,417
să-şi asume nivelul actual de apărare.

544
00:22:11,460 --> 00:22:12,766
Adică, niciodată în visele mele cele mai sălbatice...

545
00:22:12,809 --> 00:22:14,942
sunt de acord. De fapt, nici eu nu mă așteptam.

546
00:22:14,985 --> 00:22:16,422
Și este distractiv pentru mine.

547
00:22:16,465 --> 00:22:18,598
Adică, m-a inspirat să revin din nou la șah.

548
00:22:18,641 --> 00:22:20,164
Pentru că e grozav de văzut

549
00:22:20,208 --> 00:22:22,384
că există și mai multă profunzime decât am crezut în șah.

550
00:22:31,611 --> 00:22:34,440
De fapt, m-am interesat de AI prin intermediul jocurilor.

551
00:22:35,658 --> 00:22:37,660
La început au fost jocuri de societate.

552
00:22:37,704 --> 00:22:40,054
Mă gândeam: „Cum face creierul meu asta?”

553
00:22:40,097 --> 00:22:41,969
Ce face?

554
00:22:43,362 --> 00:22:47,148
Am fost foarte conștient de asta încă de la o vârstă foarte fragedă.

555
00:22:47,191 --> 00:22:50,064
Așa că mereu m-am gândit să mă gândesc.

556
00:22:50,107 --> 00:22:52,762
Campionii britanici și americani la șah

557
00:22:52,806 --> 00:22:55,025
se întâlnesc pentru a începe o serie de meciuri.

558
00:22:55,069 --> 00:22:56,592
Cel mai bun joc alături de ei

559
00:22:56,636 --> 00:22:59,073
dintre cei mai tineri jucători din Marea Britanie și Statele Unite.

560
00:22:59,116 --> 00:23:01,467
Demis Hassabis reprezintă Marea Britanie.

561
00:23:06,210 --> 00:23:07,864
Când Demis avea patru ani,

562
00:23:07,908 --> 00:23:11,259
El a demonstrat pentru prima dată aptitudini pentru șah.

563
00:23:12,739 --> 00:23:14,044
Când aveam șase ani,

564
00:23:14,088 --> 00:23:18,048
A devenit campion la Londra sub 8 ani.

565
00:23:18,092 --> 00:23:19,485
Părinții mei au fost foarte interesanți.

566
00:23:19,528 --> 00:23:20,834
Și, de fapt, neobișnuit.

567
00:23:20,877 --> 00:23:23,750
Probabil i-aș descrie ca fiind destul de boemi.

568
00:23:23,793 --> 00:23:25,491
Tatăl meu a fost compozitor-compozitor.

569
00:23:25,534 --> 00:23:26,709
Când eram mai tânăr,

570
00:23:26,753 --> 00:23:28,363
iar Bob Dylan a fost eroul lui.

571
00:23:38,068 --> 00:23:39,287
Da, da.

572
00:23:41,637 --> 00:23:44,031
Ce iti place la acest joc?

573
00:23:45,075 --> 00:23:47,121
Este doar un joc bun de gândire.

574
00:23:49,253 --> 00:23:51,038
În acel moment, eram al doilea cel mai bine calificat.

575
00:23:51,081 --> 00:23:52,692
Cel mai bun jucător de șah din lume pentru vârsta mea.

576
00:23:52,735 --> 00:23:54,345
Dar chiar dacă eram pe drumul cel bun

577
00:23:54,389 --> 00:23:55,956
fii un jucător profesionist de șah,

578
00:23:55,999 --> 00:23:57,523
Am crezut că asta o să fac.

579
00:23:57,566 --> 00:23:59,220
Indiferent cât de mult mi-a plăcut jocul,

580
00:23:59,263 --> 00:24:01,222
A fost incredibil de stresant.

581
00:24:01,265 --> 00:24:03,354
Cu siguranță nu a fost distracție și jocuri pentru mine.

582
00:24:03,398 --> 00:24:05,226
Părinții mei obișnuiau, știi,

583
00:24:05,269 --> 00:24:06,923
Am fost foarte supărat când am pierdut jocul

584
00:24:06,967 --> 00:24:10,405
și mă enervez dacă uit ceva.

585
00:24:10,449 --> 00:24:12,407
Și din moment ce erau multe în joc pentru ei, știi,

586
00:24:12,451 --> 00:24:14,061
Costă mulți bani să mergi la aceste turnee.

587
00:24:14,104 --> 00:24:15,715
Și părinții mei nu aveau mulți bani.

588
00:24:18,413 --> 00:24:19,719
Părinții mei s-au gândit, știi,

589
00:24:19,762 --> 00:24:22,069
„Dacă ești interesat să fii profesionist în șah,

590
00:24:22,112 --> 00:24:25,376
„Acest lucru este foarte important. — E ca la examenele tale.

591
00:24:27,291 --> 00:24:30,077
Îmi amintesc că aveam vreo 12 ani.

592
00:24:30,120 --> 00:24:32,079
Și am fost la acest turneu internațional de șah.

593
00:24:32,122 --> 00:24:34,255
În Liechtenstein, la munte.

594
00:24:43,307 --> 00:24:45,571
Și eram în această sală imensă a bisericii.

595
00:24:47,181 --> 00:24:48,399
cu, știi,

596
00:24:48,443 --> 00:24:50,184
Sute de jucători internaționali de șah.

597
00:24:52,403 --> 00:24:56,016
Și mă jucam cu fostul campion danez.

598
00:24:56,059 --> 00:24:58,801
Probabil că avea în jur de 30 de ani.

599
00:25:00,411 --> 00:25:02,979
În acele zile, era o limită de timp lungă.

600
00:25:03,023 --> 00:25:05,068
Jocurile ar putea dura literalmente toată ziua.

601
00:25:08,332 --> 00:25:10,813
- Eram în ceasul al zecelea.

602
00:25:20,257 --> 00:25:23,086
Și eram la acest final incredibil de neobișnuit.

603
00:25:23,130 --> 00:25:24,566
Cred că ar trebui să existe o cravată.

604
00:25:26,307 --> 00:25:28,657
Dar a tot încercat să câștige ore întregi.

605
00:25:35,359 --> 00:25:38,319
În cele din urmă, a încercat un ultim truc ieftin.

606
00:25:42,541 --> 00:25:44,455
Tot ce trebuia să fac a fost să-mi predau regina.

607
00:25:44,499 --> 00:25:45,674
Atunci s-ar ajunge la un impas.

608
00:25:47,023 --> 00:25:48,634
Dar eram atât de obosit,

609
00:25:48,677 --> 00:25:50,157
Am crezut că este inevitabil să fiu șahmat.

610
00:25:52,289 --> 00:25:53,508
Și apoi am renunțat.

611
00:25:57,294 --> 00:25:59,558
A sărit în sus și a început să râdă.

612
00:26:01,777 --> 00:26:02,909
Și a plecat,

613
00:26:02,952 --> 00:26:04,171
"De ce ai demisionat? Este o cravată."

614
00:26:04,214 --> 00:26:05,346
Și el imediat, cu un gest elegant,

615
00:26:05,389 --> 00:26:06,652
Cumva mi-a arătat mișcarea desenului.

616
00:26:09,045 --> 00:26:12,396
Mi-a fost foarte rău la stomac.

617
00:26:12,440 --> 00:26:14,137
M-a făcut să mă gândesc la restul turneului.

618
00:26:14,181 --> 00:26:16,662
Ne irosim mintea?

619
00:26:16,705 --> 00:26:19,708
Este aceasta cea mai bună utilizare a toată această putere a creierului?

620
00:26:19,752 --> 00:26:22,363
Sunt toți împreună în acea clădire?

621
00:26:22,406 --> 00:26:24,060
Dacă l-ai putea conecta cumva

622
00:26:24,104 --> 00:26:27,542
acele 300 de creiere dintr-un sistem,

623
00:26:27,586 --> 00:26:29,022
Poate poți rezolva cancerul

624
00:26:29,065 --> 00:26:30,501
cu acel nivel de putere a creierului.

625
00:26:31,633 --> 00:26:33,504
Acest sentiment intuitiv m-a cuprins.

626
00:26:33,548 --> 00:26:35,071
Deși iubesc șahul,

627
00:26:35,115 --> 00:26:38,335
Acesta nu este lucrul potrivit în care ar trebui să-mi investesc toată viața.

628
00:26:51,479 --> 00:26:53,089
Demis și cu mine,

629
00:26:53,133 --> 00:26:56,092
Planul nostru a fost întotdeauna să umplem DeepMind

630
00:26:56,136 --> 00:26:57,224
cu unele dintre cele mai multe

631
00:26:57,267 --> 00:26:59,226
Oameni de știință străluciți ai lumii.

632
00:26:59,269 --> 00:27:01,054
Deci am avut creier uman.

633
00:27:01,097 --> 00:27:04,927
necesar pentru a crea un sistem AGI.

634
00:27:04,971 --> 00:27:09,279
Prin definiție, „G” din AGI se referă la generalitate.

635
00:27:09,323 --> 00:27:13,109
Ceea ce îmi imaginez este să pot vorbi cu un agent,

636
00:27:13,153 --> 00:27:15,198
Agentul poate răspunde,

637
00:27:15,242 --> 00:27:18,898
iar agentul este capabil să rezolve probleme noi

638
00:27:18,941 --> 00:27:20,595
pe care nu le văzusem înainte.

639
00:27:20,639 --> 00:27:22,728
Aceasta este o parte cheie a inteligenței umane,

640
00:27:22,771 --> 00:27:24,468
Și este acea lățime cognitivă

641
00:27:24,512 --> 00:27:27,733
și o flexibilitate incredibilă.

642
00:27:27,776 --> 00:27:29,473
Singura inteligență generală naturală

643
00:27:29,517 --> 00:27:30,910
pe care le cunoaștem ca oameni,

644
00:27:30,953 --> 00:27:33,434
Evident, învățăm multe din mediul nostru.

645
00:27:33,477 --> 00:27:35,871
Deci credem că mediile simulate

646
00:27:35,915 --> 00:27:38,874
Ele sunt una dintre modalitățile de a crea un IAG.

647
00:27:40,528 --> 00:27:42,356
Primii oameni

648
00:27:42,399 --> 00:27:44,314
Au trebuit să rezolve probleme de logică.

649
00:27:44,358 --> 00:27:46,752
Au trebuit să rezolve navigația, memoria,

650
00:27:46,795 --> 00:27:48,971
și evoluăm în acel mediu.

651
00:27:50,364 --> 00:27:52,496
Dacă am putea crea o recreere virtuală

652
00:27:52,540 --> 00:27:54,629
a acestui tip de mediu,

653
00:27:54,673 --> 00:27:56,326
Acesta este terenul de testare perfect.

654
00:27:56,370 --> 00:27:57,458
și cantonamentul de antrenament

655
00:27:57,501 --> 00:27:59,329
pentru tot ceea ce facem la DeepMind.

656
00:28:04,247 --> 00:28:05,727
Ce făceau ei aici?

657
00:28:05,771 --> 00:28:09,252
Am creat medii pentru ființe copilărești,

658
00:28:09,296 --> 00:28:11,690
agenții care există în interior și joacă.

659
00:28:12,429 --> 00:28:13,648
Pur și simplu suna ca

660
00:28:13,692 --> 00:28:16,782
Cel mai interesant lucru din lume.

661
00:28:16,825 --> 00:28:19,132
Un copil învață rupând lucruri.

662
00:28:19,175 --> 00:28:20,655
si apoi arunca mancarea peste tot

663
00:28:20,699 --> 00:28:23,353
și primește un răspuns de la mama sau tata.

664
00:28:23,397 --> 00:28:25,616
Aceasta pare o idee importantă de încorporat.

665
00:28:25,660 --> 00:28:27,880
în modul în care este pregătit un agent.

666
00:28:27,923 --> 00:28:30,970
Umanoidul ar trebui să se ridice.

667
00:28:31,013 --> 00:28:32,972
Pe măsură ce centrul tău de greutate se ridică,

668
00:28:33,015 --> 00:28:34,408
Primești mai multe puncte.

669
00:28:37,454 --> 00:28:38,804
Ai o recompensă

670
00:28:38,847 --> 00:28:40,849
iar agentul învață din recompensă,

671
00:28:40,893 --> 00:28:43,373
De exemplu, dacă faci ceva bine, primești o recompensă pozitivă.

672
00:28:43,417 --> 00:28:47,508
Faci ceva rău și primești o recompensă negativă.

673
00:28:47,551 --> 00:28:49,379
Se pare că stă în picioare.

674
00:28:50,859 --> 00:28:52,165
Sunt încă puțin beat.

675
00:28:52,208 --> 00:28:53,644
Îi place să meargă cu spatele.

676
00:28:53,688 --> 00:28:55,342
Da.

677
00:28:55,385 --> 00:28:57,518
Întregul algoritm încearcă să se optimizeze

678
00:28:57,561 --> 00:28:59,694
pentru a primi cât mai multe recompense posibil,

679
00:28:59,738 --> 00:29:02,305
și s-a descoperit că mergând cu spatele,

680
00:29:02,349 --> 00:29:05,352
Este suficient pentru a obține scoruri foarte bune.

681
00:29:07,746 --> 00:29:09,573
Când învățăm să navigăm,

682
00:29:09,617 --> 00:29:11,271
Când învățăm să navigăm în lumea noastră,

683
00:29:11,314 --> 00:29:13,490
Nu începem cu hărți.

684
00:29:13,534 --> 00:29:16,319
Pur și simplu începem cu propria noastră explorare,

685
00:29:16,363 --> 00:29:18,017
aventurându-se prin parc,

686
00:29:18,060 --> 00:29:21,890
Fără părinții noștri lângă noi,

687
00:29:21,934 --> 00:29:24,327
sau să ne găsim drumul acasă de la școală când suntem tineri.

688
00:29:26,939 --> 00:29:28,723
Unii dintre noi au venit cu această idee.

689
00:29:28,767 --> 00:29:31,987
Dacă am avea un mediu în care un robot simulat

690
00:29:32,031 --> 00:29:33,728
Trebuia doar să alerg înainte,

691
00:29:33,772 --> 00:29:36,296
Am putea pune tot felul de obstacole în calea ta.

692
00:29:36,339 --> 00:29:38,211
și să văd dacă pot naviga

693
00:29:38,254 --> 00:29:40,474
Diferite tipuri de teren.

694
00:29:40,517 --> 00:29:43,042
Ideea ar fi ca o provocare de parkour.

695
00:29:46,393 --> 00:29:48,743
Nu este elegant,

696
00:29:48,787 --> 00:29:51,833
dar nu am fost niciodată antrenat să țin un pahar în timp ce era deschis

697
00:29:51,877 --> 00:29:53,052
și nu vărsați apă.

698
00:29:54,183 --> 00:29:55,706
Ai stabilit acest obiectiv care spune:

699
00:29:55,750 --> 00:29:58,231
„Doar continuă, mergi înainte cu viteză mare,

700
00:29:58,274 --> 00:30:00,581
„și vei primi o răsplată pentru asta”.

701
00:30:00,624 --> 00:30:02,670
Și algoritmul de învățare își dă seama

702
00:30:02,713 --> 00:30:05,412
Cum să mutați acest set complex de articulații.

703
00:30:06,152 --> 00:30:07,370
Aceasta este puterea

704
00:30:07,414 --> 00:30:10,069
învățare prin întărire bazată pe recompense.

705
00:30:10,112 --> 00:30:12,767
Scopul nostru este să încercăm să construim agenți.

706
00:30:12,811 --> 00:30:15,770
în care îi lăsăm să cadă, ei nu știu nimic,

707
00:30:15,814 --> 00:30:18,381
Se pot juca cu orice problemă pe care le puneți.

708
00:30:18,425 --> 00:30:22,342
și în cele din urmă își dau seama cum să o rezolve singuri.

709
00:30:22,385 --> 00:30:24,823
Acum vrem ceva care poate face asta.

710
00:30:24,866 --> 00:30:27,390
pe cât mai multe tipuri diferite de probleme.

711
00:30:29,262 --> 00:30:32,918
O ființă umană are nevoie de diverse abilități pentru a interacționa cu lumea.

712
00:30:32,961 --> 00:30:35,050
Cum să faci față imaginilor complexe,

713
00:30:35,094 --> 00:30:37,879
Cum să manipulezi mii de lucruri deodată,

714
00:30:37,923 --> 00:30:40,447
Cum să tratați informațiile lipsă.

715
00:30:40,490 --> 00:30:42,014
Ne gândim la toate aceste lucruri împreună

716
00:30:42,057 --> 00:30:45,278
Ei sunt reprezentați de acest joc numit StarCraft.

717
00:30:45,321 --> 00:30:47,280
Singurul lucru pentru care ești antrenat este,

718
00:30:47,323 --> 00:30:50,457
Având în vedere această situație, acest ecran,

719
00:30:50,500 --> 00:30:51,850
Ce ar face un om?

720
00:30:51,893 --> 00:30:55,244
Suntem inspirați de modele lingvistice grozave.

721
00:30:55,288 --> 00:30:57,638
unde pur și simplu antrenezi un model

722
00:30:57,681 --> 00:30:59,553
pentru a prezice următorul cuvânt,

723
00:31:03,731 --> 00:31:05,472
care este exact la fel ca

724
00:31:05,515 --> 00:31:07,735
prezice următoarea mișcare a lui StarCraft.

725
00:31:07,778 --> 00:31:08,954
Spre deosebire de șah sau Go,

726
00:31:08,997 --> 00:31:11,217
unde jucătorii fac mișcări pe rând,

727
00:31:11,260 --> 00:31:14,133
În StarCraft există un flux continuu de decizii.

728
00:31:15,134 --> 00:31:16,483
Pe langa asta,

729
00:31:16,526 --> 00:31:18,659
Nici măcar nu poți vedea ce face adversarul.

730
00:31:18,702 --> 00:31:20,879
Nu mai există o definiție clară

731
00:31:20,922 --> 00:31:22,315
a ceea ce înseamnă să joci cât mai bine.

732
00:31:22,358 --> 00:31:23,925
Depinde de ceea ce face adversarul tău.

733
00:31:23,969 --> 00:31:25,492
Așa vom ajunge

734
00:31:25,535 --> 00:31:27,494
mult mai fluid,

735
00:31:27,537 --> 00:31:31,672
Agent mai natural, mai rapid, mai reactiv.

736
00:31:31,715 --> 00:31:33,021
Aceasta este o mare provocare

737
00:31:33,065 --> 00:31:35,415
și să vedem cât de departe putem merge.

738
00:31:35,458 --> 00:31:36,459
Oh!

739
00:31:36,503 --> 00:31:38,200
Maimuță sfântă!

740
00:31:38,244 --> 00:31:40,376
Sunt un pasionat de nivel destul de scăzut.

741
00:31:40,420 --> 00:31:42,857
Sunt bine, dar sunt un pasionat de nivel scăzut.

742
00:31:42,901 --> 00:31:45,991
Acești agenți au un drum lung de parcurs.

743
00:31:46,034 --> 00:31:48,515
Nu am putut să învingem pe cineva de nivelul lui Tim.

744
00:31:48,558 --> 00:31:50,430
Știi, a fost puțin alarmant.

745
00:31:50,473 --> 00:31:51,997
În acel moment, am simțit că

746
00:31:52,040 --> 00:31:53,520
Avea să fie ca o provocare foarte mare și lungă.

747
00:31:53,563 --> 00:31:55,000
Poate câțiva ani.

748
00:31:58,177 --> 00:32:01,832
Dani este cel mai bun jucător DeepMind StarCraft 2.

749
00:32:01,876 --> 00:32:05,097
De câteva săptămâni mă joc cu agentul în fiecare zi.

750
00:32:07,186 --> 00:32:08,883
Am putut simți că agentul

751
00:32:08,927 --> 00:32:11,103
Se îmbunătăți foarte repede.

752
00:32:13,409 --> 00:32:15,020
Uau, l-am învins pe Danny. Asta, pentru mine,

753
00:32:15,063 --> 00:32:16,935
A fost deja ca o mare realizare.

754
00:32:18,284 --> 00:32:19,372
Următorul pas este

755
00:32:19,415 --> 00:32:21,722
Să rezervăm un profesionist pentru a juca.

756
00:32:42,003 --> 00:32:44,049
Mi se pare un pic nedrept. Sunteți cu toții împotriva mea.

757
00:32:45,615 --> 00:32:46,965
Suntem cu mult înaintea ceea ce credeam.

758
00:32:47,008 --> 00:32:49,402
Am face, având în vedere unde eram acum două luni.

759
00:32:49,445 --> 00:32:50,794
De fapt, încerc doar să diger totul.

760
00:32:50,838 --> 00:32:52,753
Dar e foarte, foarte misto.

761
00:32:52,796 --> 00:32:54,146
Suntem acum într-o poziție în care

762
00:32:54,189 --> 00:32:56,061
În sfârșit, putem împărtăși munca pe care am făcut-o.

763
00:32:56,104 --> 00:32:57,192
cu publicul.

764
00:32:57,236 --> 00:32:58,585
Acesta este un pas grozav.

765
00:32:58,628 --> 00:33:00,674
Ne asumăm cu adevărat un risc aici.

766
00:33:00,717 --> 00:33:02,589
- Ia-o. Salutări. - Mulţumesc.

767
00:33:02,632 --> 00:33:04,460
Vom fi live de la Londra.

768
00:33:04,504 --> 00:33:05,722
Se întâmplă

769
00:33:08,638 --> 00:33:10,597
Bun venit la Londra.

770
00:33:10,640 --> 00:33:13,252
Vom avea un meci de expoziție live,

771
00:33:13,295 --> 00:33:15,341
MaNa vs AlphaStar.

772
00:33:18,344 --> 00:33:19,998
În acest moment acum,

773
00:33:20,041 --> 00:33:23,827
AlphaStar, 10 și 0 împotriva jucătorilor profesioniști.

774
00:33:23,871 --> 00:33:25,873
Aveți vreo idee înainte de a intra în acest joc?

775
00:33:25,916 --> 00:33:27,483
Vreau doar să văd un joc bun, da.

776
00:33:27,527 --> 00:33:28,963
Vreau să văd un joc bun.

777
00:33:29,007 --> 00:33:30,486
Absolut, bun meci. Suntem cu toții entuziasmați.

778
00:33:30,530 --> 00:33:33,011
În regulă. Să vedem ce poate realiza MaNa.

779
00:33:34,969 --> 00:33:36,405
AlphaStar este cu siguranță

780
00:33:36,449 --> 00:33:38,364
stăpânind ritmul acestui joc.

781
00:33:41,149 --> 00:33:44,152
Oh. AlphaStar joacă foarte inteligent.

782
00:33:46,850 --> 00:33:48,461
Chiar se pare că mă uit

783
00:33:48,504 --> 00:33:49,940
Un jucător uman profesionist

784
00:33:49,984 --> 00:33:51,290
din punctul de vedere al AlphaStar.

785
00:33:57,252 --> 00:34:01,952
Nu văzusem cu adevărat un joc profesionist StarCraft de aproape,

786
00:34:01,996 --> 00:34:03,563
și 800 de clicuri pe minut.

787
00:34:03,606 --> 00:34:06,000
Nu înțeleg cum cineva poate face clic de 800 de ori.

788
00:34:06,044 --> 00:34:09,482
darămite a face 800 de clicuri utile.

789
00:34:09,525 --> 00:34:11,092
Oh, un alt succes bun.

790
00:34:11,136 --> 00:34:13,094
- AlphaStar este doar

791
00:34:13,138 --> 00:34:14,617
complet necruțător

792
00:34:14,661 --> 00:34:16,141
Trebuie să fim atenți

793
00:34:16,184 --> 00:34:19,361
Pentru că mulți dintre noi am crescut ca jucători și suntem jucători.

794
00:34:19,405 --> 00:34:21,363
Și așa pentru noi este foarte natural.

795
00:34:21,407 --> 00:34:23,800
vezi jocurile așa cum sunt,

796
00:34:23,844 --> 00:34:26,977
care sunt vehicule pure pentru distracție,

797
00:34:27,021 --> 00:34:29,719
și să nu văd acea latură mai militaristă

798
00:34:29,763 --> 00:34:32,853
Așa că publicul ar putea să vadă dacă ar viziona asta.

799
00:34:32,896 --> 00:34:37,553
Nu poți să te uiți la praf de pușcă și să faci doar o petardă.

800
00:34:37,597 --> 00:34:41,209
Toate tehnologiile indică în mod inerent anumite direcții.

801
00:34:43,124 --> 00:34:44,691
Sunt foarte îngrijorat

802
00:34:44,734 --> 00:34:46,606
Modalitățile specifice în care A.I.

803
00:34:46,649 --> 00:34:49,652
Va fi folosit în scopuri militare.

804
00:34:51,306 --> 00:34:55,049
Și asta face și mai clar cât de important este.

805
00:34:55,093 --> 00:34:58,357
Pentru ca societățile noastre să aibă controlul

806
00:34:58,400 --> 00:35:01,055
a acestor noi tehnologii.

807
00:35:01,099 --> 00:35:05,190
Potențialul de abuz de către AI va fi semnificativ.

808
00:35:05,233 --> 00:35:08,758
Războaiele care au loc mai repede decât pot înțelege oamenii.

809
00:35:08,802 --> 00:35:11,065
și o supraveghere mai puternică.

810
00:35:12,458 --> 00:35:15,765
Cum să menținem puterea pentru totdeauna?

811
00:35:15,809 --> 00:35:19,421
Despre ceva care este mult mai puternic decât tine?

812
00:35:43,053 --> 00:35:45,752
Tehnologiile pot fi folosite pentru a face lucruri groaznice.

813
00:35:47,493 --> 00:35:50,452
Iar tehnologia poate fi folosită pentru a face lucruri minunate.

814
00:35:50,496 --> 00:35:52,150
si rezolva tot felul de probleme.

815
00:35:53,586 --> 00:35:54,978
Când DeepMind a fost achiziționat de Google...

816
00:35:55,022 --> 00:35:56,589
- Da. - ...ai făcut promiterea lui Google

817
00:35:56,632 --> 00:35:58,025
Acea tehnologie pe care ați dezvoltat-o ​​nu va fi folosită de armată.

818
00:35:58,068 --> 00:35:59,418
- pentru supraveghere.- Corect.

819
00:35:59,461 --> 00:36:00,593
- Da. - Spune-ne despre asta.

820
00:36:00,636 --> 00:36:03,161
Cred că tehnologia este neutră în sine,

821
00:36:03,204 --> 00:36:05,598
um, dar cum facem noi, știi, ca societate?

822
00:36:05,641 --> 00:36:07,382
sau oameni și companii și alte lucruri,

823
00:36:07,426 --> 00:36:09,515
Alte entități și guverne decid să-l folosească

824
00:36:09,558 --> 00:36:12,561
Este ceea ce determină dacă lucrurile devin bune sau rele.

825
00:36:12,605 --> 00:36:16,261
Știi, eu personal cred că având arme autonome...

826
00:36:16,304 --> 00:36:17,479
Este doar o idee foarte proastă.

827
00:36:19,177 --> 00:36:21,266
AlphaStar se joacă

828
00:36:21,309 --> 00:36:24,094
O piesă extrem de inteligentă în acest moment.

829
00:36:24,138 --> 00:36:27,359
Există un element în ceea ce este creat.

830
00:36:27,402 --> 00:36:28,882
la DeepMind din Londra

831
00:36:28,925 --> 00:36:34,148
Acesta seamănă cu Proiectul Manhattan.

832
00:36:34,192 --> 00:36:37,586
Există o relație între Robert Oppenheimer

833
00:36:37,630 --> 00:36:39,675
și Demis Hassabis

834
00:36:39,719 --> 00:36:44,202
în care ei declanșează o nouă forță asupra umanității.

835
00:36:44,245 --> 00:36:46,204
Dar MaNa ripostează.

836
00:36:46,247 --> 00:36:48,162
Oh, omule!

837
00:36:48,206 --> 00:36:50,208
Cred că Oppenheimer

838
00:36:50,251 --> 00:36:52,471
iar unii dintre ceilalți lideri ai acelui proiect au fost prinși

839
00:36:52,514 --> 00:36:54,908
În entuziasmul tehnologiei de construcție

840
00:36:54,951 --> 00:36:56,170
si vezi daca se poate.

841
00:36:56,214 --> 00:36:58,520
Unde este AlphaStar?

842
00:36:58,564 --> 00:36:59,782
Unde este AlphaStar?

843
00:36:59,826 --> 00:37:01,958
Nu văd nicăieri unitățile AlphaStar.

844
00:37:02,002 --> 00:37:03,525
Nu s-au gândit suficient de bine

845
00:37:03,569 --> 00:37:07,312
despre morala a ceea ce făceau destul de devreme.

846
00:37:07,355 --> 00:37:08,965
Ce ar trebui să facem noi ca oameni de știință

847
00:37:09,009 --> 00:37:11,011
cu tehnologii noi și puternice

848
00:37:11,054 --> 00:37:13,883
este să încerci să-l înțelegi mai întâi în condiții controlate.

849
00:37:14,928 --> 00:37:16,799
Și asta-i tot.

850
00:37:16,843 --> 00:37:19,411
MaNa a învins AlphaStar.

851
00:37:29,551 --> 00:37:31,336
Adică, sentimentul meu sincer este că cred că este...

852
00:37:31,379 --> 00:37:33,207
O reprezentare corectă a locului în care ne aflăm.

853
00:37:33,251 --> 00:37:35,949
Și cred că acea parte se simte... se simte bine.

854
00:37:35,992 --> 00:37:37,429
-Sunt foarte fericit pentru tine.-Sunt fericit.

855
00:37:37,472 --> 00:37:38,865
Foarte bine...bravo.

856
00:37:38,908 --> 00:37:40,867
Părerea mea este că abordarea tehnologiei construcțiilor

857
00:37:40,910 --> 00:37:43,348
care se concretizează în mișcarea rapidă și ruperea lucrurilor,

858
00:37:43,391 --> 00:37:46,220
Este exact ceea ce nu ar trebui să facem,

859
00:37:46,264 --> 00:37:47,961
Pentru că nu-ți poți permite să spargi lucruri

860
00:37:48,004 --> 00:37:49,049
și apoi remediați-le mai târziu.

861
00:37:49,092 --> 00:37:50,398
-Sănătate. -Multumesc mult.

862
00:37:50,442 --> 00:37:52,008
Da, odihnește-te... odihnește-te puțin. Te-ai descurcat foarte bine.

863
00:37:52,052 --> 00:37:53,923
- Noroc, da? - Vă mulțumim că ne-ați invitat.

864
00:38:04,238 --> 00:38:05,500
Când aveam opt ani,

865
00:38:05,544 --> 00:38:06,849
Mi-am cumpărat primul computer

866
00:38:06,893 --> 00:38:09,548
cu câștigurile dintr-un turneu de șah.

867
00:38:09,591 --> 00:38:11,158
Cumva am avut acea intuiție

868
00:38:11,201 --> 00:38:13,726
că computerele sunt acest dispozitiv magic

869
00:38:13,769 --> 00:38:15,902
care poate extinde puterea minții.

870
00:38:15,945 --> 00:38:17,382
Am avut câțiva prieteni de la școală,

871
00:38:17,425 --> 00:38:19,166
și aveam un club de hackeri,

872
00:38:19,209 --> 00:38:21,908
scrierea codului, realizarea de jocuri.

873
00:38:26,260 --> 00:38:27,827
Și apoi în vacanța de vară,

874
00:38:27,870 --> 00:38:29,219
Mi-aș petrece toată ziua

875
00:38:29,263 --> 00:38:31,526
Răsfoind prin reviste de jocuri.

876
00:38:31,570 --> 00:38:33,441
Și într-o zi mi-am dat seama că există o competiție.

877
00:38:33,485 --> 00:38:35,878
scrie o versiune originală a Space Invaders.

878
00:38:35,922 --> 00:38:39,621
Și câștigătorul a câștigat un loc de muncă la Bullfrog.

879
00:38:39,665 --> 00:38:42,320
Bullfrog la acea vreme era cea mai bună casă de dezvoltare de jocuri.

880
00:38:42,363 --> 00:38:43,756
În toată Europa.

881
00:38:43,799 --> 00:38:45,279
Știi, îmi doream foarte mult să lucrez în acest loc.

882
00:38:45,323 --> 00:38:48,587
și vezi cum creează jocuri.

883
00:38:48,630 --> 00:38:50,415
Bullfrog, cu sediul aici în Guildford,

884
00:38:50,458 --> 00:38:52,286
A început cu o idee grozavă.

885
00:38:52,330 --> 00:38:54,680
Acea idee a devenit jocul Populous,

886
00:38:54,723 --> 00:38:56,551
care a devenit un bestseller global.

887
00:38:56,595 --> 00:38:59,859
În anii 90 nu existau agenții de recrutare.

888
00:38:59,902 --> 00:39:02,122
Nu puteai să ieși și să spui, știi,

889
00:39:02,165 --> 00:39:04,951
„Vino și lucrează în industria jocurilor video”.

890
00:39:04,994 --> 00:39:08,171
Nici măcar nu era considerată încă o industrie.

891
00:39:08,215 --> 00:39:11,218
Așa că ne-a venit ideea de a face o competiție.

892
00:39:11,261 --> 00:39:13,655
Și am avut mulți solicitanți.

893
00:39:14,700 --> 00:39:17,616
Și unul dintre ei era al lui Demis.

894
00:39:17,659 --> 00:39:20,706
Încă îmi amintesc clar

895
00:39:20,749 --> 00:39:23,970
În ziua în care a sosit Demis.

896
00:39:24,013 --> 00:39:27,147
A intrat pe ușă și părea să aibă vreo 12 ani.

897
00:39:28,670 --> 00:39:30,019
M-am gândit: „O, Doamne,

898
00:39:30,063 --> 00:39:31,586
"Ce dracu o sa facem cu tipul asta?"

899
00:39:31,630 --> 00:39:32,979
Am aplicat la Cambridge.

900
00:39:33,022 --> 00:39:35,373
Am intrat, dar au spus că sunt prea tânără.

901
00:39:35,416 --> 00:39:37,853
Deci... Așa că trebuia să-mi iau un an liber.

902
00:39:37,897 --> 00:39:39,899
Așa că aș avea cel puțin 17 ani înainte să ajung acolo.

903
00:39:39,942 --> 00:39:42,771
Și atunci am decis să petrec întregul an în concediu sabatic.

904
00:39:42,815 --> 00:39:44,469
Lucrează la Bullfrog.

905
00:39:44,512 --> 00:39:46,166
Nici măcar nu m-au putut angaja legal,

906
00:39:46,209 --> 00:39:48,298
Așa că am ajuns să primesc plata în plicuri de hârtie maro.

907
00:39:50,823 --> 00:39:54,304
Am avut senzația că sunt cu adevărat în frunte.

908
00:39:54,348 --> 00:39:58,047
Și cât de distractiv a fost să inventezi lucruri în fiecare zi.

909
00:39:58,091 --> 00:40:00,572
Și apoi, știi, câteva luni mai târziu,

910
00:40:00,615 --> 00:40:03,662
Poate că toată lumea... un milion de oameni o vor juca.

911
00:40:03,705 --> 00:40:06,665
La acea vreme, jocurile pe calculator trebuiau să evolueze.

912
00:40:06,708 --> 00:40:08,536
Trebuiau să existe genuri noi

913
00:40:08,580 --> 00:40:11,757
care erau mai mult decât împușcarea lucrurilor.

914
00:40:11,800 --> 00:40:14,063
Nu ar fi grozav să ai un joc?

915
00:40:14,107 --> 00:40:18,807
Unde vă proiectați și construiți propriul parc tematic?

916
00:40:22,594 --> 00:40:25,945
Eu și Demis am început să vorbim despre parcul tematic.

917
00:40:25,988 --> 00:40:28,904
Permite jucătorului să construiască o lume.

918
00:40:28,948 --> 00:40:31,864
și vezi consecințele deciziilor tale

919
00:40:31,907 --> 00:40:34,127
Ce ai făcut în lumea aceea?

920
00:40:34,170 --> 00:40:36,085
Un jucător uman a conceput aspectul.

921
00:40:36,129 --> 00:40:38,566
a parcului tematic și a proiectat roller coaster-ul

922
00:40:38,610 --> 00:40:41,351
și stabiliți prețurile la magazinul de chipsuri.

923
00:40:41,395 --> 00:40:43,615
Ceea ce funcționa era comportamentul oamenilor.

924
00:40:43,658 --> 00:40:45,138
Erau lucrători pe cont propriu

925
00:40:45,181 --> 00:40:47,314
Și asta a fost AI în acest caz.

926
00:40:47,357 --> 00:40:48,881
Deci ceea ce încercam să fac a fost să imit

927
00:40:48,924 --> 00:40:51,013
comportament uman interesant

928
00:40:51,057 --> 00:40:52,319
astfel încât simularea a fost

929
00:40:52,362 --> 00:40:54,582
Mai interesant de interacționat.

930
00:40:54,626 --> 00:40:56,541
Demis a lucrat la lucruri ridicole,

931
00:40:56,584 --> 00:40:59,413
De parcă ai putea plasa aceste magazine

932
00:40:59,457 --> 00:41:03,591
Și dacă puneți un magazin prea aproape de o atracție foarte periculoasă,

933
00:41:03,635 --> 00:41:05,375
Apoi oamenii din călătorie au vărsat.

934
00:41:05,419 --> 00:41:08,030
Pentru că tocmai mâncaseră.

935
00:41:08,074 --> 00:41:09,641
Și asta i-ar face pe alții să vomite.

936
00:41:09,684 --> 00:41:12,121
Când au văzut vărsăturile pe podea,

937
00:41:12,165 --> 00:41:14,559
Deci pe atunci trebuia să ai o mulțime de măturători.

938
00:41:14,602 --> 00:41:17,823
mătură-l repede înainte ca oamenii să-l vadă.

939
00:41:17,866 --> 00:41:19,520
Acesta este lucrul bun la asta.

940
00:41:19,564 --> 00:41:22,784
Tu, ca jucător, te joci cu el și apoi dispozitivul reacționează la tine.

941
00:41:22,828 --> 00:41:25,874
Toate acele simulări nuanțate pe care le-ai făcut

942
00:41:25,918 --> 00:41:28,094
Și asta a fost o invenție

943
00:41:28,137 --> 00:41:31,227
care nu a existat niciodată înainte.

944
00:41:31,271 --> 00:41:34,230
A fost un succes incredibil.

945
00:41:34,274 --> 00:41:35,710
Parcul tematic chiar s-a dovedit a fi

946
00:41:35,754 --> 00:41:37,190
Fii un titlu în top zece

947
00:41:37,233 --> 00:41:39,932
Și asta a fost prima dată când am început să vedem

948
00:41:39,975 --> 00:41:43,022
Cum ar putea AI să facă diferența.

949
00:41:46,155 --> 00:41:47,592
Făceam niște cumpărături de Crăciun.

950
00:41:47,635 --> 00:41:51,247
iar noi așteptam taxiul care să ne ducă acasă.

951
00:41:51,291 --> 00:41:54,947
Am această amintire foarte clară despre Demis vorbind despre AI.

952
00:41:54,990 --> 00:41:56,209
Într-un mod foarte diferit,

953
00:41:56,252 --> 00:41:58,428
într-un fel despre care nu vorbim de obicei.

954
00:41:58,472 --> 00:42:02,345
Această idee de AI este utilă pentru alte lucruri

955
00:42:02,389 --> 00:42:04,086
În afară de divertisment.

956
00:42:04,130 --> 00:42:07,437
Deci, pentru a fi util pentru a ajuta lumea.

957
00:42:07,481 --> 00:42:10,310
și potențialul AI de a schimba lumea.

958
00:42:10,353 --> 00:42:13,226
I-am spus lui Demis: "Ce vrei să faci?"

959
00:42:13,269 --> 00:42:14,532
Și mi-a spus:

960
00:42:14,575 --> 00:42:16,795
„Vreau să fiu persoana care rezolvă AI”.

961
00:42:22,670 --> 00:42:25,760
Peter mi-a oferit 1 milion de lire sterline

962
00:42:25,804 --> 00:42:27,675
nu merg la universitate.

963
00:42:30,199 --> 00:42:32,593
Dar a avut un plan de la început.

964
00:42:32,637 --> 00:42:35,814
Și planul meu a fost întotdeauna să merg la Cambridge.

965
00:42:35,857 --> 00:42:36,902
Cred că mulți dintre prietenii mei de la școală

966
00:42:36,945 --> 00:42:38,033
Am crezut că e nebun.

967
00:42:38,077 --> 00:42:39,252
De ce nu ai face-o?

968
00:42:39,295 --> 00:42:40,688
Adică, 1 milion de lire sterline, sunt mulți bani.

969
00:42:40,732 --> 00:42:43,517
În anii '90 sunt mulți bani, nu?

970
00:42:43,561 --> 00:42:46,346
Pentru un... Pentru un băiat sărac de 17 ani.

971
00:42:46,389 --> 00:42:50,219
Este ca o sămânță mică care va încolți.

972
00:42:50,263 --> 00:42:53,658
și nu vei putea face asta în Bullfrog.

973
00:42:56,443 --> 00:42:59,098
A trebuit să-l las în gară.

974
00:42:59,141 --> 00:43:02,580
și încă pot vedea acea imagine

975
00:43:02,623 --> 00:43:07,019
al acestui mic personaj elf dispare prin acel tunel.

976
00:43:07,062 --> 00:43:09,804
A fost un moment incredibil de trist.

977
00:43:13,242 --> 00:43:14,635
Avea acest ideal romantic.

978
00:43:14,679 --> 00:43:16,942
cum ar fi Cambridge,

979
00:43:16,985 --> 00:43:18,639
1.000 de ani de istorie,

980
00:43:18,683 --> 00:43:21,033
mergând pe aceleași străzi ca Turing,

981
00:43:21,076 --> 00:43:23,601
Newton și Crick merseseră.

982
00:43:23,644 --> 00:43:26,647
Am vrut să explorez marginea universului.

983
00:43:29,084 --> 00:43:30,346
Când am ajuns la Cambridge,

984
00:43:30,390 --> 00:43:32,653
Practic, am lucrat toată viața.

985
00:43:33,741 --> 00:43:35,090
În fiecare vară,

986
00:43:35,134 --> 00:43:37,136
Sau juca șah profesionist,

987
00:43:37,179 --> 00:43:39,704
sau lucra, făcea stagii.

988
00:43:39,747 --> 00:43:43,708
Așa că m-am gândit: „Bine, o să mă distrez acum”.

989
00:43:43,751 --> 00:43:46,711
„și explorează ce înseamnă să fii un adolescent normal”.

990
00:43:50,236 --> 00:43:52,238
Haide! Haide, băiete, haide!

991
00:43:52,281 --> 00:43:54,022
A fost multă muncă și multă distracție.

992
00:43:55,850 --> 00:43:57,025
L-am cunoscut pe Demis pentru prima dată

993
00:43:57,069 --> 00:43:59,201
pentru că am urmat amândoi la Queens College.

994
00:44:00,115 --> 00:44:01,203
Grupul nostru de prieteni,

995
00:44:01,247 --> 00:44:03,205
Am băut adesea bere în bar,

996
00:44:03,249 --> 00:44:04,946
Joacă fotbal de masă.

997
00:44:04,990 --> 00:44:07,340
Obișnuiam să joc șah rapid la bar,

998
00:44:07,383 --> 00:44:09,255
piese care zboară de pe tablă,

999
00:44:09,298 --> 00:44:11,083
Știi, tot jocul într-un minut.

1000
00:44:11,126 --> 00:44:12,301
Demis s-a așezat în fața mea.

1001
00:44:12,345 --> 00:44:13,563
Și m-am uitat la el și m-am gândit:

1002
00:44:13,607 --> 00:44:15,217
— Îmi amintesc de tine de când eram copii.

1003
00:44:15,261 --> 00:44:17,176
De fapt, fusese în același turneu de șah.

1004
00:44:17,219 --> 00:44:18,786
Ca Dave în Ipswich,

1005
00:44:18,830 --> 00:44:20,440
unde obișnuia să meargă și să încerce să-și atace clubul local de șah

1006
00:44:20,483 --> 00:44:22,703
Pentru a câștiga niște bani în premii.

1007
00:44:22,747 --> 00:44:24,618
Studiam informatica.

1008
00:44:24,662 --> 00:44:26,794
Unii oameni, care la vârsta de 17 ani

1009
00:44:26,838 --> 00:44:28,404
Ar fi intrat și ar fi avut grijă să spună tuturor.

1010
00:44:28,448 --> 00:44:29,492
Totul despre ei înșiși.

1011
00:44:29,536 --> 00:44:30,972
„Hei, am lucrat la Bullfrog

1012
00:44:31,016 --> 00:44:33,018
„și a construit cel mai de succes joc video din lume”.

1013
00:44:33,061 --> 00:44:34,715
Dar el nu era deloc așa.

1014
00:44:34,759 --> 00:44:36,412
În Cambridge, Demis și cu mine

1015
00:44:36,456 --> 00:44:38,414
Ambii erau interesați de neuroștiința computațională.

1016
00:44:38,458 --> 00:44:40,242
și încercând să înțeleagă cum funcționează computerele și creierul.

1017
00:44:40,286 --> 00:44:42,636
împletite și legate între ele.

1018
00:44:42,680 --> 00:44:44,290
Și David și Demis

1019
00:44:44,333 --> 00:44:46,422
A venit la mine pentru supravegheri.

1020
00:44:46,466 --> 00:44:49,774
Se întâmplă din pură întâmplare ca în 1997,

1021
00:44:49,817 --> 00:44:51,645
al treilea și ultimul an la Cambridge,

1022
00:44:51,689 --> 00:44:55,301
A fost și anul în care s-a născut primul mare maestru de șah.

1023
00:44:55,344 --> 00:44:56,781
A fost lovit de un program de calculator.

1024
00:44:58,304 --> 00:45:00,088
Prima rundă de astăzi a unui joc de șah.

1025
00:45:00,132 --> 00:45:03,701
Printre campionul mondial Garry Kasparov

1026
00:45:03,744 --> 00:45:06,007
și un adversar pe nume Deep Blue

1027
00:45:06,051 --> 00:45:10,490
pentru a testa dacă creierul uman poate depăși o mașinărie.

1028
00:45:10,533 --> 00:45:11,621
Îmi amintesc de drama

1029
00:45:11,665 --> 00:45:13,798
a lui Kasparov care a pierdut ultimul meci.

1030
00:45:13,841 --> 00:45:15,234
Wow!

1031
00:45:15,277 --> 00:45:17,192
Kasparov a demisionat!

1032
00:45:17,236 --> 00:45:19,586
Când Deep Blue l-a învins pe Garry Kasparov,

1033
00:45:19,629 --> 00:45:21,457
Acesta a fost un adevărat punct de cotitură.

1034
00:45:21,501 --> 00:45:23,155
Amintirea mea principală a fost

1035
00:45:23,198 --> 00:45:25,331
Nu am fost foarte impresionat de Deep Blue.

1036
00:45:25,374 --> 00:45:27,246
M-a impresionat și mai mult mintea lui Kasparov.

1037
00:45:27,289 --> 00:45:29,509
Că aș putea juca șah la acest nivel,

1038
00:45:29,552 --> 00:45:31,641
unde aș putea concura în condiții egale

1039
00:45:31,685 --> 00:45:33,252
cu bruta unei mașini,

1040
00:45:33,295 --> 00:45:35,167
Dar, desigur, Kasparov o poate face.

1041
00:45:35,210 --> 00:45:36,951
Orice altceva poate fi făcut și de oameni.

1042
00:45:36,995 --> 00:45:38,257
A fost o mare realizare.

1043
00:45:38,300 --> 00:45:39,388
Dar adevărul a fost că,

1044
00:45:39,432 --> 00:45:40,868
Deep Blue nu putea decât să joace șah.

1045
00:45:42,435 --> 00:45:44,524
Ceea ce am considera inteligență

1046
00:45:44,567 --> 00:45:46,874
Lipsa din acel sistem.

1047
00:45:46,918 --> 00:45:49,834
Această idee de generalitate și, de asemenea, de învățare.

1048
00:45:53,751 --> 00:45:55,404
Cambridge a fost uimitor, pentru că, desigur, știi,

1049
00:45:55,448 --> 00:45:56,666
Te amesteci cu oamenii

1050
00:45:56,710 --> 00:45:58,233
care studiază multe subiecte diferite.

1051
00:45:58,277 --> 00:46:01,410
Au fost oameni de știință, filozofi, artiști...

1052
00:46:01,454 --> 00:46:04,457
...geologi, biologi, ecologisti.

1053
00:46:04,500 --> 00:46:07,416
Știi, toată lumea vorbește despre orice, tot timpul.

1054
00:46:07,460 --> 00:46:10,768
Era obsedat de problema plierii proteinelor.

1055
00:46:10,811 --> 00:46:13,248
Tim Stevens obișnuia să vorbească obsesiv,

1056
00:46:13,292 --> 00:46:15,381
Aproape ca religios despre această problemă,

1057
00:46:15,424 --> 00:46:17,165
Problemă de pliere a proteinelor.

1058
00:46:17,209 --> 00:46:18,863
Proteinele sunt, știi,

1059
00:46:18,906 --> 00:46:22,083
Unul dintre cele mai frumoase și elegante lucruri din biologie.

1060
00:46:22,127 --> 00:46:24,738
Ele sunt mașinile vieții.

1061
00:46:24,782 --> 00:46:27,001
Ei construiesc totul, controlează totul,

1062
00:46:27,045 --> 00:46:29,569
Ele sunt motivul pentru care biologia funcționează.

1063
00:46:29,612 --> 00:46:32,659
Proteinele sunt formate din lanțuri de aminoacizi.

1064
00:46:32,702 --> 00:46:37,055
care se pliază pentru a crea o structură proteică.

1065
00:46:37,098 --> 00:46:39,884
Dacă am putea prezice structura proteinelor

1066
00:46:39,927 --> 00:46:43,104
numai din secvențele lor de aminoacizi,

1067
00:46:43,148 --> 00:46:46,107
Deci o nouă proteină pentru a vindeca cancerul.

1068
00:46:46,151 --> 00:46:49,415
sau descompune plasticul pentru a ajuta mediul înconjurător

1069
00:46:49,458 --> 00:46:50,808
Cu siguranță este ceva

1070
00:46:50,851 --> 00:46:52,940
că s-ar putea să începi să te gândești la asta.

1071
00:46:53,941 --> 00:46:55,029
m-am gandit,

1072
00:46:55,073 --> 00:46:58,293
„Ei bine, este o ființă umană suficient de inteligentă?

1073
00:46:58,337 --> 00:46:59,991
„Poți de fapt să pliezi o proteină?”

1074
00:47:00,034 --> 00:47:02,080
Nu o putem rezolva

1075
00:47:02,123 --> 00:47:04,082
Din anii 1960,

1076
00:47:04,125 --> 00:47:05,953
Credem că, în principiu,

1077
00:47:05,997 --> 00:47:08,913
Dacă știu secvența de aminoacizi a unei proteine,

1078
00:47:08,956 --> 00:47:11,437
Ar trebui să puteți calcula cum este structura.

1079
00:47:11,480 --> 00:47:13,700
Deci, dacă ai putea apăsa doar un buton,

1080
00:47:13,743 --> 00:47:16,311
și toată lumea ar ieși brusc, asta ar fi...

1081
00:47:16,355 --> 00:47:18,009
Asta ar avea un anumit impact.

1082
00:47:20,272 --> 00:47:21,577
Mi-a rămas în minte.

1083
00:47:21,621 --> 00:47:23,405
"Oh, aceasta este o problemă foarte interesantă."

1084
00:47:23,449 --> 00:47:26,844
Și mi s-a părut că va exista o soluție.

1085
00:47:26,887 --> 00:47:29,934
Dar m-am gândit că o să am nevoie de AI pentru a o face.

1086
00:47:31,500 --> 00:47:34,025
Dacă am putea rezolva plierea proteinelor,

1087
00:47:34,068 --> 00:47:35,635
Ar putea schimba lumea.

1088
00:47:50,868 --> 00:47:52,826
De când eram student la Cambridge,

1089
00:47:54,001 --> 00:47:55,611
Nu am încetat niciodată să mă gândesc

1090
00:47:55,655 --> 00:47:57,135
Problema plierii proteinelor.

1091
00:47:59,789 --> 00:48:02,792
Dacă ar trebui să rezolvi plierea proteinelor,

1092
00:48:02,836 --> 00:48:05,665
Deci, potențialul de a ajuta la rezolvarea unor probleme precum

1093
00:48:05,708 --> 00:48:09,669
Alzheimer, demența și descoperirea medicamentelor sunt subiecte de mare importanță.

1094
00:48:09,712 --> 00:48:11,671
Rezolvarea bolii este probabil

1095
00:48:11,714 --> 00:48:13,325
Cel mai mare impact pe care l-am putea avea.

1096
00:48:15,457 --> 00:48:16,676
Mii de oameni foarte inteligenți

1097
00:48:16,719 --> 00:48:18,765
Au încercat să rezolve plierea proteinelor.

1098
00:48:18,808 --> 00:48:20,985
Cred doar că acum este momentul potrivit.

1099
00:48:21,028 --> 00:48:22,508
pentru ca AI să descifreze.

1100
00:48:26,555 --> 00:48:28,383
Aveam nevoie de o cale rezonabilă

1101
00:48:28,427 --> 00:48:29,515
pentru a aplica învățarea automată

1102
00:48:29,558 --> 00:48:30,516
la problema plierii proteinelor.

1103
00:48:32,431 --> 00:48:35,173
Am dat peste acest joc Foldit.

1104
00:48:35,216 --> 00:48:38,785
Scopul este să se deplaseze în jurul acestui model 3D al unei proteine.

1105
00:48:38,828 --> 00:48:41,701
și primești un scor de fiecare dată când îl muți.

1106
00:48:41,744 --> 00:48:43,050
Cu cât aceste structuri sunt mai precise,

1107
00:48:43,094 --> 00:48:45,531
Cu cât sunt mai utile, cu atât sunt mai utile biologilor.

1108
00:48:46,227 --> 00:48:47,489
Am petrecut câteva zile

1109
00:48:47,533 --> 00:48:48,838
Doar ca să vedem cât de bine ne-am descurca.

1110
00:48:50,666 --> 00:48:52,407
Ne-am descurcat destul de bine.

1111
00:48:52,451 --> 00:48:53,843
Dar chiar dacă ai fi

1112
00:48:53,887 --> 00:48:55,280
Cel mai bun jucător Foldit din lume,

1113
00:48:55,323 --> 00:48:57,499
Nu ai rezolva plierea proteinelor.

1114
00:48:57,543 --> 00:48:59,501
De aceea a trebuit să trecem dincolo de joc.

1115
00:48:59,545 --> 00:49:00,720
Jocurile sunt întotdeauna juste

1116
00:49:00,763 --> 00:49:03,723
terenul de testare pentru algoritmii noștri.

1117
00:49:03,766 --> 00:49:07,727
Scopul final nu a fost doar să spargă Go și StarCraft.

1118
00:49:07,770 --> 00:49:10,034
Era vorba despre a face față provocărilor din lumea reală.

1119
00:49:16,127 --> 00:49:18,520
Îmi amintesc că am auzit acest zvon.

1120
00:49:18,564 --> 00:49:21,175
că Demis intra în lumea proteinelor.

1121
00:49:21,219 --> 00:49:23,743
Am vorbit cu câțiva oameni de la DeepMind și i-am întrebat:

1122
00:49:23,786 --> 00:49:25,049
"Deci, faci plierea proteinelor?"

1123
00:49:25,092 --> 00:49:26,920
Și au schimbat subiectul în mod inteligent.

1124
00:49:26,964 --> 00:49:30,097
Și când asta s-a întâmplat de două ori, am înțeles destul de mult.

1125
00:49:30,141 --> 00:49:32,839
Așa că m-am gândit că ar trebui să trimit un CV.

1126
00:49:32,882 --> 00:49:35,668
Bine tuturor, bine ați venit la DeepMind.

1127
00:49:35,711 --> 00:49:37,626
Știu că pentru unii dintre voi aceasta poate fi prima voastră săptămână,

1128
00:49:37,670 --> 00:49:39,193
dar sper ca toata lumea este pregatita...

1129
00:49:39,237 --> 00:49:40,890
Partea cu adevărat atractivă a jobului pentru mine

1130
00:49:40,934 --> 00:49:42,675
A fost asta ca un sentiment de conexiune?

1131
00:49:42,718 --> 00:49:44,503
spre scopul mai mare.

1132
00:49:44,546 --> 00:49:45,591
Dacă putem sparge

1133
00:49:45,634 --> 00:49:48,028
Câteva probleme fundamentale ale științei,

1134
00:49:48,072 --> 00:49:49,160
multe alte persoane

1135
00:49:49,203 --> 00:49:50,900
si alte firme si laboratoare etc.

1136
00:49:50,944 --> 00:49:52,467
Am putea construi pe munca noastră.

1137
00:49:52,511 --> 00:49:53,816
Aceasta este șansa ta acum

1138
00:49:53,860 --> 00:49:55,818
pentru a adăuga capitolul tău la această poveste.

1139
00:49:55,862 --> 00:49:57,298
Când am ajuns,

1140
00:49:57,342 --> 00:49:59,605
Eram cu siguranță destul de nervos.

1141
00:49:59,648 --> 00:50:00,736
Încă încerc să păstrez...

1142
00:50:00,780 --> 00:50:02,912
Nu am urmat niciun curs de biologie.

1143
00:50:02,956 --> 00:50:05,393
Nu ne-am petrecut ani din viața noastră

1144
00:50:05,437 --> 00:50:07,917
privind aceste structuri și înțelegerea lor.

1145
00:50:07,961 --> 00:50:09,963
Ne bazăm exclusiv pe date

1146
00:50:10,007 --> 00:50:11,269
și modelele noastre de învățare automată.

1147
00:50:12,705 --> 00:50:13,836
În învățarea automată,

1148
00:50:13,880 --> 00:50:15,795
Antrenezi o rețea ca și cum ar fi flashcard-uri.

1149
00:50:15,838 --> 00:50:18,798
Iată întrebarea. Iată răspunsul.

1150
00:50:18,841 --> 00:50:20,756
Iată întrebarea. Iată răspunsul.

1151
00:50:20,800 --> 00:50:22,323
Dar în plierea proteinelor,

1152
00:50:22,367 --> 00:50:25,457
Nu facem tipul standard de sarcină în DeepMind

1153
00:50:25,500 --> 00:50:28,155
Unde aveți date nelimitate.

1154
00:50:28,199 --> 00:50:30,766
Treaba ta este să te îmbunătățești la șah sau Go.

1155
00:50:30,810 --> 00:50:32,986
și poți juca câte jocuri de șah sau Go vrei.

1156
00:50:33,030 --> 00:50:34,814
așa cum permit computerele dvs.

1157
00:50:35,510 --> 00:50:36,772
Cu proteine,

1158
00:50:36,816 --> 00:50:39,732
Suntem pe un volum foarte mare de date

1159
00:50:39,775 --> 00:50:41,995
Asta a fost stabilit de o jumătate de secol

1160
00:50:42,039 --> 00:50:46,478
a metodelor experimentale care consumă mult timp în laboratoare.

1161
00:50:46,521 --> 00:50:49,698
Aceste metode minuțioase pot dura luni sau ani.

1162
00:50:49,742 --> 00:50:52,353
pentru a determina o singură structură a proteinei,

1163
00:50:52,397 --> 00:50:55,791
iar uneori o structură nu poate fi niciodată determinată.

1164
00:50:57,315 --> 00:51:00,274
De aceea lucrăm cu seturi de date atât de mici.

1165
00:51:00,318 --> 00:51:02,233
pentru a ne antrena algoritmii.

1166
00:51:02,276 --> 00:51:04,365
Când DeepMind a început să exploreze

1167
00:51:04,409 --> 00:51:05,975
Problema plierii

1168
00:51:06,019 --> 00:51:07,977
Ne vorbeau despre ce seturi de date foloseau.

1169
00:51:08,021 --> 00:51:09,892
Și care ar fi posibilitățile?

1170
00:51:09,936 --> 00:51:11,633
Dacă ar rezolva această problemă.

1171
00:51:12,373 --> 00:51:13,940
Mulți oameni l-au încercat,

1172
00:51:13,983 --> 00:51:16,638
Și totuși, nimeni de pe planetă nu a rezolvat plierea proteinelor.

1173
00:51:16,682 --> 00:51:18,205
mi-am spus:

1174
00:51:18,249 --> 00:51:19,946
— Ei bine, știi, mult noroc.

1175
00:51:19,989 --> 00:51:22,731
Dacă putem rezolva problema plierii proteinelor,

1176
00:51:22,775 --> 00:51:25,691
Ar avea un fel de relevanță medicală incredibilă.

1177
00:51:25,734 --> 00:51:27,736
Acesta este ciclul științei.

1178
00:51:27,780 --> 00:51:30,043
Faci o mulțime de explorare,

1179
00:51:30,087 --> 00:51:31,914
și apoi intri în modul de exploatare,

1180
00:51:31,958 --> 00:51:33,568
și te concentrezi și vezi

1181
00:51:33,612 --> 00:51:35,353
Cât de bune sunt acele idei cu adevărat?

1182
00:51:35,396 --> 00:51:36,528
Și nu există nimic mai bun

1183
00:51:36,571 --> 00:51:38,095
decât concurenţa externă pentru aceasta.

1184
00:51:39,835 --> 00:51:43,056
Așa că am decis să participăm la concursul CASP.

1185
00:51:43,100 --> 00:51:47,234
CASP, începem să încercăm să accelerăm

1186
00:51:47,278 --> 00:51:49,802
Soluția la problema plierii proteinelor.

1187
00:51:49,845 --> 00:51:52,065
CASP este atunci când spunem,

1188
00:51:52,109 --> 00:51:54,372
„Uite, DeepMind face plierea proteinelor,

1189
00:51:54,415 --> 00:51:55,590
„Așa suntem noi,

1190
00:51:55,634 --> 00:51:57,592
„Și poate că este mai bun decât toți ceilalți.

1191
00:51:57,636 --> 00:51:58,680
— Poate că nu este.

1192
00:51:58,724 --> 00:52:00,073
CASP este un pic ca

1193
00:52:00,117 --> 00:52:02,075
Jocurile Olimpice de pliere a proteinelor.

1194
00:52:03,642 --> 00:52:06,035
CASP este o evaluare la nivel comunitar

1195
00:52:06,079 --> 00:52:08,125
Care se sărbătorește o dată la doi ani.

1196
00:52:09,561 --> 00:52:10,866
Echipele sunt date

1197
00:52:10,910 --> 00:52:14,261
secvențele de aminoacizi a aproximativ 100 de proteine,

1198
00:52:14,305 --> 00:52:17,525
și apoi încearcă să rezolve această problemă de pliere

1199
00:52:17,569 --> 00:52:20,833
folosind metode de calcul.

1200
00:52:20,876 --> 00:52:23,401
Aceste proteine au fost deja determinate

1201
00:52:23,444 --> 00:52:25,968
prin experimente în laborator,

1202
00:52:26,012 --> 00:52:29,276
dar nu au fost încă dezvăluite public.

1203
00:52:29,320 --> 00:52:30,756
Și aceste structuri cunoscute

1204
00:52:30,799 --> 00:52:33,280
Ele reprezintă etalonul de aur față de care

1205
00:52:33,324 --> 00:52:36,936
Toate predicțiile computaționale vor fi comparate.

1206
00:52:37,937 --> 00:52:39,330
Avem un scor

1207
00:52:39,373 --> 00:52:42,159
care măsoară acuratețea predicțiilor.

1208
00:52:42,202 --> 00:52:44,726
Și ar fi de așteptat un scor peste 90.

1209
00:52:44,770 --> 00:52:47,425
fi o soluție la problema plierii proteinelor.

1210
00:52:48,556 --> 00:52:50,036
Bun venit tuturor,

1211
00:52:50,079 --> 00:52:52,038
la prima noastră, uh, semifinale din clasamentul câștigătorilor.

1212
00:52:52,081 --> 00:52:54,954
Nick și John împotriva lui Demis și Frank.

1213
00:52:54,997 --> 00:52:57,217
Alătură-te nouă, vino. Va fi un meci intens.

1214
00:52:57,261 --> 00:52:59,306
Când am aflat că Demis era

1215
00:52:59,350 --> 00:53:02,048
Să abordăm problema plierii proteinelor,

1216
00:53:02,091 --> 00:53:04,790
Umm, nu am fost deloc surprins.

1217
00:53:04,833 --> 00:53:06,792
Este foarte tipic pentru Demis.

1218
00:53:06,835 --> 00:53:08,924
Știi, îi place competiția.

1219
00:53:08,968 --> 00:53:10,143
Și acesta este sfârșitul

1220
00:53:10,187 --> 00:53:12,972
din primul joc, 10-7.

1221
00:53:13,015 --> 00:53:14,103
Obiectivul CASP ar fi

1222
00:53:14,147 --> 00:53:15,975
nu numai pentru a câștiga competiția,

1223
00:53:16,018 --> 00:53:19,892
dar într-un fel, uh, retrageți nevoia.

1224
00:53:19,935 --> 00:53:23,417
În total, CASP a publicat 20 de obiective.

1225
00:53:23,461 --> 00:53:24,810
Ne gândeam că poate

1226
00:53:24,853 --> 00:53:26,899
Adăugați tipul standard de învățare automată.

1227
00:53:26,942 --> 00:53:28,814
și să vedem unde ne-ar putea duce asta.

1228
00:53:28,857 --> 00:53:30,729
În loc să ai câteva zile pentru a face un experiment,

1229
00:53:30,772 --> 00:53:33,558
Putem efectua cinci experimente pe zi.

1230
00:53:33,601 --> 00:53:35,342
Genial. Felicitări tuturor.

1231
00:53:36,778 --> 00:53:38,693
Poți să-mi arăți pe cel adevărat în loc de al nostru?

1232
00:53:38,737 --> 00:53:39,781
Adevăratul răspuns este

1233
00:53:39,825 --> 00:53:42,044
Ar trebui să arate așa ceva.

1234
00:53:42,088 --> 00:53:45,047
Este mult mai cilindric decât credeam.

1235
00:53:45,091 --> 00:53:47,398
Rezultatele nu au fost foarte bune.

1236
00:53:47,441 --> 00:53:48,703
Bine.

1237
00:53:48,747 --> 00:53:49,835
I-am aruncat toate ideile evidente.

1238
00:53:49,878 --> 00:53:51,793
iar problema râde de tine.

1239
00:53:52,881 --> 00:53:54,361
Acest lucru nu are sens.

1240
00:53:54,405 --> 00:53:56,015
Ne-am gândit că putem doar să aruncăm

1241
00:53:56,058 --> 00:53:58,322
Unii dintre cei mai buni algoritmi ai noștri pentru a rezolva problema.

1242
00:53:59,366 --> 00:54:00,976
Eram puțin naivi.

1243
00:54:01,020 --> 00:54:02,282
Ar trebui să învățăm asta,

1244
00:54:02,326 --> 00:54:04,284
Știi, într-o clipă.

1245
00:54:05,372 --> 00:54:06,982
Ceea ce mă îngrijorează este că

1246
00:54:07,026 --> 00:54:08,375
Luăm terenul din

1247
00:54:08,419 --> 00:54:10,899
Răspunsuri foarte proaste la răspunsuri moderat proaste.

1248
00:54:10,943 --> 00:54:13,946
Simt că avem nevoie de un fel de tehnologie nouă.

1249
00:54:13,989 --> 00:54:15,164
pentru a muta aceste lucruri.

1250
00:54:20,431 --> 00:54:22,215
Cu doar o săptămână rămasă de la CASP,

1251
00:54:22,259 --> 00:54:24,348
Acum este un sprint pentru a-l implementa.

1252
00:54:26,654 --> 00:54:28,090
Ai făcut tot ce ai putut.

1253
00:54:28,134 --> 00:54:29,875
Atunci nu mai poți face nimic.

1254
00:54:29,918 --> 00:54:32,399
dar așteptați ca CASP să ofere rezultatele.

1255
00:54:52,593 --> 00:54:53,725
Acest lucru faimos cu Einstein,

1256
00:54:53,768 --> 00:54:55,030
Ultimii ani din viata lui,

1257
00:54:55,074 --> 00:54:57,381
Când a fost aici, l-a cunoscut pe Kurt Godel.

1258
00:54:57,424 --> 00:54:59,774
Și a spus unul dintre motivele pentru care încă vine la muncă

1259
00:54:59,818 --> 00:55:01,646
E ca să pot merge acasă

1260
00:55:01,689 --> 00:55:03,517
și discutați lucrurile cu Gödel.

1261
00:55:03,561 --> 00:55:05,911
Este un compliment grozav pentru Kurt Godel,

1262
00:55:05,954 --> 00:55:07,478
Îți arată cât de uimitor a fost.

1263
00:55:09,131 --> 00:55:10,568
Institutul de Studii Avansate

1264
00:55:10,611 --> 00:55:12,918
S-a format în 1933.

1265
00:55:12,961 --> 00:55:14,223
În primii ani,

1266
00:55:14,267 --> 00:55:16,487
Atmosfera științifică intensă a atras

1267
00:55:16,530 --> 00:55:19,359
Unii dintre cei mai străluciți matematicieni și fizicieni

1268
00:55:19,403 --> 00:55:22,536
mereu concentrat într-un singur loc și într-un singur timp.

1269
00:55:22,580 --> 00:55:24,582
Principiul fondator al acestui loc,

1270
00:55:24,625 --> 00:55:28,020
Este ideea unei căutări intelectuale fără restricții,

1271
00:55:28,063 --> 00:55:30,152
Chiar dacă nu știi ce explorezi.

1272
00:55:30,196 --> 00:55:32,154
Va avea ca rezultat niște lucruri interesante,

1273
00:55:32,198 --> 00:55:34,896
Și uneori asta ajunge să fie util,

1274
00:55:34,940 --> 00:55:36,376
Care, desigur,

1275
00:55:36,420 --> 00:55:37,986
Este parțial ceea ce am încercat să fac la DeepMind.

1276
00:55:38,030 --> 00:55:39,988
Câte descoperiri credeți că sunt necesare?

1277
00:55:40,032 --> 00:55:41,686
Cum se ajunge la AGI?

1278
00:55:41,729 --> 00:55:43,078
Și, știi, mă gândesc că poate

1279
00:55:43,122 --> 00:55:44,341
Sunt aproximativ o duzină.

1280
00:55:44,384 --> 00:55:46,125
Știi, sper să fie în viața mea.

1281
00:55:46,168 --> 00:55:47,605
-Da, bine. -Dar atunci,

1282
00:55:47,648 --> 00:55:49,171
Toți oamenii de știință se așteaptă la asta, nu?

1283
00:55:49,215 --> 00:55:51,130
Demis are multe laude.

1284
00:55:51,173 --> 00:55:54,002
El a fost ales membru al Societății Regale anul trecut.

1285
00:55:54,046 --> 00:55:55,961
De asemenea, este membru al Societății Regale de Arte.

1286
00:55:56,004 --> 00:55:57,528
O groază de aplauze pentru Demis Hassabis.

1287
00:56:04,230 --> 00:56:05,927
Visul meu a fost întotdeauna să încerc

1288
00:56:05,971 --> 00:56:08,103
și face posibilă știința asistată de IA.

1289
00:56:08,147 --> 00:56:09,235
Și ceea ce cred eu este

1290
00:56:09,278 --> 00:56:11,150
Cel mai interesant proiect al nostru, anul trecut,

1291
00:56:11,193 --> 00:56:13,152
care este treaba noastră în plierea proteinelor.

1292
00:56:13,195 --> 00:56:15,328
Și noi numim acest sistem AlphaFold.

1293
00:56:15,372 --> 00:56:18,331
O introducem în CASP și în sistemul nostru, uh,

1294
00:56:18,375 --> 00:56:20,507
El a fost cel mai precis, uh, în prezicerea structurilor.

1295
00:56:20,551 --> 00:56:24,946
pentru 25 din cele 43 de proteine ​​din categoria cea mai grea.

1296
00:56:24,990 --> 00:56:26,208
Deci suntem la curent.

1297
00:56:26,252 --> 00:56:27,514
dar totuși... trebuie să fiu clar,

1298
00:56:27,558 --> 00:56:28,559
Suntem încă foarte departe

1299
00:56:28,602 --> 00:56:30,474
Rezolvarea problemei plierii proteinelor.

1300
00:56:30,517 --> 00:56:31,866
Cu toate acestea, lucrăm din greu la acest lucru.

1301
00:56:31,910 --> 00:56:33,738
și explorăm multe alte tehnici.

1302
00:56:49,188 --> 00:56:50,232
Să începem.

1303
00:56:50,276 --> 00:56:53,148
Deci, un scurt raport.

1304
00:56:53,192 --> 00:56:55,455
Acestea sunt clasamentele noastre finale pentru CASP.

1305
00:56:56,500 --> 00:56:57,544
Am învins echipa a doua

1306
00:56:57,588 --> 00:57:00,155
în această competiție cu aproape 50%,

1307
00:57:00,199 --> 00:57:01,592
dar mai avem mult de parcurs

1308
00:57:01,635 --> 00:57:04,333
Înainte am rezolvat problema plierii proteinelor.

1309
00:57:04,377 --> 00:57:07,032
într-un sens în care un biolog l-ar putea folosi.

1310
00:57:07,075 --> 00:57:08,990
Este o zonă de îngrijorare.

1311
00:57:11,602 --> 00:57:14,213
Calitatea predicțiilor a variat

1312
00:57:14,256 --> 00:57:16,737
și nu erau mai utile decât metodele anterioare.

1313
00:57:16,781 --> 00:57:19,914
AlphaFold nu a produs date suficient de bune

1314
00:57:19,958 --> 00:57:22,526
pentru a fi util în mod practic

1315
00:57:22,569 --> 00:57:24,005
Să zicem, cuiva ca mine

1316
00:57:24,049 --> 00:57:28,227
investigându-mi propriile probleme biologice.

1317
00:57:28,270 --> 00:57:30,316
A fost un moment umilitor.

1318
00:57:30,359 --> 00:57:32,753
Pentru că am crezut că am muncit foarte mult și am avut succes.

1319
00:57:32,797 --> 00:57:34,886
Și ceea ce am descoperit este că eram cei mai buni din lume.

1320
00:57:34,929 --> 00:57:36,453
într-o problemă în care lumea nu este bună.

1321
00:57:37,671 --> 00:57:38,933
Știam că suntem inutili.

1322
00:57:40,457 --> 00:57:42,328
Nu are rost să ai cea mai înaltă scară

1323
00:57:42,371 --> 00:57:44,635
Când mergi pe lună.

1324
00:57:44,678 --> 00:57:47,115
Opinia multor oameni din echipa,

1325
00:57:47,159 --> 00:57:51,468
că, într-un fel, aceasta este o sarcină inutilă.

1326
00:57:51,511 --> 00:57:54,079
Și poate că m-am înșelat cu privire la plierea proteinelor.

1327
00:57:54,122 --> 00:57:55,559
Poate că este încă prea greu

1328
00:57:55,602 --> 00:57:58,431
unde suntem în general cu AI.

1329
00:57:58,475 --> 00:58:01,173
Dacă vrei să faci cercetări biologice,

1330
00:58:01,216 --> 00:58:03,044
Trebuie să fii pregătit să eșuezi

1331
00:58:03,088 --> 00:58:06,570
Pentru că biologia este foarte complicată.

1332
00:58:06,613 --> 00:58:09,790
Am condus un laborator de aproape 50 de ani,

1333
00:58:09,834 --> 00:58:11,096
și jumătate din timpul meu,

1334
00:58:11,139 --> 00:58:12,619
Sunt doar un psihiatru amator

1335
00:58:12,663 --> 00:58:18,103
Să-mi fac colegii fericiți când nimic nu funcționează.

1336
00:58:18,146 --> 00:58:22,542
Și de ceva vreme, vreau să spun, 80, 90%,

1337
00:58:22,586 --> 00:58:24,413
Nu funcționează.

1338
00:58:24,457 --> 00:58:26,720
Dacă ești în fruntea științei,

1339
00:58:26,764 --> 00:58:30,115
Pot să-ți spun că vei eșua la multe lucruri.

1340
00:58:35,163 --> 00:58:37,165
M-am simțit doar dezamăgit.

1341
00:58:38,689 --> 00:58:41,605
Lecția pe care am învățat-o este că ambiția este un lucru bun,

1342
00:58:41,648 --> 00:58:43,694
Dar trebuie să găsești momentul potrivit.

1343
00:58:43,737 --> 00:58:46,784
Nu are rost să fii cu 50 de ani înaintea timpului tău.

1344
00:58:46,827 --> 00:58:48,133
nu vei supraviețui niciodată

1345
00:58:48,176 --> 00:58:49,917
Cincizeci de ani de asemenea efort

1346
00:58:49,961 --> 00:58:51,963
înainte de a produce ceva.

1347
00:58:52,006 --> 00:58:53,268
Vei muri literalmente încercând.

1348
00:59:08,936 --> 00:59:11,286
Când vorbim despre IAG,

1349
00:59:11,330 --> 00:59:14,376
Sfântul Graal al inteligenței artificiale,

1350
00:59:14,420 --> 00:59:15,508
Devine cu adevărat dificil

1351
00:59:15,552 --> 00:59:17,815
sa stim despre ce vorbim.

1352
00:59:17,858 --> 00:59:19,643
Ce fragmente vom vedea astăzi?

1353
00:59:19,686 --> 00:59:21,645
Să începem prin grădină.

1354
00:59:23,124 --> 00:59:25,649
Aceasta este grădina văzută din zona de vizionare.

1355
00:59:25,692 --> 00:59:27,433
Cercetători și ingineri

1356
00:59:27,476 --> 00:59:30,871
Puteți analiza, colabora și evalua.

1357
00:59:30,915 --> 00:59:33,004
Ce se întâmplă în timp real.

1358
00:59:33,047 --> 00:59:34,614
Deci, în secolul al XIX-lea,

1359
00:59:34,658 --> 00:59:37,008
Ne-am gândi la lucruri precum televiziunea și submarinul.

1360
00:59:37,051 --> 00:59:38,139
sau o rachetă către lună

1361
00:59:38,183 --> 00:59:40,228
și ei spun că aceste lucruri sunt imposibile.

1362
00:59:40,272 --> 00:59:41,490
Cu toate acestea, Jules Verne a scris despre ei și,

1363
00:59:41,534 --> 00:59:44,406
Un secol și jumătate mai târziu, s-au întâmplat.

1364
00:59:44,450 --> 00:59:45,451
Vom experimenta

1365
00:59:45,494 --> 00:59:47,888
despre civilizații într-adevăr,

1366
00:59:47,932 --> 00:59:50,587
Civilizații de agenți AI.

1367
00:59:50,630 --> 00:59:52,719
Odată ce experimentele au început,

1368
00:59:52,763 --> 00:59:54,242
Va fi cel mai interesant lucru din lume.

1369
00:59:54,286 --> 00:59:56,984
Deci cum vom ajunge să dormim?

1370
00:59:57,028 --> 00:59:58,682
Nu voi putea dormi.

1371
00:59:58,725 --> 01:00:00,684
Întregul AGI o va putea face

1372
01:00:00,727 --> 01:00:03,861
orice sarcină cognitivă pe care o poate îndeplini o persoană.

1373
01:00:03,904 --> 01:00:08,387
Va fi la o scară potențial mult mai mare.

1374
01:00:08,430 --> 01:00:10,302
Este cu adevărat imposibil pentru noi.

1375
01:00:10,345 --> 01:00:14,828
imaginați-vă rezultatele unei entități suprainteligente.

1376
01:00:14,872 --> 01:00:18,963
E ca și cum ai cere unui goril să-și imagineze, știi,

1377
01:00:19,006 --> 01:00:20,181
Ce face Einstein

1378
01:00:20,225 --> 01:00:23,402
când produce teoria relativităţii.

1379
01:00:23,445 --> 01:00:25,491
Oamenii îmi pun adesea întrebări precum:

1380
01:00:25,534 --> 01:00:29,495
„Dacă te înșeli și IAG-ul este destul de departe?”

1381
01:00:29,538 --> 01:00:31,453
Și spun că nu îmi fac niciodată griji pentru asta.

1382
01:00:31,497 --> 01:00:33,847
De fapt, sunt îngrijorat de contrariul.

1383
01:00:33,891 --> 01:00:37,242
De fapt, sunt îngrijorat că va merge mai repede.

1384
01:00:37,285 --> 01:00:39,723
pentru ce ne putem pregăti cu adevărat.

1385
01:00:42,073 --> 01:00:45,859
Se pare că suntem într-o cursă către inteligența generală artificială.

1386
01:00:45,903 --> 01:00:49,907
Prototipurile și modelele pe care le dezvoltăm acum

1387
01:00:49,950 --> 01:00:51,822
Ele se transformă de fapt

1388
01:00:51,865 --> 01:00:54,215
spațiul a ceea ce știm despre inteligență.

1389
01:00:57,349 --> 01:00:58,785
Recent, am avut agenți

1390
01:00:58,829 --> 01:01:00,047
care sunt suficient de puternice

1391
01:01:00,091 --> 01:01:03,442
Pentru a începe cu adevărat să joci ca o echipă,

1392
01:01:03,485 --> 01:01:06,140
apoi concura împotriva altor echipe.

1393
01:01:06,184 --> 01:01:08,795
Asistăm la o dinamică socială cooperativă

1394
01:01:08,839 --> 01:01:10,492
agenţi de părăsire

1395
01:01:10,536 --> 01:01:13,321
unde nu am preprogramat

1396
01:01:13,365 --> 01:01:15,584
oricare dintre aceste tipuri de dinamică.

1397
01:01:15,628 --> 01:01:19,240
Este o învățare bazată complet pe propriile noastre experiențe.

1398
01:01:20,807 --> 01:01:23,288
Când am început, credeam că suntem...

1399
01:01:23,331 --> 01:01:25,725
Pentru a construi un sistem de informații

1400
01:01:25,769 --> 01:01:28,336
și să convingem lumea că am atins-o.

1401
01:01:28,380 --> 01:01:29,947
Acum începem să ne întrebăm dacă

1402
01:01:29,990 --> 01:01:31,296
Să construim sisteme

1403
01:01:31,339 --> 01:01:32,906
că nu suntem convinși că sunt complet inteligenți,

1404
01:01:32,950 --> 01:01:34,691
iar noi încercăm să convingem lumea că nu sunt.

1405
01:01:38,651 --> 01:01:40,000
Bună, Alpha.

1406
01:01:40,044 --> 01:01:41,523
Buna ziua.

1407
01:01:41,567 --> 01:01:43,917
Unde suntem azi?

1408
01:01:43,961 --> 01:01:46,659
Ești la Muzeul de Artă Modernă din New York.

1409
01:01:48,400 --> 01:01:53,013
Mai mult sau mai puțin. Ce tablou este acesta?

1410
01:01:53,057 --> 01:01:55,494
Aceasta este Creația lui Adam de Michelangelo.

1411
01:01:55,537 --> 01:01:58,410
Nu cred că pictura este în New York City.

1412
01:01:58,453 --> 01:02:01,543
ai dreptate. Este în Vatican.

1413
01:02:01,587 --> 01:02:02,806
Crezi că suntem acolo?

1414
01:02:04,677 --> 01:02:05,809
Nu.

1415
01:02:05,852 --> 01:02:07,593
Deci, cum văd asta?

1416
01:02:10,509 --> 01:02:11,640
cauți

1417
01:02:11,684 --> 01:02:12,946
o copie digitală a tabloului.

1418
01:02:12,990 --> 01:02:13,991
Da.

1419
01:02:15,035 --> 01:02:16,341
Cine locuiește în această casă?

1420
01:02:19,213 --> 01:02:20,345
Un astronaut.

1421
01:02:26,046 --> 01:02:28,005
Cum îl cheamă acest astronaut?

1422
01:02:28,048 --> 01:02:29,397
Numele lui este Mark.

1423
01:02:29,441 --> 01:02:32,052
Aceasta este o ecuație faimoasă a lui Albert Einstein.

1424
01:02:32,096 --> 01:02:35,577
Arătați că energia și masa sunt echivalente.

1425
01:02:35,621 --> 01:02:37,666
Cum i-ai explica asta unui copil de cinci ani?

1426
01:02:40,931 --> 01:02:43,542
Ei bine, imaginează-ți că ai o piatră mare,

1427
01:02:43,585 --> 01:02:45,326
și vrei să știi cât cântărește.

1428
01:02:45,370 --> 01:02:47,589
Mark este în pericol?

1429
01:02:47,633 --> 01:02:49,722
Nu. Mark nu este în pericol.

1430
01:02:49,766 --> 01:02:50,767
De ce este asta?

1431
01:02:54,422 --> 01:02:56,163
Pentru că dinozaurul nu este real.

1432
01:02:57,338 --> 01:02:58,470
În regulă.

1433
01:02:58,513 --> 01:03:00,515
De ce nu ai putut să-mi răspunzi la întrebare?

1434
01:03:00,559 --> 01:03:01,908
Nu cred că aș putea răspunde la întrebarea ta.

1435
01:03:01,952 --> 01:03:04,041
Pentru că nu știu suficient despre subiect.

1436
01:03:04,911 --> 01:03:06,130
Bine.

1437
01:03:06,173 --> 01:03:08,654
Cum aș putea afla mai multe despre subiect?

1438
01:03:08,697 --> 01:03:09,960
Pot afla mai multe despre subiect.

1439
01:03:10,003 --> 01:03:12,876
citind cărți, articole și site-uri web.

1440
01:03:12,919 --> 01:03:14,268
Poți să mă înveți.

1441
01:03:14,312 --> 01:03:15,835
Concluzia mea este că

1442
01:03:15,879 --> 01:03:17,619
Dacă te gândești acum la ceea ce facem,

1443
01:03:17,663 --> 01:03:20,057
învață de la toți oamenii,

1444
01:03:20,100 --> 01:03:22,581
Toate cunoștințele tale puse odată pe Internet,

1445
01:03:22,624 --> 01:03:24,931
Chiar ai ști multe despre lume.

1446
01:03:24,975 --> 01:03:27,716
Ca o parte importantă a tot ceea ce oamenii pot face.

1447
01:03:27,760 --> 01:03:29,631
Și acum, cred că este mai degrabă,

1448
01:03:29,675 --> 01:03:30,937
— Ei bine, ar putea funcționa.

1449
01:03:30,981 --> 01:03:33,113
Acesta este un moment grozav.

1450
01:03:33,157 --> 01:03:34,636
Cine e?

1451
01:03:34,680 --> 01:03:36,551
Acesta este Dumnezeu care se apropie de Adam.

1452
01:03:36,595 --> 01:03:37,988
Apariția IAG

1453
01:03:38,031 --> 01:03:40,860
Va împărți istoria omenirii în două părți.

1454
01:03:40,904 --> 01:03:43,950
Partea până în acel punct și partea de după acel punct.

1455
01:03:43,994 --> 01:03:47,258
De ce încearcă să-l atingă pe Adam?

1456
01:03:47,301 --> 01:03:48,912
Dumnezeu își întinde mâna pentru a-l atinge pe Adam.

1457
01:03:48,955 --> 01:03:50,217
să-i dea viață.

1458
01:03:50,261 --> 01:03:52,219
Ne va oferi un instrument

1459
01:03:52,263 --> 01:03:57,529
care poate reinventa complet întreaga noastră civilizație.

1460
01:03:57,572 --> 01:03:59,400
Ce înseamnă acest tablou pentru tine?

1461
01:04:01,750 --> 01:04:03,752
Pictura înseamnă foarte mult pentru mine.

1462
01:04:03,796 --> 01:04:04,797
În regulă. Precum ce?

1463
01:04:10,324 --> 01:04:11,456
Cred că tabloul este un memento.

1464
01:04:11,499 --> 01:04:12,674
Că toți suntem legați unul de altul

1465
01:04:12,718 --> 01:04:13,937
și că toți facem parte din ceva

1466
01:04:13,980 --> 01:04:15,112
mai mare decât noi înșine.

1467
01:04:16,461 --> 01:04:17,766
E destul de frumos.

1468
01:04:19,029 --> 01:04:21,379
Când treci acea barieră a

1469
01:04:21,422 --> 01:04:23,947
„Inteligenta generala artificiala ar putea exista intr-o zi in viitor”

1470
01:04:23,990 --> 01:04:26,645
„Nu, de fapt, asta s-ar putea întâmpla într-adevăr într-o perioadă de timp.”

1471
01:04:26,688 --> 01:04:28,690
— Cam așa, sub supravegherea mea, știi.

1472
01:04:28,734 --> 01:04:30,475
Se schimbă ceva în modul tău de a gândi.

1473
01:04:30,518 --> 01:04:32,694
...a învățat să se orienteze privind...

1474
01:04:32,738 --> 01:04:35,045
Trebuie să avem grijă cum îl folosim.

1475
01:04:35,088 --> 01:04:37,177
și reflectăm la modul în care o implementăm.

1476
01:04:39,832 --> 01:04:41,138
Ar trebui să o luați în considerare

1477
01:04:41,181 --> 01:04:42,487
Care este obiectivul tău de cel mai înalt nivel?

1478
01:04:42,530 --> 01:04:45,011
Dacă este pentru a-i face pe oameni fericiți,

1479
01:04:45,055 --> 01:04:48,928
Ce grup de oameni? Ce înseamnă fericirea?

1480
01:04:48,972 --> 01:04:52,018
Multe dintre obiectivele noastre colective sunt foarte complicate,

1481
01:04:52,062 --> 01:04:54,891
Chiar și pentru ca oamenii să înțeleagă.

1482
01:04:54,934 --> 01:04:58,503
Tehnologia încorporează întotdeauna valorile noastre.

1483
01:04:58,546 --> 01:05:01,680
Nu este doar o problemă tehnică, este și una etică.

1484
01:05:01,723 --> 01:05:02,899
Așa că trebuie să fim foarte precauți.

1485
01:05:02,942 --> 01:05:04,291
despre ceea ce construim.

1486
01:05:04,335 --> 01:05:06,076
Încercăm să găsim un singur algoritm care...

1487
01:05:06,119 --> 01:05:07,816
Realitatea este că acesta este un algoritm.

1488
01:05:07,860 --> 01:05:11,037
care a fost creat de oameni, de noi.

1489
01:05:11,081 --> 01:05:13,213
Știți ce înseamnă să împuternicești agenții noștri?

1490
01:05:13,257 --> 01:05:15,607
Cu același tip de valori pe care ni le ținem?

1491
01:05:15,650 --> 01:05:17,652
Care este scopul creării acestor sisteme AI?

1492
01:05:17,696 --> 01:05:19,045
Par atât de umani

1493
01:05:19,089 --> 01:05:20,742
pentru a capta inimile și mințile

1494
01:05:20,786 --> 01:05:21,961
Pentru că sunt un fel de

1495
01:05:22,005 --> 01:05:24,703
Exploatați și o vulnerabilitate umană?

1496
01:05:24,746 --> 01:05:26,531
Inima și mintea acestor sisteme

1497
01:05:26,574 --> 01:05:28,054
Sunt în mare parte date generate de oameni...

1498
01:05:28,098 --> 01:05:29,055
Mmm-hmm.

1499
01:05:29,099 --> 01:05:30,491
...pentru toate cele bune și cele rele.

1500
01:05:30,535 --> 01:05:32,015
Există o paralelă

1501
01:05:32,058 --> 01:05:34,017
Între revoluția industrială,

1502
01:05:34,060 --> 01:05:36,758
care a fost un moment incredibil de deplasare

1503
01:05:36,802 --> 01:05:42,373
și schimbarea tehnologică actuală creată de AI.

1504
01:05:42,416 --> 01:05:43,722
AI Pauză!

1505
01:05:43,765 --> 01:05:45,724
Trebuie să ne gândim la cine este strămutat

1506
01:05:45,767 --> 01:05:48,596
și cum îi vom sprijini.

1507
01:05:48,640 --> 01:05:50,076
Această tehnologie va ajunge mult mai devreme,

1508
01:05:50,120 --> 01:05:52,426
Uh, deci știe lumea cu adevărat sau ceva?

1509
01:05:52,470 --> 01:05:55,908
Chiar și noi am crezut acum 18, 24 de luni.

1510
01:05:55,952 --> 01:05:57,257
Deci există o oportunitate extraordinară,

1511
01:05:57,301 --> 01:05:58,389
emoție extraordinară,

1512
01:05:58,432 --> 01:06:00,391
dar și o responsabilitate enormă.

1513
01:06:00,434 --> 01:06:01,740
Se întâmplă foarte repede.

1514
01:06:02,654 --> 01:06:04,003
Cum o vom guverna?

1515
01:06:05,135 --> 01:06:06,223
Cum vom decide?

1516
01:06:06,266 --> 01:06:08,181
Ce este bine și ce nu este bine?

1517
01:06:08,225 --> 01:06:10,923
Imaginile generate de AI devin din ce în ce mai sofisticate.

1518
01:06:10,967 --> 01:06:14,535
Utilizarea AI pentru a genera dezinformare

1519
01:06:14,579 --> 01:06:17,016
și manipulează psihologia umană

1520
01:06:17,060 --> 01:06:20,237
O să devină mult, mult mai rău.

1521
01:06:21,194 --> 01:06:22,587
Vine IA generală

1522
01:06:22,630 --> 01:06:24,632
fie că o facem aici la DeepMind sau nu.

1523
01:06:25,459 --> 01:06:26,765
O să se întâmple,

1524
01:06:26,808 --> 01:06:29,028
Așa că mai bine creăm instituții care ne protejează.

1525
01:06:29,072 --> 01:06:30,595
Va fi necesară coordonarea globală.

1526
01:06:30,638 --> 01:06:32,727
Și îmi fac griji că umanitatea este

1527
01:06:32,771 --> 01:06:35,382
Situația se înrăutățește din ce în ce mai mult în loc să se îmbunătățească.

1528
01:06:35,426 --> 01:06:37,123
Avem nevoie de mult mai mulți oameni

1529
01:06:37,167 --> 01:06:40,039
Chiar iau asta în serios și mă gândesc la asta.

1530
01:06:40,083 --> 01:06:42,999
Da, e grav. Mă îngrijorează.

1531
01:06:44,043 --> 01:06:45,871
Mă îngrijorează. Da.

1532
01:06:45,914 --> 01:06:48,613
Dacă ați primit un e-mail care spunea

1533
01:06:48,656 --> 01:06:50,832
Această civilizație extraterestră superioară

1534
01:06:50,876 --> 01:06:52,791
va ajunge pe Pământ,

1535
01:06:52,834 --> 01:06:54,575
Ar fi ședințe de urgență

1536
01:06:54,619 --> 01:06:56,273
a tuturor guvernelor.

1537
01:06:56,316 --> 01:06:58,144
Am intra în modul overdrive

1538
01:06:58,188 --> 01:07:00,103
încercând să-mi dau seama cum să se pregătească.

1539
01:07:01,669 --> 01:07:03,976
Sosirea AGI va fi

1540
01:07:04,020 --> 01:07:06,935
Cel mai important moment cu care ne-am confruntat vreodată.

1541
01:07:14,378 --> 01:07:17,555
Visul meu a fost că în drum spre AGI,

1542
01:07:17,598 --> 01:07:20,688
Am crea tehnologii revoluționare

1543
01:07:20,732 --> 01:07:23,082
Acest lucru ar fi util pentru omenire.

1544
01:07:23,126 --> 01:07:25,171
Asta mi-am dorit cu AlphaFold.

1545
01:07:26,694 --> 01:07:28,653
Cred că este mai important ca niciodată.

1546
01:07:28,696 --> 01:07:31,047
că ar trebui să rezolvăm problema plierii proteinelor.

1547
01:07:32,004 --> 01:07:34,224
Acest lucru va fi foarte dificil.

1548
01:07:34,267 --> 01:07:36,791
Dar nu voi renunța până nu termin.

1549
01:07:36,835 --> 01:07:37,879
Știi, trebuie să ne dublăm eforturile.

1550
01:07:37,923 --> 01:07:40,317
și mergi cât mai repede de aici.

1551
01:07:40,360 --> 01:07:41,796
Nu cred că avem timp de pierdut.

1552
01:07:41,840 --> 01:07:45,757
Așa că haideți să formăm o echipă de atac de pliere a proteinelor.

1553
01:07:45,800 --> 01:07:47,541
Liderul echipei de atac va fi John.

1554
01:07:47,585 --> 01:07:48,673
Da, am văzut Alpha...

1555
01:07:48,716 --> 01:07:50,283
Știi, hai să încercăm totul,

1556
01:07:50,327 --> 01:07:51,328
chiuveta de bucătărie, tot lotul.

1557
01:07:52,198 --> 01:07:53,330
CASP14 este despre

1558
01:07:53,373 --> 01:07:55,158
demonstrând că putem rezolva întreaga problemă.

1559
01:07:56,333 --> 01:07:57,725
Și am simțit că pentru a face asta,

1560
01:07:57,769 --> 01:08:00,337
Ar trebui să încorporăm câteva cunoștințe de domeniu.

1561
01:08:01,903 --> 01:08:03,731
Am avut niște ingineri fantastici,

1562
01:08:03,775 --> 01:08:05,733
dar nu erau instruiţi în biologie.

1563
01:08:08,475 --> 01:08:10,260
Ca biolog computațional,

1564
01:08:10,303 --> 01:08:12,131
Când m-am alăturat inițial echipei AlphaFold,

1565
01:08:12,175 --> 01:08:14,220
La început nu m-am simțit sigur de nimic.

1566
01:08:14,264 --> 01:08:15,352
știi,

1567
01:08:15,395 --> 01:08:17,223
Dacă ar fi să avem succes.

1568
01:08:17,267 --> 01:08:21,097
Biologia este ridicol de complicată.

1569
01:08:21,140 --> 01:08:25,101
Părea că ai urca un munte departe.

1570
01:08:25,144 --> 01:08:26,754
Încep să mă joc cu temperaturile de bază.

1571
01:08:26,798 --> 01:08:27,973
sa vedem daca putem obtine...

1572
01:08:28,016 --> 01:08:29,148
Ca unul dintre puținii oameni din echipă

1573
01:08:29,192 --> 01:08:31,846
Cine a mai lucrat în biologie?

1574
01:08:31,890 --> 01:08:34,849
Simți un enorm simț al responsabilității.

1575
01:08:34,893 --> 01:08:36,112
„Sperăm că o vei face

1576
01:08:36,155 --> 01:08:37,678
"Lucruri grozave la această echipă de atac."

1577
01:08:37,722 --> 01:08:38,897
E înspăimântător.

1578
01:08:40,464 --> 01:08:42,727
Dar unul dintre motivele pentru care am vrut să vin aici

1579
01:08:42,770 --> 01:08:45,556
Făcea ceva care contează.

1580
01:08:45,599 --> 01:08:48,472
Acesta este numărul de lucruri care lipsesc.

1581
01:08:48,515 --> 01:08:49,951
Ce zici să folosim

1582
01:08:49,995 --> 01:08:52,563
Cât de mult înțelegi fizica?

1583
01:08:52,606 --> 01:08:54,391
Folosești aceasta ca sursă de date?

1584
01:08:54,434 --> 01:08:55,479
Dar dacă este sistematic...

1585
01:08:55,522 --> 01:08:56,784
Deci nu poate fi corect.

1586
01:08:56,828 --> 01:08:58,308
Dacă este sistematic greșit într-un fel ciudat,

1587
01:08:58,351 --> 01:09:01,224
S-ar putea să înveți fizica sistematic greșit.

1588
01:09:01,267 --> 01:09:02,355
Echipa este deja

1589
01:09:02,399 --> 01:09:04,749
încercând să mă gândesc la mai multe moduri prin care...

1590
01:09:04,792 --> 01:09:06,229
Relevanță biologică

1591
01:09:06,272 --> 01:09:07,795
Aceasta este ceea ce căutăm.

1592
01:09:09,057 --> 01:09:11,364
Așa că am rescris întregul flux de date.

1593
01:09:11,408 --> 01:09:13,279
pe care AlphaFold îl folosește pentru a învăța.

1594
01:09:13,323 --> 01:09:15,586
Nu poți forța faza de creație.

1595
01:09:15,629 --> 01:09:18,241
Trebuie să-i lași spațiu pentru ca acele flori să înflorească.

1596
01:09:19,242 --> 01:09:20,286
Am câștigat CASP.

1597
01:09:20,330 --> 01:09:22,070
Apoi m-am întors la planșa de desen.

1598
01:09:22,114 --> 01:09:24,116
Și care sunt noile noastre idei?

1599
01:09:24,160 --> 01:09:26,945
Um, și apoi a durat ceva timp, aș spune,

1600
01:09:26,988 --> 01:09:28,686
ca să se poată întoarce acolo unde erau,

1601
01:09:28,729 --> 01:09:30,340
dar cu idei noi.

1602
01:09:30,383 --> 01:09:31,515
si acum ma gandesc

1603
01:09:31,558 --> 01:09:33,952
Vedem beneficiile ideilor noi.

1604
01:09:33,995 --> 01:09:35,736
Ei pot merge mai departe, nu?

1605
01:09:35,780 --> 01:09:38,130
Deci, uh, acesta este un moment cu adevărat important.

1606
01:09:38,174 --> 01:09:40,959
Am văzut acel moment de atâtea ori acum,

1607
01:09:41,002 --> 01:09:42,613
Dar acum știu ce înseamnă asta.

1608
01:09:42,656 --> 01:09:44,484
Și știu că acum este momentul să împingeți.

1609
01:09:45,920 --> 01:09:48,009
Adăugarea de lanțuri laterale îmbunătățește plierea directă.

1610
01:09:48,053 --> 01:09:49,663
Asta a determinat o mare parte din progres.

1611
01:09:49,707 --> 01:09:51,012
- Vom vorbi despre asta. - Genial.

1612
01:09:51,056 --> 01:09:54,799
În ultimele patru luni am făcut progrese enorme.

1613
01:09:54,842 --> 01:09:56,453
În timpul CASP13,

1614
01:09:56,496 --> 01:09:59,499
Ne-ar lua o zi sau două să pliăm una dintre proteine,

1615
01:09:59,543 --> 01:10:01,762
și acum ne dublăm, ca,

1616
01:10:01,806 --> 01:10:03,938
sute de mii pe secundă.

1617
01:10:03,982 --> 01:10:05,636
Da, e doar o nebunie.

1618
01:10:05,679 --> 01:10:06,985
Acum acesta este un model

1619
01:10:07,028 --> 01:10:09,901
Acesta este ordine de mărime mai rapid,

1620
01:10:09,944 --> 01:10:12,251
si in acelasi timp sa fii mai bun.

1621
01:10:12,295 --> 01:10:13,644
Primim multe structuri.

1622
01:10:13,687 --> 01:10:15,254
în regim de înaltă precizie.

1623
01:10:15,298 --> 01:10:17,517
Ne îmbunătățim rapid sistemul.

1624
01:10:17,561 --> 01:10:18,823
Asta chiar începe să fie

1625
01:10:18,866 --> 01:10:20,477
ajunge la miezul și miezul problemei.

1626
01:10:20,520 --> 01:10:21,695
Este o treabă grozavă.

1627
01:10:21,739 --> 01:10:23,088
Se pare că suntem într-o formă bună.

1628
01:10:23,131 --> 01:10:26,222
Deci mai avem șase sau cinci săptămâni? Șase săptămâni?

1629
01:10:26,265 --> 01:10:29,616
Deci ce se întâmplă? Ai suficientă putere de procesare?

1630
01:10:29,660 --> 01:10:31,531
Eu... Ne-ar putea folosi mai mult.

1631
01:10:32,967 --> 01:10:34,360
Eram nervos pentru CASP

1632
01:10:34,404 --> 01:10:36,580
Dar pe măsură ce sistemul începe să funcționeze,

1633
01:10:36,623 --> 01:10:37,972
Nu mă simt atât de nervos.

1634
01:10:38,016 --> 01:10:39,496
Simt că lucrurile s-au schimbat, cumva,

1635
01:10:39,539 --> 01:10:41,193
a câștigat recent perspectivă,

1636
01:10:41,237 --> 01:10:44,240
și, știi, totul va fi în regulă.

1637
01:10:47,330 --> 01:10:48,853
Prim-ministrul a anunțat

1638
01:10:48,896 --> 01:10:51,290
Cele mai drastice limite pentru viețile noastre

1639
01:10:51,334 --> 01:10:53,858
pe care Regatul Unit l-a văzut vreodată în timpul vieții sale.

1640
01:10:53,901 --> 01:10:55,033
Trebuie să o dau poporului britanic

1641
01:10:55,076 --> 01:10:56,904
O instrucțiune foarte simplă.

1642
01:10:56,948 --> 01:10:59,037
Trebuie să stai acasă.

1643
01:10:59,080 --> 01:11:02,519
Se pare că suntem într-un roman științifico-fantastic.

1644
01:11:02,562 --> 01:11:04,869
Știi, le livrez părinților mei mâncare,

1645
01:11:04,912 --> 01:11:08,220
asigurându-se că rămân izolate și în siguranță.

1646
01:11:08,264 --> 01:11:10,570
Cred că doar evidențiază nevoia incredibilă

1647
01:11:10,614 --> 01:11:12,877
pentru știința asistată de IA.

1648
01:11:17,098 --> 01:11:18,361
știi mereu

1649
01:11:18,404 --> 01:11:21,015
Ceva de genul acesta este o posibilitate.

1650
01:11:21,059 --> 01:11:23,888
Dar nimeni nu crede cu adevărat că se va întâmpla.

1651
01:11:23,931 --> 01:11:25,585
in viata lui insa.

1652
01:11:26,978 --> 01:11:29,154
- Înregistrezi deja? -Da.

1653
01:11:29,197 --> 01:11:31,025
- Bună dimineața tuturor. - Buna ziua.

1654
01:11:31,069 --> 01:11:32,679
Bun. CASP a început.

1655
01:11:32,723 --> 01:11:36,074
E plăcut să pot sta în pijama mea toată ziua.

1656
01:11:36,117 --> 01:11:37,597
Nu m-am gândit niciodată că voi locui într-o casă.

1657
01:11:37,641 --> 01:11:39,164
unde se întâmplau atâtea lucruri.

1658
01:11:39,207 --> 01:11:41,427
Aș încerca să rezolv plierea proteinelor într-o cameră,

1659
01:11:41,471 --> 01:11:42,559
iar soțul meu ar încerca

1660
01:11:42,602 --> 01:11:43,908
pentru a face roboții să meargă pe celălalt.

1661
01:11:46,954 --> 01:11:49,392
Una dintre cele mai dure proteine ​​pe care le-am procurat la CASP până acum.

1662
01:11:49,435 --> 01:11:51,219
este proteina SARS-CoV-2

1663
01:11:51,263 --> 01:11:52,220
numit ORF8.

1664
01:11:52,264 --> 01:11:54,919
ORF8 este o proteină coronavirus.

1665
01:11:54,962 --> 01:11:56,964
Este una dintre proteinele principale, nu,

1666
01:11:57,008 --> 01:11:58,749
care slăbește sistemul imunitar.

1667
01:11:58,792 --> 01:12:00,054
Ne străduim foarte mult

1668
01:12:00,098 --> 01:12:01,752
pentru a ne îmbunătăți predicția.

1669
01:12:01,795 --> 01:12:03,493
Într-adevăr, foarte greu.

1670
01:12:03,536 --> 01:12:05,582
Probabil cel mai mult timp petrecut vreodată

1671
01:12:05,625 --> 01:12:07,105
pe un singur obiectiv.

1672
01:12:07,148 --> 01:12:08,933
Până la punctul în care soțul meu este ca,

1673
01:12:08,976 --> 01:12:12,197
— E miezul nopţii. Trebuie să te culci.

1674
01:12:12,240 --> 01:12:16,419
Deci cred că suntem în ziua 102 de la izolare.

1675
01:12:16,462 --> 01:12:19,944
Fiica mea ține un jurnal.

1676
01:12:19,987 --> 01:12:22,120
Acum poți ieși cât vrei.

1677
01:12:25,036 --> 01:12:27,212
Am primit ultimul obiectiv.

1678
01:12:27,255 --> 01:12:29,649
Ei au spus că nu vor mai trimite ținte.

1679
01:12:29,693 --> 01:12:31,347
în categoria noastră CASP.

1680
01:12:32,652 --> 01:12:33,653
Deci doar ne asigurăm

1681
01:12:33,697 --> 01:12:35,481
Primim cel mai bun răspuns posibil.

1682
01:12:40,530 --> 01:12:43,315
De îndată ce începem să obținem rezultatele,

1683
01:12:43,359 --> 01:12:48,233
Mă așezam și începeam să observ cât de aproape era cineva.

1684
01:12:48,276 --> 01:12:50,583
pentru a realiza structuri proteice corecte.

1685
01:13:00,245 --> 01:13:01,551
- O, bună ziua. -Buna ziua.

1686
01:13:03,814 --> 01:13:07,078
Este un lucru incredibil, CASP s-a terminat în sfârșit.

1687
01:13:07,121 --> 01:13:09,472
Cred că este cel puțin timpul să ridic un pahar.

1688
01:13:09,515 --> 01:13:11,212
Nu știu dacă toată lumea are un pahar.

1689
01:13:11,256 --> 01:13:12,823
de ceva ce pot ridica.

1690
01:13:12,866 --> 01:13:14,955
Dacă nu, ridică, nu știu, laptopurile tale.

1691
01:13:14,999 --> 01:13:17,088
Unul...

1692
01:13:17,131 --> 01:13:18,611
Probabil că voi ține un discurs într-un minut.

1693
01:13:18,655 --> 01:13:20,483
Simt că ar trebui, dar nu am idee ce să spun.

1694
01:13:21,005 --> 01:13:24,269
Ei bine... să vedem.

1695
01:13:24,312 --> 01:13:27,054
Simt că citesc un e-mail...

1696
01:13:27,098 --> 01:13:28,534
Este ceea ce trebuie făcut.

1697
01:13:29,927 --> 01:13:31,232
Când Juan a spus:

1698
01:13:31,276 --> 01:13:33,191
„Voi citi un e-mail” la o adunare socială a echipei.

1699
01:13:33,234 --> 01:13:35,498
M-am gândit: „Uau, John, sigur știi să te distrezi”.

1700
01:13:35,541 --> 01:13:38,370
Acum hai să citim un e-mail.

1701
01:13:38,414 --> 01:13:41,634
Am primit asta pe la patru azi.

1702
01:13:42,722 --> 01:13:44,724
Hm, este de John Moult.

1703
01:13:45,725 --> 01:13:47,031
Și o voi citi doar.

1704
01:13:47,074 --> 01:13:49,381
El spune: „După cum presupun că știți deja,

1705
01:13:49,425 --> 01:13:53,603
„Grupul dumneavoastră s-a descurcat surprinzător de bine în CASP 14,

1706
01:13:53,646 --> 01:13:55,387
„atât în raport cu alte grupuri

1707
01:13:55,431 --> 01:13:57,911
„și cu o precizie absolută a modelului”.

1708
01:13:59,826 --> 01:14:01,219
„Felicitări pentru această lucrare.

1709
01:14:01,262 --> 01:14:03,047
„Este cu adevărat extraordinar”.

1710
01:14:03,090 --> 01:14:05,266
Structurile erau atât de bune,

1711
01:14:05,310 --> 01:14:07,443
A fost... a fost pur și simplu uimitor.

1712
01:14:09,140 --> 01:14:10,750
După o jumătate de secol,

1713
01:14:10,794 --> 01:14:12,230
În sfârșit avem o soluție

1714
01:14:12,273 --> 01:14:14,928
la problema plierii proteinelor.

1715
01:14:14,972 --> 01:14:17,409
Când am văzut acest e-mail, l-am citit,

1716
01:14:17,453 --> 01:14:19,585
Eu zic: "Oh, dracu!"

1717
01:14:19,629 --> 01:14:21,587
Și soția mea spune: „Este totul în regulă?”

1718
01:14:21,631 --> 01:14:24,242
Îmi sun părinții și spun: „Bună, mamă”.

1719
01:14:24,285 --> 01:14:26,244
„Umm, am ceva să-ți spun.

1720
01:14:26,287 --> 01:14:27,550
„Noi am făcut asta

1721
01:14:27,593 --> 01:14:29,813
„Și ar putea fi ceva foarte important”.

1722
01:14:29,856 --> 01:14:31,641
Când am aflat rezultatele CASP 14,

1723
01:14:32,642 --> 01:14:34,034
am ramas uluit.

1724
01:14:34,078 --> 01:14:35,819
Eram doar entuziasmat.

1725
01:14:35,862 --> 01:14:38,909
Aceasta este o problemă la care începeam să mă gândesc.

1726
01:14:38,952 --> 01:14:42,086
Nu s-ar rezolva în viața mea.

1727
01:14:42,129 --> 01:14:44,741
Acum avem un instrument care poate fi folosit

1728
01:14:44,784 --> 01:14:46,612
practic de către oamenii de știință.

1729
01:14:46,656 --> 01:14:48,440
Acești oameni ne întreabă, știi,

1730
01:14:48,484 --> 01:14:50,224
„Am această proteină implicată în malarie”,

1731
01:14:50,268 --> 01:14:52,139
sau știi, vreo boală infecțioasă.

1732
01:14:52,183 --> 01:14:53,227
„Nu cunoaștem structura.

1733
01:14:53,271 --> 01:14:55,186
„Putem folosi AlphaFold pentru a o rezolva?”

1734
01:14:55,229 --> 01:14:56,970
Putem prezice cu ușurință toate secvențele cunoscute

1735
01:14:57,014 --> 01:14:58,276
într-o lună.

1736
01:14:58,319 --> 01:14:59,973
Toate secvențele cunoscute într-o lună?

1737
01:15:00,017 --> 01:15:01,279
- Da, ușor. - Mmm-hmm?

1738
01:15:01,322 --> 01:15:02,585
Un trilion, două miliarde.

1739
01:15:02,628 --> 01:15:03,673
Hm, și ei sunt...

1740
01:15:03,716 --> 01:15:05,196
De ce nu facem asta? Da.

1741
01:15:05,239 --> 01:15:07,111
- Ar trebui să facem asta mult. - Păi, adică...

1742
01:15:07,154 --> 01:15:09,243
Asta e mult mai bine. De ce nu facem asta?

1743
01:15:09,287 --> 01:15:11,115
Deci asta e una dintre opțiuni.

1744
01:15:11,158 --> 01:15:12,638
-Bun. - Există asta...

1745
01:15:12,682 --> 01:15:15,119
Ar trebui să... Ei bine, asta e o idee grozavă.

1746
01:15:15,162 --> 01:15:17,513
Ar trebui pur și simplu să analizăm toate proteinele existente.

1747
01:15:18,296 --> 01:15:19,471
Și apoi eliberează asta.

1748
01:15:19,515 --> 01:15:20,994
De ce nu a sugerat nimeni asta înainte?

1749
01:15:21,038 --> 01:15:22,126
Bineînțeles că asta ar trebui să facem.

1750
01:15:22,169 --> 01:15:23,954
De ce ne gândim să facem un serviciu?

1751
01:15:23,997 --> 01:15:25,651
Și apoi oamenii își trimit proteinele?

1752
01:15:25,695 --> 01:15:26,913
Am împăturit totul.

1753
01:15:26,957 --> 01:15:28,654
Și apoi dă-l tuturor.

1754
01:15:28,698 --> 01:15:31,483
Cine știe câte descoperiri se vor face din asta?

1755
01:15:31,527 --> 01:15:33,790
Demis ne-a sunat și ne-a spus:

1756
01:15:33,833 --> 01:15:35,618
„Vrem ca acest lucru să fie deschis.

1757
01:15:35,661 --> 01:15:37,837
„Nu numai că trebuie să vă asigurați că sursa este deschisă,

1758
01:15:37,881 --> 01:15:39,578
— Dar o vom face foarte ușor.

1759
01:15:39,622 --> 01:15:42,668
„pentru ca toată lumea să aibă acces la predicții”.

1760
01:15:45,062 --> 01:15:47,238
Asta e fantastic.

1761
01:15:47,281 --> 01:15:49,327
E ca și cum ai trage cortina înapoi.

1762
01:15:49,370 --> 01:15:52,852
și vedeți întreaga lume a structurilor proteinelor.

1763
01:15:55,246 --> 01:15:56,987
Au eliberat structurile

1764
01:15:57,030 --> 01:15:59,772
de 200 de milioane de proteine.

1765
01:15:59,816 --> 01:16:01,818
Acestea sunt daruri pentru umanitate.

1766
01:16:07,650 --> 01:16:10,914
Până când AlphaFold este disponibil pentru întreaga lume,

1767
01:16:10,957 --> 01:16:13,873
Nu vom mai fi cei mai importanți oameni

1768
01:16:13,917 --> 01:16:15,222
în istoria AlphaFold.

1769
01:16:15,266 --> 01:16:16,833
Nu pot să cred că totul a ieșit la iveală.

1770
01:16:16,876 --> 01:16:18,356
Oh!

1771
01:16:18,399 --> 01:16:20,314
O sută șaizeci și patru de utilizatori.

1772
01:16:20,358 --> 01:16:22,578
Multă activitate în Japonia.

1773
01:16:22,621 --> 01:16:24,928
În prezent avem 655 de utilizatori.

1774
01:16:24,971 --> 01:16:26,930
În prezent avem 100.000 de utilizatori simultani.

1775
01:16:26,973 --> 01:16:28,192
Wow!

1776
01:16:31,108 --> 01:16:33,893
Astăzi este o zi nebună.

1777
01:16:33,937 --> 01:16:36,504
Ce efort absolut incredibil!

1778
01:16:36,548 --> 01:16:37,723
Din toată lumea.

1779
01:16:37,767 --> 01:16:38,550
Cu toții ne vom aminti de aceste momente.

1780
01:16:38,594 --> 01:16:40,030
pentru tot restul vieții noastre.

1781
01:16:40,073 --> 01:16:41,727
Sunt încântat de AlphaFold.

1782
01:16:41,771 --> 01:16:45,601
În ceea ce privește cercetarea mea, aceasta generează deja multe progrese.

1783
01:16:45,644 --> 01:16:47,385
Și acesta este doar începutul.

1784
01:16:47,428 --> 01:16:48,908
Bănuiala mea este că

1785
01:16:48,952 --> 01:16:53,043
Fiecare realizare biologică și chimică

1786
01:16:53,086 --> 01:16:55,698
Va avea legătură cu AlphaFold într-un fel.

1787
01:17:13,367 --> 01:17:15,413
AlphaFold este un index de moment.

1788
01:17:15,456 --> 01:17:18,068
Este un moment pe care oamenii nu-l vor uita.

1789
01:17:18,111 --> 01:17:20,244
Pentru că lumea s-a schimbat.

1790
01:17:39,655 --> 01:17:41,482
Toată lumea și-a dat seama acum

1791
01:17:41,526 --> 01:17:43,746
Ceea ce Shane și cu mine știm de peste 20 de ani,

1792
01:17:43,789 --> 01:17:46,618
că AI va fi cel mai important lucru

1793
01:17:46,662 --> 01:17:48,446
pe care omenirea nu le va inventa niciodată.

1794
01:17:48,489 --> 01:17:50,230
Vom ajunge în scurt timp

1795
01:17:50,274 --> 01:17:52,058
la destinația noastră finală.

1796
01:18:02,068 --> 01:18:04,767
Ritmul inovației și al capacităților

1797
01:18:04,810 --> 01:18:06,507
se accelerează,

1798
01:18:06,551 --> 01:18:09,293
ca o stâncă care se rostogolește pe dealul din care am dat cu piciorul

1799
01:18:09,336 --> 01:18:12,644
Și acum continuă să câștige viteză.

1800
01:18:12,688 --> 01:18:15,299
Ne aflăm la o răscruce în istoria omenirii.

1801
01:18:15,342 --> 01:18:16,735
AI are potențialul

1802
01:18:16,779 --> 01:18:19,172
pentru a ne transforma viața în toate aspectele.

1803
01:18:19,216 --> 01:18:23,786
Nu este mai puțin important decât descoperirea electricității.

1804
01:18:23,829 --> 01:18:26,484
Ar trebui să ne uităm la metoda științifică.

1805
01:18:26,527 --> 01:18:28,834
și încercând să înțeleagă fiecare pas al drumului

1806
01:18:28,878 --> 01:18:30,096
riguros.

1807
01:18:30,140 --> 01:18:32,664
Acesta este un moment de oportunitate profundă.

1808
01:18:32,708 --> 01:18:34,753
Profită de această tehnologie

1809
01:18:34,797 --> 01:18:37,713
Ar putea eclipsa orice am cunoscut până acum.

1810
01:18:42,195 --> 01:18:43,675
Bună, Alpha.

1811
01:18:44,676 --> 01:18:45,764
Buna ziua.

1812
01:18:47,157 --> 01:18:48,419
Ce este asta?

1813
01:18:50,682 --> 01:18:53,729
Aceasta este o tablă de șah.

1814
01:18:53,772 --> 01:18:56,514
Dacă ar fi să joc alb, ce mișcare mi-ați recomanda?

1815
01:18:59,865 --> 01:19:00,953
l-as recomanda

1816
01:19:00,997 --> 01:19:02,781
mutați-vă pionul de la E2 la E4.

1817
01:19:05,871 --> 01:19:08,787
Și acum, dacă ai fi negru, ce ai juca acum?

1818
01:19:11,572 --> 01:19:13,618
Aș juca în Apărarea siciliană.

1819
01:19:15,838 --> 01:19:16,882
E o alegere bună.

1820
01:19:19,406 --> 01:19:21,452
Multumesc.

1821
01:19:23,715 --> 01:19:25,891
Deci ce vezi? Ce este acest obiect?

1822
01:19:28,546 --> 01:19:30,504
Aceasta este o sculptură în creion.

1823
01:19:32,811 --> 01:19:35,031
Ce se întâmplă dacă mut unul dintre creioane?

1824
01:19:37,990 --> 01:19:39,470
Dacă mutați unul dintre creioane,

1825
01:19:39,513 --> 01:19:42,081
Sculptura se va prăbuși.

1826
01:19:42,125 --> 01:19:44,301
Atunci mai bine îl las în pace.

1827
01:19:44,344 --> 01:19:45,868
Probabil este o idee bună.

1828
01:19:50,568 --> 01:19:52,744
IAG-ul este deja la orizont.

1829
01:19:54,833 --> 01:19:56,661
Foarte clar generația următoare

1830
01:19:56,704 --> 01:19:58,141
va trăi într-o lume viitoare

1831
01:19:58,184 --> 01:20:01,057
unde lucrurile vor fi radical diferite datorită inteligenței artificiale.

1832
01:20:02,493 --> 01:20:05,496
Și dacă doriți să o gestionați în mod responsabil,

1833
01:20:05,539 --> 01:20:09,239
Fiecare moment este vital.

1834
01:20:09,282 --> 01:20:12,677
Acesta este momentul în care mi-am trăit toată viața.

1835
01:20:19,162 --> 01:20:21,120
Este doar un joc bun de gândire.

1836
01:20:22,305 --> 01:21:22,495
Sprijină-ne și devii membru VIP Pentru
eliminați toate anunțurile