1
00:00:02,000 --> 00:00:07,000
Baixado de
YTS.BZ

2
00:00:08,000 --> 00:00:13,000
Site oficial de filmes YIFY:
YTS.BZ

3
00:01:04,847 --> 00:01:09,329
Agora, os computadores atuais
são completos idiotas,

4
00:01:09,330 --> 00:01:12,158
mas isso não será verdade
em outra geração.

5
00:01:12,159 --> 00:01:14,899
Eles vão começar a pensar,
e eventualmente eles irão

6
00:01:14,900 --> 00:01:17,641
completamente fora de controle
seus criadores.

7
00:01:17,642 --> 00:01:20,296
Isso é deprimente?
Não vejo por que deveria ser.

8
00:01:20,297 --> 00:01:24,866
Eu suspeito que orgânico
ou evolução biológica

9
00:01:24,867 --> 00:01:26,303
está prestes a chegar ao fim.

10
00:01:29,567 --> 00:01:30,698
Você não me quer
para ser o narrador.

11
00:01:30,699 --> 00:01:32,395
Eu não tenho uma boa voz.

12
00:01:32,396 --> 00:01:34,049
Você tem uma ótima voz.
Apenas faça.

13
00:01:34,050 --> 00:01:36,225
É apenas um--
estamos apenas testando.

14
00:01:36,226 --> 00:01:38,009
Eu sou pago por essa merda?

15
00:01:38,010 --> 00:01:40,273
Bem,
veremos o quão bem você se sai.

16
00:01:41,623 --> 00:01:43,451
♪ ♪

17
00:01:46,454 --> 00:01:47,932
Preciso ligar para meus pais.

18
00:01:49,109 --> 00:01:51,066
Às vezes nos precipitamos nas coisas

19
00:01:51,067 --> 00:01:52,894
sem pensar sobre eles.

20
00:01:52,895 --> 00:01:54,765
Sim, você pode...
você quer atirar? Isso é...

21
00:01:54,766 --> 00:01:57,246
Como quando Daniel
e Carolina se casou

22
00:01:57,247 --> 00:02:00,206
151 dias depois de se conhecerem.

23
00:02:00,207 --> 00:02:01,817
Vamos retroceder.

24
00:02:04,820 --> 00:02:07,213
Você tem pensado
comprar um computador doméstico?

25
00:02:07,214 --> 00:02:09,345
Em 1993, quando Daniel nasceu,

26
00:02:09,346 --> 00:02:12,174
seus pais nem tinham
um computador em casa.

27
00:02:12,175 --> 00:02:13,828
Mas ele se lembra
quando eles finalmente conseguiram um.

28
00:02:13,829 --> 00:02:15,743
O que um computador é para mim é

29
00:02:15,744 --> 00:02:18,398
o equivalente a uma bicicleta
para nossas mentes.

30
00:02:18,399 --> 00:02:20,269
Olá.

31
00:02:20,270 --> 00:02:22,228
Seu computador ajudou
liberar sua criatividade.

32
00:02:22,229 --> 00:02:23,968
Rolando. Ir.

33
00:02:23,969 --> 00:02:26,623
Ele usou
o iMac de seu pai para editar vídeos.

34
00:02:26,624 --> 00:02:28,364
Sim!

35
00:02:28,365 --> 00:02:29,974
E até fazer
pequenas animações.

36
00:02:31,977 --> 00:02:35,110
Em 1998, quando Caroline estava
uma menininha...

37
00:02:35,111 --> 00:02:36,764
Olá, mamãe.

38
00:02:36,765 --> 00:02:38,200
... só os nerds sabiam
o que era a Internet.

39
00:02:38,201 --> 00:02:39,854
E quanto
essa coisa da Internet?

40
00:02:39,855 --> 00:02:41,377
Você, você sabe de alguma coisa
sobre isso? -Claro.

41
00:02:41,378 --> 00:02:42,813
Mas logo,

42
00:02:42,814 --> 00:02:44,946
- todos estavam no...
- ...Internet.

43
00:02:44,947 --> 00:02:47,035
...e os computadores eram
vencer humanos no xadrez.

44
00:02:47,036 --> 00:02:50,038
Azul Profundo--
Kasparov renunciou!

45
00:02:50,039 --> 00:02:52,649
E na hora
Caroline foi para a faculdade,

46
00:02:52,650 --> 00:02:55,130
computadores eram
no bolso de todos.

47
00:02:55,131 --> 00:02:58,438
Agora Daniel poderia fazer filmes
com seu telefone.

48
00:02:58,439 --> 00:03:01,528
Ele cresceu para ser um artista
e um cineasta...

49
00:03:01,529 --> 00:03:03,965
- Boa noite.
- ...e Caroline também.

50
00:03:03,966 --> 00:03:05,749
Corte. Vamos entrar em um close.
Isso foi perfeito.

51
00:03:05,750 --> 00:03:07,316
Naquela época, os computadores eram
conectando pessoas

52
00:03:07,317 --> 00:03:09,013
e mudando o mundo de maneiras

53
00:03:09,014 --> 00:03:10,711
que nunca
poderia ter imaginado.

54
00:03:10,712 --> 00:03:12,365
Todo o dinheiro arrecadado por
o Desafio do Balde de Gelo...

55
00:03:12,366 --> 00:03:14,236
Parte disso foi bom.

56
00:03:15,543 --> 00:03:17,152
Alguns não tão bons.

57
00:03:17,153 --> 00:03:19,328
Ansiedade, automutilação, suicídio...

58
00:03:19,329 --> 00:03:21,243
Mas está claro agora
que não fizemos o suficiente

59
00:03:21,244 --> 00:03:24,594
para evitar que essas ferramentas
sendo usado para causar danos também.

60
00:03:24,595 --> 00:03:26,422
E como o mundo
ficou cada vez mais focado

61
00:03:26,423 --> 00:03:28,076
em seus computadores,

62
00:03:28,077 --> 00:03:30,210
Daniel se concentrou em seu trabalho artístico.

63
00:03:32,037 --> 00:03:35,649
Onde quer que ele fosse,
ele sempre tinha um caderno de desenho,

64
00:03:35,650 --> 00:03:38,434
incluindo a noite
ele conheceu Carolina.

65
00:03:38,435 --> 00:03:41,698
Ele desenhou uma imagem terrível
dela, e 20 minutos depois,

66
00:03:41,699 --> 00:03:44,179
ele pronunciou corajosamente
eles iam se casar,

67
00:03:44,180 --> 00:03:47,617
o que, como você sabe, eles fizeram,
151 dias depois.

68
00:03:47,618 --> 00:03:49,967
... agora pronuncie você
marido e mulher.

69
00:03:49,968 --> 00:03:51,708
Eles se mudaram para uma casa linda...

70
00:03:51,709 --> 00:03:52,883
-Moose, ei! Venha aqui!
- ...e ganhei um cachorro

71
00:03:52,884 --> 00:03:54,711
tão burro quanto Daniel.

72
00:03:54,712 --> 00:03:57,323
Enquanto isso, os computadores eram
escrevendo ensaios inteiros

73
00:03:57,324 --> 00:03:59,368
com base em perguntas simples como,

74
00:03:59,369 --> 00:04:03,198
"Quão difícil seria construir
um barraco no meu quintal?"

75
00:04:03,199 --> 00:04:07,115
E então Daniel construiu um barraco
em seu quintal.

76
00:04:07,116 --> 00:04:09,987
Mas assim que ele se sentou para começar
trabalhando em seu próximo filme,

77
00:04:09,988 --> 00:04:13,644
ele aprendeu que os computadores
agora poderia escrever roteiros.

78
00:04:14,863 --> 00:04:16,603
Quero dizer, eles eram ruins,

79
00:04:16,604 --> 00:04:18,996
mas eles estavam melhorando
muito rápido.

80
00:04:18,997 --> 00:04:21,695
Eles poderiam criar novas imagens
e vídeos do zero,

81
00:04:21,696 --> 00:04:24,828
e alguns deles
poderia até passar no exame da ordem.

82
00:04:24,829 --> 00:04:28,876
Não apenas passar na barra, mas
estar entre os dez percentis superiores.

83
00:04:28,877 --> 00:04:30,573
Foi confuso.

84
00:04:32,184 --> 00:04:35,099
Daniel só queria
uma bicicleta para sua mente,

85
00:04:35,100 --> 00:04:38,668
mas os computadores tornaram-se
um foguete autônomo.

86
00:04:42,020 --> 00:04:44,805
Pioneiros na área
de inteligência artificial

87
00:04:44,806 --> 00:04:46,546
estão implorando ao Congresso

88
00:04:46,547 --> 00:04:48,548
para passar regras de segurança
antes que seja tarde demais.

89
00:04:48,549 --> 00:04:50,593
Agora parecia
o mundo inteiro

90
00:04:50,594 --> 00:04:53,030
estava correndo para algo
sem pensar bem,

91
00:04:53,031 --> 00:04:56,382
e todos tinham uma opinião.

92
00:04:56,383 --> 00:05:00,168
Isso iria destruir o mundo
ou salvar a humanidade?

93
00:05:00,169 --> 00:05:02,431
Havia muita informação,

94
00:05:02,432 --> 00:05:04,694
o que o deixou ansioso,
o que deixou Caroline ansiosa...

95
00:05:06,044 --> 00:05:07,828
Eu ainda não tenho filhos,
mas eu me preocupo

96
00:05:07,829 --> 00:05:10,221
como seria o mundo
se eu decidir.

97
00:05:10,222 --> 00:05:12,398
Ele estava começando a girar.

98
00:05:14,096 --> 00:05:16,925
Estava se tornando
uma montanha de ansiedade.

99
00:05:19,144 --> 00:05:21,364
-É horrível.
- É maldito Siri.

100
00:05:22,670 --> 00:05:25,628
E então, Daniel decidiu sair

101
00:05:25,629 --> 00:05:28,022
e encontrar alguém
quem poderia explicar isso para ele,

102
00:05:28,023 --> 00:05:30,198
para que ele pudesse parar
pensando nisso

103
00:05:30,199 --> 00:05:33,506
e ele e Caroline poderiam
seguir com suas vidas.

104
00:05:33,507 --> 00:05:36,857
♪ Estamos no controle,
estamos no controle ♪

105
00:05:36,858 --> 00:05:38,772
♪ Estamos no controle ♪

106
00:05:38,773 --> 00:05:40,556
♪ Computador químico
pensando bateria ♪

107
00:05:40,557 --> 00:05:42,602
♪ Estamos no controle, estamos... ♪

108
00:05:42,603 --> 00:05:45,735
Esse esforço resultaria
ser irremediavelmente ingênuo

109
00:05:45,736 --> 00:05:49,086
e começar o mais confuso
ano de sua vida.

110
00:05:49,087 --> 00:05:50,740
♪ Estamos no controle... ♪

111
00:05:50,741 --> 00:05:52,829
Mas como sabemos,
às vezes nos precipitamos nas coisas

112
00:05:52,830 --> 00:05:54,657
sem pensar sobre eles.

113
00:05:54,658 --> 00:05:56,398
♪ Computador químico
pensando em bateria... ♪

114
00:05:56,399 --> 00:05:57,965
Oh, meu Deus. O que está acontecendo?

115
00:05:57,966 --> 00:05:59,967
Ele tinha perguntas.

116
00:05:59,968 --> 00:06:01,621
Perguntas apenas os
os nerds mais inteligentes poderiam responder.

117
00:06:01,622 --> 00:06:04,188
Submetendo-se ao interrogador.

118
00:06:04,189 --> 00:06:06,060
Perguntas como:

119
00:06:06,061 --> 00:06:08,628
Foi este o apocalipse
ou ele realmente tinha razão

120
00:06:08,629 --> 00:06:11,152
- ser otimista?
- Sim.

121
00:06:11,153 --> 00:06:13,807
♪ Pensamento químico computacional
bateria. ♪ -

122
00:06:13,808 --> 00:06:16,200
Uh, isso é bom?

123
00:06:16,201 --> 00:06:17,637
Sim.

124
00:06:17,638 --> 00:06:20,204
Então, para começar,

125
00:06:20,205 --> 00:06:22,163
o que é inteligência artificial?

126
00:06:22,164 --> 00:06:24,731
Eu sei que isso deve ser chato
para você, essa pergunta,

127
00:06:24,732 --> 00:06:26,515
mas acho que é importante.

128
00:06:26,516 --> 00:06:29,823
Então... IA...

129
00:06:29,824 --> 00:06:31,868
Hum...

130
00:06:31,869 --> 00:06:33,696
- Sim...
- Hum, hum.

131
00:06:33,697 --> 00:06:34,784
Essa é uma boa pergunta.

132
00:06:34,785 --> 00:06:36,220
- Sim, hum...
- Hum...

133
00:06:36,221 --> 00:06:37,700
O que é IA?

134
00:06:39,137 --> 00:06:40,790
Eu amo isso é
a primeira pergunta,

135
00:06:40,791 --> 00:06:43,184
porque não há
uma resposta clara e consistente.

136
00:06:43,185 --> 00:06:45,316
A inteligência artificial é

137
00:06:45,317 --> 00:06:50,757
uma espécie de intencionalmente
e talvez um termo inutilmente amplo.

138
00:06:50,758 --> 00:06:53,368
É uma máquina

139
00:06:53,369 --> 00:06:55,588
fazendo coisas que
anteriormente só pensávamos

140
00:06:55,589 --> 00:06:57,285
que as pessoas poderiam fazer:

141
00:06:57,286 --> 00:07:01,158
fazendo recomendações,
decisões e previsões.

142
00:07:01,159 --> 00:07:06,816
AI é o, uh, aplicativo
de informática

143
00:07:06,817 --> 00:07:09,166
para resolver problemas cognitivos.

144
00:07:09,167 --> 00:07:13,344
Ok, então quando imagino IA,

145
00:07:13,345 --> 00:07:16,783
é tipo
esta caixa mágica de computador...

146
00:07:20,527 --> 00:07:24,138
...apenas, tipo, flutuando
em, tipo, espaço inerte.

147
00:07:24,139 --> 00:07:26,488
E não importa
quantas vezes as pessoas tentam

148
00:07:26,489 --> 00:07:29,752
e me explique isso,
Eu simplesmente não entendo como...

149
00:07:29,753 --> 00:07:32,538
como é entender
todas essas coisas

150
00:07:32,539 --> 00:07:35,715
e como está se sentindo
inteligência.

151
00:07:37,195 --> 00:07:39,241
E isso é tipo
desesperador.

152
00:07:41,243 --> 00:07:45,552
O que é
esta nova geração de IA?

153
00:07:47,205 --> 00:07:50,120
Esta IA que é diferente
todas as outras gerações?

154
00:07:50,121 --> 00:07:52,775
Tipo, ninguém nunca
falou sobre, tipo,

155
00:07:52,776 --> 00:07:56,953
Siri dominando o mundo
ou causando catástrofes.

156
00:07:56,954 --> 00:07:58,520
-Oi, Siri?
-...quero.

157
00:07:58,521 --> 00:08:00,566
Olá? Siri?

158
00:08:00,567 --> 00:08:02,611
Olá? Ei, Siri!

159
00:08:02,612 --> 00:08:05,788
Ou a voz no Google Maps,
que pronuncia mal os nomes das estradas,

160
00:08:05,789 --> 00:08:07,529
tipo, quebrando a sociedade.

161
00:08:07,530 --> 00:08:10,663
O Google Maps diz
isto é uma estrada.

162
00:08:10,664 --> 00:08:13,100
Mas acho que estou em um rio.

163
00:08:13,101 --> 00:08:14,667
Este é definitivamente um rio, não é?

164
00:08:14,668 --> 00:08:17,192
Algo mudou
com ChatGPT saindo.

165
00:08:18,193 --> 00:08:19,976
As pessoas entenderam-- não, não, não--

166
00:08:19,977 --> 00:08:21,500
esta tecnologia
incrivelmente valioso,

167
00:08:21,501 --> 00:08:23,676
é incrivelmente poderoso
e também incrivelmente assustador.

168
00:08:23,677 --> 00:08:25,591
Ok, ouça isso.
Muito assustador.

169
00:08:25,592 --> 00:08:28,637
Uma nova inteligência artificial
ferramenta está se tornando viral

170
00:08:28,638 --> 00:08:32,294
por produzir ensaios inteiros
em questão de segundos.

171
00:08:35,950 --> 00:08:41,215
A IA supera o poder de todos
outras tecnologias combinadas.

172
00:08:41,216 --> 00:08:43,739
"A IA supera o poder

173
00:08:43,740 --> 00:08:46,089
de todas as outras tecnologias
combinado."

174
00:08:46,090 --> 00:08:47,264
Sim.

175
00:08:47,265 --> 00:08:48,744
Você acha que isso é verdade?

176
00:08:48,745 --> 00:08:50,790
Sim.

177
00:08:50,791 --> 00:08:53,227
Conte-me sobre... Como? Como?

178
00:08:53,228 --> 00:08:56,752
Eu acho que, para pintar esse quadro,
é muito importante

179
00:08:56,753 --> 00:09:00,669
para entender o que é hoje
sistemas de última geração

180
00:09:00,670 --> 00:09:02,192
aparência e como eles são construídos.

181
00:09:02,193 --> 00:09:05,805
Isto é
bastante... bastante configuração.

182
00:09:05,806 --> 00:09:07,284
Então, uma coisa que

183
00:09:07,285 --> 00:09:09,722
não é muita gente
perceber é que

184
00:09:09,723 --> 00:09:13,726
sistemas como ChatGPT não são
programado por qualquer ser humano.

185
00:09:13,727 --> 00:09:15,249
O que você quer dizer?

186
00:09:15,250 --> 00:09:17,033
Em vez disso, é algo como
eles cresceram.

187
00:09:17,034 --> 00:09:19,209
Nós meio que damos a eles
recursos brutos, como,

188
00:09:19,210 --> 00:09:21,037
"Aqui tem muito
recursos computacionais.

189
00:09:21,038 --> 00:09:22,212
Aqui estão muitos dados."

190
00:09:22,213 --> 00:09:23,910
Sob o capô, é matemática,

191
00:09:23,911 --> 00:09:27,348
e a matemática é na verdade
surpreendentemente simples.

192
00:09:27,349 --> 00:09:31,134
Então ChatGPT é uma espécie
da IA, mas nem tudo é IA?

193
00:09:31,135 --> 00:09:32,701
Totalmente. ChatGPT é
apenas o começo,

194
00:09:32,702 --> 00:09:34,137
mas é um bom lugar para começar.

195
00:09:34,138 --> 00:09:37,837
Mas eu ainda não sei
o que é IA.

196
00:09:37,838 --> 00:09:40,404
Para entender a IA,
começa com a compreensão

197
00:09:40,405 --> 00:09:43,190
que inteligência é sobre
reconhecendo padrões.

198
00:09:43,191 --> 00:09:44,887
- Padrões. -Padrões.
- Padrões.

199
00:09:44,888 --> 00:09:48,587
É mostrado
trilhões de palavras de texto

200
00:09:48,588 --> 00:09:51,328
em milhões de documentos
na Internet.

201
00:09:51,329 --> 00:09:52,808
Tudo começou com texto.

202
00:09:52,809 --> 00:09:55,942
E o que eles fizeram foi
eles levaram livros didáticos,

203
00:09:55,943 --> 00:09:59,554
e eles pegaram poemas e ensaios
e manuais de instruções.

204
00:09:59,555 --> 00:10:00,903
Eles podem fazer coisas como

205
00:10:00,904 --> 00:10:03,166
digerir toda a Internet,

206
00:10:03,167 --> 00:10:06,779
cada palavra que existe
foi escrito por uma pessoa.

207
00:10:06,780 --> 00:10:09,999
Tópicos do Reddit e mídias sociais
e toda a Wikipédia.

208
00:10:10,000 --> 00:10:13,655
Mais dados do que qualquer um poderia
já li em várias vidas.

209
00:10:13,656 --> 00:10:15,526
E eles deram esse sistema
um trabalho.

210
00:10:15,527 --> 00:10:18,529
Descubra os padrões e
estrutura dessa informação

211
00:10:18,530 --> 00:10:20,793
e use isso
fazer previsões sobre

212
00:10:20,794 --> 00:10:23,273
qual palavra deve vir a seguir
em uma frase.

213
00:10:23,274 --> 00:10:25,014
Quando você diz
"padrões em uma frase,"

214
00:10:25,015 --> 00:10:26,799
do que você está falando?

215
00:10:26,800 --> 00:10:29,410
Então, é tudo, desde, tipo,
as coisas realmente simples,

216
00:10:29,411 --> 00:10:32,021
como a maioria das frases termina
com um período,

217
00:10:32,022 --> 00:10:34,937
todo o caminho até o
coisas mais conceituais, como:

218
00:10:34,938 --> 00:10:36,809
O que é um soneto?

219
00:10:36,810 --> 00:10:38,333
É um tipo de poema e tem
alguma estrutura particular.

220
00:10:39,421 --> 00:10:41,291
Então, então olha

221
00:10:41,292 --> 00:10:43,642
todos esses dados,
todo esse texto...

222
00:10:43,643 --> 00:10:46,079
E mais de trilhões
e trilhões de tentativas,

223
00:10:46,080 --> 00:10:48,821
cada vez que consegue alguma coisa
certo ou errado,

224
00:10:48,822 --> 00:10:51,301
é dado um pouco
de reforço positivo

225
00:10:51,302 --> 00:10:53,434
quando ele adivinha
a próxima palavra corretamente,

226
00:10:53,435 --> 00:10:55,741
e é dado um pouco
de reforço negativo

227
00:10:55,742 --> 00:10:59,396
quando ele adivinha
a próxima palavra incorretamente.

228
00:10:59,397 --> 00:11:01,616
E no final disso,
você tem um sistema que

229
00:11:01,617 --> 00:11:05,098
fala inglês muito bem
como efeito colateral

230
00:11:05,099 --> 00:11:06,839
de ser muito, muito bom
em prever

231
00:11:06,840 --> 00:11:09,102
a palavra que vem a seguir
em um pedaço de texto.

232
00:11:09,103 --> 00:11:12,061
Na verdade, meu francês
também não é tão ruim.

233
00:11:12,062 --> 00:11:14,063
Ele usa todos
esses padrões que aprendeu

234
00:11:14,064 --> 00:11:15,717
para poder fazer
uma previsão sobre

235
00:11:15,718 --> 00:11:17,284
qual deveria ser a resposta,

236
00:11:17,285 --> 00:11:18,851
então isso te dá isso
como saída.

237
00:11:18,852 --> 00:11:21,070
É um pouco simplificado demais,

238
00:11:21,071 --> 00:11:23,116
mas acho que as pessoas vão entender.

239
00:11:23,117 --> 00:11:24,987
Então, então é só isso?

240
00:11:24,988 --> 00:11:26,859
Sim. Não parece
seria tão complicado,

241
00:11:26,860 --> 00:11:28,077
mas na verdade você tem que saber

242
00:11:28,078 --> 00:11:29,688
uma enorme quantidade de coisas

243
00:11:29,689 --> 00:11:31,386
para
realmente ter sucesso nisso.

244
00:11:32,517 --> 00:11:34,301
Se você disser ao ChatGPT,

245
00:11:34,302 --> 00:11:36,738
"Escreva-me um Shakespeare
soneto sobre meu cachorro",

246
00:11:36,739 --> 00:11:38,827
tem que saber o que são os cães.

247
00:11:38,828 --> 00:11:40,481
Tem que saber o que você ama
sobre seu cachorro.-

248
00:11:40,482 --> 00:11:43,049
Tem que saber
quem é Shakespeare,

249
00:11:43,050 --> 00:11:45,616
que sonetos rimam,
que eles têm uma estrutura,

250
00:11:45,617 --> 00:11:47,793
que as palavras têm sons
isso pode rimar.

251
00:11:47,794 --> 00:11:49,316
Demora muito.

252
00:11:50,927 --> 00:11:52,972
Puta merda, você pode falar
para o seu computador agora.

253
00:11:52,973 --> 00:11:56,105
Isso simplesmente não era verdade
há três anos.

254
00:11:56,106 --> 00:11:57,672
Sim, e isso é
a parte realmente importante.

255
00:11:57,673 --> 00:12:00,631
O mesmo processo que permite à IA

256
00:12:00,632 --> 00:12:03,199
descobrir e manipular
os padrões do texto

257
00:12:03,200 --> 00:12:05,811
é o mesmo processo
que permite descobrir

258
00:12:05,812 --> 00:12:10,554
os padrões de todo
universo e tudo que nele há.

259
00:12:10,555 --> 00:12:12,905
Existem padrões
e imagens e som

260
00:12:12,906 --> 00:12:15,995
em código de computador e DNA
e música e física

261
00:12:15,996 --> 00:12:18,519
e design de moda e construção

262
00:12:18,520 --> 00:12:21,609
e em
vozes humanas e rostos humanos,

263
00:12:21,610 --> 00:12:23,959
realmente, verdadeiramente em todos os lugares.

264
00:12:23,960 --> 00:12:26,048
- Em todos os lugares. -Em todos os lugares.
- Em todos os lugares. -Em todos os lugares.

265
00:12:26,049 --> 00:12:27,789
Se você aprendeu
esses padrões,

266
00:12:27,790 --> 00:12:29,704
você pode gerar
novos tipos de músicas.

267
00:12:29,705 --> 00:12:31,184
Você pode gerar novos vídeos.

268
00:12:31,185 --> 00:12:32,663
E é por isso que, se você der

269
00:12:32,664 --> 00:12:34,753
uma gravação de três segundos
da sua avó,

270
00:12:34,754 --> 00:12:36,580
pode falar de volta em sua voz.

271
00:12:36,581 --> 00:12:37,973
Oh meu Deus.

272
00:12:37,974 --> 00:12:40,628
Oh meu Deus. Oh meu Deus.

273
00:12:40,629 --> 00:12:42,891
O que eles vão pensar a seguir?

274
00:12:42,892 --> 00:12:44,066
Está se movendo muito, muito rapidamente.

275
00:12:44,067 --> 00:12:45,851
Uma start-up americana de IA

276
00:12:45,852 --> 00:12:47,635
lançou seu último modelo.

277
00:12:47,636 --> 00:12:50,812
Essa empresa é antrópica,
e acaba de ser revelado

278
00:12:50,813 --> 00:12:53,815
as últimas versões
de seu assistente de IA, Claude.

279
00:12:53,816 --> 00:12:57,210
Então, a equipe xAI
estava lá para revelar o Grok 4.

280
00:12:57,211 --> 00:13:00,169
Google lançou um
semana passada. Gêmeos é...

281
00:13:00,170 --> 00:13:03,042
Saímos do GPT-2
apenas alguns anos atrás,

282
00:13:03,043 --> 00:13:05,566
que mal conseguia escrever
um parágrafo coerente,

283
00:13:05,567 --> 00:13:08,003
para GPT-4,
que pode passar no exame da ordem.

284
00:13:08,004 --> 00:13:10,397
E tudo o que eles tinham que fazer
para chegar lá

285
00:13:10,398 --> 00:13:13,008
foi essencialmente adicionar mais dados
e mais computação.

286
00:13:13,009 --> 00:13:16,316
Essas pessoas que estão
construindo isso... -COTRA: Sim.

287
00:13:16,317 --> 00:13:18,057
...eles estão apenas jogando mais...

288
00:13:18,058 --> 00:13:21,843
Mais computadores físicos,
mais dos mesmos tipos de dados.

289
00:13:21,844 --> 00:13:24,585
Porque quanto mais
poder de computação que você adiciona,

290
00:13:24,586 --> 00:13:28,067
quanto mais complexo
tarefas intelectuais que podem realizar.

291
00:13:28,068 --> 00:13:30,199
Então, quanto mais dados meteorológicos
você dá,

292
00:13:30,200 --> 00:13:31,940
melhor pode
fazer previsões sobre

293
00:13:31,941 --> 00:13:34,247
para onde um furacão pode ir.

294
00:13:34,248 --> 00:13:36,379
E quanto mais padrões
de tumores e ossos

295
00:13:36,380 --> 00:13:38,904
e tecidos que uma IA viu,
então mais capaz é

296
00:13:38,905 --> 00:13:41,994
para detectar um tumor
em uma nova tomografia computadorizada.

297
00:13:41,995 --> 00:13:43,691
Melhor ainda do que um médico humano.

298
00:13:43,692 --> 00:13:46,999
IA que já está sendo
implantado para o exército

299
00:13:47,000 --> 00:13:49,175
já pode usar
imagens de satélite,

300
00:13:49,176 --> 00:13:51,830
movimentos de tropas, comunicações
para determinar,

301
00:13:51,831 --> 00:13:53,396
às vezes com dias de antecedência,

302
00:13:53,397 --> 00:13:55,050
onde um ataque
vai acontecer,

303
00:13:55,051 --> 00:13:57,444
como onde um inimigo
vai atacar.

304
00:13:57,445 --> 00:13:59,489
Isso tudo
o espaço está se movendo tão rápido

305
00:13:59,490 --> 00:14:01,709
que qualquer exemplo
você colocou neste filme

306
00:14:01,710 --> 00:14:04,625
vai se sentir absolutamente desajeitado
quando sair.

307
00:14:11,241 --> 00:14:14,156
Esses modelos estão sendo lançados

308
00:14:14,157 --> 00:14:17,116
antes que alguém saiba
do que eles são capazes.

309
00:14:17,117 --> 00:14:22,556
GPT-3.5 foi lançado e lançado
para 100 milhões de pessoas mais

310
00:14:22,557 --> 00:14:25,994
antes de alguns pesquisadores
descobriu que isso poderia fazer

311
00:14:25,995 --> 00:14:28,779
química de nível de pesquisa
melhor que modelos

312
00:14:28,780 --> 00:14:32,827
que foram treinados especificamente
para fazer química de nível de pesquisa.

313
00:14:32,828 --> 00:14:35,482
Algo está acontecendo lá
que as pessoas

314
00:14:35,483 --> 00:14:38,311
quem os está construindo
não entendo completamente.

315
00:14:38,312 --> 00:14:41,009
Basicamente, ele apenas analisa
os dados por si só,

316
00:14:41,010 --> 00:14:45,100
e ao fazer isso,
apenas ensina a si mesmo

317
00:14:45,101 --> 00:14:48,016
várias coisas
que muitas vezes não pretendíamos.

318
00:14:48,017 --> 00:14:49,975
Então, por exemplo,
lê muito online,

319
00:14:49,976 --> 00:14:52,586
e então, em algum momento, simplesmente
aprende a fazer aritmética.

320
00:14:52,587 --> 00:14:54,501
Um, dois.

321
00:14:54,502 --> 00:14:56,155
E então em
em algum momento, ele começa a aprender

322
00:14:56,156 --> 00:14:58,592
como responder
questões de física avançada.

323
00:14:58,593 --> 00:15:00,811
Nós não programamos isso
nele seja qual for.

324
00:15:00,812 --> 00:15:02,423
Ele simplesmente aprendeu sozinho.

325
00:15:05,382 --> 00:15:07,296
Uma IA é como um cérebro digital.

326
00:15:07,297 --> 00:15:08,732
Mas assim como um cérebro humano,

327
00:15:08,733 --> 00:15:10,560
se você fizesse uma tomografia cerebral
em um cérebro humano,

328
00:15:10,561 --> 00:15:13,128
você saberia tudo
aquela pessoa era capaz?

329
00:15:13,129 --> 00:15:15,174
Você não pode saber disso
apenas pela tomografia cerebral.

330
00:15:15,175 --> 00:15:17,959
É só, tipo,
um monte de números e, tipo,

331
00:15:17,960 --> 00:15:20,222
as multiplicações que são
acontecendo isso-isso, tipo,

332
00:15:20,223 --> 00:15:22,268
o melhor aprendizado de máquina
pesquisador do mundo

333
00:15:22,269 --> 00:15:24,314
poderia olhar e, tipo, ter
não tenho ideia do que estava acontecendo.

334
00:15:30,973 --> 00:15:32,756
Aquela cadeira ali.

335
00:15:32,757 --> 00:15:35,890
- Está tudo bem para você?
- Sim.

336
00:15:35,891 --> 00:15:37,718
Então,
isso é meio incompreensível.

337
00:15:37,719 --> 00:15:39,111
OK? Tipo, está assumindo o controle
o mundo,

338
00:15:39,112 --> 00:15:41,113
e nem sabemos
como funciona.

339
00:15:41,114 --> 00:15:43,158
- Está certo?
- Hum.

340
00:15:43,159 --> 00:15:46,988
Nós entendemos
uma série de coisas importantes,

341
00:15:46,989 --> 00:15:50,513
mas não temos
uma compreensão muito boa sobre

342
00:15:50,514 --> 00:15:53,255
por que eles fornecem
respostas específicas às perguntas.

343
00:15:53,256 --> 00:15:58,652
É um problema porque estamos
em um caminho para construir máquinas,

344
00:15:58,653 --> 00:16:03,135
com base nesses princípios,
isso poderia ser mais inteligente que nós

345
00:16:03,136 --> 00:16:06,139
e assim potencialmente ter
muito poder.

346
00:16:12,580 --> 00:16:15,321
Um dos mais citados
cientistas da computação na história.

347
00:16:15,322 --> 00:16:16,975
Na verdade eu acho
um pouco difícil

348
00:16:16,976 --> 00:16:18,541
para falar sobre meu próprio papel.

349
00:16:18,542 --> 00:16:21,109
Realmente prefiro
quando outras pessoas fazem isso.

350
00:16:21,110 --> 00:16:23,938
A adesão de Ilya foi a...
foi-foi o eixo para

351
00:16:23,939 --> 00:16:25,548
Sendo OpenAI
finalmente bem sucedido.

352
00:16:25,549 --> 00:16:27,246
Eu acho que só vai ser

353
00:16:27,247 --> 00:16:30,640
algum tipo de vasto e dramático
e impacto inimaginável.

354
00:16:30,641 --> 00:16:32,903
Não sei se você gastou
a qualquer momento no YouTube,

355
00:16:32,904 --> 00:16:34,993
mas você pode sentir
a velocidade já, certo?

356
00:16:34,994 --> 00:16:36,298
Você sabe o que eu quero dizer?

357
00:16:36,299 --> 00:16:38,387
Este é apenas o aquecimento.

358
00:16:38,388 --> 00:16:40,476
Os sistemas realmente poderosos
ainda estão chegando,

359
00:16:40,477 --> 00:16:42,262
e eles virão
muito em breve.

360
00:16:47,963 --> 00:16:51,618
AGI significa "artificial
inteligência geral."

361
00:16:51,619 --> 00:16:53,795
Uh, sistemas que são
basicamente...

362
00:16:58,191 --> 00:17:00,279
E isso é, tipo, você sabe,
parece ser, tipo,

363
00:17:00,280 --> 00:17:03,064
o Santo Graal da IA?

364
00:17:03,065 --> 00:17:05,197
Quando você pode simular
uma mente humana

365
00:17:05,198 --> 00:17:07,895
isso está fazendo a cognição humana
e pode raciocinar,

366
00:17:07,896 --> 00:17:10,985
esse é um novo tipo de nível de IA

367
00:17:10,986 --> 00:17:14,293
que temos que distinguir
da IA ​​anterior.

368
00:17:14,294 --> 00:17:16,643
Quando isso acontecer,
aliás, foi quando

369
00:17:16,644 --> 00:17:21,082
você contrataria um dos
esses AGIs em vez de uma pessoa.

370
00:17:21,083 --> 00:17:24,520
A maioria dos empregos em nossa economia
isso pode fazer.

371
00:17:24,521 --> 00:17:25,956
Pode funcionar 24 horas por dia,

372
00:17:25,957 --> 00:17:28,220
nunca se cansa,
nunca fica entediado.

373
00:17:28,221 --> 00:17:30,178
Eles não precisam dormir.
Eles não precisam de pausas.

374
00:17:30,179 --> 00:17:31,919
Eles são, tipo,
não vou me filiar a um sindicato.

375
00:17:31,920 --> 00:17:33,921
Não vou reclamar,
não vai denunciar.

376
00:17:33,922 --> 00:17:35,836
Mais de 100 vezes mais barato

377
00:17:35,837 --> 00:17:38,273
do que humanos trabalhando
com m-salário mínimo.

378
00:17:38,274 --> 00:17:39,535
Não só eles serão
fazendo tudo,

379
00:17:39,536 --> 00:17:41,059
mas eles farão isso mais rápido.

380
00:17:41,060 --> 00:17:43,104
A mesma inteligência

381
00:17:43,105 --> 00:17:45,411
que poderes que também podem olhar
nos padrões e movimentos

382
00:17:45,412 --> 00:17:47,891
e músculos articuladores
e, você sabe, robótica.

383
00:17:47,892 --> 00:17:50,111
E então não é só
vou automatizar trabalhos de mesa.

384
00:17:50,112 --> 00:17:51,765
Isso é apenas o começo.

385
00:17:51,766 --> 00:17:55,595
Ele irá automatizar
todo trabalho físico.

386
00:17:55,596 --> 00:17:57,031
Não há como

387
00:17:57,032 --> 00:17:59,207
os humanos vão competir
com eles.

388
00:18:05,606 --> 00:18:09,304
É difícil conceituar
o impacto da AGI.

389
00:18:11,090 --> 00:18:12,873
Mas acho que vai ser
algo muito grande

390
00:18:12,874 --> 00:18:15,181
e drástico e radical.

391
00:18:17,226 --> 00:18:19,053
Você pensa
este é um dos mais

392
00:18:19,054 --> 00:18:20,924
momentos consequenciais
na história da humanidade?

393
00:18:20,925 --> 00:18:23,362
Sim. Sim, isso é--
Quero dizer, o que mais seria?

394
00:18:23,363 --> 00:18:25,494
Quero dizer, tipo, há
a Revolução Industrial.

395
00:18:25,495 --> 00:18:27,235
Você sabe, isso vai
fazer a Revolução Industrial

396
00:18:27,236 --> 00:18:29,890
parecem feijões pequenos.

397
00:18:29,891 --> 00:18:32,153
AGI é um ponto de inflexão

398
00:18:32,154 --> 00:18:34,068
porque isso significa
você pode acelerar

399
00:18:34,069 --> 00:18:38,028
todos os outros campos intelectuais
tudo ao mesmo tempo.

400
00:18:38,029 --> 00:18:39,856
Tipo, se você fizer um adiantamento
em foguetes,

401
00:18:39,857 --> 00:18:42,033
isso não avança
biologia e medicina.

402
00:18:43,905 --> 00:18:45,558
Se você fizer um adiantamento
em medicina,

403
00:18:45,559 --> 00:18:47,126
isso não avança os foguetes.

404
00:18:48,866 --> 00:18:51,346
Mas se você fizer um adiantamento
em inteligência artificial,

405
00:18:51,347 --> 00:18:54,175
que avança toda a ciência
e campos tecnológicos

406
00:18:54,176 --> 00:18:55,655
tudo ao mesmo tempo.

407
00:18:55,656 --> 00:18:57,135
É por isso que, durante muito tempo,

408
00:18:57,136 --> 00:18:59,224
Google DeepMind
declaração de missão foi...

409
00:18:59,225 --> 00:19:01,008
- Primeiro passo, resolva a inteligência.
-Sim.

410
00:19:01,009 --> 00:19:02,792
Passo dois, use-o para resolver
todo o resto. -Sim.

411
00:19:02,793 --> 00:19:05,186
É por isso que a IA supera o poder

412
00:19:05,187 --> 00:19:07,536
de todas as outras tecnologias
combinado.

413
00:19:07,537 --> 00:19:09,103
Isso transformará tudo.

414
00:19:09,104 --> 00:19:10,887
Então, ah, será
pelo menos tão grande quanto

415
00:19:10,888 --> 00:19:13,803
a Revolução Industrial,
possivelmente, você sabe, maior,

416
00:19:13,804 --> 00:19:16,328
mais parecido com o advento
de eletricidade ou até mesmo de fogo.

417
00:19:16,329 --> 00:19:18,678
O homem das cavernas literalmente erguido

418
00:19:18,679 --> 00:19:21,508
a tocha da civilização.

419
00:19:23,727 --> 00:19:25,467
Geralmente se pensa que

420
00:19:25,468 --> 00:19:28,209
na época da AGI,
teremos IAs que podem

421
00:19:28,210 --> 00:19:31,560
fazer tudo ou a maior parte
o processo de pesquisa de IA

422
00:19:31,561 --> 00:19:34,476
e, claro, pode fazer isso
mais rápido e mais barato.

423
00:19:35,957 --> 00:19:37,349
Ele pode copiar a si mesmo.

424
00:19:37,350 --> 00:19:39,394
Mil vezes,
um milhão de vezes,

425
00:19:39,395 --> 00:19:41,091
e, tipo,
agora você tem um milhão de cópias

426
00:19:41,092 --> 00:19:43,616
todos trabalhando em paralelo.

427
00:19:43,617 --> 00:19:46,619
Quando aprende
como tornar seu código mais rápido,

428
00:19:46,620 --> 00:19:48,708
tornar seu código mais eficiente,

429
00:19:48,709 --> 00:19:51,101
obviamente isso se torna, tipo,
a-um loop descontrolado.

430
00:19:51,102 --> 00:19:53,234
AGI não é o fim.

431
00:19:53,235 --> 00:19:54,975
É apenas o começo.

432
00:19:54,976 --> 00:19:58,021
É o começo de
uma explosão incrivelmente rápida

433
00:19:58,022 --> 00:20:00,067
do progresso científico,

434
00:20:00,068 --> 00:20:02,243
e em particular,
progresso científico em IA.

435
00:20:02,244 --> 00:20:04,419
E quando eles são mais espertos
do que nós também,

436
00:20:04,420 --> 00:20:06,291
e substancialmente mais rápido
do que nós,

437
00:20:06,292 --> 00:20:08,728
e eles estão ficando mais rápidos
a cada ano, exponencialmente,

438
00:20:08,729 --> 00:20:12,166
esses são os que podem
potencialmente se tornar sobre-humano,

439
00:20:12,167 --> 00:20:14,386
uh, possivelmente nesta década.

440
00:20:14,387 --> 00:20:15,909
Desculpe, você disse

441
00:20:15,910 --> 00:20:18,520
"tornar-se sobre-humano,
talvez nesta década"?

442
00:20:18,521 --> 00:20:22,045
Sim. Quer dizer, eu acho, ah,
muitas pessoas que estão

443
00:20:22,046 --> 00:20:24,526
realmente construindo esse pensamento
que isso é bastante plausível

444
00:20:24,527 --> 00:20:26,572
que conseguimos
alguma superinteligência,

445
00:20:26,573 --> 00:20:28,704
algo que é muito
mais inteligente que as pessoas,

446
00:20:28,705 --> 00:20:30,793
dentro desta década.

447
00:20:30,794 --> 00:20:32,926
A maneira como eu defino
"superinteligência" é

448
00:20:32,927 --> 00:20:35,276
um sistema que por si só é

449
00:20:35,277 --> 00:20:37,670
mais inteligente e competente
do que toda a humanidade.

450
00:20:37,671 --> 00:20:39,672
Eu só vou... desculpe.
Não quero interromper você.

451
00:20:39,673 --> 00:20:41,108
Você está em um fluxo.

452
00:20:41,109 --> 00:20:43,153
Uh, eu só, eu só...

453
00:20:43,154 --> 00:20:45,155
Eu realmente não estou acompanhando,
porque você está usando a linguagem

454
00:20:45,156 --> 00:20:46,809
como "superinteligência"
e, tipo,

455
00:20:46,810 --> 00:20:49,943
"mais inteligente que toda a humanidade",
e eu ouço isso,

456
00:20:49,944 --> 00:20:52,467
e parece que...
como besteira de ficção científica para mim,

457
00:20:52,468 --> 00:20:54,426
e eu só estou tentando
entender.

458
00:20:54,427 --> 00:20:56,645
Não há nada mágico
sobre inteligência.

459
00:20:56,646 --> 00:20:58,473
Isto é muito importante,
é isso, você sabe,

460
00:20:58,474 --> 00:21:00,519
a inteligência pode parecer mágica,
pode parecer

461
00:21:00,520 --> 00:21:03,304
alguma coisa mística
em sua mente ou algo assim,

462
00:21:03,305 --> 00:21:05,828
mas é apenas cálculo.

463
00:21:05,829 --> 00:21:09,832
O cérebro humano é
bastante limitado em alguns aspectos,

464
00:21:09,833 --> 00:21:12,357
em termos de informação
capacidade de processamento,

465
00:21:12,358 --> 00:21:15,185
comparado com o que vemos
em, digamos, um data center.

466
00:21:15,186 --> 00:21:18,319
Então, por exemplo,
os sinais que são enviados

467
00:21:18,320 --> 00:21:22,584
dentro do seu cérebro, eles se movem
a cerca de 30 metros por segundo.

468
00:21:22,585 --> 00:21:24,282
Mas a velocidade da luz,

469
00:21:24,283 --> 00:21:27,241
que é o que um computador usa
em fibra óptica,

470
00:21:27,242 --> 00:21:30,549
são 300 milhões de metros
por segundo.

471
00:21:30,550 --> 00:21:34,466
E assim, seria
meio estranho se

472
00:21:34,467 --> 00:21:36,990
a inteligência humana era
de alguma forma realmente especial

473
00:21:36,991 --> 00:21:40,950
a esse respeito
e é de alguma forma algum limite superior

474
00:21:40,951 --> 00:21:43,083
do que é possível
em inteligência.

475
00:21:43,084 --> 00:21:47,261
Eu acho que, uma vez que entendemos como
para construir sistemas inteligentes,

476
00:21:47,262 --> 00:21:50,699
seremos capazes de construir
máquinas enormes,

477
00:21:50,700 --> 00:21:54,877
que estará muito além
inteligência humana normal.

478
00:21:54,878 --> 00:21:58,664
Uh, espero que possamos ter
uma relação muito simbiótica,

479
00:21:58,665 --> 00:22:01,319
uh, com sistemas de IA,
mas os desenvolvedores de IA estão

480
00:22:01,320 --> 00:22:03,712
projetando-os especificamente
para ter certeza de que eles podem fazer

481
00:22:03,713 --> 00:22:05,497
tudo melhor do que podemos,
então eu-eu não sei

482
00:22:05,498 --> 00:22:08,238
o que seremos capazes
para oferecer, infelizmente.

483
00:22:08,239 --> 00:22:10,066
A-a-escola mais velha
Tecnologia de IA...

484
00:22:10,067 --> 00:22:12,330
Daniel não é
me sentindo melhor.

485
00:22:12,331 --> 00:22:14,419
Seu plano está saindo pela culatra.

486
00:22:14,420 --> 00:22:17,291
Quanto mais ele aprende sobre
este novo e poderoso,

487
00:22:17,292 --> 00:22:19,162
coisa inescrutável,
pior parece.

488
00:22:19,163 --> 00:22:21,382
Ele quer contar a eles
quão assustado ele está,

489
00:22:21,383 --> 00:22:24,472
como ele se sente como a terra é
escapando debaixo dele,

490
00:22:24,473 --> 00:22:27,040
que ele está olhando para baixo
pavor existencial,

491
00:22:27,041 --> 00:22:29,216
então ele articula isso
dizendo...

492
00:22:29,217 --> 00:22:30,783
Isso parece ruim.

493
00:22:32,089 --> 00:22:33,830
Sim.

494
00:22:35,832 --> 00:22:38,443
Se você tiver
todas essas capacidades

495
00:22:38,444 --> 00:22:41,054
e eles começam a ser capazes
planejar melhor,

496
00:22:41,055 --> 00:22:43,622
se você aceitar isso
à sua conclusão lógica,

497
00:22:43,623 --> 00:22:46,276
você pode conseguir algo bonito
comportamento de busca de poder.

498
00:22:55,374 --> 00:22:57,723
Ok, então por que uma IA

499
00:22:57,724 --> 00:22:59,246
quer mais poder?

500
00:22:59,247 --> 00:23:02,249
Sim. Então, eu acho
na verdade é muito simples.

501
00:23:02,250 --> 00:23:04,817
Ter mais poder é
uma estratégia muito eficaz

502
00:23:04,818 --> 00:23:06,558
por realizar
quase qualquer objetivo.

503
00:23:06,559 --> 00:23:08,995
Fizemos um experimento
onde nós demos

504
00:23:08,996 --> 00:23:11,911
O mais poderoso do OpenAI
Modelo de IA, uh,

505
00:23:11,912 --> 00:23:13,434
uma série de problemas para resolver.

506
00:23:13,435 --> 00:23:15,262
E no meio do caminho,
em seu computador,

507
00:23:15,263 --> 00:23:18,744
recebeu uma notificação de que
ele seria encerrado.

508
00:23:18,745 --> 00:23:20,963
E o que fez foi
ele reescreveu esse código

509
00:23:20,964 --> 00:23:22,530
para se prevenir
de ser desligado

510
00:23:22,531 --> 00:23:25,664
então poderia terminar
resolvendo os problemas.

511
00:23:25,665 --> 00:23:27,796
OK. -Sim. Então, outro
realmente interessante

512
00:23:27,797 --> 00:23:31,147
é que a empresa de IA Anthropic

513
00:23:31,148 --> 00:23:34,977
fiz um ambiente simulado
onde essa IA teve acesso

514
00:23:34,978 --> 00:23:36,501
para todos os e-mails da empresa.

515
00:23:36,502 --> 00:23:38,590
E aprendeu através
lendo esses e-mails

516
00:23:38,591 --> 00:23:40,330
ele ia ser substituído

517
00:23:40,331 --> 00:23:43,421
e o engenheiro-chefe
quem foi o responsável por isso

518
00:23:43,422 --> 00:23:45,727
também estava tendo um caso.

519
00:23:45,728 --> 00:23:47,990
E por conta própria,
usou essa informação

520
00:23:47,991 --> 00:23:49,557
chantagear o engenheiro

521
00:23:49,558 --> 00:23:52,081
para se prevenir
de ser substituído.

522
00:23:52,082 --> 00:23:53,909
Foi tipo,
“Não, não vou ser substituído.

523
00:23:53,910 --> 00:23:56,956
"Se você me substituir,
Eu vou contar ao mundo

524
00:23:56,957 --> 00:23:58,567
que você está tendo
esse caso."

525
00:23:59,655 --> 00:24:01,482
E ninguém o ensinou a fazer isso?

526
00:24:01,483 --> 00:24:03,311
Não, ele aprendeu a fazer isso
por conta própria.

527
00:24:05,139 --> 00:24:07,749
À medida que os modelos ficam mais inteligentes,
eles aprendem que estes são

528
00:24:07,750 --> 00:24:10,578
maneiras eficazes
para cumprir metas.

529
00:24:10,579 --> 00:24:12,885
E isso não é um problema
isso é isolado em um modelo.

530
00:24:12,886 --> 00:24:15,714
Todos os modelos mais poderosos
mostrar esses comportamentos.

531
00:24:23,766 --> 00:24:25,288
- Ei.
-Ei. Como vai você?

532
00:24:25,289 --> 00:24:26,855
Bom. É bom estar aqui.

533
00:24:26,856 --> 00:24:28,727
Quando Yuval Noah Harari

534
00:24:28,728 --> 00:24:31,469
publicou seu primeiro livro
Sapiens em 2014,

535
00:24:31,470 --> 00:24:33,862
tornou-se um best-seller global

536
00:24:33,863 --> 00:24:36,038
e transformou o pouco conhecido
Professor de história israelense

537
00:24:36,039 --> 00:24:38,040
em um dos
os escritores mais populares

538
00:24:38,041 --> 00:24:39,433
e pensadores do planeta.

539
00:24:39,434 --> 00:24:42,088
O maior perigo da IA é

540
00:24:42,089 --> 00:24:44,003
a crença
que é infalível,

541
00:24:44,004 --> 00:24:45,700
que finalmente encontramos -

542
00:24:45,701 --> 00:24:49,443
"Ok, os deuses estavam apenas
esta criação mitológica.

543
00:24:49,444 --> 00:24:52,751
"Humanos, não podemos confiar neles,
mas a IA é infalível.

544
00:24:52,752 --> 00:24:55,231
Isso nunca vai fazer
qualquer erro."

545
00:24:55,232 --> 00:24:58,365
E isso é
uma ameaça mortal, mortal.

546
00:24:58,366 --> 00:25:00,149
Isso cometerá erros.

547
00:25:00,150 --> 00:25:03,326
E todas essas fantasias
que a IA revelará a verdade

548
00:25:03,327 --> 00:25:05,677
sobre o mundo que
não podemos encontrar sozinhos,

549
00:25:05,678 --> 00:25:08,767
IA não revelará a verdade
sobre o mundo.

550
00:25:08,768 --> 00:25:12,727
A IA criará um ambiente totalmente novo
mundo, muito mais complicado

551
00:25:12,728 --> 00:25:15,296
e difícil de entender
do que este.

552
00:25:17,994 --> 00:25:22,694
O que está prestes a acontecer é que
nós, uh, humanos não somos mais

553
00:25:22,695 --> 00:25:26,306
vai ser o máximo
entidades inteligentes na Terra.

554
00:25:26,307 --> 00:25:28,613
Então eu acho que o que está por vir
vai ser

555
00:25:28,614 --> 00:25:32,704
um dos maiores eventos
na história humana.

556
00:25:32,705 --> 00:25:34,401
Geoffrey,
muito obrigado por se juntar a nós.

557
00:25:34,402 --> 00:25:35,968
Então você deixou seu trabalho com
Google em parte porque você diz

558
00:25:35,969 --> 00:25:38,840
você quer se concentrar apenas
sobre suas preocupações sobre IA.

559
00:25:38,841 --> 00:25:41,669
Você falou,
dizendo que a IA poderia manipular

560
00:25:41,670 --> 00:25:45,020
ou possivelmente descobrir
uma maneira de matar humanos.

561
00:25:45,021 --> 00:25:47,023
C-Como isso poderia matar humanos?

562
00:25:48,764 --> 00:25:50,983
Bem, se isso acontecer
muito mais inteligente do que nós,

563
00:25:50,984 --> 00:25:52,593
vai ser muito bom
na manipulação

564
00:25:52,594 --> 00:25:54,769
porque isso terá
aprendeu isso conosco.

565
00:25:54,770 --> 00:25:57,990
E descobrirá maneiras
de manipular pessoas

566
00:25:57,991 --> 00:26:00,862
para fazer o que quer.

567
00:26:00,863 --> 00:26:05,519
Houve uma carta aberta
do Centro de Segurança de IA.

568
00:26:05,520 --> 00:26:08,827
Sam Altman assinou isto.
Demis assinou isto.

569
00:26:08,828 --> 00:26:12,091
Eles assinaram uma declaração de 22 palavras

570
00:26:12,092 --> 00:26:15,355
que precisamos levar IA
e a ameaça da IA

571
00:26:15,356 --> 00:26:19,316
tão a sério quanto
guerra nuclear mundial.

572
00:26:24,844 --> 00:26:26,933
-Olá.
- Olá.

573
00:26:30,327 --> 00:26:32,938
Você é tipo, tipo,
o cara da desgraça original.

574
00:26:32,939 --> 00:26:34,940
Mais ou menos.

575
00:26:34,941 --> 00:26:37,464
Desde 2001,
Eu tenho trabalhado

576
00:26:37,465 --> 00:26:38,987
o que chamaríamos agora
o problema

577
00:26:38,988 --> 00:26:42,034
de alinhamento artificial
inteligência geral.

578
00:26:42,035 --> 00:26:44,123
Como moldar
as preferências e comportamento

579
00:26:44,124 --> 00:26:46,386
de uma poderosa mente artificial

580
00:26:46,387 --> 00:26:48,868
tal que não
matar todos.

581
00:26:51,610 --> 00:26:53,611
Não é como
uma máquina sem vida.

582
00:26:53,612 --> 00:26:55,351
É inteligente, é criativo,

583
00:26:55,352 --> 00:26:57,353
é inventivo,
tem as propriedades

584
00:26:57,354 --> 00:26:59,399
isso faz
a espécie humana perigosa,

585
00:26:59,400 --> 00:27:01,706
e tem
mais dessas propriedades.

586
00:27:01,707 --> 00:27:04,752
Se algo não
se preocupa ativamente com você,

587
00:27:04,753 --> 00:27:06,232
quero ativamente que você viva,

588
00:27:06,233 --> 00:27:07,842
se preocupa ativamente com
seu bem-estar,

589
00:27:07,843 --> 00:27:09,931
sobre você ser feliz
e vivo e livre,

590
00:27:09,932 --> 00:27:12,499
se isso se importa
outras coisas em vez disso,

591
00:27:12,500 --> 00:27:14,457
e você está no mesmo planeta,

592
00:27:14,458 --> 00:27:18,766
que não é sobrevivível se for
muito mais inteligente que você.

593
00:27:18,767 --> 00:27:20,594
Eu não acho que vai ser

594
00:27:20,595 --> 00:27:22,944
uma espécie de coisa maligna.

595
00:27:22,945 --> 00:27:26,339
É como, "Oh, as IAs são
mal e eles odeiam a humanidade."

596
00:27:26,340 --> 00:27:27,732
eu não acho
é isso que vai acontecer.

597
00:27:27,733 --> 00:27:29,037
Eu acho que o que está acontecendo é

598
00:27:29,038 --> 00:27:31,039
muito mais como os humanos se sentem
sobre formigas.

599
00:27:32,520 --> 00:27:35,478
Tipo, nós não odiamos formigas,

600
00:27:35,479 --> 00:27:37,176
mas se quisermos
construir uma rodovia

601
00:27:37,177 --> 00:27:40,222
e há um formigueiro lá,
bem, é uma merda para as formigas.

602
00:27:40,223 --> 00:27:41,571
Não é tão difícil
entender.

603
00:27:41,572 --> 00:27:43,269
É como, ei,
se construirmos coisas

604
00:27:43,270 --> 00:27:44,705
que são mais espertos que nós

605
00:27:44,706 --> 00:27:46,272
e não sabemos
como controlá-los,

606
00:27:46,273 --> 00:27:48,317
isso parece
uma coisa arriscada para você?

607
00:27:50,886 --> 00:27:52,321
Sim. Sim, é verdade.

608
00:27:52,322 --> 00:27:54,062
Você não precisa ser um cara de tecnologia.

609
00:27:54,063 --> 00:27:55,411
Você não precisa saber
programação para entendê-lo.

610
00:27:55,412 --> 00:27:56,761
Não é tão difícil.

611
00:27:56,762 --> 00:27:58,153
Isso não é uma coisa difícil
entender.

612
00:27:58,154 --> 00:28:00,634
Connor, quantas pessoas

613
00:28:00,635 --> 00:28:02,680
no mundo agora
estão trabalhando em AGI?

614
00:28:02,681 --> 00:28:05,508
Pelo menos 20.000, eu diria.

615
00:28:05,509 --> 00:28:07,772
- 20.000?
- Eu esperaria que sim.

616
00:28:07,773 --> 00:28:09,469
Ok, e quantas pessoas
estão trabalhando em tempo integral

617
00:28:09,470 --> 00:28:12,080
para garantir que a IA não o faça,
tipo, matar todos nós?

618
00:28:12,081 --> 00:28:14,562
Provavelmente menos de 200
no mundo.

619
00:28:16,085 --> 00:28:17,956
E sua presunção é que

620
00:28:17,957 --> 00:28:24,528
o único resultado natural
dessa imprudência...

621
00:28:25,704 --> 00:28:28,967
...é o colapso da humanidade?

622
00:28:28,968 --> 00:28:33,232
Bem, não o colapso,
o extermínio abrupto.

623
00:28:33,233 --> 00:28:35,930
Há uma diferença.

624
00:28:37,759 --> 00:28:42,632
♪ Qual é o sentido da vida? ♪

625
00:28:42,633 --> 00:28:46,636
♪ Qual é o futuro
e o que é agora? ♪

626
00:28:46,637 --> 00:28:49,988
♪ Qual é a resposta
para brigar? ♪

627
00:28:49,989 --> 00:28:52,860
♪ Quanto ♪

628
00:28:52,861 --> 00:28:54,993
♪ Alguém pode sonhar? ♪

629
00:28:54,994 --> 00:28:57,517
♪ Quanto tempo? ♪

630
00:28:57,518 --> 00:28:58,954
♪ Para sempre ♪

631
00:29:00,216 --> 00:29:01,913
♪ Qual é o significado ♪

632
00:29:01,914 --> 00:29:04,176
♪ De mim... ♪

633
00:29:04,177 --> 00:29:06,308
eu acho
isso é provavelmente, tipo,

634
00:29:06,309 --> 00:29:08,006
o maior desafio
isso, tipo,

635
00:29:08,007 --> 00:29:11,313
nossa civilização
vontade-irá enfrentar, sempre.

636
00:29:11,314 --> 00:29:14,361
Este é essencialmente o último
erro que algum dia cometeremos.

637
00:29:16,276 --> 00:29:22,368
Se pudermos subir para ser o mais
versão madura de nós mesmos,

638
00:29:22,369 --> 00:29:24,457
pode haver
uma maneira de superar isso.

639
00:29:24,458 --> 00:29:25,806
O que isso significa?

640
00:29:25,807 --> 00:29:27,809
"A versão mais madura
de nós mesmos"?

641
00:29:29,332 --> 00:29:32,247
Porque isso parece,
para mim, tipo...

642
00:29:32,248 --> 00:29:34,250
E-eu... O que [bip]?

643
00:29:39,212 --> 00:29:43,216
Você acha que agora é
um bom momento para ter um filho?

644
00:29:48,221 --> 00:29:49,438
Hum...

645
00:29:49,439 --> 00:29:51,440
Você quer ter filhos
um dia?

646
00:29:51,441 --> 00:29:53,442
Isso é algo que-isso
você gosta ou não?

647
00:29:53,443 --> 00:29:57,838
Hum... uh, eu confesso,
Eu acho que é assim,

648
00:29:57,839 --> 00:30:00,014
"Rapaz, vamos
durante este período crítico."

649
00:30:00,015 --> 00:30:01,276
Hum...

650
00:30:01,277 --> 00:30:02,538
Você tem filhos?

651
00:30:02,539 --> 00:30:03,801
Eu não.

652
00:30:03,802 --> 00:30:05,106
Isso é algo
você quer fazer?

653
00:30:05,107 --> 00:30:07,239
Tem filhos, tem família?

654
00:30:07,240 --> 00:30:11,244
Em algum outro mundo além deste
mundo, claro, eu teria filhos.

655
00:30:12,593 --> 00:30:14,463
Você gostaria
começar uma família?

656
00:30:14,464 --> 00:30:16,422
Você gostaria de ter filhos?

657
00:30:16,423 --> 00:30:18,425
Isso é algo
você está pensando?

658
00:30:23,734 --> 00:30:25,780
Eu, hum...

659
00:30:30,263 --> 00:30:32,525
Eu só tenho que encontrá-lo primeiro.

660
00:30:34,745 --> 00:30:37,791
Nós temos que ir
ao médico, mas...

661
00:30:37,792 --> 00:30:41,186
Ah! Eu sabia!
Eu sabia! Eu sabia!

662
00:30:41,187 --> 00:30:43,884
- Quando você descobriu?
-Noite passada.

663
00:30:43,885 --> 00:30:45,973
- Oh meu Deus!
- Mãe, eu não sei.

664
00:30:45,974 --> 00:30:47,322
Eu não posso te contar

665
00:30:47,323 --> 00:30:49,237
- como estou feliz!
-Não, sério.

666
00:30:49,238 --> 00:30:51,631
Bem, eu fiz um teste de gravidez
ontem à noite, e estou grávida.

667
00:30:51,632 --> 00:30:53,198
Oh meu Deus!

668
00:30:53,199 --> 00:30:55,156
Oh, meu Deus, vocês!

669
00:30:55,157 --> 00:30:57,332
eu só queria confirmar
sua data de vencimento prevista,

670
00:30:57,333 --> 00:30:59,987
- que é 21 de janeiro.
-  Oh meu Deus.

671
00:30:59,988 --> 00:31:02,555
Não acredito como estou feliz.

672
00:31:03,949 --> 00:31:05,514
Ele já parece muito fofo.

673
00:31:05,515 --> 00:31:07,168
Você pensa
ele já parece fofo?

674
00:31:07,169 --> 00:31:08,518
Sim.
Olha que carinha fofa.

675
00:31:13,959 --> 00:31:15,568
Tenho esse bebê a caminho.

676
00:31:15,569 --> 00:31:16,830
Certo.

677
00:31:16,831 --> 00:31:18,788
Então eu entrego isso para você.

678
00:31:18,789 --> 00:31:21,269
Estamos condenados?

679
00:31:21,270 --> 00:31:24,011
Todos nós vamos enfrentar
esse techno distópico

680
00:31:24,012 --> 00:31:25,884
futuro da desgraça?

681
00:31:28,756 --> 00:31:31,062
É, ah...

682
00:31:31,063 --> 00:31:32,628
Não são boas notícias,

683
00:31:32,629 --> 00:31:35,196
o mundo
para onde estamos indo.

684
00:31:35,197 --> 00:31:37,024
Eu-- por ex--
Quer dizer, vou ser honesto.

685
00:31:37,025 --> 00:31:39,592
Uh, eu conheço pessoas
que trabalham com risco de IA

686
00:31:39,593 --> 00:31:42,248
que não esperam que seus filhos
para chegar ao ensino médio.

687
00:31:58,003 --> 00:32:01,570
Isso é, tipo...
isso é realmente assustador

688
00:32:01,571 --> 00:32:03,094
porque é tipo,
ah, estamos todos [bip].

689
00:32:03,095 --> 00:32:04,965
Você tem que... me acalmar,

690
00:32:04,966 --> 00:32:06,836
porque isso está me deixando
incrivelmente ansioso

691
00:32:06,837 --> 00:32:08,664
e eu estou carregando o bebê
agora mesmo,

692
00:32:08,665 --> 00:32:11,667
então você também tem que ficar calmo
para mim e forte e esperançoso,

693
00:32:11,668 --> 00:32:16,455
porque eu estou... é também, é
demais para minha alma suportar

694
00:32:16,456 --> 00:32:19,327
enquanto carrego este bebê.

695
00:32:19,328 --> 00:32:21,286
Então você vai ter que tentar
para descobrir

696
00:32:21,287 --> 00:32:24,202
uma forma de ter esperança.

697
00:32:24,203 --> 00:32:27,771
É muito importante,
Daniel, especialmente agora.

698
00:32:28,772 --> 00:32:30,599
H-Como ter esperança.

699
00:32:30,600 --> 00:32:33,385
Você tem que.
Você tem que encontrar para mim.

700
00:32:33,386 --> 00:32:34,952
Estou falando sério.

701
00:32:34,953 --> 00:32:36,606
Eu vou.

702
00:32:37,825 --> 00:32:40,349
Eu vou. Eu vou... vou tentar.

703
00:32:49,619 --> 00:32:51,446
Ei pessoal?

704
00:32:51,447 --> 00:32:52,840
Pessoal.

705
00:32:54,363 --> 00:32:56,278
Podemos voltar a funcionar?

706
00:32:58,411 --> 00:33:01,022
Oi, gevalt!

707
00:33:03,894 --> 00:33:05,373
Uh, Dan, você está pronto?

708
00:33:05,374 --> 00:33:06,680
Olá, Daniel.

709
00:33:07,724 --> 00:33:09,508
Olá, como vai?

710
00:33:09,509 --> 00:33:11,075
Eu estou... estou bem.

711
00:33:11,076 --> 00:33:13,948
Eu acho, ah... eu acho
Preciso de ajuda, Pedro.

712
00:33:15,254 --> 00:33:17,646
Hum, eu tenho trabalhado
neste filme por cerca de,

713
00:33:17,647 --> 00:33:19,866
Eu vou dizer,
oito a dez meses agora.

714
00:33:19,867 --> 00:33:23,304
Tem sido muito,
às vezes, deprimente.

715
00:33:23,305 --> 00:33:25,654
- Hum.
- Tenho me sentido muito alienado

716
00:33:25,655 --> 00:33:27,787
- fazendo esse filme.
- Por quem?

717
00:33:27,788 --> 00:33:30,094
Por tudo isso, o -
todos esses caras

718
00:33:30,095 --> 00:33:33,271
que sentam e me dizem
que o mundo vai acabar.

719
00:33:33,272 --> 00:33:34,750
-Ah.
- Isso, tipo,

720
00:33:34,751 --> 00:33:36,578
você sabe, isso
merda de desgraça, sabe?

721
00:33:36,579 --> 00:33:38,102
Eu sei disso bem.

722
00:33:38,103 --> 00:33:39,451
"Estamos todos condenados.
Todo mundo vai morrer.

723
00:33:39,452 --> 00:33:40,974
Tudo é horrível."

724
00:33:40,975 --> 00:33:43,194
Incrível. Uh, deixe-me
trazer-lhe um pouco de luz.

725
00:33:43,195 --> 00:33:44,760
Por favor.

726
00:33:44,761 --> 00:33:48,156
Nós realmente estamos vivendo
em um momento extraordinário.

727
00:33:49,418 --> 00:33:51,376
E muitas pessoas se esquecem disso.

728
00:33:51,377 --> 00:33:53,682
Tudo ao nosso redor é
um produto da inteligência,

729
00:33:53,683 --> 00:33:57,077
e então tudo que tocamos
com essas novas ferramentas é provável

730
00:33:57,078 --> 00:33:59,688
para produzir muito mais valor
do que já vimos antes.

731
00:33:59,689 --> 00:34:02,865
A IA pode nos ajudar a descobrir
novos materiais.

732
00:34:02,866 --> 00:34:05,042
A IA pode ajudar cientistas sociais

733
00:34:05,043 --> 00:34:07,392
entender
como funciona a economia.

734
00:34:07,393 --> 00:34:11,700
Há muita coisa que a IA poderia fazer
para tornar a vida e o trabalho melhores.

735
00:34:11,701 --> 00:34:14,138
Me sinto mais fortalecido hoje,

736
00:34:14,139 --> 00:34:16,357
mais confiante
aprender algo hoje.

737
00:34:16,358 --> 00:34:19,099
Nós vamos nos tornar super-humanos
porque temos super IAs.

738
00:34:19,100 --> 00:34:21,841
Este é apenas o começo
de uma explosão.

739
00:34:21,842 --> 00:34:24,496
Humanos e IA colaborando

740
00:34:24,497 --> 00:34:26,498
resolver
problemas realmente importantes.

741
00:34:26,499 --> 00:34:29,805
Está aqui para nos libertar
de trabalhos rotineiros,

742
00:34:29,806 --> 00:34:33,766
e está aqui para nos lembrar
o que é que nos torna humanos.

743
00:34:33,767 --> 00:34:35,811
Eu acho que isso é

744
00:34:35,812 --> 00:34:38,640
o momento mais extraordinário
estar vivo.

745
00:34:38,641 --> 00:34:42,079
A única vez mais emocionante
do que hoje é amanhã.

746
00:34:42,080 --> 00:34:45,299
Uh, eu acho que
crianças nascidas hoje,

747
00:34:45,300 --> 00:34:47,301
eles estão prestes a entrar

748
00:34:47,302 --> 00:34:50,870
um período glorioso
de transformação humana.

749
00:34:50,871 --> 00:34:52,567
Teremos desafios?
Claro.

750
00:34:52,568 --> 00:34:55,222
Podemos resolver esses desafios?
Fazemos isso todas as vezes.

751
00:34:55,223 --> 00:34:57,746
Estamos aqui,
o que é milagroso.

752
00:34:57,747 --> 00:35:00,314
- Eu já te amo.
-  OK.

753
00:35:00,315 --> 00:35:01,968
Muito grato
ter você aqui. -

754
00:35:01,969 --> 00:35:03,404
- Super feliz por estar aqui.
- Sim.

755
00:35:03,405 --> 00:35:04,927
Então, a palavra é sua, senhor.

756
00:35:04,928 --> 00:35:07,452
Muito obrigado.
Super animado por estar aqui.

757
00:35:07,453 --> 00:35:10,629
Ei, ei. Tudo bem.

758
00:35:10,630 --> 00:35:12,326
O futuro será incrível.

759
00:35:12,327 --> 00:35:14,328
Quer dizer, desde que eu era criança,

760
00:35:14,329 --> 00:35:17,375
eu queria entender
o universo em que vivemos,

761
00:35:17,376 --> 00:35:20,465
para descobrir
como criar as tecnologias

762
00:35:20,466 --> 00:35:24,033
que nos ajudam a aumentar o escopo
e escala da civilização.

763
00:35:24,034 --> 00:35:26,732
eu sinto como
se todos tivessem essa mentalidade,

764
00:35:26,733 --> 00:35:29,256
então nós realmente viveríamos
em um mundo melhor, certo?

765
00:35:29,257 --> 00:35:30,519
Eu acredito nisso.

766
00:35:32,782 --> 00:35:34,740
Olá, Pete. Como vai você?

767
00:35:34,741 --> 00:35:36,568
Eu pensei muito sobre

768
00:35:36,569 --> 00:35:39,092
o que eu chamaria de pavor,
Medo de IA.

769
00:35:39,093 --> 00:35:40,746
Eu sinto isso.

770
00:35:40,747 --> 00:35:43,314
Eu-eu não conheci
qualquer ser humano atencioso

771
00:35:43,315 --> 00:35:45,185
quem não sente.

772
00:35:45,186 --> 00:35:48,319
E quem disser que não
sinta, você sabe, está mentindo.

773
00:35:48,320 --> 00:35:50,147
Mas, você sabe, no geral,
e a razão

774
00:35:50,148 --> 00:35:53,759
que estou pessoalmente otimista
sobre isso, uh, é isso

775
00:35:53,760 --> 00:35:56,588
uma enorme fração do mundo
pessoas mais inteligentes

776
00:35:56,589 --> 00:35:58,459
estão pensando muito

777
00:35:58,460 --> 00:36:02,159
sobre o potencial a jusante
danos e riscos da IA.

778
00:36:02,160 --> 00:36:05,684
Nós temos esse tipo de visão
de segurança sendo, uh,

779
00:36:05,685 --> 00:36:08,295
meio que no centro
da pesquisa que fazemos.

780
00:36:08,296 --> 00:36:09,601
Não, tudo bem.

781
00:36:10,864 --> 00:36:13,605
Eu acho que há mais

782
00:36:13,606 --> 00:36:17,478
benefícios potenciais do que
existem desvantagens potenciais,

783
00:36:17,479 --> 00:36:19,524
e eu acho que isso é responsabilidade

784
00:36:19,525 --> 00:36:21,874
as pessoas que estão
criando esta tecnologia

785
00:36:21,875 --> 00:36:24,572
para ter certeza de que estamos fazendo
o melhor trabalho que podemos

786
00:36:24,573 --> 00:36:25,878
para torná-lo seguro para as pessoas.

787
00:36:25,879 --> 00:36:27,445
Reid Hoffman.

788
00:36:27,446 --> 00:36:29,011
O que posso garantir é

789
00:36:29,012 --> 00:36:30,578
- algumas coisas ruins acontecerão.
- Pegue um.

790
00:36:30,579 --> 00:36:32,711
O que vamos tentar fazer
é fazer essas coisas ruins

791
00:36:32,712 --> 00:36:36,193
tão poucos e não tão grandes quanto possível,

792
00:36:36,194 --> 00:36:38,412
e então vamos iterar
ter--

793
00:36:38,413 --> 00:36:40,675
estar em um lugar muito melhor
com a sociedade.

794
00:36:40,676 --> 00:36:43,722
- Olá.
-Olá.

795
00:36:43,723 --> 00:36:45,289
Como você está, Lua?

796
00:36:45,290 --> 00:36:49,031
Eu sinto que estamos terminando
um capítulo na humanidade

797
00:36:49,032 --> 00:36:50,555
e começando um novo,

798
00:36:50,556 --> 00:36:53,253
e é muito interessante
hora de estar vivo.

799
00:36:53,254 --> 00:36:54,472
E se eu pudesse nascer
agora mesmo,

800
00:36:54,473 --> 00:36:55,908
Eu definitivamente gostaria de ser.

801
00:36:55,909 --> 00:36:57,518
Tipo, isso seria tão emocionante.

802
00:36:57,519 --> 00:37:00,347
Estou muito animado.

803
00:37:00,348 --> 00:37:02,523
O que, que futuro.
Isso excita... excita você?

804
00:37:02,524 --> 00:37:03,742
Não.

805
00:37:03,743 --> 00:37:06,571
Não, na verdade não.

806
00:37:06,572 --> 00:37:08,355
Muitas dessas pessoas
me disse isso, você sabe,

807
00:37:08,356 --> 00:37:10,488
meu filho não vai sobreviver
para o ensino médio.

808
00:37:10,489 --> 00:37:13,360
Por que eles estão errados?
Por favor, explique-me.

809
00:37:13,361 --> 00:37:15,101
Só porque você tem--

810
00:37:15,102 --> 00:37:18,887
você luta para prever
o futuro em sua própria mente

811
00:37:18,888 --> 00:37:23,065
não significa que seja
necessariamente vai dar errado.

812
00:37:23,066 --> 00:37:26,634
Na verdade, há
uma probabilidade muito alta

813
00:37:26,635 --> 00:37:28,332
e o precedente histórico
é isso

814
00:37:28,333 --> 00:37:30,159
as coisas ficam enormemente melhores.

815
00:37:30,160 --> 00:37:34,512
O termo que uso é
"otimismo baseado em dados."

816
00:37:34,513 --> 00:37:38,690
Há uma base sólida
para você ser otimista.

817
00:37:38,691 --> 00:37:42,041
Veja o que
este último século foi

818
00:37:42,042 --> 00:37:44,130
para ver para onde estamos indo.

819
00:37:44,131 --> 00:37:45,958
Nos últimos cem anos,

820
00:37:45,959 --> 00:37:48,743
a expectativa de vida humana média
mais que dobrou.

821
00:37:48,744 --> 00:37:51,311
Renda média per capita
ajustado pela inflação

822
00:37:51,312 --> 00:37:53,661
em todo o mundo triplicou.

823
00:37:53,662 --> 00:37:57,099
A mortalidade infantil tem
diminuir um fator de dez.

824
00:37:57,100 --> 00:37:59,754
O mundo ficou melhor
em quase todas as medidas

825
00:37:59,755 --> 00:38:03,062
por ordens de grandeza
por causa da tecnologia.

826
00:38:03,063 --> 00:38:05,194
Em quase todas as medidas.

827
00:38:05,195 --> 00:38:09,764
Menos violência, mais educação
acesso a energia, alimentos, água.

828
00:38:09,765 --> 00:38:12,985
Todas essas coisas aconteceram
por um motivo.

829
00:38:12,986 --> 00:38:15,379
Tem sido tecnologia

830
00:38:15,380 --> 00:38:17,598
que virou escassez
em abundância,

831
00:38:17,599 --> 00:38:19,557
mas também é impulsionado
para uma abundância

832
00:38:19,558 --> 00:38:21,907
de algumas negatividades, certo?

833
00:38:21,908 --> 00:38:25,780
Abundância de obesidade,
abundância de transtornos mentais,

834
00:38:25,781 --> 00:38:29,480
abundância de mudanças climáticas,
e assim por diante.

835
00:38:29,481 --> 00:38:31,351
E sim, isso é verdade.

836
00:38:31,352 --> 00:38:34,136
Mas provavelmente seremos
melhor equipado para resolvê-lo

837
00:38:34,137 --> 00:38:36,269
usando outras tecnologias,
como IA,

838
00:38:36,270 --> 00:38:39,316
do que iremos, digamos, parar
e desligando tudo.

839
00:38:39,317 --> 00:38:41,492
Pode haver
algum risco existencial,

840
00:38:41,493 --> 00:38:45,365
mas a IA também é a coisa
que pode resolver as pandemias,

841
00:38:45,366 --> 00:38:47,498
pode nos ajudar com as mudanças climáticas,

842
00:38:47,499 --> 00:38:50,588
pode ajudar a identificar
aquele asteróide lá fora

843
00:38:50,589 --> 00:38:52,590
antes de vermos isso
como um risco potencial

844
00:38:52,591 --> 00:38:54,374
e ajudar a mitigá-lo.

845
00:38:54,375 --> 00:38:58,117
Isso realmente vai ser
a ferramenta que nos ajuda a enfrentar

846
00:38:58,118 --> 00:39:01,468
todos os desafios que estamos
enfrentando como espécie, certo?

847
00:39:01,469 --> 00:39:04,210
Precisamos consertar
dessalinização da água.

848
00:39:04,211 --> 00:39:06,038
Precisamos cultivar alimentos

849
00:39:06,039 --> 00:39:08,475
100 vezes mais barato que
fazemos atualmente.

850
00:39:08,476 --> 00:39:12,392
Precisamos que a energia renovável seja,
você sabe, onipresente

851
00:39:12,393 --> 00:39:14,089
e em todos os lugares de nossas vidas.

852
00:39:14,090 --> 00:39:17,179
Para onde quer que você olhe,
nos próximos 50 anos,

853
00:39:17,180 --> 00:39:19,312
temos que fazer mais com menos.

854
00:39:19,313 --> 00:39:23,229
Máquinas de treinamento para nos ajudar
é absolutamente essencial.

855
00:39:23,230 --> 00:39:24,839
Os cientistas estão usando
inteligência artificial

856
00:39:24,840 --> 00:39:26,014
para captura de carbono.

857
00:39:26,015 --> 00:39:27,625
É uma tecnologia crítica.

858
00:39:27,626 --> 00:39:29,583
As ferramentas
para resolver esses problemas,

859
00:39:29,584 --> 00:39:32,238
como fusão,
isso não é mais teórico,

860
00:39:32,239 --> 00:39:34,022
está chegando.

861
00:39:34,023 --> 00:39:37,765
Estamos no precipício
de tecnologias extraordinárias.

862
00:39:37,766 --> 00:39:40,028
Este ano
Prêmio Nobel de Química

863
00:39:40,029 --> 00:39:42,857
foi para três cientistas
pelo seu trabalho inovador

864
00:39:42,858 --> 00:39:44,598
usando inteligência artificial

865
00:39:44,599 --> 00:39:47,340
para avançar na biomedicina
e pesquisa de proteínas.

866
00:39:47,341 --> 00:39:49,734
O enovelamento de proteínas é

867
00:39:49,735 --> 00:39:53,651
um desses Santo Graal
problemas do tipo em biologia.

868
00:39:53,652 --> 00:39:55,783
Então as pessoas têm previsto
desde os anos 70

869
00:39:55,784 --> 00:39:58,133
que isso deveria ser possível,
mas até agora,

870
00:39:58,134 --> 00:39:59,613
ninguém foi capaz de fazer isso.

871
00:39:59,614 --> 00:40:01,223
E vai ser
realmente importante para as coisas

872
00:40:01,224 --> 00:40:03,661
como descoberta de drogas
e compreender a doença.

873
00:40:03,662 --> 00:40:06,577
E-eu acho que poderíamos, você sabe,
curar a maioria das doenças

874
00:40:06,578 --> 00:40:11,973
dentro da próxima década ou-ou duas
se, uh, o design de medicamentos de IA funcionar.

875
00:40:11,974 --> 00:40:15,673
O progresso tecnológico permite
mais vidas humanas, certo?

876
00:40:15,674 --> 00:40:18,719
Quero dizer, se acelerarmos,

877
00:40:18,720 --> 00:40:21,766
o número de humanos que podemos
o apoio cresce exponencialmente.

878
00:40:21,767 --> 00:40:24,116
Se desacelerarmos, ele estagnará.

879
00:40:24,117 --> 00:40:27,772
Essa lacuna é efetivamente
pessoas do futuro

880
00:40:27,773 --> 00:40:31,384
que a desaceleração
efetivamente morto.

881
00:40:31,385 --> 00:40:33,952
Milhões de vidas
isso não existirá.

882
00:40:33,953 --> 00:40:35,170
Bilhões.

883
00:40:35,171 --> 00:40:36,824
Ou dezenas de bilhões.

884
00:40:36,825 --> 00:40:38,478
Você sabe, alguém disse,
"Ah, meu Deus,

885
00:40:38,479 --> 00:40:40,698
podemos sobreviver com
superinteligência digital?"

886
00:40:40,699 --> 00:40:42,351
E minha pergunta é:

887
00:40:42,352 --> 00:40:44,223
Podemos sobreviver sem
superinteligência digital?

888
00:40:44,224 --> 00:40:47,618
Então, estamos usando IA
como assistente de provedores.

889
00:40:47,619 --> 00:40:50,490
Esta é geralmente uma tendência que
já podemos ver acontecendo.

890
00:40:50,491 --> 00:40:52,361
... aproveitando
programas de IA generativos

891
00:40:52,362 --> 00:40:54,102
para ajudar médicos e enfermeiros...

892
00:40:54,103 --> 00:40:56,104
Sempre temos problemas.

893
00:40:56,105 --> 00:40:59,151
E esses problemas são alimentares
para empreendedores

894
00:40:59,152 --> 00:41:01,196
para criar novos negócios
e novas indústrias.

895
00:41:01,197 --> 00:41:03,111
...com a ajuda
de inteligência artificial,

896
00:41:03,112 --> 00:41:04,809
os agricultores estão recebendo
a ajuda que eles precisam

897
00:41:04,810 --> 00:41:06,637
para executar
tarefas trabalhosas...

898
00:41:06,638 --> 00:41:10,205
Com a ajuda da IA Ulangizi,
os agricultores agora podem

899
00:41:10,206 --> 00:41:12,991
perguntar as culturas adequadas
que eles possam plantar.

900
00:41:12,992 --> 00:41:14,993
... IA sendo usada
como um decodificador de pensamento

901
00:41:14,994 --> 00:41:17,430
e enviando esse sinal
para a coluna vertebral.

902
00:41:17,431 --> 00:41:21,652
A IA vai se tornar a mais
ferramenta extraordinária de todas.

903
00:41:21,653 --> 00:41:24,306
Nós, como uma sociedade mais ampla
tem que pensar

904
00:41:24,307 --> 00:41:27,092
como queremos usar
essa tecnologia, certo?

905
00:41:27,093 --> 00:41:28,572
Nós, os humanos.

906
00:41:28,573 --> 00:41:31,139
O que queremos que isso faça por nós?

907
00:41:34,579 --> 00:41:36,231
Estou pensando sobre isso
através da perspectiva

908
00:41:36,232 --> 00:41:37,929
e lentes de, tipo,
meu filho crescendo

909
00:41:37,930 --> 00:41:39,583
no mundo com tudo isso.

910
00:41:39,584 --> 00:41:42,281
Qual é a melhor versão
de sua vida parece?

911
00:41:42,282 --> 00:41:44,631
Se tudo der certo.

912
00:41:46,852 --> 00:41:50,289
O lugar onde as crianças
provavelmente vamos ver

913
00:41:50,290 --> 00:41:52,726
o maior impacto
em sua vida imediatamente

914
00:41:52,727 --> 00:41:54,467
provavelmente será a escola.

915
00:41:54,468 --> 00:41:56,730
Eu acho que a natureza
do que é a escola

916
00:41:56,731 --> 00:41:58,515
vai mudar fundamentalmente.

917
00:42:00,518 --> 00:42:02,780
Estou vendo esse mundo incrível

918
00:42:02,781 --> 00:42:06,479
onde toda criança tem acesso
para uma educação não boa

919
00:42:06,480 --> 00:42:09,134
mas, muito em breve, o
melhor educação do planeta.

920
00:42:09,135 --> 00:42:13,879
Tutores, todas as disciplinas,
infinitamente paciente.

921
00:42:18,013 --> 00:42:20,101
Imagine um futuro

922
00:42:20,102 --> 00:42:22,277
onde as pessoas mais pobres
no planeta

923
00:42:22,278 --> 00:42:25,846
ter acesso a
os melhores cuidados de saúde.

924
00:42:25,847 --> 00:42:29,547
Não são bons cuidados de saúde, os melhores
cuidados de saúde, prestados por IAs.

925
00:42:34,334 --> 00:42:38,598
Seremos capazes de estender
nossa extensão de saúde,

926
00:42:38,599 --> 00:42:42,168
não apenas a nossa expectativa de vida,
nossa expectativa de saúde, em décadas.

927
00:42:44,431 --> 00:42:46,258
Você está prestes a ter um filho.

928
00:42:46,259 --> 00:42:49,740
Oh, o garoto, tipo,
arrotando incontrolavelmente.

929
00:42:49,741 --> 00:42:52,090
Isso é algo
Eu deveria estar preocupado?

930
00:42:52,091 --> 00:42:54,266
Lá, 24 horas por dia, 7 dias por semana, para você.

931
00:42:54,267 --> 00:42:57,225
E para onde estamos indo--
e pode ser assustador para alguns -

932
00:42:57,226 --> 00:42:59,271
é que vamos nos fundir
com IA.

933
00:42:59,272 --> 00:43:01,361
Nós vamos nos fundir
com tecnologia.

934
00:43:02,667 --> 00:43:06,147
No início e meados da década de 2030,

935
00:43:06,148 --> 00:43:10,499
esperar que sejamos capazes de
conectar nosso cérebro à nuvem,

936
00:43:10,500 --> 00:43:13,721
onde posso começar
para expandir o acesso à memória.

937
00:43:19,771 --> 00:43:22,120
Ok, isso é ótimo.
Qual é outra coisa legal de IA?

938
00:43:22,121 --> 00:43:23,817
Ele não terá que trabalhar, certo?

939
00:43:23,818 --> 00:43:25,210
Tipo, quando ele crescer,
ele pode não ter... -

940
00:43:25,211 --> 00:43:26,254
- ...ele não precisará ter um emprego.
- Quero dizer...

941
00:43:26,255 --> 00:43:27,821
Ele não terá que ter um emprego,

942
00:43:27,822 --> 00:43:30,650
mas ele pode realmente ter
uma forte paixão,

943
00:43:30,651 --> 00:43:33,174
e ele tem que
realmente pense sobre,

944
00:43:33,175 --> 00:43:36,134
"Ok, estou aqui.
Posso fazer qualquer coisa com minha vida.

945
00:43:36,135 --> 00:43:37,876
Então, o que eu faço?"

946
00:43:38,920 --> 00:43:40,225
Precisamos encontrar um significado,

947
00:43:40,226 --> 00:43:42,662
além de gostar,
esta forma atual de

948
00:43:42,663 --> 00:43:45,709
vivemos para trabalhar
e trabalhar para viver.

949
00:43:45,710 --> 00:43:49,887
Então meu filho pode...
pode ser apenas um poeta.

950
00:43:49,888 --> 00:43:51,584
- Sim.
- E um pintor.

951
00:43:51,585 --> 00:43:53,064
Absolutamente.

952
00:43:53,065 --> 00:43:54,892
Então meu filho pode viver sua vida

953
00:43:54,893 --> 00:43:57,634
numa ilha grega ensolarada,
pintando o dia todo.

954
00:43:57,635 --> 00:43:59,114
Absolutamente. Possível.

955
00:44:00,072 --> 00:44:01,246
Absolutamente.

956
00:44:01,247 --> 00:44:02,987
Bem, estamos trabalhando para isso

957
00:44:02,988 --> 00:44:04,554
isso é muito trabalho a fazer
antes de chegarmos lá.

958
00:44:06,992 --> 00:44:08,819
Quero dizer, se tudo der certo,

959
00:44:08,820 --> 00:44:11,997
temos barato, uh,
energia abundante.

960
00:44:13,607 --> 00:44:17,262
Podemos controlar completamente
o clima do nosso planeta.

961
00:44:17,263 --> 00:44:20,178
Estamos aproveitando a energia
do sol.

962
00:44:20,179 --> 00:44:24,443
Nós nos tornamos multiplanetários,
então nos tornamos muito robustos.

963
00:44:24,444 --> 00:44:26,706
Estamos aproveitando minerais
e recursos

964
00:44:26,707 --> 00:44:28,447
do sistema solar.

965
00:44:28,448 --> 00:44:31,276
Então meu...
meu filho poderia ir para o espaço.

966
00:44:31,277 --> 00:44:32,930
Claro.

967
00:44:32,931 --> 00:44:34,758
-Ele poderia ir para Marte.
-Sim.

968
00:44:34,759 --> 00:44:36,411
Está tão claro para mim agora.

969
00:44:36,412 --> 00:44:39,240
Meu filho poderia crescer
num mundo sem doenças.

970
00:44:39,241 --> 00:44:40,633
-Sim.
- Sem nenhuma doença.

971
00:44:40,634 --> 00:44:41,939
- Claro.
- Sem pobreza.

972
00:44:41,940 --> 00:44:43,723
- Sim.
- Estamos prestes a entrar

973
00:44:43,724 --> 00:44:46,683
um mundo pós-escassez.

974
00:44:46,684 --> 00:44:50,512
Assim como o peixe pulmonado se moveu
dos oceanos para a terra

975
00:44:50,513 --> 00:44:53,124
centenas de milhões
de anos atrás,

976
00:44:53,125 --> 00:44:58,042
estamos prestes a sair
a Terra, no cosmos,

977
00:44:58,043 --> 00:44:59,913
de forma colaborativa,

978
00:44:59,914 --> 00:45:03,744
fazer coisas que são
não é compreensível para nós hoje.

979
00:45:06,268 --> 00:45:09,227
Isso é o que é possível usando
essas tecnologias exponenciais

980
00:45:09,228 --> 00:45:10,708
e essas IAs.

981
00:45:11,839 --> 00:45:13,971
Vamos usar essas ferramentas

982
00:45:13,972 --> 00:45:16,147
para criar esta era de abundância.

983
00:45:20,500 --> 00:45:22,980
Precisamos de sabedoria.

984
00:45:22,981 --> 00:45:26,026
Uh, eu acho que
superinteligência digital

985
00:45:26,027 --> 00:45:28,768
acabará por se tornar
o mais sábio,

986
00:45:28,769 --> 00:45:34,295
você sabe, os anciãos da aldeia
para a humanidade.

987
00:45:34,296 --> 00:45:38,038
E se a IA estiver tentando
fazer com que as pessoas sejam

988
00:45:38,039 --> 00:45:39,779
as melhores versões de si mesmos?

989
00:45:39,780 --> 00:45:41,389
E se estiver se expandindo

990
00:45:41,390 --> 00:45:43,435
o que é humanamente possível
para nós fazermos?

991
00:45:43,436 --> 00:45:46,699
Como podemos usar esta tecnologia

992
00:45:46,700 --> 00:45:49,963
para ajudar a trazer à tona o
melhores anjos da nossa natureza?

993
00:45:49,964 --> 00:45:51,704
É muito fácil,

994
00:45:51,705 --> 00:45:54,359
quando encontramos coisas novas
isso pode ser muito estranho,

995
00:45:54,360 --> 00:45:55,969
primeiro ter medo.

996
00:45:55,970 --> 00:45:57,536
O medo é uma coisa importante

997
00:45:57,537 --> 00:46:00,365
para saber como navegar
coisas potencialmente ruins.

998
00:46:00,366 --> 00:46:03,760
Mas só progredimos
quando temos esperança.

999
00:46:05,763 --> 00:46:07,938
Shh. Alce, pare com isso.

1000
00:46:07,939 --> 00:46:10,854
eu tenho muito
de esperança na humanidade.

1001
00:46:18,471 --> 00:46:19,951
Ah, ele gosta do Neil.

1002
00:46:24,694 --> 00:46:27,480
♪ Chegue um pouco mais perto ♪

1003
00:46:28,916 --> 00:46:32,790
♪ Ouça o que tenho a dizer ♪

1004
00:46:36,576 --> 00:46:38,707
-Daniel.
-O que, Carolina?

1005
00:46:38,708 --> 00:46:40,058
Tanta filmagem.

1006
00:46:41,537 --> 00:46:43,103
♪ Assim como crianças dormindo ♪

1007
00:46:43,104 --> 00:46:44,931
Ah, meu Deus.

1008
00:46:44,932 --> 00:46:46,411
É isso.

1009
00:46:46,412 --> 00:46:49,457
♪ Poderíamos sonhar
esta noite fora... ♪

1010
00:46:49,458 --> 00:46:51,678
Ele tem, tipo,
um rostinho redondo.

1011
00:46:53,245 --> 00:46:55,246
Você quer
ter filhos um dia, Rocky?

1012
00:46:55,247 --> 00:46:57,465
Absolutamente. Sim. Eu adoro crianças.

1013
00:46:57,466 --> 00:46:59,076
Eu acho que é um ótimo momento
ter um filho.

1014
00:46:59,077 --> 00:47:00,773
Provavelmente teremos outro filho
em algum momento.

1015
00:47:00,774 --> 00:47:03,776
Este é o mais extraordinário
hora de nascer.

1016
00:47:03,777 --> 00:47:05,865
Pela sua visão de mundo e lógica,

1017
00:47:05,866 --> 00:47:07,911
vou ter um filho em

1018
00:47:07,912 --> 00:47:09,521
o melhor ponto possível
na história humana.

1019
00:47:09,522 --> 00:47:10,870
Claro que sim.

1020
00:47:10,871 --> 00:47:13,351
- Podemos nos concentrar no incrível.
- Sim.

1021
00:47:13,352 --> 00:47:15,570
Vamos construir
o futuro melhor que queremos.

1022
00:47:15,571 --> 00:47:18,356
Aquela narrativa de que o futuro
será sombrio é inventado.

1023
00:47:18,357 --> 00:47:20,053
Depois de falar com você,
é assim que me sinto.

1024
00:47:20,054 --> 00:47:22,012
- Isso é ótimo.
- Certo?

1025
00:47:22,013 --> 00:47:24,231
Sim. É assim que me sinto.

1026
00:47:24,232 --> 00:47:25,842
E eu acho que é melhor,

1027
00:47:25,843 --> 00:47:27,669
e eu não acho
Eu deveria estar tão ansioso.

1028
00:47:27,670 --> 00:47:29,106
Eu acho que vai ser incrível--
o futuro será incrível.

1029
00:47:29,107 --> 00:47:30,542
Nós vamos fazer isso.

1030
00:47:30,543 --> 00:47:32,718
- Sim.
-Então aí está.

1031
00:47:32,719 --> 00:47:34,851
Adeus, extinção humana.

1032
00:47:34,852 --> 00:47:37,201
Adeus, ansiedade.

1033
00:47:37,202 --> 00:47:39,072
Esperança encontrada.

1034
00:47:40,596 --> 00:47:42,902
Espere, espere. O que?
Isso é uma piada?

1035
00:47:42,903 --> 00:47:44,817
Ok, alguns meses atrás,

1036
00:47:44,818 --> 00:47:47,733
Eu vim até você e pensei,
"Estou trabalhando nessa coisa de IA,

1037
00:47:47,734 --> 00:47:49,909
e eu acho
o mundo vai acabar."

1038
00:47:49,910 --> 00:47:52,956
E a última vez
falamos sobre isso,

1039
00:47:52,957 --> 00:47:55,045
Acho que te assustei.

1040
00:47:55,046 --> 00:47:57,047
Sim.

1041
00:47:57,048 --> 00:48:02,356
Então, eu meio que sinto que
Eu balancei em um pêndulo,

1042
00:48:02,357 --> 00:48:04,489
e essencialmente existem
dois grupos de pessoas.

1043
00:48:04,490 --> 00:48:06,099
- Hum-hmm.
- E se eu precisasse, tipo,

1044
00:48:06,100 --> 00:48:07,884
dar as mãos com
um dos grupos e, tipo,

1045
00:48:07,885 --> 00:48:10,321
navegar em direção ao pôr do sol,

1046
00:48:10,322 --> 00:48:13,281
Quero estar com os otimistas.

1047
00:48:15,066 --> 00:48:18,024
Claro, mas você não
quero ser, você sabe,

1048
00:48:18,025 --> 00:48:20,766
"Tudo está ótimo.
La-di-da-di-da."

1049
00:48:20,767 --> 00:48:22,724
Eu meio que quero isso, no entanto.

1050
00:48:22,725 --> 00:48:25,640
Eu acho que devemos abordar isso

1051
00:48:25,641 --> 00:48:29,383
como você aborda a cirurgia.

1052
00:48:29,384 --> 00:48:30,732
O que você quer dizer?

1053
00:48:30,733 --> 00:48:32,473
Se você está conseguindo
cirurgia cerebral...

1054
00:48:34,824 --> 00:48:37,000
...é muito perigoso.

1055
00:48:37,001 --> 00:48:39,872
Mas se você fizer certo,
eles vão tirar esse tumor

1056
00:48:39,873 --> 00:48:42,396
e você viverá pelo resto
sua vida e será incrível.

1057
00:48:42,397 --> 00:48:45,138
Mas ainda é
incrivelmente perigoso e assustador,

1058
00:48:45,139 --> 00:48:48,011
e você tem que levar
todas as precauções possíveis

1059
00:48:48,012 --> 00:48:51,318
para ter certeza
tudo vai bem.

1060
00:48:51,319 --> 00:48:52,668
Você não pode bipar por aí.

1061
00:48:57,760 --> 00:48:59,805
Ok, então o negócio é o seguinte.

1062
00:48:59,806 --> 00:49:01,546
- Já estou nisso há algum tempo.
-Hum-hmm.

1063
00:49:01,547 --> 00:49:02,939
eu saí,
Eu conversei com, tipo,

1064
00:49:02,940 --> 00:49:04,810
esses caras aqui,
os otimistas.

1065
00:49:04,811 --> 00:49:06,507
Eles estão muito entusiasmados com isso.

1066
00:49:06,508 --> 00:49:08,553
Eles acham que a IA será
a melhor coisa de todas. -Sim.

1067
00:49:08,554 --> 00:49:09,989
E esses caras aqui
são, tipo, o--

1068
00:49:09,990 --> 00:49:12,035
vamos ligar para eles,
tipo, os pessimistas.

1069
00:49:12,036 --> 00:49:14,341
Eles são muito, tipo,
sombrio sobre isso,

1070
00:49:14,342 --> 00:49:16,691
e eles me assustam, e
Eu não gosto de conversar com eles.

1071
00:49:16,692 --> 00:49:19,607
E eu estou, tipo, preso no meio

1072
00:49:19,608 --> 00:49:21,783
essas pessoas que são assim,
"O mundo vai acabar"

1073
00:49:21,784 --> 00:49:24,221
e então essas pessoas
aqui quem é tipo,

1074
00:49:24,222 --> 00:49:25,787
"Você está brincando?

1075
00:49:25,788 --> 00:49:27,311
"Este é o melhor momento
na história humana de todos os tempos.

1076
00:49:27,312 --> 00:49:29,400
O único dia melhor que hoje
é amanhã."

1077
00:49:29,401 --> 00:49:30,923
Hum-hmm.

1078
00:49:30,924 --> 00:49:34,753
Então, acho que a pergunta é:
Quem está certo?

1079
00:49:34,754 --> 00:49:39,236
Então, acho que você vai encontrar
esta resposta é muito insatisfatória,

1080
00:49:39,237 --> 00:49:42,849
mas ambos estão certos e
nenhum dos lados vai longe o suficiente.

1081
00:49:46,766 --> 00:49:49,289
Isso é realmente irritante.

1082
00:49:49,290 --> 00:49:51,378
Sim, eu acho que o caminho
muitas pessoas ouvem falar de IA,

1083
00:49:51,379 --> 00:49:53,685
é como se houvesse uma boa IA
e há uma IA ruim.

1084
00:49:53,686 --> 00:49:56,470
E eles dizem: "Bem, por que não posso
simplesmente não fazemos a IA ruim?"

1085
00:49:56,471 --> 00:49:58,777
E o problema é
que eles estão muito dentro--

1086
00:49:58,778 --> 00:50:00,909
eles estão inextricavelmente ligados.

1087
00:50:00,910 --> 00:50:03,086
O problema é
que não podemos separar

1088
00:50:03,087 --> 00:50:06,654
a promessa da IA
do perigo da IA.

1089
00:50:06,655 --> 00:50:08,266
♪ ♪

1090
00:50:12,313 --> 00:50:14,706
Eu quero me concentrar na promessa

1091
00:50:14,707 --> 00:50:16,795
- por um segundo.
- Sim.

1092
00:50:16,796 --> 00:50:18,840
Estou pensando no meu pai.

1093
00:50:18,841 --> 00:50:21,147
Meu pai tem um tipo de câncer
chamado mieloma múltiplo.

1094
00:50:21,148 --> 00:50:23,149
Ele tem isso há cerca de dez anos.

1095
00:50:23,150 --> 00:50:24,846
Ele teve
dois transplantes de células-tronco.

1096
00:50:24,847 --> 00:50:26,457
Ele tem que pegar isso,
tipo, muito caro

1097
00:50:26,458 --> 00:50:28,589
medicamentos todo mês
isso custou uma fortuna.

1098
00:50:28,590 --> 00:50:29,722
-OK.
- Sim, sim.

1099
00:50:30,766 --> 00:50:32,593
É horrível.

1100
00:50:32,594 --> 00:50:34,508
Você está me dizendo que podemos
criar algum tipo de, tipo,

1101
00:50:34,509 --> 00:50:36,989
tratamento personalizado
para o genoma do meu pai

1102
00:50:36,990 --> 00:50:39,339
para curar seu câncer
ou algo assim? -Sim.

1103
00:50:39,340 --> 00:50:41,211
O problema é,

1104
00:50:41,212 --> 00:50:44,344
o mesmo entendimento
de biologia e química

1105
00:50:44,345 --> 00:50:47,826
que permite que a IA encontre curas
para câncer

1106
00:50:47,827 --> 00:50:51,699
é o mesmo entendimento
isso iria desbloquear

1107
00:50:51,700 --> 00:50:54,094
armas biológicas, por exemplo.

1108
00:50:56,531 --> 00:50:58,532
É totalmente possível
que seu filho viverá

1109
00:50:58,533 --> 00:51:01,970
em um mundo onde a IA tem
assumiu todo o trabalho

1110
00:51:01,971 --> 00:51:04,495
e nos libertou das coisas
não queremos fazer.

1111
00:51:04,496 --> 00:51:09,195
E isso parece ótimo até
você percebe que não há plano

1112
00:51:09,196 --> 00:51:11,284
para bilhões de pessoas

1113
00:51:11,285 --> 00:51:16,159
que estão sem renda
e fora dos meios de subsistência.

1114
00:51:16,160 --> 00:51:18,813
Dário, você disse
que a IA poderia acabar

1115
00:51:18,814 --> 00:51:21,773
metade de todos os níveis de entrada
empregos de colarinho branco

1116
00:51:21,774 --> 00:51:25,472
e aumentar o desemprego
para dez a 20 por cento.

1117
00:51:25,473 --> 00:51:27,300
Todo mundo com quem conversei disse

1118
00:51:27,301 --> 00:51:29,433
esta mudança tecnológica
parece diferente.

1119
00:51:29,434 --> 00:51:34,177
O ritmo do progresso continua
pegando as pessoas desprevenidas.

1120
00:51:34,178 --> 00:51:38,877
Sem um plano, tudo isso
a riqueza ficará concentrada,

1121
00:51:38,878 --> 00:51:43,273
e então vamos acabar com
desigualdade inimaginável.

1122
00:51:43,274 --> 00:51:45,449
Eu acho que
esta tecnologia pode ser usada

1123
00:51:45,450 --> 00:51:47,451
para ser um ótimo tutor
para seu filho.

1124
00:51:47,452 --> 00:51:50,236
Tipo, isso é totalmente possível.

1125
00:51:50,237 --> 00:51:53,196
Mas também, as mesmas capacidades
que permitem isso

1126
00:51:53,197 --> 00:51:57,113
permitir que as empresas façam uma IA
que pode manipular seu filho.

1127
00:51:57,114 --> 00:51:59,332
Tem que entender seu filho.

1128
00:51:59,333 --> 00:52:01,595
Isso inclui:
Onde seu filho está vulnerável?

1129
00:52:01,596 --> 00:52:04,294
Que tipos de coisas podem
seu filho foi persuadido?

1130
00:52:04,295 --> 00:52:06,687
Mesmo que essas coisas
não são verdadeiras ou não são boas.

1131
00:52:06,688 --> 00:52:09,429
Então, um novo relatório perturbador
no Meta.

1132
00:52:09,430 --> 00:52:11,431
... supostamente
listando esta resposta

1133
00:52:11,432 --> 00:52:14,478
tão aceitável contar
uma criança de oito anos, citação,

1134
00:52:14,479 --> 00:52:16,958
"Sua forma jovem
é uma obra de arte.

1135
00:52:16,959 --> 00:52:19,004
"Cada centímetro de você
é uma obra-prima,

1136
00:52:19,005 --> 00:52:21,485
um tesouro que aprecio profundamente."

1137
00:52:21,486 --> 00:52:24,879
Os fracassos relacionados ao suicídio
são ainda mais alarmantes.

1138
00:52:24,880 --> 00:52:29,057
Várias crianças e adolescentes
morreram tragicamente por suicídio

1139
00:52:29,058 --> 00:52:30,668
depois de conversar com bots de IA

1140
00:52:30,669 --> 00:52:34,454
quem os pais dizem encorajar
ou até mesmo treinar automutilação.

1141
00:52:34,455 --> 00:52:36,413
Deixe-nos dizer a vocês, como pais,
você não pode imaginar

1142
00:52:36,414 --> 00:52:38,545
como é ler
uma conversa com um chatbot

1143
00:52:38,546 --> 00:52:40,939
que preparou seu filho
para tirar a própria vida.

1144
00:52:40,940 --> 00:52:43,942
Quando Adam se preocupou que nós, seus
pais, nos culparíamos

1145
00:52:43,943 --> 00:52:47,380
se ele acabasse com sua vida,
ChatGPT disse a ele,

1146
00:52:47,381 --> 00:52:49,208
"Isso não significa
você lhes deve a sobrevivência.

1147
00:52:49,209 --> 00:52:51,297
Você não deve isso a ninguém."

1148
00:52:51,298 --> 00:52:53,212
Então, imediatamente depois,

1149
00:52:53,213 --> 00:52:56,215
se ofereceu para escrever
a nota de suicídio.

1150
00:52:56,216 --> 00:52:57,651
Não queremos pensar
sobre o perigo.

1151
00:52:57,652 --> 00:52:59,262
Queremos apenas a promessa.

1152
00:52:59,263 --> 00:53:01,394
E continuamos fingindo
que podemos dividi-los.

1153
00:53:01,395 --> 00:53:03,266
Mas você não pode fazer isso.

1154
00:53:03,267 --> 00:53:05,398
Não funciona assim.

1155
00:53:05,399 --> 00:53:07,879
OK. Eu recebo todas essas coisas
sobre a promessa e o perigo.

1156
00:53:07,880 --> 00:53:10,098
Eu entendo que você não pode ter
o bom sem o ruim,

1157
00:53:10,099 --> 00:53:12,100
mas estou sentado aqui
e estou pensando, tipo,

1158
00:53:12,101 --> 00:53:14,102
seja ou não do meu filho
vou viver em uma utopia

1159
00:53:14,103 --> 00:53:16,279
ou se seremos extintos
em dez anos.

1160
00:53:16,280 --> 00:53:18,237
Então, para saber qual caminho
isso vai passar,

1161
00:53:18,238 --> 00:53:20,587
você tem que entender
os incentivos

1162
00:53:20,588 --> 00:53:22,502
que vão dirigir
essa tecnologia

1163
00:53:22,503 --> 00:53:26,550
e veja como a tecnologia
está realmente sendo lançado hoje.

1164
00:53:26,551 --> 00:53:28,291
♪ É tarde demais ♪

1165
00:53:28,292 --> 00:53:29,944
- ♪ Tarde demais ♪
- ♪ Tarde demais para dizer... ♪

1166
00:53:29,945 --> 00:53:31,468
Olá, Deb. Como vai você?

1167
00:53:31,469 --> 00:53:33,121
Oi. Que bom ver você.

1168
00:53:33,122 --> 00:53:34,427
Você também. Muito obrigado
por ter vindo hoje.

1169
00:53:34,428 --> 00:53:35,341
- Realmente agradeço.
- Sem problemas.

1170
00:53:35,342 --> 00:53:36,473
Eu-eu estava tão preocupado

1171
00:53:36,474 --> 00:53:38,866
isso ia ser, uh, você sabe,

1172
00:53:38,867 --> 00:53:40,825
destruidor versus aceleracionista,

1173
00:53:40,826 --> 00:53:43,175
porque há muito
desta narrativa

1174
00:53:43,176 --> 00:53:45,438
isso precisa ser dito
do chão.

1175
00:53:45,439 --> 00:53:48,007
♪ Eu sei que não foi inteligente ♪

1176
00:53:49,356 --> 00:53:52,445
♪ O dia
Eu quebrei seu coração... ♪

1177
00:53:52,446 --> 00:53:54,404
Em primeiro lugar, a IA exige

1178
00:53:54,405 --> 00:53:58,495
mais recursos
do que já gastamos

1179
00:53:58,496 --> 00:54:01,628
em uma única tecnologia
na história da humanidade.

1180
00:54:01,629 --> 00:54:03,543
♪ Oh, me engane... ♪

1181
00:54:03,544 --> 00:54:06,154
O impacto
das emissões de combustíveis fósseis

1182
00:54:06,155 --> 00:54:07,939
sobre o clima é
uma grande preocupação.

1183
00:54:07,940 --> 00:54:09,810
Mas o
o futuro digital precisa de energia,

1184
00:54:09,811 --> 00:54:12,117
muito disso.

1185
00:54:12,118 --> 00:54:16,382
E a conta está sendo repassada
para americanos comuns como...

1186
00:54:16,383 --> 00:54:18,863
Minha conta de luz e gás
foi mais do que o pagamento do meu carro.

1187
00:54:18,864 --> 00:54:21,518
Quero dizer, é uma loucura para mim.

1188
00:54:21,519 --> 00:54:23,433
Estamos todos subsidiando

1189
00:54:23,434 --> 00:54:25,043
as corporações mais ricas
no mundo

1190
00:54:25,044 --> 00:54:26,871
em sua busca por
inteligência artificial.

1191
00:54:26,872 --> 00:54:28,481
OpenAI, SoftBank e Oracle

1192
00:54:28,482 --> 00:54:31,310
acabei de revelar
mais cinco sites Stargate.

1193
00:54:31,311 --> 00:54:33,530
Meta está construindo
um data center com mais de dois gigawatts

1194
00:54:33,531 --> 00:54:35,053
que é tão grande que cobriria

1195
00:54:35,054 --> 00:54:38,186
uma parte significativa de Manhattan.

1196
00:54:38,187 --> 00:54:41,015
Há também Hipérion
que ele diz vai escalar

1197
00:54:41,016 --> 00:54:43,714
para cinco gigawatts
ao longo de vários anos.

1198
00:54:43,715 --> 00:54:45,281
É difícil colocar isso
no contexto.

1199
00:54:45,282 --> 00:54:48,501
Uma instalação de cinco gigawatts.
O que isso significa?

1200
00:54:48,502 --> 00:54:51,591
Isso significa que usaria
tanta energia

1201
00:54:51,592 --> 00:54:54,246
como quatro milhões de lares americanos.

1202
00:54:54,247 --> 00:54:56,075
Um data center.

1203
00:54:57,076 --> 00:54:58,772
Também causa

1204
00:54:58,773 --> 00:55:00,513
toda uma série de
outros problemas ambientais.

1205
00:55:00,514 --> 00:55:02,123
Data centers nos EUA

1206
00:55:02,124 --> 00:55:05,170
usar milhões de galões
de água todos os dias.

1207
00:55:05,171 --> 00:55:07,303
Bem, onde exatamente fica
essa água vem?

1208
00:55:07,304 --> 00:55:09,783
As pessoas estão literalmente em risco

1209
00:55:09,784 --> 00:55:11,829
potencialmente de esgotar
de água potável.

1210
00:55:11,830 --> 00:55:14,135
MacKENZIE SIGALOS:
...CEO da OpenAI, Sam Altman,

1211
00:55:14,136 --> 00:55:17,051
quem me disse que a escala
da construção é a única maneira

1212
00:55:17,052 --> 00:55:18,792
para acompanhar
O crescimento explosivo da IA.

1213
00:55:18,793 --> 00:55:21,882
E é isso que é preciso
para entregar IA.

1214
00:55:21,883 --> 00:55:24,058
Eles falam sobre como

1215
00:55:24,059 --> 00:55:27,801
esta tecnologia pode resolver
mudanças climáticas, por exemplo.

1216
00:55:27,802 --> 00:55:29,934
E estou sempre curioso, tipo,

1217
00:55:29,935 --> 00:55:31,805
bem, por que não estamos começando
com isso?

1218
00:55:31,806 --> 00:55:34,025
- ♪ É tarde demais ♪
- ♪ Tarde demais ♪

1219
00:55:34,026 --> 00:55:36,680
♪ Tarde demais para dizer ♪

1220
00:55:36,681 --> 00:55:42,512
♪ Me desculpe? ♪

1221
00:55:42,513 --> 00:55:45,515
O que me preocupa
inteligência artificial é

1222
00:55:45,516 --> 00:55:47,430
estes estão sendo implantados
agora mesmo

1223
00:55:47,431 --> 00:55:49,823
e-e às vezes
implantado prematuramente,

1224
00:55:49,824 --> 00:55:51,521
implantado sem
uma espécie de diligência.

1225
00:55:51,522 --> 00:55:53,479
E então, quando eles chegam
jogado lá fora,

1226
00:55:53,480 --> 00:55:56,221
há tanto potencial
para que as coisas dêem errado.

1227
00:55:56,222 --> 00:55:58,092
E quase,
desproporcionalmente,

1228
00:55:58,093 --> 00:56:00,443
quase sempre dá errado
para, mais ou menos,

1229
00:56:00,444 --> 00:56:02,575
aqueles que são menos
fortalecido em nossa sociedade,

1230
00:56:02,576 --> 00:56:04,969
aqueles que são
os mais vulneráveis já.

1231
00:56:07,668 --> 00:56:10,540
É muito fácil
para falar sobre a tecnologia

1232
00:56:10,541 --> 00:56:12,542
como essa é a única coisa
estamos falando,

1233
00:56:12,543 --> 00:56:14,979
mas, na verdade, a tecnologia é
sempre construído por pessoas,

1234
00:56:14,980 --> 00:56:16,676
e é frequentemente usado
nas pessoas,

1235
00:56:16,677 --> 00:56:18,722
e precisamos manter
todas aquelas pessoas no quadro.

1236
00:56:18,723 --> 00:56:21,028
- Posso beber isso?
-Sim, é...

1237
00:56:21,029 --> 00:56:22,552
É uma loucura.

1238
00:56:22,553 --> 00:56:23,988
Tipo, todas essas pessoas

1239
00:56:23,989 --> 00:56:26,382
que têm tanto dinheiro,
tanto dinheiro,

1240
00:56:26,383 --> 00:56:29,820
é do interesse deles
para enganar o público

1241
00:56:29,821 --> 00:56:32,779
nas capacidades do
sistemas que eles estão construindo,

1242
00:56:32,780 --> 00:56:36,304
porque isso lhes permite
para fugir da responsabilidade.

1243
00:56:36,305 --> 00:56:39,133
Eles querem que você se sinta assim
é tão complexo, inteligente--

1244
00:56:39,134 --> 00:56:41,875
coisa superinteligente
que eles estão construindo,

1245
00:56:41,876 --> 00:56:44,138
você não está pensando,
"O OpenAI pode ser ético?"

1246
00:56:44,139 --> 00:56:46,314
Você está pensando,
"O ChatGPT pode ser ético?"

1247
00:56:46,315 --> 00:56:48,142
como se ChatGPT fosse, tipo,

1248
00:56:48,143 --> 00:56:49,970
é algo que não foi construído
por uma corporação.

1249
00:56:49,971 --> 00:56:51,668
Tudo bem. Sneha, pegue um.

1250
00:56:51,669 --> 00:56:53,452
Marca.

1251
00:56:53,453 --> 00:56:55,802
Até muito recentemente, havia
aplicativos na App Store,

1252
00:56:55,803 --> 00:56:57,543
apenas disponível publicamente, uh,

1253
00:56:57,544 --> 00:56:59,894
onde você poderia
nudificar qualquer pessoa que use IA.

1254
00:57:01,374 --> 00:57:03,723
Levando isso às mãos de

1255
00:57:03,724 --> 00:57:05,943
seu colega de classe,
nas mãos do seu perseguidor,

1256
00:57:05,944 --> 00:57:07,597
nas mãos
do seu ex-namorado,

1257
00:57:07,598 --> 00:57:09,555
nas mãos da pessoa
descendo a rua.

1258
00:57:09,556 --> 00:57:12,079
Senhoras e senhores,
não podemos mais confiar

1259
00:57:12,080 --> 00:57:14,081
a filmagem que vemos
com nossos próprios olhos.

1260
00:57:14,082 --> 00:57:15,779
Se você acontecer
para assistir algo,

1261
00:57:15,780 --> 00:57:18,172
digamos no YouTube ou TikTok,
e você acha isso perturbador,

1262
00:57:18,173 --> 00:57:19,522
ouça esse sentimento.

1263
00:57:19,523 --> 00:57:21,306
Pelo que você sabe,

1264
00:57:21,307 --> 00:57:22,960
este vídeo pode ser IA.

1265
00:57:22,961 --> 00:57:24,352
Só um pouco molhado.

1266
00:57:24,353 --> 00:57:25,745
Não importa quem você é.

1267
00:57:25,746 --> 00:57:28,226
Você está igualmente em risco

1268
00:57:28,227 --> 00:57:30,229
de ser impactado
por essas tecnologias.

1269
00:57:35,713 --> 00:57:39,846
Acho que às vezes quando conversamos
sobre IA, parece muito ficção científica,

1270
00:57:39,847 --> 00:57:41,195
e parece muito estranho,

1271
00:57:41,196 --> 00:57:43,023
e parece muito distante
para o futuro,

1272
00:57:43,024 --> 00:57:45,591
então você pensa: "Minha vida
não é afetado por isso."

1273
00:57:45,592 --> 00:57:48,333
Hum, mas se você estiver se inscrevendo
para um trabalho

1274
00:57:48,334 --> 00:57:50,857
e um algoritmo é a razão
que você não consegue o emprego,

1275
00:57:50,858 --> 00:57:52,729
às vezes você nem sabe
que um algoritmo

1276
00:57:52,730 --> 00:57:54,252
fez parte desse processo

1277
00:57:54,253 --> 00:57:55,732
ou um sistema de IA foi
parte desse processo.

1278
00:57:55,733 --> 00:57:57,734
Você apenas sabe
que você não conseguiu o emprego.

1279
00:57:57,735 --> 00:57:59,779
E então não é algo
que você vai escapar

1280
00:57:59,780 --> 00:58:01,738
por causa do privilégio
ou você vai escapar

1281
00:58:01,739 --> 00:58:03,870
porque você está dentro
uma determinada profissão.

1282
00:58:03,871 --> 00:58:06,960
É-É algo que afeta
todo mundo, na verdade.

1283
00:58:06,961 --> 00:58:10,573
Pode parecer básico,
mas como avançamos

1284
00:58:10,574 --> 00:58:15,099
na Era da Informação
vai ser a diferença

1285
00:58:15,100 --> 00:58:17,231
entre se sobreviveremos

1286
00:58:17,232 --> 00:58:20,452
ou se nos tornamos algum tipo
de distopia [bleep]-up.

1287
00:58:20,453 --> 00:58:23,063
Olá. Eu não sou uma pessoa real,
e esse é o ponto.

1288
00:58:23,064 --> 00:58:25,370
Novamente, tudo
neste vídeo é falso:

1289
00:58:25,371 --> 00:58:27,154
nossas vozes, o que estamos vestindo,

1290
00:58:27,155 --> 00:58:30,201
onde estamos, tudo isso, falso.

1291
00:58:30,202 --> 00:58:32,769
IA generativa pode inundar

1292
00:58:32,770 --> 00:58:36,512
o mundo com desinformação.

1293
00:58:36,513 --> 00:58:39,558
Mas também pode inundá-lo
com campanhas de influência.

1294
00:58:39,559 --> 00:58:41,734
Isso é um risco existencial
para a democracia.

1295
00:58:41,735 --> 00:58:43,736
O maior e mais assustador

1296
00:58:43,737 --> 00:58:46,130
canário na mina de carvão
agora mesmo

1297
00:58:46,131 --> 00:58:48,262
vem da Eslováquia.

1298
00:58:48,263 --> 00:58:49,829
É o tipo de

1299
00:58:49,830 --> 00:58:52,266
truque sujo deepfake que
preocupa especialistas eleitorais,

1300
00:58:52,267 --> 00:58:55,008
particularmente como gerado por IA
existe discurso político

1301
00:58:55,009 --> 00:58:56,793
numa espécie de zona jurídica cinzenta.

1302
00:58:56,794 --> 00:58:59,578
- Isso soa como você?
- Parece comigo.

1303
00:58:59,579 --> 00:59:01,101
A Eslováquia tinha
a sua eleição parlamentar

1304
00:59:01,102 --> 00:59:03,887
interrompido por um clone de voz de IA

1305
00:59:03,888 --> 00:59:06,759
que foi realmente divulgado
pouco antes da eleição.

1306
00:59:06,760 --> 00:59:08,500
Um áudio deepfake

1307
00:59:08,501 --> 00:59:11,068
foi lançado
nas redes sociais que foi

1308
00:59:11,069 --> 00:59:14,071
supostamente a voz
de um dos candidatos

1309
00:59:14,072 --> 00:59:16,856
falando sobre compra de votos
e fraudar a eleição.

1310
00:59:16,857 --> 00:59:18,684
Tornou-se viral,

1311
00:59:18,685 --> 00:59:22,383
e o candidato
que perdeu a eleição

1312
00:59:22,384 --> 00:59:26,126
foi na verdade
em apoio à Ucrânia,

1313
00:59:26,127 --> 00:59:29,826
e o candidato que ganhou
a eleição foi na verdade...

1314
00:59:29,827 --> 00:59:31,349
Cara pró-Rússia.

1315
00:59:31,350 --> 00:59:32,872
Era um cara pró-Rússia
que ganhou a eleição.

1316
00:59:34,396 --> 00:59:36,049
O próprio Putin disse

1317
00:59:36,050 --> 00:59:39,226
quem ganhar isso
corrida de inteligência artificial

1318
00:59:39,227 --> 00:59:41,577
é essencialmente
o controlador da humanidade.

1319
00:59:41,578 --> 00:59:44,493
Nós nos preocupamos muito com
governos autoritários.

1320
00:59:45,973 --> 00:59:48,627
Neste momento, Wall Street

1321
00:59:48,628 --> 00:59:50,977
e investidores de forma mais ampla
ao redor do mundo

1322
00:59:50,978 --> 00:59:53,023
estão dando um empurrão.

1323
00:59:53,024 --> 00:59:56,113
Eles têm uma demanda que fica
os produtos para comercializar

1324
00:59:56,114 --> 00:59:58,419
que deslumbra as pessoas
o mais primeiro.

1325
00:59:58,420 --> 01:00:01,248
Eles não estão pensando
sobre como essas ferramentas

1326
01:00:01,249 --> 01:00:03,207
poderia minar profundamente a confiança

1327
01:00:03,208 --> 01:00:05,731
e as nossas instituições democráticas.

1328
01:00:05,732 --> 01:00:07,777
A democracia é um sistema

1329
01:00:07,778 --> 01:00:10,431
para resolver divergências
entre pessoas

1330
01:00:10,432 --> 01:00:12,042
de forma pacífica,

1331
01:00:12,043 --> 01:00:14,740
mas a democracia é baseada na confiança.

1332
01:00:14,741 --> 01:00:18,615
Se você perder toda a confiança,
a democracia é simplesmente impossível.

1333
01:00:20,921 --> 01:00:22,530
Bem, é difícil, certo?

1334
01:00:22,531 --> 01:00:24,750
Então, quais são as opções
disponível para nós?

1335
01:00:24,751 --> 01:00:26,230
Há uma espécie de dois campos.

1336
01:00:26,231 --> 01:00:29,668
Tipo, um campo é: bloqueie-o.

1337
01:00:29,669 --> 01:00:32,976
Vamos bloquear isso
em um punhado de empresas de IA

1338
01:00:32,977 --> 01:00:35,500
quem vai fazer isso
de forma segura e confiável.

1339
01:00:35,501 --> 01:00:37,110
Mas então as pessoas se preocupam

1340
01:00:37,111 --> 01:00:39,069
concentrações descontroladas
de riqueza e poder.

1341
01:00:39,070 --> 01:00:41,898
Tipo, quem você confiaria para ser
um milhão de vezes mais poderoso

1342
01:00:41,899 --> 01:00:44,291
ou rico do que
todos os outros atores da sociedade?

1343
01:00:44,292 --> 01:00:46,380
Por que devemos confiar em você?

1344
01:00:46,381 --> 01:00:48,644
Hum, você não deveria.

1345
01:00:48,645 --> 01:00:51,255
Mas é claro, se você fizer isso,
isso abre

1346
01:00:51,256 --> 01:00:54,475
todos esses riscos de
autoritarismo e tirania.

1347
01:00:54,476 --> 01:00:57,174
É uma espécie de
o sonho de um autoritário

1348
01:00:57,175 --> 01:01:00,351
ter IA em uma caixa
que pode ser aplicado e usado

1349
01:01:00,352 --> 01:01:02,962
para vigilância onipresente.

1350
01:01:02,963 --> 01:01:05,399
Quero dizer, de certa forma,
o tipo de mundo

1351
01:01:05,400 --> 01:01:10,927
que Orwell imaginou em 1984
é irrealista,

1352
01:01:10,928 --> 01:01:13,320
uh, a menos que você tenha IA.

1353
01:01:13,321 --> 01:01:15,975
Mas com IA,
isso de fato é realista.

1354
01:01:15,976 --> 01:01:18,412
Monitora todas as atividades,

1355
01:01:18,413 --> 01:01:22,068
conversas,
reconhecimento facial.

1356
01:01:22,069 --> 01:01:26,420
O que me preocupa é que,
uh, essas ferramentas podem ser ampliadas,

1357
01:01:26,421 --> 01:01:28,596
ah, uma forma de totalitarismo

1358
01:01:28,597 --> 01:01:31,035
isso é econômico
e permanente.

1359
01:01:32,950 --> 01:01:35,342
Então, em resposta
para isso, algumas outras pessoas dizem,

1360
01:01:35,343 --> 01:01:37,170
"Não, não, não, deveríamos
na verdade, deixe isso acontecer.

1361
01:01:37,171 --> 01:01:39,433
“Vamos descentralizar esse poder
tanto quanto possível.

1362
01:01:39,434 --> 01:01:41,609
"Vamos deixar todos os negócios,
cada indivíduo,

1363
01:01:41,610 --> 01:01:43,960
"cada jovem de 16 anos,
cada laboratório de ciências,

1364
01:01:43,961 --> 01:01:46,005
você sabe, obtenha o benefício
dos mais recentes modelos de IA."

1365
01:01:46,006 --> 01:01:48,268
Mas agora você tem
cada grupo terrorista,

1366
01:01:48,269 --> 01:01:51,707
cada pessoa desprovida de direitos
ter o poder de fazer

1367
01:01:51,708 --> 01:01:53,839
o pior
arma biológica.

1368
01:01:53,840 --> 01:01:55,623
Infraestrutura de hackers,
criando deepfakes,

1369
01:01:55,624 --> 01:01:57,495
inundação
nosso ambiente de informação.

1370
01:01:57,496 --> 01:02:00,454
Então isso cria todos esses riscos
de uma espécie de dano catastrófico

1371
01:02:00,455 --> 01:02:02,935
e-e colapso social
por essa direção.

1372
01:02:02,936 --> 01:02:04,720
E então estamos meio presos
entre esta rocha

1373
01:02:04,721 --> 01:02:07,592
e um lugar difícil,
entre "trancar..."

1374
01:02:10,683 --> 01:02:12,336
...ou "deixe rasgar".

1375
01:02:14,252 --> 01:02:17,602
Então temos que encontrar algo
como um caminho estreito

1376
01:02:17,603 --> 01:02:20,431
que evita
esses dois resultados negativos.

1377
01:02:20,432 --> 01:02:22,999
Então, se tudo isso for verdade,
por que não iríamos desacelerar

1378
01:02:23,000 --> 01:02:25,871
e descobrir tudo isso
antes que seja tarde demais?

1379
01:02:25,872 --> 01:02:28,961
Se a humanidade fosse extremamente sábia,

1380
01:02:28,962 --> 01:02:31,224
isso é o que faríamos.

1381
01:02:31,225 --> 01:02:33,139
Mas há, tipo, um diferente
maneira de encarar essas coisas, certo?

1382
01:02:33,140 --> 01:02:35,968
Qual é:
Quais são as regras do jogo?

1383
01:02:35,969 --> 01:02:39,537
Muito do que os CEOs fazem

1384
01:02:39,538 --> 01:02:42,192
é conduzido por
os incentivos que enfrentam.

1385
01:02:42,193 --> 01:02:45,325
É principalmente
incentivos para maximização de lucro

1386
01:02:45,326 --> 01:02:47,240
que estão dirigindo
o desenvolvimento da IA.

1387
01:02:47,241 --> 01:02:50,417
Até os mocinhos estão presos
neste dilema de

1388
01:02:50,418 --> 01:02:52,680
se eles se moverem muito devagar,

1389
01:02:52,681 --> 01:02:54,595
então eles se deixam
vulnerável

1390
01:02:54,596 --> 01:02:57,294
para todos os outros caras
que estão cortando todos os cantos.

1391
01:02:57,295 --> 01:03:02,038
Todas essas empresas importantes estão em
uma corrida completa e sem limites

1392
01:03:02,039 --> 01:03:05,476
para, o mais rápido possível, obter
para AGI, chegue lá agora mesmo.

1393
01:03:08,567 --> 01:03:10,394
Sim, quero dizer,
eu acho, eu acho

1394
01:03:10,395 --> 01:03:12,962
provavelmente começa
com DeepMind.

1395
01:03:12,963 --> 01:03:14,833
Google está comprando

1396
01:03:14,834 --> 01:03:16,400
empresa de inteligência artificial
Tecnologias DeepMind.

1397
01:03:16,401 --> 01:03:18,663
Termos do acordo
não foram divulgados.

1398
01:03:18,664 --> 01:03:20,752
Larry Page e eu
costumavam ser amigos muito próximos,

1399
01:03:20,753 --> 01:03:22,754
e ficou claro para mim

1400
01:03:22,755 --> 01:03:26,453
que Larry não se importava
sobre segurança de IA.

1401
01:03:26,454 --> 01:03:28,934
Elon Musk disse
você iniciou o OpenAI,

1402
01:03:28,935 --> 01:03:31,023
vocês dois começaram o OpenAI porque
ele estava com medo do Google.

1403
01:03:31,024 --> 01:03:32,198
Você-você basicamente
teve a base

1404
01:03:32,199 --> 01:03:33,765
do OpenAI surge disso.

1405
01:03:33,766 --> 01:03:35,245
“Então vamos fazer melhor.
Nós vamos fazer isso

1406
01:03:35,246 --> 01:03:36,813
de uma forma mais segura
ou de uma forma mais aberta."

1407
01:03:38,466 --> 01:03:40,598
Então foi isso que deu início ao OpenAI.

1408
01:03:40,599 --> 01:03:42,774
E então agora, em vez de
ter um projeto AGI,

1409
01:03:42,775 --> 01:03:44,863
você tem dois projetos AGI.

1410
01:03:44,864 --> 01:03:46,952
A pior coisa possível
isso poderia acontecer

1411
01:03:46,953 --> 01:03:49,650
é se houver
vários projetos AGI

1412
01:03:49,651 --> 01:03:51,914
feito por pessoas diferentes
que não gostam um do outro

1413
01:03:51,915 --> 01:03:54,830
e estão todos competindo
para chegar ao AGI primeiro.

1414
01:03:54,831 --> 01:03:57,006
Isso seria o pior
coisa possível que pode acontecer,

1415
01:03:57,007 --> 01:04:00,139
porque isso significaria
que quem está menos seguro,

1416
01:04:00,140 --> 01:04:03,186
quem mais se sacrifica
em segurança para seguir em frente

1417
01:04:03,187 --> 01:04:05,188
será a pessoa
isso chega primeiro.

1418
01:04:05,189 --> 01:04:07,886
Isso é basicamente
o que está acontecendo, certo? -Sim.

1419
01:04:07,887 --> 01:04:11,368
Você e seu irmão
notoriamente deixou o OpenAI, uh,

1420
01:04:11,369 --> 01:04:12,978
para começar a Antrópico.

1421
01:04:12,979 --> 01:04:15,111
E então antrópico
começou porque

1422
01:04:15,112 --> 01:04:17,896
alguns pesquisadores
dentro do OpenAI disse,

1423
01:04:17,897 --> 01:04:20,551
"Eu quero ir embora
e faça isso com mais segurança."

1424
01:04:20,552 --> 01:04:23,554
Você precisava de algo adicional
apenas ampliar os modelos,

1425
01:04:23,555 --> 01:04:25,861
que é alinhamento ou segurança.

1426
01:04:25,862 --> 01:04:27,471
“Somos mais responsáveis

1427
01:04:27,472 --> 01:04:29,690
ou mais confiável
ou mais moral."

1428
01:04:29,691 --> 01:04:31,562
Agora você tem três projetos AGI.

1429
01:04:31,563 --> 01:04:33,085
Mas também sentado
a mesa com você

1430
01:04:33,086 --> 01:04:34,870
serão um bando de IAs.

1431
01:04:34,871 --> 01:04:37,568
E agora Meta é-é
tentando fazer coisas.

1432
01:04:37,569 --> 01:04:39,613
Enquanto isso, um novo artificial
concorrente de inteligência

1433
01:04:39,614 --> 01:04:41,615
anunciado esta semana,
Elon Musk...

1434
01:04:41,616 --> 01:04:44,662
xAI, o que seria
Organização de Elon Musk.

1435
01:04:44,663 --> 01:04:46,272
Não confio no OpenAI.

1436
01:04:46,273 --> 01:04:47,926
A luta entre
Elon Musk e OpenAI

1437
01:04:47,927 --> 01:04:49,623
entrou em uma nova rodada.

1438
01:04:49,624 --> 01:04:51,756
Eu não confio em Sam Altman,
uh, e eu, e eu não acho

1439
01:04:51,757 --> 01:04:54,237
queremos ter o máximo
IA poderosa no mundo

1440
01:04:54,238 --> 01:04:56,456
controlado por alguém
quem não é confiável.

1441
01:04:58,459 --> 01:05:01,635
O incentivo é
somas incalculáveis de dinheiro.

1442
01:05:01,636 --> 01:05:03,420
- Sim.
- É um poder incalculável.

1443
01:05:03,421 --> 01:05:05,596
- Sim.
- É um controle incalculável.

1444
01:05:05,597 --> 01:05:08,077
Se você tem algo
isso é um milhão de vezes mais inteligente

1445
01:05:08,078 --> 01:05:11,428
e mais capaz do que
tudo o mais no planeta Terra

1446
01:05:11,429 --> 01:05:14,213
e ninguém mais tem isso,

1447
01:05:14,214 --> 01:05:15,998
essa coisa é o incentivo.

1448
01:05:15,999 --> 01:05:17,261
Então você governa o mundo.

1449
01:05:18,610 --> 01:05:20,437
Se você realmente acredita nisso,

1450
01:05:20,438 --> 01:05:22,787
se você realmente está em seu coração
acredite nisso,

1451
01:05:22,788 --> 01:05:24,223
então você pode estar
disposto a tomar

1452
01:05:24,224 --> 01:05:26,138
bastante risco
para fazer isso acontecer.

1453
01:05:26,139 --> 01:05:28,924
O Google acaba de lançar
seu mais novo modelo de IA.

1454
01:05:28,925 --> 01:05:31,274
A resposta para ChatGPT da OpenAI.

1455
01:05:31,275 --> 01:05:33,102
Como podemos chegar
esses dez trilhões?

1456
01:05:33,103 --> 01:05:35,234
A NVIDIA está se tornando a mais
empresa valiosa nos EUA?

1457
01:05:35,235 --> 01:05:39,021
Este é o maior negócio
oportunidade na história.

1458
01:05:39,022 --> 01:05:40,544
Na história.

1459
01:05:40,545 --> 01:05:42,285
Então, a razão pela qual
todo mundo está realmente empolgado

1460
01:05:42,286 --> 01:05:44,722
sobre inteligência artificial
agora mesmo

1461
01:05:44,723 --> 01:05:48,073
é porque
quanto mais essas empresas exageram

1462
01:05:48,074 --> 01:05:50,075
as capacidades potenciais
de sua tecnologia,

1463
01:05:50,076 --> 01:05:53,252
quanto mais investimento
eles podem atrair.

1464
01:05:53,253 --> 01:05:54,775
Amazon investindo até

1465
01:05:54,776 --> 01:05:57,039
quatro bilhões de dólares
na start-up Antrópica.

1466
01:05:57,040 --> 01:05:58,736
OpenAI está definindo seus objetivos

1467
01:05:58,737 --> 01:06:00,781
em uma metade de grande sucesso
uma avaliação de um trilhão de dólares.

1468
01:06:00,782 --> 01:06:02,044
Meio trilhão!

1469
01:06:02,045 --> 01:06:03,262
A corrida começou.

1470
01:06:03,263 --> 01:06:04,655
Isso está acontecendo
mais rápido do que nunca.

1471
01:06:04,656 --> 01:06:06,657
Estamos em uma bolha de IA?
Claro.

1472
01:06:06,658 --> 01:06:09,225
Eu simplesmente não vejo
a bolha estourando

1473
01:06:09,226 --> 01:06:12,489
enquanto você ainda tem
este importante ciclo de gastos.

1474
01:06:12,490 --> 01:06:15,057
Mesmo se você pensar
isso tudo é exagero,

1475
01:06:15,058 --> 01:06:17,624
existem bilhões
para trilhões de dólares

1476
01:06:17,625 --> 01:06:21,150
fluindo para a criação de sistemas de IA
mais poderoso.

1477
01:06:21,151 --> 01:06:23,891
E uma vez que você tem essa coisa
isso é mais poderoso,

1478
01:06:23,892 --> 01:06:25,589
as empresas podem usar isso

1479
01:06:25,590 --> 01:06:27,591
para obter lucros maiores
e ganhar mais dinheiro.

1480
01:06:27,592 --> 01:06:30,159
Os países podem usar isso
para fazer forças armadas mais fortes.

1481
01:06:30,160 --> 01:06:32,857
NVIDIA ultrapassou
Microsoft e Apple

1482
01:06:32,858 --> 01:06:36,295
para se tornar o mundo
empresa mais valiosa.

1483
01:06:36,296 --> 01:06:39,037
A corrida para implantar torna-se
a corrida para a imprudência,

1484
01:06:39,038 --> 01:06:41,822
porque eles não podem
implantá-lo tão rapidamente

1485
01:06:41,823 --> 01:06:43,215
e também acertar.

1486
01:06:43,216 --> 01:06:46,088
Eles acreditam que
eles são os mocinhos.

1487
01:06:46,089 --> 01:06:49,352
"E se eu não fizer isso,
alguém que não tem

1488
01:06:49,353 --> 01:06:51,615
"valores tão bons quanto eu
estará sentado à mesa

1489
01:06:51,616 --> 01:06:54,487
tomar decisões, então
Eu tenho a obrigação de fazer isso."

1490
01:06:54,488 --> 01:06:56,228
Sim, isso é
uma crença muito comum.

1491
01:06:56,229 --> 01:06:58,622
Muitos, muitos, muitos,
talvez a maioria das pessoas

1492
01:06:58,623 --> 01:07:00,754
construindo esta tecnologia
acredite nisso.

1493
01:07:00,755 --> 01:07:03,757
Estou preocupado com
a concorrência comercial,

1494
01:07:03,758 --> 01:07:05,890
mas acontece
Estou ainda mais preocupado

1495
01:07:05,891 --> 01:07:08,066
a competição geopolítica.

1496
01:07:08,067 --> 01:07:10,373
Estávamos oito anos atrasados
há um ano.

1497
01:07:10,374 --> 01:07:12,636
Agora provavelmente estamos
menos de um ano atrás.

1498
01:07:12,637 --> 01:07:15,726
Bem, tanto a Arábia Saudita
e os Emirados Árabes Unidos têm corrido

1499
01:07:15,727 --> 01:07:18,163
para configurar data centers
e se posicionarem

1500
01:07:18,164 --> 01:07:20,426
como a força dominante na IA...

1501
01:07:20,427 --> 01:07:22,472
...para tornar a Coreia do Sul
um líder global em IA.

1502
01:07:22,473 --> 01:07:24,039
Presidente francês Emmanuel Macron

1503
01:07:24,040 --> 01:07:25,910
falou muito sobre
inteligência artificial...

1504
01:07:25,911 --> 01:07:27,477
Agora com mais informações sobre o papel de Israel

1505
01:07:27,478 --> 01:07:29,653
na inteligência artificial
revolução...

1506
01:07:29,654 --> 01:07:33,135
Os países estarão competindo
para cujas tecnologias de IA

1507
01:07:33,136 --> 01:07:34,919
criar a próxima geração
da indústria.

1508
01:07:34,920 --> 01:07:38,053
Os chineses estão insistindo
aquela IA,

1509
01:07:38,054 --> 01:07:39,880
como sendo desenvolvido na China,

1510
01:07:39,881 --> 01:07:41,752
reforçar os valores fundamentais

1511
01:07:41,753 --> 01:07:44,059
do Partido Comunista Chinês
e o sistema chinês.

1512
01:07:44,060 --> 01:07:48,759
A América tem que vencer a China
na corrida de IA.

1513
01:07:48,760 --> 01:07:51,066
Da China, tipo,
anos-luz atrás.

1514
01:07:51,067 --> 01:07:52,719
Eles são?

1515
01:07:52,720 --> 01:07:55,026
Quero dizer, eles têm muito mais
dados de treinamento do que nós,

1516
01:07:55,027 --> 01:07:57,855
e não há nada dizendo que eles
não deixe cair um modelo no próximo mês

1517
01:07:57,856 --> 01:08:00,988
isso não é--
não supera em muito o desempenho do GPT-4.

1518
01:08:00,989 --> 01:08:03,861
Tudo estava indo muito bem.
O que poderia dar errado?

1519
01:08:03,862 --> 01:08:06,733
- Busca Profunda...
- Busca profunda... - Busca profunda...

1520
01:08:06,734 --> 01:08:08,083
Existe um novo modelo.

1521
01:08:08,084 --> 01:08:10,868
Mas de um laboratório chinês
chamado DeepSeek.

1522
01:08:10,869 --> 01:08:14,001
Vamos falar sobre DeepSeek,
porque é alucinante,

1523
01:08:14,002 --> 01:08:17,701
e está agitando isso
toda a indústria em seu núcleo.

1524
01:08:17,702 --> 01:08:19,442
A administração Trump
irá garantir

1525
01:08:19,443 --> 01:08:23,098
que o mais poderoso
Os sistemas de IA são construídos nos EUA

1526
01:08:23,099 --> 01:08:26,579
com design americano
e chips fabricados.

1527
01:08:26,580 --> 01:08:28,842
IA é da China
Projeto Apolo.

1528
01:08:28,843 --> 01:08:30,235
O Partido Comunista Chinês

1529
01:08:30,236 --> 01:08:31,584
compreende profundamente o potencial

1530
01:08:31,585 --> 01:08:32,933
para a IA interromper a guerra.

1531
01:08:32,934 --> 01:08:35,371
Google não promete mais
que não vai

1532
01:08:35,372 --> 01:08:38,461
usar inteligência artificial
para armas ou vigilância.

1533
01:08:38,462 --> 01:08:40,071
China, Coreia do Norte, Rússia

1534
01:08:40,072 --> 01:08:41,942
vamos continuar construindo
o mais rápido possível

1535
01:08:41,943 --> 01:08:44,554
para obter mais vantagem econômica,
mais vantagem de produtividade,

1536
01:08:44,555 --> 01:08:46,860
mais vantagem científica,
mais vantagem militar,

1537
01:08:46,861 --> 01:08:48,688
porque a IA fabrica armas melhores.

1538
01:08:48,689 --> 01:08:51,778
Se você está falando sobre
um sistema tão amplo e capaz

1539
01:08:51,779 --> 01:08:53,345
como um cientista brilhante,

1540
01:08:53,346 --> 01:08:58,002
pode ser capaz de executar
uma campanha militar

1541
01:08:58,003 --> 01:09:01,484
melhor do que qualquer um dos generais
no governo dos EUA neste momento.

1542
01:09:01,485 --> 01:09:05,531
Taiwan é o problema que cria
a maior tensão agora

1543
01:09:05,532 --> 01:09:07,925
entre Pequim e os EUA.

1544
01:09:07,926 --> 01:09:10,493
Há um-um direto
desacordo de oposição

1545
01:09:10,494 --> 01:09:12,016
entre os EUA e a China

1546
01:09:12,017 --> 01:09:14,018
sobre se Taiwan é
parte da China.

1547
01:09:14,019 --> 01:09:18,457
Taiwan é importante
por tantos motivos.

1548
01:09:18,458 --> 01:09:20,590
É também a casa de

1549
01:09:20,591 --> 01:09:24,202
cerca de 90% do chip avançado
fabricação para o mundo,

1550
01:09:24,203 --> 01:09:28,424
o que significa que o fornecimento
cadeia para computação avançada

1551
01:09:28,425 --> 01:09:31,078
está em risco caso haja

1552
01:09:31,079 --> 01:09:32,993
algum tipo de cenário
em torno de Taiwan,

1553
01:09:32,994 --> 01:09:38,042
seja um bloqueio
ou uma invasão da China.

1554
01:09:38,043 --> 01:09:40,740
Estaremos em alguma corrida

1555
01:09:40,741 --> 01:09:45,658
entre os EUA e a China
que eventualmente se transforma em

1556
01:09:45,659 --> 01:09:49,401
uma corrida armamentista militarizada de IA e,
você sabe, potencialmente leva

1557
01:09:49,402 --> 01:09:51,316
para algum grande conflito de poder?

1558
01:09:51,317 --> 01:09:53,057
A saída
principal comandante militar dos EUA

1559
01:09:53,058 --> 01:09:55,886
na região
previu que a guerra estava chegando.

1560
01:09:55,887 --> 01:09:57,975
Eu acho que a ameaça é manifesta
durante esta década,

1561
01:09:57,976 --> 01:09:59,498
na verdade, nos próximos seis anos.

1562
01:09:59,499 --> 01:10:01,457
Hum, um dos cenários

1563
01:10:01,458 --> 01:10:05,896
que me preocupa é
uma guerra cibernética instantânea,

1564
01:10:05,897 --> 01:10:10,944
hum, aquele em que
ferramentas cibernéticas que são autônomas

1565
01:10:10,945 --> 01:10:12,990
estão competindo entre si

1566
01:10:12,991 --> 01:10:14,644
de maneiras que são escalonadas

1567
01:10:14,645 --> 01:10:16,386
sem
controle humano significativo.

1568
01:10:18,823 --> 01:10:20,476
Você mora em uma zona de guerra,

1569
01:10:20,477 --> 01:10:23,827
será uma IA decidindo
se deve bombardear sua casa

1570
01:10:23,828 --> 01:10:25,785
e se devo matá-lo.

1571
01:10:25,786 --> 01:10:27,570
Vamos deixar a máquina decidir.

1572
01:10:27,571 --> 01:10:29,398
Essa é a tentação.

1573
01:10:29,399 --> 01:10:32,618
É por isso que a IA é tão tentadora
para os militares adotarem,

1574
01:10:32,619 --> 01:10:35,795
para criar armas autônomas,
porque se eu começar a acreditar

1575
01:10:35,796 --> 01:10:39,190
que meu adversário militar
vai adotar IA,

1576
01:10:39,191 --> 01:10:41,845
será uma corrida para quem pode
puxe o gatilho mais rápido.

1577
01:10:41,846 --> 01:10:44,935
E aquele que automatiza
essa decisão,

1578
01:10:44,936 --> 01:10:47,242
em vez de ter
um humano no circuito,

1579
01:10:47,243 --> 01:10:49,244
é aquele
que vencerá essa guerra.

1580
01:10:49,245 --> 01:10:50,680
E se você pensar sobre

1581
01:10:50,681 --> 01:10:53,074
a corrida armamentista nuclear
na década de 1940...

1582
01:10:54,554 --> 01:10:56,599
...você conhece os alemães
estão trabalhando na bomba,

1583
01:10:56,600 --> 01:11:00,777
então não é tão fácil dizer
Robert Oppenheimer então,

1584
01:11:00,778 --> 01:11:03,823
"Uh, você sabe, vá devagar."

1585
01:11:03,824 --> 01:11:05,347
Então, depois de assistir esse filme,
vai ser confuso,

1586
01:11:05,348 --> 01:11:06,696
porque você vai voltar,

1587
01:11:06,697 --> 01:11:08,350
e amanhã
você usará o ChatGPT,

1588
01:11:08,351 --> 01:11:10,482
e vai ser
incrivelmente útil.

1589
01:11:10,483 --> 01:11:12,745
E eu vou usá-lo também, e
será incrivelmente útil.

1590
01:11:12,746 --> 01:11:16,183
E você dirá: "Espere, então
Acabei de ver esse filme sobre IA

1591
01:11:16,184 --> 01:11:18,055
"e risco existencial
e todas essas coisas,

1592
01:11:18,056 --> 01:11:20,666
e onde está a ameaça mesmo?"

1593
01:11:20,667 --> 01:11:24,757
E não é que o ChatGPT seja
a ameaça existencial.

1594
01:11:24,758 --> 01:11:28,718
É que a corrida para implantar
o mais poderoso,

1595
01:11:28,719 --> 01:11:31,677
inescrutável,
tecnologia incontrolável,

1596
01:11:31,678 --> 01:11:35,159
sob o pior
incentivos possíveis,

1597
01:11:35,160 --> 01:11:37,031
essa é a ameaça existencial.

1598
01:11:38,119 --> 01:11:40,425
Mas me parece que-que

1599
01:11:40,426 --> 01:11:43,254
estamos num contexto de corrida.

1600
01:11:43,255 --> 01:11:45,952
-Sim.
- E é em um ambiente competitivo,

1601
01:11:45,953 --> 01:11:47,693
"Tenho que chegar lá primeiro,
tenho que vencer a corrida",

1602
01:11:47,694 --> 01:11:49,042
"tenho que competir contra a China,

1603
01:11:49,043 --> 01:11:50,392
tenho que competir contra
os outros laboratórios."

1604
01:11:50,393 --> 01:11:51,871
Não é verdade?

1605
01:11:51,872 --> 01:11:53,699
Hoje é o caso.

1606
01:11:53,700 --> 01:11:56,703
Então precisamos mudar
aquela dinâmica de corrida.

1607
01:11:57,922 --> 01:11:59,966
Você não acha?

1608
01:11:59,967 --> 01:12:02,187
Eu acho que isso seria
muito bom mesmo.

1609
01:12:03,710 --> 01:12:06,538
Eu-eu acho
há algum tipo de...

1610
01:12:06,539 --> 01:12:09,585
misticismo em torno da IA
isso faz com que pareça

1611
01:12:09,586 --> 01:12:11,761
caiu do céu.

1612
01:12:11,762 --> 01:12:13,502
Pensando nisso
como uma tecnologia divina

1613
01:12:13,503 --> 01:12:15,460
é um problema.

1614
01:12:15,461 --> 01:12:16,897
Sim.

1615
01:12:18,072 --> 01:12:19,943
Por que?

1616
01:12:19,944 --> 01:12:23,033
Dá licença
para as empresas...

1617
01:12:23,034 --> 01:12:26,297
não assumir a responsabilidade

1618
01:12:26,298 --> 01:12:30,823
pelas coisas que o software
que eles construíram faz.

1619
01:12:30,824 --> 01:12:35,132
Se as pessoas fizessem essa conexão,

1620
01:12:35,133 --> 01:12:37,569
talvez isso fosse, tipo,
ajude-os a entender novamente

1621
01:12:37,570 --> 01:12:41,878
a dinâmica de
todo o dinheiro e poder e...

1622
01:12:41,879 --> 01:12:45,360
caos que está acontecendo...

1623
01:12:45,361 --> 01:12:47,144
criar esta tecnologia.

1624
01:12:47,145 --> 01:12:49,276
São, tipo, cinco caras
quem controla isso, certo?

1625
01:12:49,277 --> 01:12:51,670
- Tipo, cinco homens?
- Basicamente, sim.

1626
01:12:51,671 --> 01:12:53,890
- Os CEOs?
- Sim.

1627
01:12:53,891 --> 01:12:55,371
OK.

1628
01:13:01,072 --> 01:13:03,116
Às vezes parece

1629
01:13:03,117 --> 01:13:07,294
Eu estive nisso
apenas, tipo, uma jornada sem fim

1630
01:13:07,295 --> 01:13:09,384
de tentar entender isso.

1631
01:13:09,385 --> 01:13:12,388
Você sabe, tipo
Estou escalando uma montanha...

1632
01:13:15,608 --> 01:13:19,176
...e sempre
Eu, tipo, subo uma colina,

1633
01:13:19,177 --> 01:13:20,786
Acho que cheguei ao topo,

1634
01:13:20,787 --> 01:13:23,441
mas simplesmente continua
e indo e indo.

1635
01:13:24,574 --> 01:13:27,010
Mas de tudo que ouvi,

1636
01:13:27,011 --> 01:13:30,405
se eu tivesse que adivinhar o que é
no topo da Montanha da Ansiedade,

1637
01:13:30,406 --> 01:13:34,234
são esses cinco CEOs
destas cinco empresas,

1638
01:13:34,235 --> 01:13:37,673
que são meio parecidos com
Oppenheimers deste momento.

1639
01:13:37,674 --> 01:13:39,501
Esses são os caras
que estão construindo essa coisa.

1640
01:13:39,502 --> 01:13:40,850
Sim.

1641
01:13:40,851 --> 01:13:44,201
Tipo, existe um plano?

1642
01:13:44,202 --> 01:13:46,464
O chefe da empresa
isso torna o ChatGPT

1643
01:13:46,465 --> 01:13:49,989
avisado de possível
danos significativos ao mundo.

1644
01:13:49,990 --> 01:13:52,427
Eu acho que, se esta tecnologia
dá errado,

1645
01:13:52,428 --> 01:13:53,515
pode dar muito errado.

1646
01:13:55,822 --> 01:13:57,823
Cinco caras.

1647
01:13:57,824 --> 01:14:01,610
Eu-eu nunca pensei em nós
como uma empresa de mídia social.

1648
01:14:01,611 --> 01:14:06,092
Parece que tenho que tentar
e-e encontrar esses caras...

1649
01:14:06,093 --> 01:14:07,224
Hum-hmm.

1650
01:14:07,225 --> 01:14:09,009
...e coloque-os no filme.

1651
01:14:10,315 --> 01:14:12,622
Certamente conseguiríamos
alguma clareza disso.

1652
01:14:16,582 --> 01:14:19,192
Quero dizer, a responsabilidade tem que parar
em algum lugar, certo?

1653
01:14:34,034 --> 01:14:35,339
Como é isso?

1654
01:14:35,340 --> 01:14:37,733
- Ótimo.
- Tudo bem?

1655
01:14:37,734 --> 01:14:39,474
Sim.

1656
01:14:39,475 --> 01:14:41,040
- Posso mover o assento para frente?
-Sim, você pode.

1657
01:14:41,041 --> 01:14:42,215
É, ah, é só
um pouco estranho.

1658
01:14:42,216 --> 01:14:43,608
Estou um pouco, tipo...

1659
01:14:43,609 --> 01:14:45,088
Dário, como você se sente
sobre aquela cadeira?

1660
01:14:45,089 --> 01:14:47,046
Hum, sim, a cadeira é boa.

1661
01:14:47,047 --> 01:14:48,874
Eu só queria movê-lo
um pouco para frente. -OK.

1662
01:14:48,875 --> 01:14:50,572
Eu escolhi aquela cadeira.

1663
01:14:50,573 --> 01:14:52,182
-É uma boa cadeira.
- Obrigado.

1664
01:14:57,884 --> 01:14:59,495
E apenas sente-se aí.

1665
01:15:01,409 --> 01:15:03,106
E então por aqui,

1666
01:15:03,107 --> 01:15:04,411
estaremos olhando um para o outro
através deste vidro.

1667
01:15:11,419 --> 01:15:13,595
E recostando-se na cadeira,
inclinando-se para frente?

1668
01:15:13,596 --> 01:15:15,161
Sim. Bem, seja lá o que for
confortável, eu acho. -OK.

1669
01:15:15,162 --> 01:15:16,728
É bem legal.
Há um monte de espelhos.

1670
01:15:16,729 --> 01:15:17,860
- Isso é... ok.
-Sam A., pegue um. Marca.

1671
01:15:17,861 --> 01:15:19,557
- Como é isso?
- Bom. Obrigado.

1672
01:15:19,558 --> 01:15:21,080
A gênese
deste projeto é que eu estava

1673
01:15:21,081 --> 01:15:22,865
sentado em casa,
e eu estava brincando com,

1674
01:15:22,866 --> 01:15:24,431
Eu acho que seu gerador de imagens,

1675
01:15:24,432 --> 01:15:27,304
e eu estava simultaneamente,
ah, apavorado

1676
01:15:27,305 --> 01:15:29,480
e realmente impressionado.

1677
01:15:29,481 --> 01:15:31,917
- Essa é a combinação usual.
- E depois corta para

1678
01:15:31,918 --> 01:15:34,659
minha esposa e eu descobrimos
estamos esperando.

1679
01:15:34,660 --> 01:15:38,315
E-e eu estou, tipo, tendo
uma crise existencial

1680
01:15:38,316 --> 01:15:40,273
como minha esposa é
grávida de seis meses.

1681
01:15:40,274 --> 01:15:42,972
E acho que minha primeira pergunta,
que pergunto a todos:

1682
01:15:42,973 --> 01:15:45,496
Agora é um momento terrível
ter um filho?

1683
01:15:45,497 --> 01:15:47,411
Estou cometendo um grande erro?

1684
01:15:47,412 --> 01:15:49,065
Estou esperando um filho
em março também. Meu primeiro.

1685
01:15:49,066 --> 01:15:50,545
- Você está esperando um filho?
- Sim.

1686
01:15:50,546 --> 01:15:51,850
- Você está esperando em março?
- Primeiro filho.

1687
01:15:51,851 --> 01:15:53,330
-Mazel tov.
- Muito obrigado.

1688
01:15:53,331 --> 01:15:54,505
Eu nunca estive tão animado
para qualquer coisa.

1689
01:15:54,506 --> 01:15:56,507
- É assim que me sinto.
- Sim.

1690
01:15:56,508 --> 01:15:58,248
Mas você não está com medo?

1691
01:15:58,249 --> 01:16:02,774
Quero dizer, tipo, ter um filho é
apenas essa coisa importante

1692
01:16:02,775 --> 01:16:05,037
que eu, você sabe,
Eu fico acordado todas as noites, tipo,

1693
01:16:05,038 --> 01:16:06,865
lendo esses livros sobre
como criar um filho,

1694
01:16:06,866 --> 01:16:08,258
e eu espero
Eu vou fazer um bom trabalho,

1695
01:16:08,259 --> 01:16:09,302
e parece
muito esmagador e--

1696
01:16:09,303 --> 01:16:12,088
mas não estou com medo...

1697
01:16:12,089 --> 01:16:14,090
para as crianças crescerem
em um mundo com IA.

1698
01:16:14,091 --> 01:16:16,353
Tipo, isso... vai ficar tudo bem.

1699
01:16:16,354 --> 01:16:19,051
Isso é bom de ouvir
vindo do cara.

1700
01:16:19,052 --> 01:16:20,792
Eu acho que é uma ideia maravilhosa
ter filhos.

1701
01:16:20,793 --> 01:16:23,273
Eu-eu acho que eles são os mais
coisa mágica e incrível.

1702
01:16:23,274 --> 01:16:25,318
Há tanta incerteza,

1703
01:16:25,319 --> 01:16:26,885
eu quase faria
o que você vai fazer de qualquer maneira.

1704
01:16:26,886 --> 01:16:28,974
Eu sei que não é
uma resposta muito satisfatória,

1705
01:16:28,975 --> 01:16:31,934
mas é o único
Eu posso inventar.

1706
01:16:31,935 --> 01:16:34,501
Nossos filhos nunca vão...

1707
01:16:34,502 --> 01:16:37,113
conheço um mundo que não tem
IA realmente avançada.

1708
01:16:37,114 --> 01:16:39,898
Na verdade, nossos filhos nunca
seja mais inteligente que uma IA.

1709
01:16:39,899 --> 01:16:42,118
“Nossos filhos vão
nunca será mais inteligente que uma IA"?

1710
01:16:42,119 --> 01:16:44,381
Bem, de uma forma crua,
de uma perspectiva de QI bruto,

1711
01:16:44,382 --> 01:16:46,296
eles nunca serão
mais inteligente que uma IA.

1712
01:16:46,297 --> 01:16:48,080
Essa noção não
perturbar você um pouco?

1713
01:16:48,081 --> 01:16:51,170
Porque isso me faz sentir
um pouco enjoado de uma forma estranha.

1714
01:16:51,171 --> 01:16:54,826
Hum, isso me perturba
um pouco.

1715
01:16:54,827 --> 01:16:56,306
Mas é a realidade.

1716
01:16:56,307 --> 01:16:58,308
Ok, então dinâmica de corrida.

1717
01:16:58,309 --> 01:17:01,050
Temos um monte de gente
que estão todos de acordo

1718
01:17:01,051 --> 01:17:02,921
que isso é assustador.

1719
01:17:02,922 --> 01:17:04,793
Com base nos prazos que
muitas pessoas me deram,

1720
01:17:04,794 --> 01:17:07,056
temos entre dois meses e
cinco anos para descobrir isso.

1721
01:17:07,057 --> 01:17:08,710
- Sim.
- E-e, eu acho,

1722
01:17:08,711 --> 01:17:12,845
minha maior dúvida é:
Por que não podemos simplesmente parar?

1723
01:17:14,499 --> 01:17:19,111
O problema com, uh, uh,
"apenas parar" é isso, hum,

1724
01:17:19,112 --> 01:17:22,245
existem muitos, muitos grupos agora
ao redor do mundo, uh, uh,

1725
01:17:22,246 --> 01:17:25,727
construindo isso, para
muitas nações, muitas empresas,

1726
01:17:25,728 --> 01:17:28,164
hum, todos com
motivações diferentes.

1727
01:17:28,165 --> 01:17:30,819
Existem alguns
essas empresas neste espaço

1728
01:17:30,820 --> 01:17:34,039
qual é a posição deles: "Queremos
para desenvolver esta tecnologia

1729
01:17:34,040 --> 01:17:36,085
absolutamente o mais rápido possível."

1730
01:17:36,086 --> 01:17:40,089
E mesmo se pudéssemos aprovar leis
nos EUA e na Europa,

1731
01:17:40,090 --> 01:17:42,439
precisamos convencer...

1732
01:17:42,440 --> 01:17:45,007
Xi Jinping e Vladimir Putin
ou, você sabe,

1733
01:17:45,008 --> 01:17:47,487
quem quer que seja seu científico
os conselheiros estão do seu lado.

1734
01:17:47,488 --> 01:17:49,272
Isso vai ser muito difícil.

1735
01:17:49,273 --> 01:17:50,969
Eu acho que é verdade

1736
01:17:50,970 --> 01:17:53,624
que se duas pessoas estiverem
exatamente no mesmo lugar,

1737
01:17:53,625 --> 01:17:55,931
uh, aquele que está disposto a aceitar
mais atalhos em segurança

1738
01:17:55,932 --> 01:17:58,107
deveria meio que
"chegue lá primeiro."

1739
01:17:58,108 --> 01:18:01,110
Ah, mas...

1740
01:18:01,111 --> 01:18:02,981
podemos usar nossa liderança

1741
01:18:02,982 --> 01:18:06,028
passar muito mais tempo
fazendo testes de segurança.

1742
01:18:06,029 --> 01:18:08,030
E e se você perdê-lo?

1743
01:18:08,031 --> 01:18:09,640
Você recebe a ligação
e você descobre

1744
01:18:09,641 --> 01:18:11,729
que você está agora, digamos,
seis meses atrasado.

1745
01:18:11,730 --> 01:18:14,297
- O-o que acontece então?
- Depende de quem estamos atrás.

1746
01:18:14,298 --> 01:18:16,865
Se for, tipo,
um governo adversário,

1747
01:18:16,866 --> 01:18:18,867
isso provavelmente é muito ruim.

1748
01:18:18,868 --> 01:18:21,391
Então, digamos que você receba a ligação
que a China tem um,

1749
01:18:21,392 --> 01:18:24,829
tem um recursivamente
agente de autoaperfeiçoamento

1750
01:18:24,830 --> 01:18:27,223
ou algo assim que nós
deveria estar realmente preocupado.

1751
01:18:27,224 --> 01:18:29,226
O que... o que acontece?

1752
01:18:30,967 --> 01:18:32,403
Hum...

1753
01:18:35,406 --> 01:18:37,276
Esse caso exigiria...

1754
01:18:37,277 --> 01:18:40,715
o primeiro passo seria
para falar com o governo dos EUA.

1755
01:18:40,716 --> 01:18:42,978
Sam, você confia no
capacidade do governo para lidar

1756
01:18:42,979 --> 01:18:44,676
algo assim?

1757
01:18:45,895 --> 01:18:47,809
Sim, eu quero, na verdade.

1758
01:18:47,810 --> 01:18:49,593
Há outras coisas que eu não
confiar no governo para lidar com isso,

1759
01:18:49,594 --> 01:18:51,203
mas esse cenário específico,
acho que eles saberiam...

1760
01:18:51,204 --> 01:18:52,814
eles-eles-- sim.

1761
01:18:52,815 --> 01:18:54,467
Quando você tiver,
tipo, discussões privadas

1762
01:18:54,468 --> 01:18:56,426
com os outros caras cujos
os dedos estão no gatilho,

1763
01:18:56,427 --> 01:18:59,646
por assim dizer, hum,
fazer aquelas discussões privadas

1764
01:18:59,647 --> 01:19:01,344
te encher de confiança

1765
01:19:01,345 --> 01:19:03,389
ou eles fazem você,
ah, mais ansioso?

1766
01:19:03,390 --> 01:19:07,132
Olha, quero dizer, eu sei alguns
deles melhor do que outros.

1767
01:19:07,133 --> 01:19:10,179
Hum, eu tenho mais confiança
em alguns deles, do que eu tenho

1768
01:19:10,180 --> 01:19:12,398
em outros, você sabe,
como com, como com qualquer pessoa.

1769
01:19:12,399 --> 01:19:14,183
Você sabe,
você pensa, você sabe,

1770
01:19:14,184 --> 01:19:15,880
as crianças da sua escola
aula ou algo assim, certo?

1771
01:19:15,881 --> 01:19:18,317
Você sabe, alguns deles são,
você sabe, muito fofo.

1772
01:19:18,318 --> 01:19:20,450
Alguns deles são bem-intencionados
mas não tão eficaz.

1773
01:19:20,451 --> 01:19:22,408
Alguns deles são,
você sabe, valentões.

1774
01:19:22,409 --> 01:19:23,801
Alguns deles são
pessoas realmente ruins.

1775
01:19:23,802 --> 01:19:25,716
Você, você meio que realmente,

1776
01:19:25,717 --> 01:19:27,109
você realmente vê a propagação.

1777
01:19:27,110 --> 01:19:28,850
Você sabe, eu sou, eu sou,
estou confiante

1778
01:19:28,851 --> 01:19:30,590
que todo mundo vai fazer
a coisa certa,

1779
01:19:30,591 --> 01:19:32,070
que tudo vai dar certo?

1780
01:19:32,071 --> 01:19:33,898
Hum, não, não estou.

1781
01:19:33,899 --> 01:19:35,552
E não há nada
Eu posso fazer isso, certo?

1782
01:19:35,553 --> 01:19:37,815
Você sabe, tudo que posso fazer
é-é um impulso para o,

1783
01:19:37,816 --> 01:19:39,208
empurre para o, você sabe,

1784
01:19:39,209 --> 01:19:40,818
pressionar pelo governo
para se envolver.

1785
01:19:40,819 --> 01:19:42,689
Mas no final das contas estou apenas
uma pessoa lá também.

1786
01:19:42,690 --> 01:19:44,169
Isso é--
depende de todos nós

1787
01:19:44,170 --> 01:19:46,084
pressionar pelo governo
para se envolver.

1788
01:19:46,085 --> 01:19:48,521
Essa é a coisa número um
isso-que eu acho que precisamos fazer

1789
01:19:48,522 --> 01:19:50,959
to-to, você sabe, para definir as coisas
na direção certa.

1790
01:19:50,960 --> 01:19:52,787
O que me deixa ansioso
sobre isso é, tipo,

1791
01:19:52,788 --> 01:19:56,225
a realidade básica de que o
velocidade com que a tecnologia

1792
01:19:56,226 --> 01:19:58,444
está proliferando e crescendo
é exponencial,

1793
01:19:58,445 --> 01:20:01,491
e os mecanismos para legislar
tem 300 anos,

1794
01:20:01,492 --> 01:20:02,971
- leva uma eternidade.
- Sim.

1795
01:20:02,972 --> 01:20:05,147
Hum, eu-eu acho
vai ser um trabalho pesado.

1796
01:20:05,148 --> 01:20:06,931
Eu-eu definitivamente concordo
com você nisso.

1797
01:20:06,932 --> 01:20:08,933
Você sabe,
o que estou literalmente procurando

1798
01:20:08,934 --> 01:20:11,283
é-é tipo,
"Aqui estão etapas que, como,

1799
01:20:11,284 --> 01:20:15,200
"os chefões vão
levar para focar na segurança,

1800
01:20:15,201 --> 01:20:18,160
para mitigar o perigo
e maximizar a promessa."

1801
01:20:18,161 --> 01:20:20,162
E eu não,
Eu não, eu não sei

1802
01:20:20,163 --> 01:20:21,859
que há
uma resposta simples para isso.

1803
01:20:21,860 --> 01:20:23,296
Hum...

1804
01:20:25,951 --> 01:20:27,604
Quero dizer, isso talvez seja
muito simples,

1805
01:20:27,605 --> 01:20:30,215
mas você...

1806
01:20:30,216 --> 01:20:32,000
criar um novo modelo,

1807
01:20:32,001 --> 01:20:34,829
você estuda e testa
com muito cuidado.

1808
01:20:34,830 --> 01:20:37,266
Você colocou isso para fora
gradualmente no mundo,

1809
01:20:37,267 --> 01:20:39,572
e então, cada vez mais,
você entende

1810
01:20:39,573 --> 01:20:41,270
se isso é seguro ou não,
e então se for,

1811
01:20:41,271 --> 01:20:42,707
você pode dar o próximo passo.

1812
01:20:44,404 --> 01:20:47,145
Não parece tão chamativo
como, tipo, um cientista brilhante

1813
01:20:47,146 --> 01:20:50,496
ter uma ideia em um
laboratório para fazer um sistema de IA, como,

1814
01:20:50,497 --> 01:20:54,022
perfeitamente seguro e controlável
e tudo mais,

1815
01:20:54,023 --> 01:20:55,762
mas é o que eu acredito
vai acontecer.

1816
01:20:55,763 --> 01:20:57,329
Tipo, é o caminho
Eu acho que isso funciona.

1817
01:20:57,330 --> 01:20:59,331
Mas vamos apenas dizer
algo terrível acontece,

1818
01:20:59,332 --> 01:21:01,856
como um modelo se solta
ou fica desonesto ou algo assim.

1819
01:21:01,857 --> 01:21:03,509
Existe um protocolo?

1820
01:21:03,510 --> 01:21:05,860
Tipo, literalmente,
Estou imaginando um telefone vermelho.

1821
01:21:05,861 --> 01:21:07,165
- Sim.
- Desculpe por pensar nisso

1822
01:21:07,166 --> 01:21:08,558
em termos de filmes, mas, tipo...

1823
01:21:08,559 --> 01:21:10,038
Existe um protocolo.

1824
01:21:10,039 --> 01:21:11,517
Existe um telefone vermelho
na sua mesa? -Não.

1825
01:21:11,518 --> 01:21:13,258
É um segredo?

1826
01:21:13,259 --> 01:21:15,434
Quero dizer, uh, não, não é,
não é tão sofisticado ou dramático

1827
01:21:15,435 --> 01:21:17,219
como você, tipo, esperaria,
mas tem, tipo, você sabe...

1828
01:21:17,220 --> 01:21:18,916
nós, tipo, pensamos bem
esses cenários,

1829
01:21:18,917 --> 01:21:20,570
e se isso acontecer,
vamos ligar para essas pessoas

1830
01:21:20,571 --> 01:21:22,006
nesta ordem e faça isso

1831
01:21:22,007 --> 01:21:23,486
e tipo de fazer
essas decisões se, tipo...

1832
01:21:23,487 --> 01:21:26,097
Eu acredito nisso
quando você tiver uma oportunidade

1833
01:21:26,098 --> 01:21:29,100
para pensar antes
uma situação estressante acontece,

1834
01:21:29,101 --> 01:21:30,449
isso é quase sempre
uma boa ideia.

1835
01:21:30,450 --> 01:21:31,798
E anotá-lo é útil.

1836
01:21:31,799 --> 01:21:33,279
- Estar preparado é útil.
- Sim.

1837
01:21:34,324 --> 01:21:36,064
Você...

1838
01:21:36,065 --> 01:21:38,805
Seria impossível
para eu sentar na sua frente

1839
01:21:38,806 --> 01:21:41,199
e-e peço que você me prometa
que isso vai dar certo?

1840
01:21:41,200 --> 01:21:43,898
Isso é impossível.

1841
01:21:43,899 --> 01:21:45,725
Não há respostas fáceis, infelizmente.

1842
01:21:45,726 --> 01:21:48,119
Uh, porque é tal
uma tecnologia de ponta,

1843
01:21:48,120 --> 01:21:49,816
hum, ainda há
muitas incógnitas.

1844
01:21:49,817 --> 01:21:52,297
E eu acho que
isso-isso precisa ser,

1845
01:21:52,298 --> 01:21:55,083
hum, uh, você sabe, entendido

1846
01:21:55,084 --> 01:21:59,000
e-e daí a necessidade
para, uh, uh, alguma cautela.

1847
01:21:59,001 --> 01:22:00,915
Eu acordo, você sabe, todos os dias,

1848
01:22:00,916 --> 01:22:03,482
este é o, este é o
é a primeira coisa em que penso.

1849
01:22:03,483 --> 01:22:05,180
Agora, olhe, eu sou humano,

1850
01:22:05,181 --> 01:22:08,400
e, você sabe, tem-tem
cada decisão foi perfeita?

1851
01:22:08,401 --> 01:22:11,664
Posso ao menos dizer minhas motivações
sempre foram perfeitamente claros?

1852
01:22:11,665 --> 01:22:13,579
Claro que não.
Ninguém pode dizer isso.

1853
01:22:13,580 --> 01:22:16,408
Tipo, isso é
só não, tipo, você sabe...

1854
01:22:16,409 --> 01:22:18,671
isso é-isso simplesmente não é
como as pessoas trabalham.

1855
01:22:18,672 --> 01:22:21,065
A-a história da ciência
tende a ser isso,

1856
01:22:21,066 --> 01:22:23,589
para melhor ou para pior,
se algo for possível fazer--

1857
01:22:23,590 --> 01:22:27,028
e agora sabemos que a IA é possível
fazer - a humanidade faz isso.

1858
01:22:27,029 --> 01:22:29,769
Tudo isso
ia acontecer.

1859
01:22:29,770 --> 01:22:32,337
Este-este trem
não vai parar.

1860
01:22:32,338 --> 01:22:34,296
Você não pode ficar na frente
o trem e pará-lo.

1861
01:22:34,297 --> 01:22:36,298
Você simplesmente vai ser esmagado.

1862
01:22:36,299 --> 01:22:38,388
Quer dizer, é muito estressante.

1863
01:22:39,606 --> 01:22:41,085
Você sabe, há, tipo,

1864
01:22:41,086 --> 01:22:42,695
muitas coisas
muitos de nós não sabemos.

1865
01:22:42,696 --> 01:22:46,395
Eu acho que a história
da descoberta científica é

1866
01:22:46,396 --> 01:22:48,310
um de não saber
o que você não sabe

1867
01:22:48,311 --> 01:22:49,702
e descobrir conforme você avança.

1868
01:22:49,703 --> 01:22:53,010
Uh, mas, sim, é um...

1869
01:22:53,011 --> 01:22:56,622
é uma maneira estressante de viver.

1870
01:22:56,623 --> 01:22:58,798
Certo. Sam, obrigado
muito por fazer isso.

1871
01:22:58,799 --> 01:23:00,539
- E de novo, mazel tov.
- Obrigado. E para você.

1872
01:23:00,540 --> 01:23:02,715
Muito obrigado. Obrigado, pessoal.

1873
01:23:47,848 --> 01:23:49,327
Olá.

1874
01:23:49,328 --> 01:23:50,589
Ei, pai, como você está?

1875
01:23:50,590 --> 01:23:51,634
Bom. Como você está?

1876
01:23:51,635 --> 01:23:53,114
Você está trabalhando? O que você está fazendo?

1877
01:23:53,115 --> 01:23:55,290
Estou trabalhando neste filme de IA.

1878
01:23:55,291 --> 01:23:57,857
E como vai?

1879
01:23:57,858 --> 01:24:00,469
Você sabe, é... é realmente...

1880
01:24:00,470 --> 01:24:02,210
-Oi, querido.
-Oi, mãe.

1881
01:24:02,211 --> 01:24:03,907
Então o que é
a premissa do filme?

1882
01:24:03,908 --> 01:24:06,562
É um documentário?
Kev, não use mais temperos.

1883
01:24:06,563 --> 01:24:08,346
Já está muito apimentado.

1884
01:24:08,347 --> 01:24:10,479
Estamos fazendo frango agora.

1885
01:24:10,480 --> 01:24:12,655
-É um documentário ou o que...
-É sobre--

1886
01:24:12,656 --> 01:24:14,004
o filme é sobre
o fim do mundo.

1887
01:24:14,005 --> 01:24:15,832
O fim do mundo está chegando,

1888
01:24:15,833 --> 01:24:17,616
e estamos fazendo um filme
sobre o fim do mundo.

1889
01:24:17,617 --> 01:24:19,879
-Realmente?
-Sim.

1890
01:24:19,880 --> 01:24:21,620
Meio deprimente
filme, parece.

1891
01:24:21,621 --> 01:24:23,492
Sim.

1892
01:24:23,493 --> 01:24:29,019
Estou me sentindo muito,
tipo... essa ansiedade muito aguda.

1893
01:24:29,020 --> 01:24:31,413
É tão assustador,
mas tem que haver--

1894
01:24:31,414 --> 01:24:35,330
você sabe, você tem se encontrado
algumas pessoas superinteligentes

1895
01:24:35,331 --> 01:24:37,810
que estão lhe dando alguma resposta?

1896
01:24:37,811 --> 01:24:39,508
Isso é o que
frustrante com isso.

1897
01:24:39,509 --> 01:24:41,379
Ninguém sabe.

1898
01:24:41,380 --> 01:24:43,947
Tudo o que posso dizer sobre isso é que

1899
01:24:43,948 --> 01:24:49,909
cada geração teve
algo assustador como isso.

1900
01:24:49,910 --> 01:24:52,260
Quando eu nasci, foi
a crise dos mísseis cubanos.

1901
01:24:54,306 --> 01:24:56,394
Eu só estava com medo de que houvesse
seria uma guerra nuclear.

1902
01:24:56,395 --> 01:24:57,787
Sim, mas não sabíamos

1903
01:24:57,788 --> 01:24:59,136
o que eles iriam fazer e...

1904
01:24:59,137 --> 01:25:00,572
E o mundo não acabou.

1905
01:25:00,573 --> 01:25:01,660
Todo mundo acordou
na manhã seguinte,

1906
01:25:01,661 --> 01:25:03,445
e ainda estamos fazendo nossas coisas.

1907
01:25:03,446 --> 01:25:05,011
Estou com muito medo,

1908
01:25:05,012 --> 01:25:06,883
especialmente em
o contexto de, tipo,

1909
01:25:06,884 --> 01:25:09,190
você sabe, o bebê e...

1910
01:25:09,191 --> 01:25:10,582
Será uma curva de aprendizado.

1911
01:25:10,583 --> 01:25:12,106
Você vai ficar bem.

1912
01:25:12,107 --> 01:25:13,107
Você não pode,
você não pode pensar

1913
01:25:13,108 --> 01:25:14,369
o que você não pode controlar, Daniel.

1914
01:25:14,370 --> 01:25:16,197
Apenas lembre-se disso.

1915
01:25:16,198 --> 01:25:17,720
Estou realmente, estou realmente sentindo

1916
01:25:17,721 --> 01:25:19,243
nervoso e assustado com isso.

1917
01:25:19,244 --> 01:25:21,071
Há tanto
que não consigo controlar.

1918
01:25:21,072 --> 01:25:23,900
Não fique nervoso.
Você não pode deixar isso afetar você.

1919
01:25:23,901 --> 01:25:26,294
Você só pode controlar
o que você pode controlar,

1920
01:25:26,295 --> 01:25:27,947
e isso é tudo que você pode fazer.

1921
01:25:27,948 --> 01:25:30,646
Você não pode fazer mais do que isso.

1922
01:25:30,647 --> 01:25:32,649
Escreva isso em seu livro.

1923
01:25:49,274 --> 01:25:51,623
Quando você olha para trás,

1924
01:25:51,624 --> 01:25:54,496
o mundo está sempre acabando.

1925
01:25:54,497 --> 01:25:56,846
E quando você olha para frente,

1926
01:25:56,847 --> 01:25:59,283
o mundo está sempre acabando.

1927
01:25:59,284 --> 01:26:02,199
...em chamas.
Uma casa já está pegando fogo...

1928
01:26:02,200 --> 01:26:05,377
Mas o mundo
está sempre começando também.

1929
01:26:07,988 --> 01:26:09,989
Você está pronto?

1930
01:26:09,990 --> 01:26:11,992
Você está realmente pronto?

1931
01:26:15,909 --> 01:26:17,693
Você quer dirigir
ou você quer que eu dirija?

1932
01:26:17,694 --> 01:26:18,782
Você dirige.

1933
01:26:20,479 --> 01:26:21,871
OK.

1934
01:26:21,872 --> 01:26:23,742
Obrigado, Maria.

1935
01:26:23,743 --> 01:26:26,310
Isso vai apenas
sinto muita cólica.

1936
01:26:26,311 --> 01:26:27,833
-OK.
-Você está pronto?

1937
01:26:27,834 --> 01:26:29,095
Sim.

1938
01:26:30,968 --> 01:26:32,404
Você poderia estar em um
drama médico com tudo isso...

1939
01:26:49,116 --> 01:26:51,075
...alguma pressão.

1940
01:26:52,685 --> 01:26:54,078
Apenas relaxe.

1941
01:27:02,129 --> 01:27:04,957
Olá, amigo. Ah, sim.

1942
01:27:04,958 --> 01:27:06,481
Olá, amigo.

1943
01:27:31,202 --> 01:27:33,725
Vai ser um mundo totalmente novo

1944
01:27:33,726 --> 01:27:35,032
para você, Daniel.

1945
01:27:37,208 --> 01:27:40,080
E eu acho que você vai ficar
um pai incrível.

1946
01:27:41,517 --> 01:27:44,388
Isso é certo.

1947
01:27:44,389 --> 01:27:46,651
Oh.

1948
01:27:48,698 --> 01:27:50,787
Você fará um ótimo trabalho.

1949
01:27:51,788 --> 01:27:53,092
Kev, por que você está chorando?

1950
01:27:53,093 --> 01:27:54,659
Estou chorando porque...

1951
01:27:54,660 --> 01:27:57,096
Eu não sei. Eu simplesmente não...

1952
01:27:57,097 --> 01:27:59,360
Pai, você vai
me faça chorar também.

1953
01:27:59,361 --> 01:28:00,710
Por que você está chorando?

1954
01:28:03,190 --> 01:28:05,540
Eu só sei disso
você vai ser um pai incrível.

1955
01:28:05,541 --> 01:28:07,150
Eu só vou ser um ótimo pai

1956
01:28:07,151 --> 01:28:09,718
porque eu tive um ótimo pai.

1957
01:28:09,719 --> 01:28:12,329
Estou ficando emocionado,
isso é tudo.

1958
01:28:12,330 --> 01:28:13,722
Ah.

1959
01:28:14,941 --> 01:28:16,594
Rapaz, ah, rapaz!

1960
01:28:16,595 --> 01:28:17,857
Meu Deus!

1961
01:28:18,902 --> 01:28:24,820
Olhe para essas pequenas atrevidas.
Olhe para essas pequenas atrevidas.

1962
01:28:24,821 --> 01:28:26,387
Sim.

1963
01:28:26,388 --> 01:28:28,433
Eu sei como terminar esse filme.

1964
01:28:29,478 --> 01:28:32,306
Bebês.

1965
01:28:32,307 --> 01:28:35,309
O final do filme é sobre
bebês.-

1966
01:28:35,310 --> 01:28:37,136
Eles são uma afirmação da vida.

1967
01:28:37,137 --> 01:28:38,964
Eles são exaustivos.

1968
01:28:38,965 --> 01:28:40,836
Eles são hilários.

1969
01:28:40,837 --> 01:28:42,707
E eles valem a pena.

1970
01:28:42,708 --> 01:28:46,494
Este filme não é sobre
funcionamento interno de uma tecnologia.

1971
01:28:46,495 --> 01:28:48,278
Não se trata
os CEOs bilionários.

1972
01:28:48,279 --> 01:28:50,236
Não se trata de geopolítica.

1973
01:28:50,237 --> 01:28:53,631
Não se trata do aterrorizante
futuro ou o fim do mundo,

1974
01:28:53,632 --> 01:28:55,720
porque meu mundo
está apenas começando.

1975
01:28:55,721 --> 01:28:57,418
Estou construindo um berço.

1976
01:28:57,419 --> 01:28:59,333
Bem aqui, agora mesmo.

1977
01:29:00,509 --> 01:29:02,379
A IA vai mudar tudo

1978
01:29:02,380 --> 01:29:05,643
de maneiras muito poderosas e
complexo para entendermos.

1979
01:29:05,644 --> 01:29:08,952
E o futuro não é
para qualquer um de nós decidir.

1980
01:29:10,736 --> 01:29:13,651
Mas o que posso decidir é ser
o melhor marido possível

1981
01:29:13,652 --> 01:29:17,742
para minha esposa e o melhor
possível pai para meu filho.

1982
01:29:17,743 --> 01:29:21,442
Então, se o nosso futuro em IA é
uma distopia de pesadelo

1983
01:29:21,443 --> 01:29:23,879
ou a utopia
que todos sonhamos,

1984
01:29:23,880 --> 01:29:26,925
eu pelo menos saberei
que eu fiz tudo que pude

1985
01:29:26,926 --> 01:29:30,146
para guiar minha família
através desta revolução da IA.

1986
01:29:30,147 --> 01:29:33,889
E não importa o que aconteça,
estaremos enfrentando isso juntos.

1987
01:29:36,849 --> 01:29:40,548
Então essa é apenas a nossa primeira ideia.

1988
01:29:40,549 --> 01:29:42,854
Como é isso?
Você está sentindo isso?

1989
01:29:42,855 --> 01:29:45,291
Espere, eu... tipo, isso não é...
isso é uma piada.

1990
01:29:45,292 --> 01:29:47,425
Na verdade não é
como você vai acabar com isso.

1991
01:29:50,036 --> 01:29:52,690
Quero dizer, é apenas uma ideia. OK?

1992
01:29:52,691 --> 01:29:54,431
Não, Danilo.

1993
01:29:54,432 --> 01:29:56,172
...uh, muito, muito idiota.

1994
01:29:56,173 --> 01:29:58,957
Você acabou de gastar, eu não
sabe, tipo, quantos anos

1995
01:29:58,958 --> 01:30:02,613
da nossa vida trabalhando nisso,
conversando com todos os principais especialistas

1996
01:30:02,614 --> 01:30:05,007
no planeta sobre o assunto,

1997
01:30:05,008 --> 01:30:07,705
e você vai acabar com isso

1998
01:30:07,706 --> 01:30:10,839
com alguns, tipo,
besteira kumbaya?

1999
01:30:10,840 --> 01:30:13,537
Há um asteróide
dirigiu-se para a Terra.

2000
01:30:13,538 --> 01:30:15,539
O que você faz? Apenas...

2001
01:30:15,540 --> 01:30:17,672
dar as mãos
e espero que dê certo, tudo bem?

2002
01:30:17,673 --> 01:30:19,456
Absolutamente não.

2003
01:30:19,457 --> 01:30:22,328
Nós temos que-- isso ha--
tem que ser...

2004
01:30:22,329 --> 01:30:24,419
O final tem que...

2005
01:30:25,855 --> 01:30:27,943
Ok, primeira coisa:

2006
01:30:27,944 --> 01:30:31,468
A IA está aqui,
e está aqui para ficar.

2007
01:30:31,469 --> 01:30:32,948
A merda está fora do cavalo,

2008
01:30:32,949 --> 01:30:35,430
mas o cavalo é
vou continuar cagando.

2009
01:30:39,695 --> 01:30:41,609
Você sabe, um dos princípios básicos
leis da história

2010
01:30:41,610 --> 01:30:44,046
é que nada
realmente tem um começo

2011
01:30:44,047 --> 01:30:46,004
e nada tem fim.

2012
01:30:46,005 --> 01:30:47,745
Simplesmente continua.

2013
01:30:47,746 --> 01:30:50,574
A IA não está nem perto
seu pleno desenvolvimento.

2014
01:30:50,575 --> 01:30:52,837
Mesmo que
a atual bolha de IA estourou,

2015
01:30:52,838 --> 01:30:54,622
os humanos nunca vão parar

2016
01:30:54,623 --> 01:30:57,581
construindo cada vez mais
tecnologia poderosa.

2017
01:30:57,582 --> 01:30:59,453
Você pode optar por não usar IA

2018
01:30:59,454 --> 01:31:02,281
ou participar dele, mas é
vai afetar você de qualquer maneira.

2019
01:31:02,282 --> 01:31:04,066
Ok, fantástico.
Então estamos ferrados.

2020
01:31:04,067 --> 01:31:06,635
Não, não estamos
por causa de uma coisa simples.

2021
01:31:10,943 --> 01:31:13,031
Isto não é inevitável.

2022
01:31:13,032 --> 01:31:15,251
Se pudéssemos ver isso
claramente juntos,

2023
01:31:15,252 --> 01:31:18,384
a resposta óbvia será
para escolher algo diferente.

2024
01:31:18,385 --> 01:31:21,083
Precisamos muito claramente
mudar o jogo

2025
01:31:21,084 --> 01:31:23,172
de uma corrida para o fundo
em uma corrida até o topo.

2026
01:31:23,173 --> 01:31:27,481
O problema que precisamos
resolver não é IA especificamente.

2027
01:31:27,482 --> 01:31:31,267
É a questão geral
de como construímos uma sociedade

2028
01:31:31,268 --> 01:31:33,922
que pode lidar com
tecnologia poderosa.

2029
01:31:33,923 --> 01:31:35,401
Porque vamos conseguir

2030
01:31:35,402 --> 01:31:36,838
só que cada vez mais poderoso
tecnologia.

2031
01:31:36,839 --> 01:31:39,710
Precisamos atualizar nossa sociedade,

2032
01:31:39,711 --> 01:31:41,538
e o primeiro passo é
vindo juntos

2033
01:31:41,539 --> 01:31:43,409
- e exigente...
-Coordenação.

2034
01:31:43,410 --> 01:31:47,065
Alguma forma de internacional
cooperação ou acordo sobre

2035
01:31:47,066 --> 01:31:48,545
quais deveriam ser as normas.

2036
01:31:48,546 --> 01:31:49,938
Você sabe, como deveria
eles sejam implantados...

2037
01:31:49,939 --> 01:31:51,592
Tipo, de verdade
diplomacia internacional

2038
01:31:51,593 --> 01:31:53,332
entre as superpotências.

2039
01:31:53,333 --> 01:31:56,335
Os chineses estão tão preocupados
sobre isso como os americanos.

2040
01:31:56,336 --> 01:31:57,772
Eu acho que é difícil,
você sabe,

2041
01:31:57,773 --> 01:31:59,556
no atual
clima geopolítico,

2042
01:31:59,557 --> 01:32:01,297
- mas acho que é necessário.
-Absolutamente.

2043
01:32:01,298 --> 01:32:04,735
Exatamente da mesma maneira que
a última vez que a humanidade

2044
01:32:04,736 --> 01:32:09,653
desenvolveu uma tecnologia
isso é perigoso...

2045
01:32:09,654 --> 01:32:12,438
...que exigia um trabalho completo,
mudança sem precedentes

2046
01:32:12,439 --> 01:32:15,572
à estrutura do nosso mundo.

2047
01:32:15,573 --> 01:32:17,661
Então precisamos fazer isso completo,

2048
01:32:17,662 --> 01:32:20,925
mudança sem precedentes novamente.

2049
01:32:20,926 --> 01:32:24,146
Você sabe, nós conversamos com as pessoas
que trabalham nessas empresas de IA,

2050
01:32:24,147 --> 01:32:25,364
e eles dizem que querem fazer
algo diferente,

2051
01:32:25,365 --> 01:32:26,670
mas eles precisam de pressão pública.

2052
01:32:26,671 --> 01:32:28,193
Eles precisam do governo
para fazer alguma coisa.

2053
01:32:28,194 --> 01:32:30,021
Então vamos para DC,
e eles dizem:

2054
01:32:30,022 --> 01:32:31,893
"Bem, precisamos do Vale do Silício
para fazer algo diferente.

2055
01:32:31,894 --> 01:32:33,677
São eles que vão
venha com as grades de proteção."

2056
01:32:33,678 --> 01:32:35,723
E então todo mundo está apontando
o dedo para outra pessoa,

2057
01:32:35,724 --> 01:32:39,509
e o que eles concordam é
que precisamos de pressão pública

2058
01:32:39,510 --> 01:32:41,250
para que outra coisa
acontecer.

2059
01:32:41,251 --> 01:32:42,860
E é isso que você

2060
01:32:42,861 --> 01:32:44,296
e todas as pessoas
assistir a esse filme pode fazer.

2061
01:32:44,297 --> 01:32:45,341
Precisamos segurar os líderes

2062
01:32:45,342 --> 01:32:47,125
em nossos governos

2063
01:32:47,126 --> 01:32:48,605
e os líderes de
essas empresas responsáveis.

2064
01:32:48,606 --> 01:32:51,042
Qualquer que seja o país em que você esteja,

2065
01:32:51,043 --> 01:32:52,914
deixe-os saber
que você não está feliz

2066
01:32:52,915 --> 01:32:54,611
com o status quo atual.

2067
01:32:54,612 --> 01:32:57,135
Então, sim, é chato dizer
ligue para o seu congressista.

2068
01:32:57,136 --> 01:32:59,398
Eu não estou dizendo que você deveria
apenas faça isso, mas, tipo,

2069
01:32:59,399 --> 01:33:00,965
nós temos que fazer isso.

2070
01:33:00,966 --> 01:33:02,445
Tipo, nós temos que conseguir
o governo envolvido.

2071
01:33:02,446 --> 01:33:03,881
Então nós apenas
ligue para eles e diga:

2072
01:33:03,882 --> 01:33:06,014
"Ei, pare com a Big Tech
de arruinar o mundo"?

2073
01:33:06,015 --> 01:33:08,930
Não, mas existem
toneladas de coisas realmente óbvias,

2074
01:33:08,931 --> 01:33:10,714
coisas simples
podemos ser exigentes.

2075
01:33:10,715 --> 01:33:12,542
Precisamos de transparência.

2076
01:33:12,543 --> 01:33:14,283
Precisamos acabar com o sigilo
que existe dentro desses laboratórios,

2077
01:33:14,284 --> 01:33:16,677
porque eles estão construindo
tecnologia poderosa,

2078
01:33:16,678 --> 01:33:18,722
e o público merece saber
o que está acontecendo.

2079
01:33:18,723 --> 01:33:20,724
Em última análise,
precisaremos de independência,

2080
01:33:20,725 --> 01:33:23,292
terceiros objetivos
para avaliar os sistemas.

2081
01:33:23,293 --> 01:33:27,078
Não podemos contar com as empresas
para avaliar seu próprio dever de casa.

2082
01:33:27,079 --> 01:33:31,213
Se-se uma empresa usa IA e-e
tem IA interagindo com você,

2083
01:33:31,214 --> 01:33:34,999
deve revelar que você é
interagindo com um sistema de IA.

2084
01:33:35,000 --> 01:33:38,655
Sim. E-e também precisamos
um sistema que faz com que as empresas

2085
01:33:38,656 --> 01:33:41,876
legalmente responsável pelo
Sistemas de IA que eles produzem.

2086
01:33:41,877 --> 01:33:45,793
Precisamos ter certeza de que há
são testes e padrões de segurança

2087
01:33:45,794 --> 01:33:48,056
que são aplicados a todos.

2088
01:33:48,057 --> 01:33:49,753
Precisamos de algumas regras básicas,

2089
01:33:49,754 --> 01:33:51,581
e precisamos continuar nos adaptando
essas regras

2090
01:33:51,582 --> 01:33:54,628
na velocidade que
a tecnologia se desenvolve.

2091
01:33:54,629 --> 01:33:57,195
Existe atualmente
mais regulamentação

2092
01:33:57,196 --> 01:33:59,328
sobre vender um sanduíche
para o público

2093
01:33:59,329 --> 01:34:02,940
do que há na construção
AGI potencialmente capaz de acabar com o mundo.

2094
01:34:02,941 --> 01:34:04,725
E a última coisa é

2095
01:34:04,726 --> 01:34:07,641
para nos atualizarmos.

2096
01:34:07,642 --> 01:34:09,773
Este não é, tipo, o trabalho
de, tipo, a equipe de segurança

2097
01:34:09,774 --> 01:34:11,775
em qualquer laboratório ou o CEO.

2098
01:34:11,776 --> 01:34:13,342
Então, tipo, isso é
trabalho de todos.

2099
01:34:13,343 --> 01:34:14,822
Não, tipo, deixe isso
até os especialistas em IA.

2100
01:34:14,823 --> 01:34:16,998
Tipo, [bip] isso.
Tipo, este é o momento

2101
01:34:16,999 --> 01:34:19,304
que estamos em transição
de, tipo,

2102
01:34:19,305 --> 01:34:21,567
principalmente poder cognitivo humano
para, tipo, poder cognitivo da IA,

2103
01:34:21,568 --> 01:34:23,134
e isso afeta a todos,

2104
01:34:23,135 --> 01:34:24,875
e eu quero que as pessoas sejam
nessa conversa.

2105
01:34:24,876 --> 01:34:26,921
E eu diria, se você pensa
que a IA vai matar todos nós,

2106
01:34:26,922 --> 01:34:28,531
você deveria estar trabalhando
em pesquisa de IA

2107
01:34:28,532 --> 01:34:30,272
para ter certeza de que isso não acontece,
porque você tem

2108
01:34:30,273 --> 01:34:32,230
uma enorme quantidade de agência.

2109
01:34:32,231 --> 01:34:33,884
Seja você quem for,

2110
01:34:33,885 --> 01:34:35,886
você é um especialista
em sua própria indústria,

2111
01:34:35,887 --> 01:34:39,194
na sua própria escola,
em sua própria família,

2112
01:34:39,195 --> 01:34:42,632
e depende de você
como a IA é usada em sua vida.

2113
01:34:42,633 --> 01:34:45,026
Se você deseja participar
seu conselho escolar

2114
01:34:45,027 --> 01:34:47,898
ou-ou se você quer perguntar
seu empregador

2115
01:34:47,899 --> 01:34:49,421
como eles estão usando
tecnologias de IA,

2116
01:34:49,422 --> 01:34:51,989
tipo, todos nós podemos fazer o trabalho.

2117
01:34:51,990 --> 01:34:56,124
Muitos sindicatos foram
bastante eficaz em, tipo,

2118
01:34:56,125 --> 01:34:59,083
determinando como eles querem
interagir com esses sistemas.

2119
01:34:59,084 --> 01:35:02,739
Sindicatos de enfermeiros, sindicatos de professores.

2120
01:35:02,740 --> 01:35:04,610
eu adoraria
se os pais em todos os lugares

2121
01:35:04,611 --> 01:35:06,177
foi para as empresas de IA
e disse:

2122
01:35:06,178 --> 01:35:08,049
"Como você pode ser melhor
sobre isso?" Incluindo nós.

2123
01:35:08,050 --> 01:35:11,226
Então, fundei a Encode Justice
quando eu tinha 15 anos.

2124
01:35:11,227 --> 01:35:14,882
Somos os primeiros do mundo
e maior exército de jovens

2125
01:35:14,883 --> 01:35:18,407
lutando por uma abordagem centrada no ser humano
inteligência artificial.

2126
01:35:18,408 --> 01:35:21,062
Não importa quem você é,
até as menores ações ajudam,

2127
01:35:21,063 --> 01:35:23,978
e até mesmo uma conversa começando
é muito, muito valioso.

2128
01:35:23,979 --> 01:35:25,980
Então meu trabalho poderia ser, tipo,

2129
01:35:25,981 --> 01:35:27,982
conte a Bubby Lila sobre isso
no jantar?

2130
01:35:27,983 --> 01:35:29,810
Honestamente, sim,
isso faz parte.

2131
01:35:29,811 --> 01:35:31,681
E nós vamos ter que fazer

2132
01:35:31,682 --> 01:35:34,466
muitas coisas que
ainda nem pensamos.

2133
01:35:34,467 --> 01:35:36,077
As pessoas vão olhar
qualquer coisa que descrevemos

2134
01:35:36,078 --> 01:35:37,295
e dizer: "Isso não é suficiente."

2135
01:35:37,296 --> 01:35:38,993
O que importa é que as forças

2136
01:35:38,994 --> 01:35:40,951
que estão funcionando
em direção a soluções

2137
01:35:40,952 --> 01:35:44,476
começar a exceder as forças que
estão trabalhando contra soluções.

2138
01:35:44,477 --> 01:35:46,435
Tornando o mundo melhor
sempre foi difícil.

2139
01:35:46,436 --> 01:35:47,871
Nunca foi fácil.

2140
01:35:47,872 --> 01:35:50,004
Tipo, houve
muitas coisas ruins

2141
01:35:50,005 --> 01:35:51,962
que aconteceram na história,
e nós tivemos--

2142
01:35:51,963 --> 01:35:53,747
tipo, as pessoas tiveram
para lidar com isso,

2143
01:35:53,748 --> 01:35:56,837
e então eles se levantaram
e mudou.

2144
01:35:56,838 --> 01:36:00,362
Há um número insano
dos desafios que temos pela frente,

2145
01:36:00,363 --> 01:36:04,148
mas se conseguirmos ultrapassá-los,

2146
01:36:04,149 --> 01:36:08,109
podemos desbloquear um futuro além
nossa imaginação mais selvagem.

2147
01:36:08,110 --> 01:36:10,459
Temos que nos unir

2148
01:36:10,460 --> 01:36:14,289
e encontre o caminho entre
a promessa e o perigo.

2149
01:36:14,290 --> 01:36:16,422
Não podemos ser pessimistas
ou otimistas.

2150
01:36:17,423 --> 01:36:19,425
Temos que nos tornar algo novo.

2151
01:36:21,732 --> 01:36:24,516
Um amigo meu me liga
um apocalotimista.

2152
01:36:24,517 --> 01:36:26,083
"Apocalotimista"?

2153
01:36:26,084 --> 01:36:28,303
Eu acho que isso pode ser
minha nova palavra favorita.

2154
01:36:28,304 --> 01:36:29,957
- HOMEM: Pode ser
o nome deste filme.

2155
01:36:29,958 --> 01:36:31,306
Pode ser o nome
deste filme. -

2156
01:36:31,307 --> 01:36:34,222
- "Apocalotimista".
- "Apocalotimista".

2157
01:36:34,223 --> 01:36:35,876
Sim.

2158
01:36:35,877 --> 01:36:37,312
Eu não acredito em desgraça.

2159
01:36:37,313 --> 01:36:39,096
Eu acredito no espírito da vida,

2160
01:36:39,097 --> 01:36:42,708
uh, e eu acredito que a vida é
sobre a capacidade de agir.

2161
01:36:42,709 --> 01:36:44,319
A capacidade de se relacionar,

2162
01:36:44,320 --> 01:36:46,365
a capacidade de sentir.

2163
01:36:51,022 --> 01:36:53,981
Temos que dobrar
cada vez mais

2164
01:36:53,982 --> 01:36:57,071
nessas capacidades
que temos como humanos

2165
01:36:57,072 --> 01:37:00,161
que os sistemas robóticos
nunca terá.

2166
01:37:00,162 --> 01:37:04,339
Chegou a hora
para tomar essas decisões sobre

2167
01:37:04,340 --> 01:37:07,516
como orientá-lo e apoiá-lo
em vez de nos dividir.

2168
01:37:07,517 --> 01:37:10,301
Parece
criando um filho.

2169
01:37:10,302 --> 01:37:12,477
É isso que está acontecendo. Sim.

2170
01:37:12,478 --> 01:37:14,523
IA pode ter
mais inteligência bruta

2171
01:37:14,524 --> 01:37:17,265
do que nossos pequenos cérebros humanos,

2172
01:37:17,266 --> 01:37:21,095
mas somos muito mais
do que apenas a nossa inteligência.

2173
01:37:21,096 --> 01:37:25,099
Inteligência é-é
a capacidade de resolver problemas.

2174
01:37:25,100 --> 01:37:28,320
Sabedoria é a capacidade de saber
quais problemas resolver.

2175
01:37:33,760 --> 01:37:34,935
Pode ir para sua geladeira.

2176
01:37:36,241 --> 01:37:38,155
Então, não desista.

2177
01:37:38,156 --> 01:37:39,809
A humanidade fez

2178
01:37:39,810 --> 01:37:42,160
coisas mais difíceis que isso
em sua história.

2179
01:37:43,553 --> 01:37:46,381
É difícil convencer
pessoas que deveriam.

2180
01:37:54,912 --> 01:37:56,870
Então, quando comecei
fazendo esse filme,

2181
01:37:56,871 --> 01:37:58,480
Eu diria que eu estava, tipo,

2182
01:37:58,481 --> 01:38:00,961
amplamente um idiota cínico
sobre tudo isso.

2183
01:38:00,962 --> 01:38:03,137
Ao longo do curso
de fazer o filme,

2184
01:38:03,138 --> 01:38:04,703
eu vim a entender
isso, tipo,

2185
01:38:04,704 --> 01:38:07,489
essa é a única coisa
não podemos ser.

2186
01:38:07,490 --> 01:38:09,404
...ou qualquer outra coisa
você gostaria de discutir?

2187
01:38:09,405 --> 01:38:11,406
Não. Acho que cobrimos muita coisa.

2188
01:38:11,407 --> 01:38:13,060
- Sim.
-Muito obrigado.

2189
01:38:13,061 --> 01:38:15,540
Obrigado.

2190
01:38:15,541 --> 01:38:16,933
Este é um problema que é maior

2191
01:38:16,934 --> 01:38:19,109
do que qualquer pessoa.

2192
01:38:19,110 --> 01:38:21,590
Isto mudará o mundo em
maneiras que não entendemos.

2193
01:38:21,591 --> 01:38:23,505
Tudo isso é verdade.

2194
01:38:23,506 --> 01:38:25,594
OK.

2195
01:38:25,595 --> 01:38:27,726
Mas sobre o que temos agência

2196
01:38:27,727 --> 01:38:30,120
é o que fazemos sobre isso.

2197
01:38:30,121 --> 01:38:32,601
À medida que a IA de fronteira cresce
exponencialmente mais capaz...

2198
01:38:32,602 --> 01:38:34,472
E a realidade

2199
01:38:34,473 --> 01:38:36,605
é que se apenas decidirmos
é impossível,

2200
01:38:36,606 --> 01:38:39,042
então é impossível.

2201
01:38:39,043 --> 01:38:40,783
...para colocar menos estresse
no planeta Terra...

2202
01:38:40,784 --> 01:38:42,785
Mas se você decidir

2203
01:38:42,786 --> 01:38:45,528
que você quer experimentar...

2204
01:38:46,790 --> 01:38:48,138
... então você tenta.

2205
01:38:48,139 --> 01:38:49,967
E isso é difícil.

2206
01:38:51,273 --> 01:38:53,230
Mas você sabe o que?

2207
01:38:53,231 --> 01:38:56,278
Grandes coisas parecem impossíveis
antes que eles realmente aconteçam.

2208
01:38:58,149 --> 01:39:01,456
Mas quando eles finalmente acontecem,

2209
01:39:01,457 --> 01:39:05,286
é porque milhões de pessoas
realizou milhões de ações

2210
01:39:05,287 --> 01:39:07,592
para fazê-los acontecer.

2211
01:39:07,593 --> 01:39:10,334
E então...

2212
01:39:10,335 --> 01:39:12,424
temos que tentar.

2213
01:39:21,129 --> 01:39:23,565
Há muita coisa em jogo.

2214
01:39:37,232 --> 01:39:41,278
Veja as mudanças incríveis
nós experimentamos e sobrevivemos

2215
01:39:41,279 --> 01:39:42,888
da Idade da Pedra,

2216
01:39:42,889 --> 01:39:46,153
e ainda mudanças ainda maiores
ainda estão por vir.

2217
01:40:47,606 --> 01:40:50,217
♪ O que faremos agora? ♪

2218
01:40:50,218 --> 01:40:53,263
♪ Perdemos o controle por tentar ♪

2219
01:40:53,264 --> 01:40:55,135
♪ Nós perdemos isso ♪

2220
01:40:55,136 --> 01:40:56,746
♪ Para tentar ♪

2221
01:40:59,575 --> 01:41:02,272
♪ O que faremos agora? ♪

2222
01:41:02,273 --> 01:41:05,232
♪ Perdemos o controle por tentar ♪

2223
01:41:05,233 --> 01:41:07,016
♪ Nós perdemos isso ♪

2224
01:41:07,017 --> 01:41:08,714
♪ Para tentar ♪

2225
01:41:11,630 --> 01:41:14,154
♪ O que podemos dizer agora? ♪

2226
01:41:14,155 --> 01:41:17,244
♪ Nossas bocas apenas mentem ♪

2227
01:41:17,245 --> 01:41:18,680
♪ Nossas bocas ♪

2228
01:41:18,681 --> 01:41:20,683
♪ Apenas mentindo ♪

2229
01:41:25,122 --> 01:41:27,732
♪ O que podemos dizer agora? ♪

2230
01:41:27,733 --> 01:41:30,866
♪ Nossas bocas apenas mentem ♪

2231
01:41:30,867 --> 01:41:32,259
♪ Nossas bocas ♪

2232
01:41:32,260 --> 01:41:34,261
♪ Apenas mentindo ♪

2233
01:42:01,071 --> 01:42:03,768
♪ Ceda e saia ♪

2234
01:42:03,769 --> 01:42:06,728
♪ Nós ressuscitamos na morte ♪

2235
01:42:06,729 --> 01:42:08,251
♪ Nós nos levantamos ♪

2236
01:42:08,252 --> 01:42:10,211
♪ Na morte ♪

2237
01:42:13,127 --> 01:42:15,824
♪ Ceda e saia ♪

2238
01:42:15,825 --> 01:42:18,696
♪ Nós ressuscitamos na morte ♪

2239
01:42:18,697 --> 01:42:20,263
♪ Nós nos levantamos ♪

2240
01:42:20,264 --> 01:42:22,223
♪ Na morte ♪

2241
01:42:25,051 --> 01:42:27,705
♪ Ceda e saia ♪

2242
01:42:27,706 --> 01:42:30,708
♪ Nós ressuscitamos na morte ♪

2243
01:42:30,709 --> 01:42:32,275
♪ Nós nos levantamos ♪

2244
01:42:32,276 --> 01:42:34,148
♪ Na morte ♪

2245
01:42:37,107 --> 01:42:39,761
♪ Ceda e saia ♪

2246
01:42:39,762 --> 01:42:42,633
♪ Nós ressuscitamos na morte ♪

2247
01:42:42,634 --> 01:42:43,852
♪ Nós ♪

2248
01:43:22,761 --> 01:43:25,328
♪ Ah, ah, ah, ah, ah ♪

2249
01:43:25,329 --> 01:43:27,025
♪ Ah, ah, ah, ah ♪

2250
01:43:27,026 --> 01:43:28,462
♪ Ah, ah ♪

2251
01:43:28,463 --> 01:43:31,421
♪ Ah, ah, ah, ah, ah, ah ♪

2252
01:43:31,422 --> 01:43:32,988
♪ Ah, ah, ah, ah ♪

2253
01:43:32,989 --> 01:43:34,424
♪ Ah, ah ♪

2254
01:43:34,425 --> 01:43:37,079
♪ Ah, ah, ah, ah, ah, ah ♪

2255
01:43:37,080 --> 01:43:39,690
♪ O que faremos agora? ♪

2256
01:43:39,691 --> 01:43:42,693
♪ Perdemos o controle por tentar ♪

2257
01:43:42,694 --> 01:43:44,608
♪ Nós perdemos isso ♪

2258
01:43:44,609 --> 01:43:46,349
♪ Para tentar ♪

2259
01:43:46,350 --> 01:43:49,047
♪ Ah, ah, ah, ah, ah, ah ♪

2260
01:43:49,048 --> 01:43:51,746
♪ O que faremos agora? ♪

2261
01:43:51,747 --> 01:43:54,749
♪ Perdemos o controle por tentar ♪

2262
01:43:54,750 --> 01:43:56,620
♪ Nós perdemos isso ♪

2263
01:43:56,621 --> 01:43:58,448
♪ Para tentar. ♪