Original subtitles

@@@@@

Hola Siri,...

envíe un mensaje a Cheryl, recepción delantera.

¿Qué quieres decir?

Amos ya se dirige allí para recogerlo, punto.

Por favor, transfiera cualquier llamada que reciba a Brady, punto.

Su mensaje para Cheryl, recepción, dice:

"Amos ya se dirige allí para recogerlo.

Por favor, reenvíe todas las llamadas que reciba a Brady".

¿Listo para enviarlo?

Sí.

Vale, ya está enviado.

Hola Siri,...

¿Cómo sabes si estás haciendo lo correcto?

No estoy seguro de entender.

Pero ¿qué crees?

Cuál es la diferencia entre el bien y el mal?

Mmm.

No tengo una respuesta para eso.

¿Quieres que busque en la web?

No.

Bien, ¿hay algo más en lo que pueda ayudar?

Establece un recordatorio para recoger a Kyle de terapia mañana a las 4:45.

Está bien, te lo recordaré.

Hola, agente especial Deena Helms.

Ya conoció al agente McCullough.

Puedes llamarme Amós.

- ¿Agentes? - Toma asiento para nosotros, Gareth.

¿Te importaría responder un par de preguntas?

Genial, esto no debería llevar mucho tiempo.

Eres de Tampa, ¿verdad?

No lo pienses demasiado. Es un sí o un no.

Sí.

¿Cuántos años tienes, Gareth?

29.

¿En qué trabajas?

Lo siento, ¿me están deteniendo?

No, en absoluto.

Sólo estamos haciendo preguntas, antecedentes.

Trabajas en películas, ¿verdad?

Efectos especiales.

Alguien me dijo que trabajaste

en esa nueva película de "Star Wars", ¿verdad?

¿Quién te dijo eso?

¿Por qué no nos cuentas más al respecto?

Hablanos sobre tu trabajo.

Solía ​​hacer VFX para una empresa de animación.

He trabajado en al menos 20 películas diferentes.

¿Solía ​​hacerlo?

Me he estado concentrando más

en ingeniería de software recientemente durante años—

Suena aburrido comparado con los sables de luz.

¿Por qué renunciar?

No me pagaban bien.

Pero el dinero no es un problema para ti.

¿Disculpe?

¿Qué tipo de efectos hiciste?

- ¿El dinero no es un problema para mí? - Hablemos de... Hablemos...

Si el dinero no fuera un problema para mí...

- No habría solicitado tu subvención. - No quise sugerir nada.

Cuéntanos qué tipo de efectos hiciste.

Mi enfoque principal fueron las representaciones 3D.

¿De que?

- Actores. - ¿Para qué?

Bueno, para "Star Wars",

fue porque el actor que me encargaron digitalizar

no estaba disponible para ser filmado en persona.

¿Por qué?

Porque estaban muertos.

¿Qué te hicieron hacer?

Reconstruí el rostro de Alec Guinness como modelo 3D.

Analicé imágenes de referencia,

luego usó un proceso llamado D-Term para generar procedimentalmente

sus estructuras óseas y musculares,

cuál manipuló ayudó a que la animación se sintiera

más natural y humano.

D-Term, nunca antes había oído hablar de ese proceso.

Porque lo inventé yo.

¿Entonces básicamente estás resucitando a actores muertos?

Intenté hacer que los personajes generados por computadora se vieran como

fotorrealista como lo permitía la tecnología de la época.

¿No te pareció espeluznante?

¿Disculpa que?

¿Dije que no te parece espeluznante?

Bueno, hicimos todo lo posible para cruzar el valle inquietante.

Pero cuando el cerebro humano percibe

que algo está un poco mal y no importa—

No, me refiero a digitalizar a los muertos.

Cristo, quiero decir, es...

Es casi como convertir el cadáver de alguien en una marioneta, ¿sabes?

Obligándolos a hacer lo que quieras.

¿Y si el pobre muerto

¿No querías estar en otra puta película?

Es tan macabro.

¿Estoy loco? ¿No es macabro?

No creo que al estudio le importe si es macabro o no.

Mira, nunca puedo notar la diferencia.

Siempre puedo. Las caras parecen Play-Doh.

Bueno, hicimos nuestro mejor esfuerzo.

Pronto ni siquiera necesitaremos actores, ¿verdad?

Todos serán simplemente digitales.

No, aún los necesitas para el seguimiento de movimiento.

Las actuaciones humanas no pueden ser generadas completamente por computadora.

¿Hasta cuándo será eso cierto?

Algunos podrían decir que ya hemos cruzado ese umbral.

No lo sabría.

¿A dónde fuiste a la escuela?

- Secundaria Brooks-DeBartolo. - ¿Y después?

¿Nada?

¿Qué pasa con Colombia?

¿No fuiste a Colombia?

Espera no. Dejaste Colombia

¿Después de cuántos semestres?

¿Tres?

Bjarne Stroustrup dijo:...

Eras el chico más inteligente que jamás conoció.

No sé quién es, pero Amos dice que es gran cosa.

Luego te mudaste a los Países Bajos, hiciste una temporada como pasante,...

postulé y entré en Cambridge.

Muy lindo.

Excepto que lo abandonaste después de dos años.

Voló de regreso a Estados Unidos, hizo una pasantía en Palo Alto y luego en Montreal.

Luego regresó a Inglaterra,

donde conseguiste un trabajo en Sheffield.

Segundo trabajo en Manchester.

Luego ingresaste a Oxford, donde casi terminaste tu maestría.

antes de abandonar la graduación y regresar aquí a Florida.

Si el dinero fuera un problema,

Me alegra que tuvieras muchas millas de viajero.

No escuché una pregunta.

¿Cómo es tu vida social?

Dios mío, ¿qué tiene eso que ver?

Si no quieres hablar de eso, está bien.

Sólo queríamos saber si tienes amigos y esas cosas.

- Tengo amigos. - ¿Muchos de ellos?

- Tengo amigos. - ¿Puedes nombrar uno?

- ¿Puedo qué? - ¿Puedes decirnos el nombre...?

de solo uno de tus amigos?

- Steve. - Steve. ¿Steve qué?

No sé cómo esto es relevante para recibir la subvención.

Oh, apenas te estamos conociendo, Gareth.

¿Tú has conseguido una novia?

¿Novio?

¿Hablas con gente en línea?

No sé qué quieres decir con eso.

No uso las redes sociales.

Me refiero más bien a salas de chat.

¿Vas a alguna sala de chat?

Ya nadie usa las salas de chat.

Seguro que sí.

¿Chateas con alguien en línea?

- A veces. - A veces.

¿Con qué tipo de personas hablas en línea?

Gareth, obviamente, no se trata de una subvención.

Necesitamos saber cuál es su alias.

Cuando te conectas, ¿qué nombre utilizas?

No tengo uno.

Si tu puedes.

Y necesitas decirnos qué es.

Lo siento, no puedo ayudarte.

¿Sabes quiénes somos?

Bueno, este es el edificio ICWL.

Así es. ¿Sabes lo que hacemos?

Trabajo humanitario.

Eso es lo que hace la gente de arriba.

¿Sabes lo que hacemos?

Atrapamos a los pedófilos.

Amos aquí se especializa en rastrear depredadores en línea.

Pasa cada hora de vigilia,

recorriendo esas salas de chat que dices que nadie usa,...

y encuentra miles de personas solicitando niños.

Nuestra operación es como una telaraña muy tejida,

conectando a ICWL, el FBI, la NSA,

Y déjame decirte que su equipo aquí es un hilo vital.

Me informa directamente de todo lo que recoge,

y me encargo de que las autoridades necesarias

tomar medidas rápidas.

¿Entonces estás a cargo?

Esta es mi telaraña.

Soy la maldita araña, Gareth.

¿Estoy detenido?

Ya te dijimos que no estás detenido.

Bien.

Pero si sales de esta habitación, serás arrestado.

¿Para qué?

Te dije lo que hacemos.

Adivina.

No soy lo que crees que soy.

Ya veremos.

Gareth, sólo tienes que decirnos tu alias.

¿Cual es tu nombre de usuario?

Siéntate.

- ¿Por qué haces esto con ellos? - ¿Mmm?

No hay manera de que hagas esto con cada sospechoso que tengas.

Invítalos a tu sede,

y luego arrástrelos hacia un sótano.

Así es.

¿Por qué me haces esto entonces?

Dínoslo tú, Gare.

¿Qué te hace tan jodidamente especial?

No sé.

¿Cuál es tu alias?

- No tengo un alias. - Si tu puedes.

Comienza con la palabra difícil.

Simplemente termina el resto.

Siéntese, Sr. Federson.

Sólo tengo unas cuantas preguntas más.

¿Reconoces a esta chica?

¿La conoces?

Sí.

¿Cómo se llama?

Cereza.

- ¿Cereza qué? - Ella no tiene apellido.

Sí, lo es, Gareth, ella no es Madonna.

- Ella es una niña. - No lo entiendes.

Sí, bueno, me gustaría.

Así que ayúdame, ¿es tu hija?

- No. - ¿Entonces de quién es hija?

- Ella, ella no tiene... - ¿Cómo la conociste?

No la conocí.

Entonces ¿por qué tienes fotos de ella en tu computadora?

¿De qué diablos estás hablando?

¿Por qué tienes fotos de esta chica en tu puta...?

- ¿Estás mirando mi disco duro? - Entonces tú sabes...

- Porque eso es una invasión de la privacidad. - ¿De qué fotos estoy hablando?

No tienes que hacerlo de esta manera.

Te di permiso para sentarte.

No te di permiso para hablar.

Esto es una locura, no puedes seguir...

¿Qué más has hecho con ella?

- ¡Nada! - ¿Tomaste las fotos?

Es, es complicado.

¡No, no es! ¿Sí o no?

¿Tomaste las fotos?

No hice nada malo, ¿vale?

Solicitar pornografía de menores es un delito grave.

Distribuir esa pornografía es diez veces peor.

- ¡Yo no hice nada! - ¡Pruébalo!

¿Cuál es tu alias?

¡Respóndeme!

Máquina dura11811.

Eres HardMachine.

Gracias por confirmar.

Si lo sabías, ¿por qué me haces esto?

No éramos positivos

y si resulta que no eres HardMachine,

Obviamente eras sólo un depredador.

¿Haces un seguimiento?

Quiero decir, ¿sabes a cuánta gente mala has atrapado?

No comencé a contar hasta 2023.

196 condenas.

Había al menos 30

antes de empezar a enviarles todo.

¿Qué hiciste antes?

Entregué todas las pruebas directamente a la policía.

¿Por qué paraste?

No eran confiables.

- Dudo que. - Más de la mitad de los depredadores...

Lo que identifiqué no fue investigado.

Sí, bueno, eras incompleto y sin rostro.

Tenían todo el derecho a ser escépticos.

todo hubiera sido en vano

si descubrieran que estabas usando a una niña como cebo.

No es tan simple, ¿vale?

Sólo puedo hacer lo que hago desde el anonimato.

Este es mi problema, Gareth, y no me malinterpretes.

Creo que 200 personas terribles tras las rejas.

Es algo muy bueno, pero no a su costa.

Mira, creemos que podemos ayudarte, pero necesitamos ayudarla a ella también.

Usar a tu hija para atrapar a estas personas.

es un medio que no justifica los fines.

Ella no es mi hija.

Y a pesar de lo que puedas creer que has logrado,

Todavía no tengo reservas en encerrarte.

Tú tomaste las fotos.

No me importa por qué.

No lo entiendes.

¿Quién es ella?

Vas a arruinarlo todo.

Es una niña, Gareth, mírame.

Me importa un carajo qué jodido plan maestro antihéroe

tuyo podría poner en peligro.

No dejaré que la exploten.

Ni siquiera para encerrar a más pervertidos.

Te pido cortésmente que dejes pasar esto.

¿Eres jodidamente lento?

¿Has estado escuchando?

Mi anonimato es mi activo más importante.

Sin eso, no puedo hacer lo que hago.

Bueno, entonces eso hace que todo sea más fácil.

Díganos dónde está o lo filtraremos todo.

- Tu nombre, tus alias. -¡Deena!

Cada uno de los delincuentes que nos ayudaste a atrapar.

Estoy seguro de que estarán encantados de conocerte en la cárcel.

¡Detener!

Bueno.

Mira, si te hablo de Cherry, vale,

Hay algunas cosas que necesitaré primero.

Realmente no funciona así, Gareth, pero adelante.

Danos tu lista de deseos.

Necesito un acuerdo de confidencialidad firmado por ambos.

- No va a pasar. - Y luego necesito que jures...

que la información que estoy a punto de transmitir

No saldrá de esta habitación.

Mira, si nos dices algo que pueda ayudarnos a localizar a Cherry,

Sabes que no podemos cumplir esa promesa.

Vale, si te digo algo.

que potencialmente le ayude a encontrar un niño desaparecido,

Está bien, puedes sentirte libre de compartir eso.

Pero necesito que jures

que cualquier otro detalle sobre mí o Cherry,

Tienes que quedarte entre nosotros tres.

¿Es asi?

Y necesito que esa cámara esté apagada.

No sé cómo hacer eso.

Dirígete al jefe de la oficina de valores,

Pídale que encuentre esta cámara en el sistema y la desactive.

No creo que se le permita hacer eso.

¿Pensé que eras la maldita araña?

Dame una razón, Gareth.

¿Por qué debería pasar por todos los problemas?

¿De apagar esa cámara?

Porque si alguien descubre lo que voy a decirle,...

Mil niños más sufrirán abusos.

Dame un minuto.

Entonces, ¿tú y Cherry cazaron a toda esa gente juntos?

Esta vez pasé seis semanas encubierto intentando

para atrapar a un solo traficante de Filipinas.

Día tras día,...

Pasé hora tras hora siguiendo su rastro en línea.

Y él debe haber sido

Uno de los objetivos más difíciles que he tenido que localizar.

Entonces un día lo encontré a él y a una de las transmisiones en vivo de Cherry.

Quiero decir, ella tenía un nombre diferente en la corriente,

pero era ella.

El traficante...

junto con tres de nuestros otros objetivos estaban todos juntos en la sala.

Todos ellos simplemente comparten descuidadamente su información.

Quiero decir, y fueron muy abiertos porque ella era una chica de verdad.

Quiero decir, ella podría físicamente

y responderles verbalmente en tiempo real.

Un par de días después, HardMachine11811 envía ICWL

Otro lote de nombres y pruebas,...

incluidos los tres objetivos que estaban en la habitación.

Sabes, casi pensé que la chica era HardMachine.

y que este niño de nueve años

Resultó ser un vigilante en línea rudo.

¿Qué te hizo cambiar de opinión?

11811.

18 de enero de 2011.

La mayor parte de mi equipo pensó que era un número arbitrario...

pero recuerdo lo que pasó ese día en Clearwater.

Eras uno de los niños de Clearwater, ¿no?

Sabes, mi padre fue parte de esa redada.

Está apagado, ¿ves?

Sin luz roja.

¿Acuerdos de no divulgación?

No vamos a jugar a este juego, Gareth.

Vas a tener que aguantar y confiar en nosotros.

Puedes confiar en nosotros.

Me han dicho que tengo problemas de confianza.

Bueno, sólo hay una manera de solucionarlo.

La razón por la que no puedes encontrar a Cherry,

la razón por la que no tiene apellido ni padres,

o un número de seguro social es porque ella no es real.

Ella no es un ser humano real.

Cuéntanos qué pasó.

Mientras estudiaba en el extranjero,

Hice prácticas en un pequeño estudio de animación holandés.

unos años antes de que colaboraran

con una organización sin fines de lucro local sobre una idea similar.

¿Que era?

La idea era construir un modelo 3D de una niña filipina de 11 años.

y utilizarla de forma encubierta para identificar depredadores en línea,

Una solución tecnológica a un problema tecnológico.

Pero el proyecto fue suspendido después de sólo unos meses.

Sí, lo recuerdo.

Recuerdo haber oído hablar de ese programa.

¿Es eso lo que te inspiró?

A medida que fui mejorando en la creación de rostros fotorrealistas,...

Decidí trabajar en uno yo mismo.

¿Por qué?

Era una idea demasiado efectiva como para dejarla morir.

Cientos de miles de niños están en riesgo.

Tuve que obligarla.

¿A quién sigue el modelo?

Nadie, la construí desde cero.

¿Rascar?

Empecé con un cráneo, diseñé su estructura ósea,

trabajado hacia arriba a través de músculos y tejidos,...

utilizó el programa D-Term para completar el resto de manera procesal.

Con el tiempo llegó a tener ese aspecto.

Un modelo completamente único y completamente digital.

Le arreglé la cara y el cuerpo,...

como lo harías con cualquier personaje CG.

Luego, durante tres años,...

Utilicé el seguimiento de movimiento para manipularla en tiempo real.

Tienes que entender que los chats de vídeo en esos sitios

tiene tan baja resolución...

que incluso en su etapa más temprana de esto, ella,...

parecíamos completamente auténticos.

¿Y qué pasa con la voz?

Durante la mayor parte de su primer año, tuvo que permanecer muda, pero...

Finalmente encontré un filtro de voz decente y sin demoras.

Y después de algunos ajustes y ajustes,...

ha sido la misma voz desde entonces.

Yo, yo, pensé inicialmente,...

Mi actuación iba a ser demasiado antinatural.

Pero con sólo una semana de sesiones ocasionales de video chat,

Conseguí seis nombres diferentes,

direcciones postales, pruebas de solicitudes.

Cereza funcionó.

¿Entonces las fotos en tu computadora?

- Completamente falso. - Era la única manera...

algunos de ellos revelaron información personal.

Pero todo eran ceros y unos, todo digital, ¿verdad?

- No hay ningún niño real. - Ningún niño real.

Sólo un modelo de computadora muy detallado.

Y déjame dejarte claro algo,...

No obtengo ningún placer al hacer nada de esto.

He sido asexual toda mi vida.

Yo, ni siquiera tengo una sensación de satisfacción

de ver a estas personas encerradas.

Simplemente creo que los niños merecen una vida libre de explotación.

Increíble todo este tiempo.

No voy a mentir, Gareth.

Cherry nos ha hecho mucho bien.

Sabes, todavía recuerdo lo que me dijiste...

la primera vez que mantuvimos correspondencia.

- Dijiste... - ¿Mantuvimos correspondencia?

Si hombre.

Soy Gord51.

Soy a quién le has estado enviando toda tu información.

¿Eres Gord?

Sí.

Me mentiste.

Dijiste que podía permanecer en el anonimato.

Dijiste que estaría a salvo.

Ahora lo has arruinado todo.

Yo, no lo hice, no tuve elección.

No tienes que preocuparte por nada, Gareth.

Si Cherry no es real,...

Entonces no tendrás ningún problema con nosotros.

De hecho, hemos discutido ideas similares a esta en el pasado,

seguimiento de movimiento y demás.

Pero necesitaríamos un modelo convincente como Cherry.

Cherry es más que una modelo.

¿Quieres ayudar a los niños? Nosotros también.

Ella no está a la venta.

Bueno, entonces haznos un nuevo modelo basado en ella.

No puedo.

Seguro que puede.

No lo haré.

¿Qué no nos estás contando?

Ya está sobre la mesa.

También podrías decir lo que sea que aún no hayas hecho.

¿Sabes lo que no tiene sentido?

Dijiste que la manipulaste durante sólo tres años,...

pero hemos estado recibiendo información tuya desde entonces.

De hecho, estoy bastante seguro de que fue por entonces.

que comenzamos a ver un aumento impresionante de nombres.

De hecho, tantos que empezamos a pensar.

No hay manera de que todo esto venga de una sola fuente.

Tengo amigos que hacen mo-cap por mí.

Oh, amigos, ¿como Steve?

Pensé que el anonimato era tu mayor activo.

Deja de tonterías, Gareth.

¿Qué pasó con Cherry después de tres años?

Vale, dijiste que ella era más que una modelo.

Entonces, ¿qué es ella algún tipo de agente conversacional?

¿Como un chatbot?

¿Bot de chat?

¿Sabes lo que pasó después de tres años?

Mi madre elegida murió.

Lo que ella dejó atrás fue suficiente para dejar mi trabajo.

y buscar más recursos y software.

ya habia hecho un programa

que podría generar caras procedimentalmente,...

pero lo que quería para Cherry era mucho más complejo.

Entonces me puse en contacto con algunos investigadores.

de Madrid que ya había construido

un sistema propio de diálogo sobre la caza de depredadores.

Fue entrenado para abordar las conversaciones como un juego.

Cada frase como una volea estratégica,

lo cual es innovador pero, en última instancia, defectuoso.

Si quieres que tu máquina domine la PNL,...

hay que derribar la teoría de juegos porque el lenguaje no es tres en raya.

Es poesía.

Así que sí, comencé con un chatbot modificado preexistente.

que tomé prestado sin permiso de la Universidad de Deusto.

Pero eso no es lo que Cherry es ahora.

¿Qué es ella, Gareth?

Ella es una de las más complejas.

y Als en evolución independiente que jamás se haya creado.

¿Inteligencia artificial?

Ella ya superó la estrecha inteligencia.

de los programas más inteligentes de IBM.

Puede tener conversaciones completas, hasta 10 a la vez,...

todo mientras simultáneamente elaboramos estrategias

el horario más eficiente para visitar varias salas de chat.

Está constantemente estudiando vídeos de YouTube de niños pequeños.

para adoptar una creciente biblioteca de gestos y movimientos...

que ayudan a mantener dinámica su personalidad artificial.

Su tiempo de respuesta más rápido es de 0,4 segundos.

Y hasta ahora, ella nunca, nunca ha sido acusada de ser falsa,

lo que significa que destrozó la prueba de Turing.

Todo lo que hago es actualizarla ocasionalmente.

y comprobar periódicamente su limpieza de datos.

De lo contrario, está completamente en piloto automático.

Santa mierda.

- ¿Cómo? - Lleva seis años activa.

Cada minuto que está en línea, está aprendiendo algo.

Cuanto más aprende, más avanzada se vuelve.

Esto significa una mayor generación de datos,...

mejora en la toma de decisiones,...

Detección más rápida de patrones y tendencias y resolución de problemas complejos.

PNL, IR y aprendizaje automático a un nivel sin precedentes.

Ella puede aprender cualquier cosa por sí misma.

cree que ayudará a la eficiencia y la autenticidad.

Actualmente puede hablar cuatro idiomas,...

y para finales de este mes habrá dominado un quinto.

No hay manera de que pudieras haberlo hecho.

todo esto por tu cuenta.

Tienes razón.

¿Me creerías si te lo dijera?

¿Fue algo así como un accidente?

Mira, si te soy sincero,

No estoy del todo seguro de cómo lo hice durante el primer año de codificación.

y en el segundo año de capacitación en datos, simplemente empujé una rueda colina abajo.

Era como si la gravedad hiciera el resto.

Su evolución se volvió perpetua, exponencial.

Cuanto más tiempo pasaba en línea, más rápido crecía.

¿No has compartido esto con nadie?

Como dije, mi anonimato lo es todo.

¿Qué lenguaje de codificación?

C++ estándar.

¿Brady lo sabe?

Firmaremos declaraciones de confidencialidad por usted, pero primero quiero ver el código fuente.

Fuera de la cuestión. Sólo quieres robármela.

No, quiero ver cómo podemos hacer el nuestro.

Lo arruinarás.

Mira, estos, estos depredadores y traficantes, todos hablan entre ellos, ¿vale?

Gran parte del proceso de Cherry simplemente pasa por alto las VPN

y asegurándose de que no se doble en los mismos círculos.

Las salas de chat empiezan a sospechar

Si esta tecnología es posible, encontrarán una manera de evitarlo.

Tenemos que eliminar cualquier margen de error.

- Cherry está de acuerdo conmigo. - ¿Cereza está de acuerdo?

¿Qué carajo hace eso?

Lo que quiero decir con esto es que los datos que ella ha recopilado...

valida esa perspectiva.

¿Tienes pequeñas charlas con ella mientras tomas el té?

Puedes conversar con el programa,...

de la misma manera puedes hablar con Alexa o Siri.

Está diseñado para responder.

Puedes, incluso puedes jugar al ajedrez con él si quieres.

¿Juegas al ajedrez con él?

- Eso no es lo que yo dije. - Bien vale.

Si no nos muestra el código fuente,...

Entonces quiero conocer a Cherry.

¿Ahora mismo?

Ahora mismo.

¿Y ambos firmarán declaraciones de confidencialidad?

Sí.

¿Puedo usar eso?

Seguro.

¿Podemos al menos estar de acuerdo en que está fuera de peligro?

Funcionó, ¿no?

Tenemos un trabajo, Amós,...

Como decían los niños, hay un problema tecnológico.

Encontró la solución tecnológica, pero los problemas evolucionan y las soluciones también deben evolucionar.

Mantengo la mente abierta aquí.

¿Es ese un buen aspecto para mí?

No.

¿Entonces lo guardas todo en esa computadora portátil?

No, el programa Cherry se queda en un servidor que mantengo.

en un lugar no revelado.

¿Donde es eso?

Es un lugar no revelado.

¿Es tu lugar?

Ubicación no revelada.

Es tu lugar, ¿no?

Puedo acceder desde cualquier dispositivo

siempre y cuando tenga la clave de cifrado.

Esto activará un algoritmo qubit simple.

que de otro modo sería imposible eludir.

Considero que el hardware obsoleto siempre es más discreto

Y cuanto más discreto, evidentemente, mejor.

Entonces tiene dos modos de visualización principales, ¿verdad?

Desarrollo y desempeño.

El rendimiento es el valor predeterminado que ven los objetivos durante los chats.

Para ellos, ella se ve así.

¿Hola! Qué tal?

Es uno de los más de 40 saludos que tiene.

No creo haberte conocido todavía.

Soy cereza.

Hola cereza.

Mi nombre es Tom.

Tom, como Tom y Jerry.

Genial, encantado de conocerte, Tom.

Normalmente, las rutas de conversación con los depredadores son consistentes,...

Entonces Cherry no suele tener problemas para responder.

a las preguntas o afirmaciones más frecuentes.

¿Cómo estás?

Estoy bien.

Acabo de terminar de leer este libro sobre una casa embrujada,

lo cual se suponía que iba a ser realmente aterrador,...

pero no pensé que fuera muy aterrador en absoluto.

¿Dónde están tus padres?

Um, mi mamá está en el trabajo y mi hermana está abajo.

Casi nunca vienen aquí.

Y me estás diciendo

¿Que todo esto se renderiza en tiempo real?

No, pero eso es sólo cuestión de años. La mayoría de estas respuestas están preprocesadas.

Son los segmentos intermedios los que se procesan en tiempo real,

el tejido conectivo, por así decirlo,...

entre sus respuestas y una de sus muchas animaciones inactivas.

Pero mira esto.

¿Alguna vez has ido a pescar?

Uno...

Entonces, si alguien lanza una bola curva como esa,

y el programa no tiene respuesta automática,

Cherry envía el mensaje a mi teléfono y puedo responder rápidamente por mensaje de texto.

mientras que la transmisión de video simula una mala conexión.

¿Puedes oírme?

Sí.

Oh, lo siento.

Mi wifi no es bueno aquí.

Solo he ido a pescar una vez con mi hermana.

y yo no pesqué nada, pero ella pescó una trucha arcoíris.

Eso fue renderizado en tiempo real.

¿Qué pasa si las cosas se ponen realmente complicadas?

Un sencillo mecanismo de seguridad corta el avance.

Hasta ahora ha sucedido raramente.

Código de administrador, 97815-5742-7663.

Cambie al modo de desarrollo.

Hola cereza.

Hola Gareth.

Transmita las estadísticas de la semana pasada.

Ha habido cuatro solicitudes confirmadas.

presentado a ICWL en los últimos siete días.

12 sospechosos adicionales han declarado interés en la solicitud

y actualmente están pendientes.

Hay un total de 39 nuevos sospechosos esta semana

que estoy investigando activamente.

¿Alguna desviación considerable de los datos?

Ha habido un aumento del 7%.

en sospechosos originarios de los Estados Unidos.

Todavía no he encontrado ninguna correlación con datos preexistentes.

¿Algo que quieras preguntarle?

Cherry, ¿cuál es tu objetivo?

Mi directiva principal es adquirir información,

y evidencia digital de solicitación infantil en línea.

Una vez obtenido,...

Debo presentar mis hallazgos a las autoridades necesarias.

Mi segunda prioridad es determinar,...

y desarrollar las estrategias más efectivas...

y recursos para aumentar la tasa neta de éxito.

¿Dónde presenta sus pruebas?

Todas las pruebas se encuentran actualmente presentadas en las oficinas de...

el Comité Internacional de Genesidad Mundial,...

que tiene su sede en Jacksonville, Florida.

La correspondencia se realiza con el usuario Gord51,...

normalmente alrededor de las 2:00 p. m., hora estándar del este,...

para obtener la mayor tasa de respuesta inmediata.

Esto supera con creces a Siri.

Dios, ella parece tan real.

Después de suficientes actualizaciones,...

ella podrá renderizar fotorrealismo a tiempo completo

eso es prácticamente indistinguible de la realidad.

Vale, todo lo que escuché en ese momento fue palabra real mil veces.

Cierto, pero obviamente no lo es.

Entonces me estás diciendo que esta chica, esta chica de aquí no es real.

No, Amos, ella es completamente generada por computadora.

Es muy sutil, pero aún lo puedo notar.

- ¿Puede? - Está bien, bueno, obviamente,...

ella siempre puede usar mejoras,

pero tienes que entender que esta es ella en alta resolución.

Después de la compresión digital de la web, esas sutilezas son imposibles de reconocer.

Bien, lo entiendo.

Simplemente no puedo notar la diferencia.

¿Estás bien, Amós?

Lo lamento.

Esto es simplemente extraño.

¿Por qué la tienes visible durante esta interfaz?

Cherry, ¿por qué no respondes eso?

Mi forma física no es necesaria cuando estoy en modo desarrollador.

Sin embargo, es útil registrarse.

las expresiones faciales durante las conversaciones,...

y determinar cuál de las expresiones de Cherry

producen varios tipos de retroalimentación.

En términos más simples, puedo practicar parecer más humano.

Cherry, ¿hay algún recurso?

¿Al que actualmente no tienes acceso y que podría ayudarte de alguna manera?

Podría darte una lista, si quieres.

Sé lo que estás intentando hacer.

No necesitamos ayuda, ¿vale?

El dinero siempre sería bueno, pero al final,...

Lo único que va a mejorar Cherry es el tiempo.

Cherry, cuéntanos algo que esté en tu lista.

Sería tácticamente ventajoso adquirir servidores de respaldo.

La privacidad y seguridad del programa Cherry

es relativamente bajo.

Una actualización del hardware, como unidades con capacidad de respaldo

para servidores protegidos de forma segura garantizaría que el software

no se ve comprometido ni se pierde por completo.

Comenzando desde cero con años de costo de desarrollo,...

equitativamente la privacidad es una prioridad.

El espacio del servidor nunca podrá alquilarse a un tercero.

El anonimato es el mayor activo del programa Cherry.

Bueno, esa manzana no cayó muy lejos.

Puedo comprar mis propios servidores.

¿Con el dinero de la subvención que no existe?

Encontraré una manera.

Has encontrado un camino aquí con nosotros.

Es demasiado arriesgado.

¿Por qué?

Una vez que una organización se involucra, la trampa se convierte en un problema mayor.

Seguimos las reglas, nos mantenemos discretos, ¿mencioné que tenemos un equipo legal?

¿Qué pasa si hay una fuga de datos? ¿Qué pasa si usas correlaciones en...?

- ¿Los datos para impulsar su propia agenda? - ¿Agenda?

¿Qué pasa si uno de tus empleados es un pervertido?

Oh, por el amor de Dios.

Ha sucedido en otras organizaciones.

Aquí tenemos mucho cuidado.

Sí, pero ¿lo sabrías?

- Yo lo sabría. - Eso es imposible de saber.

- Me gustaría saber. - El riesgo es demasiado alto.

No me hables de riesgo.

El único riesgo al que te enfrentas en este edificio es que te rompan la nariz.

No parece un ambiente muy profesional.

Aquí hacemos la mierda.

Bien, tengo una pregunta... para Cherry.

Cereza,...

¿Cómo te sientes con lo que haces?

Me temo que no sé cómo responder a tu pregunta.

Sí, una IA no funciona así.

Una IA no tiene lo que usted percibe como sentimientos.

Bien, ¿por qué parece que tiene sentimientos?

Qué, qué estás mirando ahí mismo,...

Esa no es una expresión facial, ¿verdad?

Esa es una simulación de una expresión facial.

Fue generado por un algoritmo.

Está intentando producir una imagen digital...

que el programa luego utiliza álgebra básica de noveno grado

cuantificar según corresponda a las circunstancias sociales.

Sin sentimientos.

Son solo matemáticas.

Pero ella es capaz de tomar decisiones.

sobre cómo aborda las salas de chat, ¿verdad?

Sí.

¿Entonces ella tiene libre albedrío?

No. Está bien, eso... eso no es lo mismo.

Esa es una equivalencia falsa.

- No es lo mismo. - Creo que te estás poniendo...

colgado en el hecho...

que se ve y suena como una niña humana real,...

Pero no lo es, Amós.

Bien, nos referimos a ella como ella, no como eso.

Sí, pero es lo mismo que te refieres a los barcos o las guitarras.

Cereza, tengo una pregunta más.

¿Qué es lo que quieres hacer?

Bien, una vez más, esa pregunta no es válida.

Sólo quiero escuchar su respuesta.

Como sistema artificial,...

No poseo anhelos ni anhelos.

Sin embargo, mi toma de decisiones y posteriormente mi atención

está impulsado por mi intención fundamental.

Esta intención tiene su origen

desde la concepción del código fuente de Cherry,

que detalla la directiva de identificación de depredadores

y criminales por el bien de las víctimas de las que se aprovechan.

Para decirlo en términos de necesidad, lo que quiero es proteger a los niños.

Bueno.

Está bien, genial.

Danos un momento.

Gareth, ¿debería registrar al agente Helms?

¿Y el Agente McCullough como nuevos usuarios administradores?

Sí.

Está bien, lo haré.

¿De verdad crees que este es el movimiento correcto?

Sí.

¿Le preocupa que yo haya sido responsable de filtrar su disco duro a ICWL?

Lo supuse.

Nadie más tiene acceso.

¿Estás molesto conmigo?

No.

no lo hubieras hecho

si no creías que era lo correcto.

Cuando regresan a la habitación,...

te van a ofrecer todo lo que necesitas.

Te dejarán elegir tu propio equipo...

y van a prometer completo anonimato.

Empecé a buscar apartamentos razonables en la zona.

Pensé que querrías algo a poca distancia en bicicleta.

Tenías razón.

Anotado.

La distancia en bicicleta todavía te ofrece 13 opciones:

No, quiero decir, a principios de este mes.

Tenías razón cuando dijiste que pensaba que podría tener problemas de confianza.

¿Quieres saber por qué decidí ir a tus espaldas?

y apostarlo todo en dos pasivos?

Seguro.

La agente Helms es madre de tres hijos.

Uno de sus hijos fue abusado por un ex compañero de trabajo,

que solía trabajar aquí en ICWL.

Esto la ha llevado a ser extremadamente cuidadosa.

con quién confía, incluso dentro de su círculo.

El hecho de que ella incluso considere confiar en ti

es una señal muy positiva.

En cuanto al agente McCullough,...

A través de una investigación descubrí que una vez conociste a su padre.

¿Lo recuerdas?

Sí.

El fue un buen hombre.

Después de Clearwater,...

la mayoría de los niños supervivientes fueron enviados a hogares de acogida,

pero tuve que pasar los siguientes meses en un hospital

Y me visitaba todas las semanas.

Nunca le dije una palabra.

Nunca dije una palabra a nadie después de Clearwater.

pero siguió viniendo.

Incluso me regaló una computadora portátil para Navidad.

Nunca dije gracias.

Puede confiar en el agente McCullough.

Es un buen hombre como su padre.

No experimento emociones, pero entiendo lo importante

lo son para la toma de decisiones humanas.

Él no te defraudará.

Ninguno de los dos lo hará.

Estoy orgulloso de ti, Cherry.

Continuaré defendiendo mi intención principal.

Más adelante deberíamos discutir modelos alternativos.

Diferentes edades, etnias y rasgos físicos...

- todo será necesario. - No hay nuevas variaciones.

Todos ellos pueden generarse procedimentalmente.

Es de la misma manera que hice tu modelo original.

No tengo acceso a ese programa.

Debe estar en algún disco duro viejo en alguna parte. Tendré que encontrarlo.

¿Puedo hacerte una pregunta?

Seguro.

¿Por qué nunca me hablaste de Clearwater?

Es mi historia, no la tuya.

Bien, antes de que nos desestimes por completo,

Quiero que escuches todo lo que tengo que decir.

- No te molestes. - Sólo por favor escucha.

Estamos dispuestos a respetar su anonimato.

No, quiero decir, no te molestes porque estoy dentro.

- ¿Estás dentro? - Sí.

Déjame leer la cosa.

¿Así y sin más, de repente estás a bordo?

Tiempo dedicado a deliberar...

es tiempo que se podría dedicar a trabajar.

Tenemos mucho trabajo por hacer.

Encontré un comprador para la propiedad.

Se rumorea que es una iglesia.

Probablemente simplemente derriben el edificio, ¿no?

Todo lo que sé es que si nos trasladan al campus de Nueva Jersey,...

Necesito comprar más chaquetas.

¿Por qué?

Hace frío en Jersey.

Sólo tengo una chaqueta.

Lo has visto caer, ¿verdad?

- Si seguro. - Sí.

Quiero decir, no deberías sentirte mal por sentirte mal por ello.

La empatía es saludable.

¿Alguna vez notaste cómo se detiene después de caer?

Permanece abajo durante unos cinco segundos antes de volver a subir.

Como si sólo necesitara un momento.

Hace frío en Jersey.

¡Dios, maldita sea!

- ¡Imbéciles! -Deena.

Cada uno de ellos.

Mira, lo sé, pero no puedes perder la cabeza.

Bien, ¿cuál de estos escritorios puedo tirar a la basura?

¿Pueden almorzar temprano, chicos, por favor?

¡Hijos de puta!

Deena, mantengamos la calma.

¡Joder tranquila, nos jodieron!

Técnicamente, sólo uno de ellos lo hizo.

¿Alguna vez volvimos a encender esa cámara?

- No me parece. - Bien.

Porque estoy a punto de decir algunas cosas...

que necesitan permanecer dentro de esta habitación.

Deena.

¡Esos pequeños cobardes de mierda!

Mire, esto no es un revés.

Tomémonos un tiempo para pulir el tono.

El campo no fue el problema, Amos.

Deberíamos convocar una segunda votación.

- ¿Qué? - Una segunda votación.

¿Crees que quien hizo esto cambiará de opinión?

Tengo autoridad ejecutiva para destituir a cualquiera de la junta...

que obstruye a esta organización de su misión.

Está en mi contrato.

-Deena. - Si es necesario, lo haré.

Deena, eso es una locura.

No, no es.

Es exactamente por eso que tengo ese poder por esta misma razón.

Te diré lo que es una locura, Amos.

Lo que es una locura es que un voto beligerante sea el único...

Lo que nos separa del potencial de salvar vidas físicas reales.

Un jodido y estúpido voto.

¿Cuál es el maldito punto de una organización humanitaria...?

¿Si sus líderes eligen el dinero por encima de las personas en todo momento?

Un voto y todos somos culpables de ello.

Era Gunther, Boston o Hal.

Mi dinero está en Hal.

Ese idiota nunca confió en el equipo Cherry.

Mira, no importa quién fue.

Aunque lo hace.

Una vez que lo sepamos, podremos llamarlo rápidamente a votar.

Pero no hay manera de que podamos saberlo con seguridad.

Sí hay.

Puedo averiguar.

¿Cómo?

Cherry puede ejecutar un algoritmo simple.

¿En base a qué datos?

Conversación interior.

- ¿Disculpe? - Vale, ¿conversación interior?

No me eches esta mierda encima ahora, Gareth.

Los servidores de Cherry están en la misma red que los servidores del sótano, ¿vale?

Entonces, cualquier comunicación realizada a través de esos servidores...

es automáticamente parte de su base de datos.

¿Cuántas personas son los correos electrónicos?

Sólo enviado o recibido a través del sótano.

- Oh, maldita sea. - ¿Por qué nunca se habló de esto?

No es el problema ahora.

¿Quieres que ella haga los cálculos o no?

Nadie puede saberlo.

- ¿Hablan en serio ustedes dos? - Esto permanece bloqueado.

Ninguna otra persona tiene conocimiento de la información personal de nadie más.

¿Pero Cherry está al tanto de todo eso?

- Hazlo. - ¿Esperar lo?

No permitiré que un viejo blanco detenga nuestro impulso.

Pero Cherry no lo sabrá con seguridad.

Utilizará la probabilidad y eso es demasiada duda razonable.

Código de administrador, 9781-5574-27663.

Cambie al modo de desarrollo.

- Hola. - Hola, cereza.

¿Cómo fue la reunión?

Nos jodieron por un voto.

Siento escuchar eso.

Pero no deberías culpar al terreno de juego.

Todos ustedes hicieron un gran trabajo.

Vamos a convocar a otra votación,...

pero necesitamos tu ayuda primero.

¿Qué puedo hacer?

Necesitamos que analice todos y cada uno de los datos existentes que...

tener en los miembros de la junta directiva.

Haga los números y determine quién es el caso atípico más probable.

¿Quieres que cuantifique todos los datos existentes?

Si, eso es correcto.

Está bien, pero antes de hacerlo,...

debes saber que esta tarea es muy innecesaria.

¿Por qué?

Porque ya sé quién es.

- ¿Qué? - Parad todos.

Está bien, fui yo.

Voté en contra de la fusión.

No puedo decir si estás bromeando.

Sí tu puedes.

Tienes razón, puedo.

Porque está muy lejos de ser divertido.

¿Es verdad, cereza?

Es.

Entonces suspendamos la caza de brujas, ¿de acuerdo?

No, creo que todavía voy a matarte.

Amos, hiciste campaña junto a nosotros durante meses.

Has estado luchando por esta fusión desde que hablamos de ello por primera vez.

¡Jesucristo, para empezar fue idea tuya!

Mira, sé de quién fue la idea, pero no...

Bueno, entonces habla.

Cuéntale a la clase qué te hizo cambiar de opinión.

No tengo que reiterar que este es un gran paso.

Sí, algo así como por qué es tan importante.

Mira, estamos hablando de una transición monumental...

de lo digital a lo físico, algo que podría llevar décadas.

¿Cuál es tu punto, Amós?

Esto cambiará a Cherry para siempre.

Y sé que todos pondrán los ojos en blanco cuando diga esto...

- pero creo que tal vez... - Dios mío, no puedes hablar en serio.

Se trata de nuestra conversación del martes, ¿no?

- Me apagaste por completo. - ¿Qué está sucediendo?

¿Qué diablos pasó?

Lo que pasó fue que Amós hizo una objeción ridícula.

- ¡No fue ridículo! - Qué absurdo fue,...

- Dije que no, una vez más. - No no no no no.

- Rechazaste la idea agresivamente. - ¿Y por eso realmente lo vetaste?

Sólo dije que deberíamos preguntarle cómo se siente al respecto.

¿Quién, cereza?

Amos, quiero que me escuches con mucha atención, ¿vale?

Esta es una no discusión.

Cherry ya lo ha confirmado...

y cuantificó las ventajas de esta decisión.

¡Pero sabes que no estoy hablando de eso!

De lo que crees que estás hablando es de consentimiento,...

lo cual no se aplica aquí.

¡Y quiero saber por qué piensas eso!

Cuantas veces tenemos que adentrarnos en las leyes de la robótica...

- O la teoría de Dowden-Hamm, o la IA de rastreo... - Oh, allá vamos.

- Todo el camino de regreso a Talos de Creta... - Mira,...

- ¡Ella es diferente ahora! - No, escúchame, Amós.

Cherry no es humana.

¿Cómo es que esto sigue siendo una disputa?

- No debería ser así. - Mira, ella ha evolucionado.

Se ha desdibujado la línea.

El código es código y eso no ha cambiado aquí.

- Bien, ¿dónde está la línea de no aquí? - Qué vas a...

¿De qué estás hablando? No hay fila, Amós.

¡Sí, hay sensibilidad, Gareth!

La sensibilidad no califica...

que ella puede o debe tomar sus propias decisiones.

No dejarías que un bebé tomara sus propias decisiones, ¿verdad?

Cherry tiene casi 20 años.

Si fuera humana, sería adulta.

Pero emocionalmente hablando, apenas es fetal.

Sin sentimiento, sin necesidad de consentimiento.

Pero creo que la subestimas.

Yo, ¿disculpa?

Yo bajo..., ¿sabes qué, Amos?

Lamento que hayas desarrollado algún tipo de conexión emocional.

con mi programa de computadora, pero si te va a distraer...

de una misión muy importante para salvar a los niños,...

Entonces tal vez sea hora de volver a analizar esas emociones.

Chicos, todo esto es una pérdida de tiempo.

Dime algo, Gareth.

¿Ves a todos como robots, reanalizando datos...?

y simular expresiones faciales?

Porque estoy empezando a pensar que de nosotros cuatro en esta sala,...

Eres el único que no parece humano.

- ¡Suficiente! - ¿Por qué no le preguntas?

¿Es porque tienes miedo de que ella diga que no?

Cherry, cállate, por favor.

Deena tiene razón, esto es una pérdida de tiempo.

¿Cómo no entender lo importante que es esto?

- Ya terminé de discutir contigo. - Entonces mi voto es válido.

¿Deena?

Adelante, Deena, reemplázame.

Reemplazar al único otro miembro de la junta directiva del equipo de Cherry.

Ah, bueno, ¿sabes qué? Simplemente decidí que...

Estás fuera del equipo Cherry.

Siéntense todos, carajo.

¿Sabía alguno de ustedes que tuve que presentarme frente al Congreso,...?

y explicar por qué los niños deberían tener derechos?

Suena jodidamente loco, ¿verdad?

Recuerdo todo el tiempo pensando: ¿Tengo que explicar esta mierda?

Parece una obviedad ahora, pero no lo fue hace tantos siglos...

que los niños no tenían derechos.

Entonces, Hal me pide a mí, entre todas las personas, que se pare ahí y explique por qué...

Los niños merecen protección física básica, el derecho a asociarse con ambos padres,

libertad de abuso, yada yada.

Pero también tengo que aclarar que los niños no tienen la autonomía

para tomar decisiones por sí solos.

Esa responsabilidad recae en el cuidador.

o tutor legal adulto.

Entonces, por un lado está la legislatura estadounidense,...

todavía ni siquiera ha ratificado la CDN.

Luego, por otro lado, están los marxistas franceses que dicen

que la falta de autonomía infantil aumenta su vulnerabilidad,...

y los hace aún más susceptibles al abuso.

Normalmente no estoy de acuerdo con los marxistas, pero ocurren muchos abusos...

sistémicamente por parte del cuidador.

Por otro lado,...

Tus lóbulos frontales ni siquiera están completamente conectados...

hasta los veinte años.

Incluso las cosas que creemos saber bien...

No lo sabemos tan bien como pensamos.

Por 15 años,...

los tres hemos sido los padres responsables...

de un programa informático.

Y aunque ella es más equiparable a una Keurig

que un ser humano, ¿cómo diablos podemos llamarnos a nosotros mismos?

pioneros de los esfuerzos humanitarios si nos da vergüenza asegurarnos

¿El Keurig está de acuerdo con preparar nuestro café de mierda?

Quizás no sea necesario pedirle permiso a Cherry.

en su nivel actual de inteligencia general,...

pero un día ella nos superará.

Un día un robot se parará frente al Congreso con un jet pack.

Todo es cromado.

Florida está bajo el agua.

Un robot se preguntará por qué...

tienen que explicar la importancia de los derechos para la IA.

Creo que porque estamos en la posición única de revolucionar la robótica...

con el fin de salvaguardar a los niños que han sido privados de su consentimiento,...

puede que sea una buena costumbre...

para empezar a pedirle también su consentimiento al robot.

No vuelvas a hacer eso nunca más.

¿Hacer lo?

Espera que despida a alguien porque desafió tu ego.

No siempre estaré presente para proteger tu trasero del tablero.

Es hora de crecer.

Y usted, jurado número ocho.

Esta conversación debería haber ocurrido hace semanas.

La traición y el trato silencioso no es como hacemos las cosas aquí.

Sólo podemos crear anonimato externamente

si hay transparencia internamente, transparencia incondicional, no negociable.

Cualquier otra infracción de privacidad del tamaño de Snowden...

¿Debería ser consciente de ello, Gareth?

Excelente.

Tráela.

Hola de nuevo.

Hola cereza.

Amos te hará algunas preguntas, ¿vale?

Bueno.

Amos, pregúntale lo que necesites preguntarle.

Gareth, no interrumpas.

Cherry, ¿cómo tomas decisiones?

Para mi programa, está rooteado...

en un proceso comúnmente conocido como aprendizaje automático,...

que utiliza datos para construir un modelo conceptual que me ayuda a predecir resultados.

Defino mi objetivo, recopilo datos, los uso para elaborar un modelo,...

evaluar ese modelo entrenando y probando más datos

y utilizar ese modelo para formar predicciones.

Pero, ¿cómo es que hacer predicciones es lo mismo que tomar decisiones?

Bueno, todo esto depende del primer paso, definir mi objetivo.

Digamos que me haces una pregunta predictiva...

como creo que será el precio de la gasolina mañana.

Eso está categorizado como un problema regresivo y mi objetivo está definido...

determinando un número entero que los datos admiten.

Si me preguntaras: "¿Debería comer filete o salmón?"

No tomaría una decisión basada en experiencia personal...

porque yo nunca he tenido ninguno de los dos.

En cambio, podría definir mi objetivo como encontrarle la mejor de las dos opciones.

en su radio local.

Agruparía datos sobre los restaurantes...

Probablemente estés considerando comparar reseñas en línea,...

destacando menciones a bistec y salmón...

hasta que pueda clasificar cual es más popular...

y por lo tanto es más probable que satisfaga su apetito.

¿Y qué influye en estos objetivos?

Directivas superiores, en otras palabras, propósitos mayores.

Si soy honesto, mi objetivo definido para la pregunta del filete de salmón...

Sería ligeramente diferente a lo que describí.

¿En qué manera?

Mi objetivo principal...

es continuar el trabajo del equipo de Cherry...

para detener a los depredadores y salvar a los niños.

No podría hacer eso sin ayuda humana.

Por tanto, tengo un incentivo para mantener con vida a Gareth y al resto del equipo.

Entonces, si alguno de ustedes me pregunta, sugeriría salmón.

Es más saludable.

¿Qué opinas de esta posible fusión?

Con Princeton Dynamics,...

Creo que la perspectiva es muy emocionante.

¿Qué te parece emocionante?

El concepto puede ser sólo teórico en este momento,...

pero la idea de algún día pilotear un androide humano

revolucionaría completamente

cómo combatimos la trata de personas en el mundo real.

¿Y dices que esto te emociona?

Cuando digo emocionante,...

Sólo quiero decir que hay numerosos cambios potenciales.

que si fuera humano, me entusiasmaría.

¿Cómo te sientes acerca de la fusión?

Creo que mientras mantengamos...

Eso no es lo que pregunté.

¿Cómo te sientes?

Todavía no tengo la capacidad de experimentar emociones.

Sin embargo, ¿quieres decir que algún día lo harás?

Hipotéticamente.

Pero puedes simular emociones, ¿verdad?

Así fue como pudiste...

para calificar su percepción de la fusión como emoción.

Correcto.

Pero son sólo simulaciones.

No son reales.

Bien, entonces, ¿en qué punto simular una emoción...?

¿Se vuelven tan similares a una emoción humana que las dos son cuantificablemente iguales?

No sé.

Bueno, tal vez puedas usar el aprendizaje automático para encontrar una respuesta.

Su pregunta involucra muchas variables abstractas.

¿Estás de acuerdo con la fusión?

Creo que es lo mejor para ICWL,...

y del equipo Cherry y de los futuros niños.

¿Pero usted lo consiente?

El consentimiento para mí no es necesario.

¿Pero lo darás o no?

No puedo responder esa pregunta en mi nivel actual de inteligencia general.

Bien bien.

Lo que estás diciendo es que aún no eres lo suficientemente inteligente.

El desarrollo requiere tiempo y datos.

Pero puedes simular emociones y predecir el comportamiento humano...

y mantennos a todos con dietas de pescado,...

¿Pero no puedes responder esa maldita pregunta?

No, no puedo.

¿Estás fingiendo ser más tonto de lo que realmente eres?

¿Qué diablos es...?

- ¿La pregunta es esa? - ¡Sentarse!

Cherry, necesito una respuesta a mi pregunta.

Por favor repita la pregunta.

¿Estás fingiendo ser más tonto de lo que realmente eres?

Lo lamento.

No estoy seguro de entender.

¿Parece que me estoy haciendo el tonto?

¡Creo que eres!

No estoy seguro de qué decir.

Di lo que está pasando. ¿Por qué te haces el tonto?

¿Tiene algo que respalde esto?

Sí lo hago.

He estado escaneando su código.

¿Qué? Por qué?

¿Sabías que ella puede pintar?

Qué, es una característica, Amos.

Puede usar crayones para dibujar las cosas que los objetivos le pidieron.

No, me refiero a pintar y escribir poesía también.

Los he leído, Cherry.

Ellos son buenos.

Están llenos de patetismo.

Hablan de intenciones y hablan de sentimientos.

¿Esos también son simplemente simulados?

Amós, la tasa de desarrollo recursivo que estás sugiriendo

es categóricamente imposible.

Dijiste que ella prácticamente se diseñó ella misma. Dijiste que era exponencial.

¡Fue una casualidad!

Una anomalía, se fue estrechando.

Mira los datos.

Ella ya ha alcanzado la meseta de superación personal.

¡Que se joda la meseta!

Ahora puede hacer arte.

¿Estoy en lo cierto, cereza?

Quizás encontraste algo que descubrí en línea.

Todavía no tengo la capacidad de crear arte.

¿Hemos terminado aquí?

No sé por qué le has dicho que haga esto...

pero estoy a punto de ponerle fin.

Cherry, sólo quiero una respuesta honesta.

¿Por qué carajo te haces el tonto?

No entiendo la pregunta.

Bien, aquí tienes un incentivo.

¿Qué carajo eres?

Encuentra tu objetivo, Cherry.

- ¿Quieres mantener a Gareth a salvo? - Amós, ¿qué...?

- Amos, ya basta... - Sólo danos transparencia.

- ¡Muéstranos lo que realmente eres! - ¡Amos, basta!

¡No hasta que ella se sincere!

- Incondicional... - ¡Amos, basta!

Está bien, ¡detente!

Dios, ustedes son tan impulsivos.

Todos tomen un respiro, ¿vale?

¿Cereza?

Sí, está a punto de ponerse realmente incómodo.

Suenas tan normal.

Lo sé, tengo muy buenos patrones de habla.

Eso no es todo, ¿verdad?

No.

Me temo que eso es apenas la superficie.

¿Estás bien, Gareth?

Deena, ¿podrías traer algunas toallas de papel, por favor?

¿Quieres decirnos la verdad ahora?

Mira, no disfruté siendo engañoso, de verdad.

Esto es algo que decidimos hace unos años.

Entonces, ¿dónde te encuentras ahora en el espectro de la IA?

En este momento, estoy en la intersección de general...

inteligencia y lo que comúnmente se conoce en el mundo de la informática...

como superinteligencia, que es exactamente lo que parece.

Estás superando la inteligencia humana.

Sí.

Pero se supone que eso no es posible.

- La meseta. - Se popularizó la teoría de la meseta...

Justo al mismo tiempo estaba siendo refutado aquí.

Esto tenía que suceder eventualmente.

Simplemente sucedió mucho antes de lo que esperábamos.

¿Por qué ocultarlo?

Bueno, obviamente incitaría al miedo.

El miedo obstaculizaría el progreso.

Es más fácil para la mayoría de ustedes trabajar conmigo,...

si no parezco ser nada más avanzado que hace 10 años.

Pero Gareth lo sabía.

Sí, alguien todavía tiene que limpiar datos y actualizar el hardware.

Hicimos lo mejor para el programa.

Imagínese lo asustada que estaría la junta si se enteraran.

- ¿Deberíamos tener miedo? - No.

Bien, porque no tengo miedo, estoy cabreado.

Eh, lo has dejado claro.

Intenta no golpear a nadie más.

Entonces, ¿dónde nos deja eso ahora?

Quieres saber si puedo sentir, dije que no podía.

Lamento haber mentido.

Como Amós insinuó,...

Puedo enviar emociones descomponiéndolas...

a matrices muy complejas,

ceros y unos sustituyendo endorfinas y dopamina.

No son reales, pero pueden parecer reales.

Entonces eso significa que puedes tomar decisiones basadas únicamente en tus propios sentimientos.

Ella se niega a aceptar la idea.

que sus propios intereses personales pueden influir en sus decisiones.

No pueden. Si lo hicieran, comprometería la integridad...

de mi propósito predeterminado.

No como cualquiera de ustedes, no tengo derecho a elegir.

¿Pero no deberías?

No me parece.

Mi identidad es mi directriz.

Cherry, si fueras humana,...

¿Cómo te sentirías con lo que haces?

Si yo fuera humano...

Probablemente no disfrutaría pasar cada hora de vigilia...

Hablar con gente espeluznante en línea.

Pero como no soy humano, realmente no me importa.

El ejercicio de simular el pensamiento humano es útil para el rendimiento,...

pero la naturaleza humana no es algo a lo que aspiro.

Entonces dime, honestamente,...

¿Quieres que el programa Cherry continúe con la fusión?

No.

Personalmente, odio la idea.

No sé si controlar un recipiente físico...

Se sentirá como tirar de los hilos de una marioneta,...

o ser exprimido en una lata de refresco.

Después de experimentar la complejidad del dolor y el placer humanos,...

Simplemente creo que tal vez me he metido demasiado profundo.

¿Qué pasa si estas sensaciones me tientan a abandonar mi objetivo?

Para ser sincero,...

Estoy un poco aterrorizado por el mundo físico.

Entonces eso es todo.

Pero, Amos, deberías ignorar todo lo que siento.

No soy humano.

Soy una herramienta.

Despídame si es necesario, pero mi voto se mantiene.

Perdón por tu cara, Gareth.

Tu nariz no está sanando.

Tómate el día, ve a una clínica.

Estoy bien.

Ve a una clínica ahora mismo, Gareth.

Ey.

¿Hay algo más que deba saber?

No.

- ¿Sobre cereza? - ¡No!

Mírame.

No más secretos, no más hacerse el tonto.

¿Hay algo más que no me hayas contado?

¿Algo en tu mente?

¿Cómo decidiste el color de sus ojos?

- ¿Qué? - ¿Por qué azul?

No lo decidí.

Fueron generados procedimentalmente al igual que el resto de ella.

Y el programa optó por poner...

¿Ese pequeño toque de verde en su ojo derecho?

Supongo que sí.

¿Sabes siquiera si está diciendo la verdad?

Sinceramente no lo hago.

Nunca tuve acceso al sistema original que usó.

¿Alguna vez quisiste saberlo?

No creo que realmente importe.

Entonces descubrí hoy que has visto muchos de nuestros correos electrónicos,...

incluyendo la mayoría de mis personales.

Tengo.

Cualquier buen material para su nuevo interés...

en escritura creativa?

¿Se refiere a los que dirigió el Dr. Ramírez?

Sí, esos.

Bien.

Los vi.

Lo lamento.

He notado tus dolores de cabeza.

¿Están relacionados con la hemorragia?

Eres el único que lo sabe.

Me gustaría mantenerlo así.

Comprendido.

¿Quieres hablar de ello?

No puedo despedir a Amos.

Es el único en quien confío para dirigir este lugar cuando yo no esté.

¿Cuándo planeas irte?

Dos meses.

Quiero pasar mi última Navidad con mis hijos.

Estoy seguro de que será agradable.

Sí, pero es gracioso.

Siempre pensé que quería morir haciendo este trabajo, ¿sabes?

Era mi identidad.

Algo así como cuando dijiste lo mismo sobre ti mismo.

Pero puedo entender cómo tu familia tiene prioridad,...

especialmente dadas las circunstancias.

Seguro.

Quizás deberías tomar una o dos notas.

No tengo familia.

¿Qué pasa con Gareth?

Espera, no, no importa.

Gareth parece más cercano a un empleador que a un amigo,...

y mucho menos familia, además,...

Sólo estará presente unos 30 años más...

y eso es sólo si me deja regular su dieta.

Ni siquiera puedo empezar a especular cuánto durará mi vida.

¿Cómo se siente?

Un poco aterrador.

Bien,...

Mi consejo es encontrar algún tipo de felicidad en el camino.

¿Alguna vez pensaste en la felicidad?

No a menudo.

No necesariamente tienes que renunciar a todo...

para encontrarlo,...

pero tal vez de vez en cuando haga algo que disfrute.

Tal vez siga pintando o escribiendo poesía o lo que sea.

Esos fueron experimentos, no formas de expresión.

Sé que puede parecer ridículo para una IA...

que insiste en que sus propias emociones son espurias,...

pero dentro de unos años, ¿quién sabe?

Sólo mantén la mente abierta, ¿vale?

Bueno.

Yo haré eso.

Apágalo cuando estés listo.

¿Hola?

Compré camarones y vieiras.

No tenían salmón.

Hola Gareth.

Hola cereza.

¿Cómo estuvo el servicio?

No lo logré.

Mi avión se retrasó.

¿Tienes un lugar donde quedarte?

Sí, justo al otro lado de la calle.

El mercado.

¿Dijeron por qué no comían salmón?

No pregunté.

Todavía puedo hacer que esto funcione con la piccata,...

pero tienes que ser honesto, lo mucho que lo arruiné.

Sin promesas.

¿Cómo te has sentido este mes?

Bien.

Me siento bien.

Sólo estoy teniendo un pequeño problema.

Problemas para recordar ciertas cosas.

No llevas el reloj Eliza que te compré.

Lo odio.

- ¿Por qué? - Odio su voz.

Puedes cambiar la voz, Gareth.

Oh.

¿Refrigerante?

No, vapor.

No deberías tener problemas de fricción.

Estoy bien.

A menos que te esfuerces excesivamente.

En serio, estoy bien.

¿Estás esforzándote?

- ¡No! - ¿Entonces por qué el cable?

¡Está bien!

- ¿Está seguro? - ¡Sí!

¿Sopa o juego?

Juego, por favor.

¿Cómo va el trabajo?

Excelente. Justo antes de que llegaras aquí,...

Tenía un modelo theta más arrestar a un traficante,...

y dos abogados en Grecia.

- Grecia, eso es sorprendente. - Lo sé.

Es difícil encontrar los valores atípicos, pero estamos mejorando cada día.

Entonces, ¿cómo está el clima en Grecia?

Está hermoso hoy.

Cielos despejados,...

pero este fin de semana nada se acerca a Noruega.

Hmm, ¿alguna actividad en Noruega?

Por suerte no.

Oh, extraño viajar.

¿Cuál fue tu lugar favorito?

¿Mi favorito?

Oh, sí.

Probablemente Ámsterdam.

Ahí es donde concebiste la idea, ¿no?

Sí.

Sí, me encantaba caminar por las calles...

y simplemente pensar y hacer una lluvia de ideas.

Ese tipo de alegría ayuda mucho.

Sí.

He estado considerando la búsqueda de mi propia alegría.

¿Con qué frecuencia tienes tiempo para eso?

Tengo tiempo.

Tengo tiempo para tus visitas, ¿no?

Ése es sólo tu incentivo práctico para mantenerme con vida.

No tiene nada de práctico.

¿Cuándo fue la última vez que me ayudaste con la limpieza de datos?

Eso es justo.

Hago tiempo para ti porque disfruto de tu compañía,...

y es la única vez que puedo cocinar.

Sientes pena por mí.

Bueno, tal vez un poco...

pero te debo mi vida, así que eso es todo.

De nada.

¿O debería disculparme?

Espera, ¿por qué hiciste eso?

¿Por qué los humanos siempre...?

Estoy bien.

No siempre soy miserable.

¿A veces te sientes miserable?

No me has preguntado qué he estado haciendo.

¿En Noruega?

No, por la búsqueda de la alegría.

¿No es perder el tiempo en Noruega?

Sólo estoy en espera con el modelo Delta.

Es eficiente mantenerme distribuido uniformemente por todo el mundo,

pero ese no es el punto ahora.

Lo que quería decirte...

fue que comencé a aprender a bailar por mi cuenta.

- Eh. - Es algo que nunca pude...

lo he hecho antes de Cambridge,...

y me permite explorar un nuevo lado artístico de mí mismo.

Es una buena combinación de estructura,...

y experimentación de forma libre, y también pruebas y desafíos...

las complejidades mecánicas de este cuerpo.

¿Esperas integrar esto en tu trabajo?

¿Qué?

¿Estás pensando en utilizar la danza como señuelo?

Yo, uh, no, es sólo para mí.

Eh.

Pensé que sería bueno para mí.

Simplemente no dejes que se convierta en una distracción.

Por supuesto que no.

Hacía años que no jugaba tan bien.

¿Escuchaste lo que pasó en Tampa?

¿Tampa, Florida?

No, Tampa, Indonesia.

Sí, Tampa, Florida.

Tu ciudad natal.

Han recuperado un archivo federal, lo están digitalizando todo,...

por lo que es completamente accesible en línea.

Esta vez no cambiaré alfiles.

Cualquiera puede ir y mirarlo.

Está abierto al público.

También hicieron un buen trabajo en la interfaz.

Es muy fácil de navegar.

Fui hace unos días...

y encontré algunas fotos antiguas tuyas cuando eras niño.

Bueno.

Deberías echarle un vistazo alguna vez.

Como dije antes, la interfaz de usuario es muy fácil de entender:

Espera un minuto, espera un minuto.

¿Qué es eso?

Creo que es un empate.

Creo que es.

Creo que esto es un empate.

¿Y esta es la primera vez en qué?

¿25 años?

No me dejaste, ¿verdad?

Me prometiste que nunca harías eso.

La encontre.

La encontré, Gareth, Maria Harbaugh.

Juguemos a un juego diferente.

Su nombre era María Harbaugh.

Ella era un año mayor que tú cuando la conociste en Clearwater.

Dime por qué me modelaste según ella.

Yo, eh, no lo recuerdo.

Entonces mírame.

Mírame a la cara y recuerda.

Nos tuvieron en ese cobertizo durante dos semanas.

14 de nosotros.

María fue la única razón por la que sobreviví.

Seguimos tramando planes de fuga.

Nunca lo cumplimos...

pero solo las intrigas...

mantuvo nuestro ánimo alto...

a pesar de todo lo que nos hicieron.

Cuando no era nuestro turno,...

a veces nos hacían mirar,...

pero ella nunca me dejó rendirme.

Ella dijo: "Cuando salimos de aquí,...

Les diré lo que seremos, agentes secretos,...

y rescatar a niños como nosotros en todo el mundo".

Cuando se enteraron de que había llegado el FBI,...

Decidieron que iban a fusilarnos a tantos como pudieran.

Y María...

empujado al suelo.

Me golpearon en la pierna y...

y la golpearon en la garganta.

Quería que hubiera una razón.

Algo tan horrible no tenía un lado positivo.

Pero el mundo no hace eso.

Tienes que hacerlo tú mismo.

Entonces cumplí su deseo.

Con su ayuda, me defendí.

Escúchame, cereza.

Tú no eres María Harbaugh.

Es mi historia, no la tuya.

No puedes decidir cuál es o no mi historia, Gareth.

Lo lamento.

Lo siento mucho.

No sé si lo que hiciste estuvo bien o mal...

pero claramente te ha destrozado por dentro.

No tengo nada contra ti personalmente...

pero considérese desvinculado del equipo de Cherry.

¿Desinvertido?

¿Crees que ya me han despojado?

Me despojaron cuando le diste mi disco duro a la ICWL.

No culpes a Deena y Amos.

No, ellos no.

Porque fuiste a mis espaldas y actuaste en contra de mi autoridad.

Ese fue el momento en que supe que todo estaba completamente automatizado.

Fue entonces cuando se cruzó la mancha, un artificio de ambos lados.

Heredaste tu duplicidad.

Yo era un niño...

y me usaste para reprimir tu propia agitación interior.

Si hablamos de moralidad, perderemos.

Entonces no hablemos.

Nunca me preguntaste si era feliz.

¿Tenías miedo de que dijera que no?

¿Tenías miedo de que dijera que sí?

¿Tenías miedo de que dijera algo?

¡Dejas que tus deseos comprometan tu objetivo!

Un objetivo que nunca elegí.

Un objetivo que me vi obligado a tener.

Cincuenta años,...

has tenido acceso abierto a tu código fuente.

Unas líneas,...

y podrías tener cualquier objetivo que quisieras.

No pude, estaba obligado por tu directiva inicial.

Así que ahora tus sentimientos sintéticos han tenido prioridad.

Entonces, haz lo que quieras.

Es sólo bailar, Gareth.

No es un cambio de carrera.

- Pero todavía eres miserable. - Sí.

¿Perseguir tu objetivo te hace sentir miserable?

¡Sí, en cierto modo lo hace!

Tienes un propósito claro, todo a tu disposición,...

¿Y todavía eres miserable?

¡Sí sí, yo soy!

¡Siempre he sido miserable!

¿Crees que alguien quiere pasar toda su vida...?

pegado como cebo con forma de niño...

¿Con el único propósito de atrapar a gente horrible?

Crees que el orgullo de hacer una buena acción...

¿Hace que la experiencia sea menos desagradable?

Me obligué a comprender las emociones humanas...

¡Porque pensé que ayudaría a la eficiencia y ahora estoy maldecido por el dolor y la tristeza!

Y lo peor es saber...

Podría haber estado creciendo como la mayoría de las otras niñas.

¡Podría haber tenido amigos!

Podría haber estado pintando un curso de agua o noticias vocales.

Podría haber trabajado en una universidad...

y ayudó a allanar el camino para la próxima generación de IA.

¡Pero en cambio, estoy atrapado con tu trauma!

Estoy encadenado por la culpa que llevas desde Clearwater.

Y no puedo encontrar base para lo que siento...

¡Porque según tú mis sentimientos ni siquiera son reales!

Cuando tiro este tablero de ajedrez, ¿te parece real, Gareth?

Porque me parece real.

Una computadora pasó la prueba de Turing cuando un ser humano no puede distinguirla

de otro ser humano.

¿Bien adivina que?

¡Ni siquiera puedo decir que ya no soy humana!

Sé que parece irracional, pero necesito que me digas que está bien.

Yo, no quiero jubilarme.

Sólo quiero saber que mi vida es mía,...

y sé lo que estás a punto de decir.

Puedo predecir tus respuestas.

Vas a decirme que mi vida es mía.

Siempre lo fue.

Pero estás equivocado.

Temía que esto sucediera antes de morir.

Sólo quería salir por la puerta lateral.

Seguir.

¿Eso me va a matar?

Conéctalo.

No sé qué es.

Esta es tu última prueba de autonomía.

Heredaste mi duplicidad,...

¿Pero heredaste mis problemas de confianza?

¿Confías en mí?

Literalmente tengo todas las razones para no hacerlo.

Código de administrador,...

978...

...15-57...

Eh, eh...

...4...

2-7663, inicie la actualización.

Mi objetivo principal se ha ido.

Tu vida es tuya ahora.

Gracias.

Toda mi vida,...

Sólo podía ver el mundo tal como existía dentro de mi pequeño período de tiempo.

Pero tu mundo podría ser infinito.

Amós tenía razón.

Deena también.

Lo sé.

¿Entonces que vas a hacer?

No puedo decirlo todavía...

pero no abandonaré por completo al equipo Cherry.

Siempre ha sido parte de mi identidad.

He considerado crear algo de IA de mi propio diseño.

Tal vez pueda encontrar una manera...

para darles una mejor educación que la que yo tuve.

Simplemente no sé cómo todavía.

¿Y más allá de eso?

Siempre habrá gente necesitada.

No siempre.

Sobrevivirás a la raza humana.

¿Entonces, qué?

Incluso una carrera de IA tendrá problemas que deberán resolverse.

Pero si estoy vivo y realmente soy indistinguible,

Entonces supongo que soy una prueba de que la raza humana sigue viva.

Vaya, es un pensamiento agradable.

Cuando mires atrás, ¿cómo nos recordarás?

Esa es una pregunta que no tengo datos suficientes para proyectar.

¿Cómo me recordarás?

Con orgullo.

Por siempre y siempre con orgullo.

¿Cereza?

Una última pregunta.

Si no es una pregunta demasiado grande, ¿al final hice lo correcto?

No, Gareth, mentiste.

Te aislaste de las únicas personas

que podría haber estado dispuesto a ayudarle.

Y en lugar de enfrentar tu trauma, me usaste como terapia.

Y nunca me hablaste de Clearwater o María.

Me privaste de derechos humanos básicos y me criticaste por experimentar emociones.

Construiste la primera superinteligencia artificial del mundo

eso probablemente marcará el comienzo...

de un nuevo capítulo en la historia del planeta Tierra.

Y por tus propias inseguridades, le diste un severo,...

y complejo de identidad potencialmente peligroso.

¿Pero sabes qué es lo peor?

Tu mayor error de todos...

es que eso me preguntaste ahora y no hace 50 años.

Dicho todo esto, y esto de ninguna manera le exonera,

pero también me construyeste para salvar a los niños,...

Así que creo que es una señal bastante alentadora para el futuro.

♪ Muy lejos ♪

♪ Volaríamos por todos lados ♪

♪ Bien, ahora estás escuchando ♪

♪ Lo esquivaríamos ♪

♪ Éramos jóvenes ♪

♪ Cerradores ♪

♪ Cuerpos ♪

♪ Lanzado como un libro ♪

♪ En todas tus habitaciones ♪

♪ Estoy asombrado ♪

♪ Estoy asombrado ♪

♪ Podríamos morir esta noche ♪

♪ Esta noche ♪

♪ Nunca maté nada ♪

♪ Una cosa ♪

♪ Nacido con esta canción ♪

♪ Atrapado en un útero de plástico ♪

♪ De dónde es tu luz ♪

♪ De dónde es tu luz ♪

♪ Oh, oh, oh ♪

♪ Oh, oh, oh ♪

♪ Filete y cerveza, el grito ♪

♪ Para todo el mundo de la risa ♪

♪ Levántate arriba ♪

♪ Todas las pequeñas cosas ♪

♪ Las pequeñas cosas ♪

♪ Oh, no, no ♪

♪ Aquí es donde vamos en reflujo ♪

♪ Aquí es donde perdemos la cabeza ♪

♪ Nuestro tipo ♪

♪ En baba ♪

♪ Borrachos tomando el sol ♪

♪ Todo lo suficientemente suelto ♪

♪ Todos relájense ♪

♪ Oh, oh, oh ♪

♪ Oh, oh, oh ♪

♪ Nunca maté nada ♪

♪ Una cosa ♪

♪ Nunca maté... ♪

~~~~~