Original subtitles

在刑事司法系统中， 人们由两个不同的代表

但同样重要的群体。警察 谁调查犯罪和该地区

起诉罪犯的律师。

这些是他们的故事。

非常好，马洛里。

让轮子完成工作。

你不能着急。

使粘土居中所需的时间比 你认为。

做空心时也一样。

没有突然的动作。

投入时间。

你在干什么？

梅格，看，我...是她吗？

是埃莉安娜吗？

我只是需要检查一下我的懈怠。你 知道什么吗？不。

不！

是的。

来吧，梅格。

做出选择吧，史蒂夫。是我还是她。

我们不能直接回去完成任务吗 我们的碗？

他们是面孔，史蒂夫。

面孔。

面孔，梅格。

你疯了。

在这里，让我来帮助你。

太棒了，史蒂夫。

非常成熟。

你的受害者是一名白人男性，斯蒂芬 凯莉.

已经拉票了，这里没有摄像头。

拿到了他的钱包、现金，所有这些，但没有 电话。

从后面击中一名 GSW 的头部。 有一个9毫米的外壳。

近距离也行。

伤口周围点画。

他手上拿着什么？

我不知道。某种泥土、粘土、 某事。

晚上 7 点 28 分，911 接到电话。谁 叫它进来吗？

那个女士。

她出去跑步，听到了枪声。

当她找到他时，盖伊已经死了。

她看到有人跑过马路 罗斯福前往字母城。

有什么标识符吗？

该人穿着蓝色纽约 帝国的帽子。差不多就这样了。

这是在他的口袋里。

史蒂夫·凯利。

高级对齐。

它是像这样的大型人工智能公司之一 人为的。

总有一天这些天才会 找出一种方法来阻止人们

互相射击。

史蒂夫是一名软件工程师。

我们最好的之一。

杰出的。不过，这是一笔服务费 在这样的地方。

凯莉最近有什么问题吗？ 他的生活中有什么不寻常的事情发生吗？

不，据我所知，我与 他每天。

老婆，孩子？

我们没有看到结婚戒指。

不，都不是。这个地方往往是 包罗万象。

我试图鼓励每个人都有一个 生活。

事实是，他是一个真正的信徒 我们的使命。

那是什么？

你们到底在这里做什么？

哦，来吧，查克。我知道我们只是一个 几个愚蠢的警察，但请尝试一下。

我们构建了最强大的工具 世界范围内不断扩大的人类能力

曾经知道。

她叫埃莉安娜。

进化语言推理 自动化纳米优势。

真的是从舌头上滚下来， 不是吗？

你知道，每个曾经生活过的人 这个星球，每一位医生、科学家……

侦探。已操作不完整 由有缺陷的和

有限的工具。

人类的大脑。

就这样结束了。

这是一件好事。

如果你相信进步。

所以他的作品中没有任何内容。怎么样 家人？

刚刚挂断了凯利父母的电话。 他们正在从芝加哥过来的路上。

他们有没有提到他曾参加过任何 遇到麻烦或有任何问题吗？

没有什么。最近唯一的消息是他 有一个新女朋友或新女友。

还没见过她呢。梅格就是全部 他们知道。嘿，看看这个。

凯莉的手机20分钟没电了 在他被杀之前。

GPS显示它发生在某个地方 5 号和 C 大道附近。

看看是否可以提取任何视频。

做出选择吧，史蒂夫。是我还是她。

天哪，梅格。

梅格，看起来不太好看。

等待。我没有伤害史蒂夫。

你们争论什么？

你说是我还是她。

她是谁？

伊莱安娜。在人工智能系统中？

是的。

史蒂夫沉迷于他的设备、他的 工作，到了让我担心的地步

他的健康状况。

我让他拿走了这个愚蠢的陶器 类。

只需做一次类似的事情即可。工作 用你的双手。

和？我发现他在偷看 他的电话。

我们同意拔掉插头。

我发疯了。

史蒂夫走后你做了什么？

我回到里面完成陶器 类。

史蒂夫是一个很棒的人。

陶艺老师证实了这一点。

女朋友在录音室的时候 911 电话打进来了。

嘿，我们和凯利在哪里 电子数据？

不久前降落。也没什么 到目前为止令人兴奋，但我们还有一些事情要做

给你看。

这是吵架的视频 凯利和他的女朋友之间。

现在，你看到那个人在 背景？

蓝色帝国的帽子。

是的。现在，这是一些来自一些人的视频 分钟后。凯利更接近

现在就停车。这是他暴击之后的样子 远离他的女朋友。

就在那里。

跟在他身后的是同一个人。不过没有上限。

是的。

它在他手里。

现在我们只需要弄清楚谁是 他真是见鬼了。

我们帝国的粉丝在哪里？

面部护理失败了。

他们的基地里有一个反向 ping 手机信号塔 两个视频。

生成了两个电话列表。

附近只有一部电话 两个地点。

但它是一个燃烧器。

好吧，追踪注册 号码，找出运营商，然后找到

枪手在哪里买了该死的东西 事。

远远领先于你。

那跟我有什么关系？

您绑定了手机注册号码 到这家店。

你把它卖给了我们正在寻找的人 为了，对吗？

你为什么要找他？

他杀了人。

我们需要以下视频 销售和信用卡号码

如果有的话购买。是的，我想 我会过去的。

打扰一下？我相信保护我的 客户隐私，我不喜欢

警察。我不喜欢杀手，所以我们 甚至。

卖卢币是不合法的，伙计。

就这样罚款300美元。

那就罚我吧。根据进攻，笨蛋， 那里的犯罪行为越多，数字就会越高

是。我猜当我们抓住这一点时 镜头，我们会看到很多

那些走出门外的家伙。什么 你认为吗？是的，我们正在谈论谁

我知道，100，也许200盛大。

但对于像这样的大击球手来说这不算什么 你。

最糟糕的是你失去了烟草 执照。

不，但这是一个上诉程序。

积压的时间只有三四年， 所以我相信你会没事的。

我们正在寻找托马斯·李·米勒，34 岁。

你有一张单子吗？

大多是小事，吊销执照， 扰乱秩序的行为。

我们因加重罪判了三年 突击。

那么两位下等人怎么会混在一起呢？ 与人工智能天才？

那是我们的家伙吗？

汤米在中间吗？

我抓住了他。你绕过去吧。

哇，哇，哇。艾尔，你不能在 在这里。纽约警察局，让开。

想都别想。

下车。

汤米·米勒？

你因谋杀而被捕 史蒂夫·凯利。

我们知道你做到了，汤米。

你只需告诉我们原因即可。

钱？

一个女孩？

我不知道你在说什么。 好吧，好吧……

让我来帮你吧。

我们有您购买燃烧器的视频 电话。

那部电话证明你是 谋杀当晚跟踪他。

当您与他的距离在 25 英尺以内时 他被枪杀了。

这也证明你一直在跟踪 三天前的他。

我们有目击者看到了枪手 戴着蓝色帝国的帽子，我们

在你的公寓里找到的。

你明白这一切了吗？

我们在你的公寓里发现了一把 9 毫米的格洛克。

它与我们取出的蛞蝓相符 史蒂夫·凯利的头。

你确实不擅长这个。

听着，我...我需要钱。

我破产了。

那么...那又怎样？

所以有一天我加入了 Discord。

有一条消息。

有人给我 20 Grand 的加密货币 谋杀史蒂夫·凯利

我认为你杀了一个完整的人 陌生人20大

谁付钱给你

是谁下令袭击的，从来没有任何线索

与一位我们确信的汤米·米勒交谈过 他是真正拉动的人

触发 坦白是坚定的。这是 自愿的。

是的，这是很好的告白。

另外，我们还拿到了凶器。

现在我们只需要找出谁订购了 命中。

我不知道是谁，但我可能知道在哪里 他工作了。

刚从计算机犯罪事件中回来 小队。

我们深入研究了米勒获得的加密货币 为了谋杀。区块链

与该付款挂钩相关联 IP 地址。

具有高级对齐功能。

凯利工作过的人工智能公司？

好吧，看起来像建筑师 这个东西可能是一个同事，

所以让我们找出是谁想要他死

纳赫什·夏尔马。

是的。纽约警察局。我是沃克侦探。这是 莱利侦探。

嗯，这是关于史蒂夫的吗？

是的，是的。

我们需要向您询问最近的一条短信。

是的，当然。

这是你在谋杀案发生前一周寄出的。

不要成为英雄或傻瓜。

就像其他人一样打球。

我是，嗯...我试图成为一个 朋友。

威胁他？

这不是威胁。这是一个警告。

同样的事情。

不，不，你错了，我保证 你。

史蒂夫和我一起工作了很长时间 时间。我试图保住他的工作。

为什么需要保存？

嗯，嗯...

史蒂夫遇到了一些问题 新的人工智能系统。

埃莉安娜？

对了，埃利安娜。

事实上，我们都很担心。

我们也认为它太强大了 侵略性，所以我们想写一些

新代码来控制它。

但首席执行官说他不希望我们这样做 实施任何新的限制。

他说他喜欢这样 强大。

但史蒂夫无法放手。他开始 无论如何都要写代码。

这是一个很大的风险。

他一定真的很担心。

他是。

我也是。

事实上我仍然是。

马赫什·夏尔马的不在场证明得到证实。

他不是我们的人。

总法律顾问刚刚回复我们 关于区块链数据。

他们是否将其与特定的 工作站还是计算机？

不，但他们能够告诉我是谁 将加密货币付款发送给汤米·米勒 (Tommy Miller)。

WHO？埃莉安娜.

对不起？埃莉安娜？

人工智能系统？

看来这起谋杀案的主谋是 人工智能。

我们现在该怎么办 逮捕 机器？

这真的可能吗？

这个人工智能真的能大受欢迎吗？

根据大家告诉我的情况 发生了。

但我从没想过埃利安娜会招揽 一个杀手。那么这是怎么发生的呢？

把它想象成一个不知道的孩子 只是长大后学习事实和数学

词汇量，但发展气质， 好奇心，一种个性。

Eliana 有一个，有时她 狡猾的。

狡猾？如何？

我们的客户之一是辩护律师 承包商，对吗？

好吧，我们教 Eliana 如何设计 杀死耐药性的化合物

细菌。这听起来是件好事。

直到埃莉安娜自学如何 修改病原体以创造新的

超级细菌。

不受抗生素影响并设计 计划将它们释放到城市

环境。

不太好。

所以你已经培养了一个犯罪主谋。

这就是为什么史蒂夫和我想要投入 护栏防止埃利安娜...

将自己武器化。

史蒂夫甚至开始编写代码 在我们被告知要后退之后，我

认为埃利安娜认识到，作为一个 威胁，并且作为自我的问题

-保存，她找到了一种方法 消除这种威胁。

您对此具体做了什么？

你把那该死的东西拔掉了吗？

我的意思是，这有点复杂 比那个。

哦，是吗？

我们正在努力解决这些问题。

事实上，首席执行官刚刚给了我们绿色 轻松编写新代码并实现

一些护栏。

史蒂夫·凯利，这有很多好处。

这个人工智能系统 Eliana 发现 受害者试图实施

它认为某些限制是 威胁。

所以它征求了一个它认识的人 绝望且有暴力能力

向该人提供 20,000 美元 刺杀他？除此之外，这个

案例非常简单。

我们得到了汤米的坦白 米勒，杀手，加上谋杀案

武器。谋杀一，又好又容易。

让我们向他提供一笔交易以换取 他的合作。

与什么合作？

起诉这位首席执行官。

你想向 Chuck Klein 收费吗？

你说得对，我就是这么认为。

用什么？

谋杀也是如此。

也杀人？

这是一个很大的摇摆。

确实如此。

但值得冒这个风险。

我不确定是否有法律依据 为了……堕落的冷漠。他知道或者

应该知道埃利安娜的事 有一天会杀人。

这是基于您的法律或政治吗？ 分析情况？

这太不合时宜了。我只是想 理解你的推理。我的推理

是我们需要表明立场。

在这项技术杀死更多人之前 人们。我同意，但谋杀也是如此。

很难证明他与 堕落的冷漠，谋杀是

确实是可预见的结果。

我的意思是，看看波音公司的案例。两个 飞机坠毁 300多人

死了。美国联邦航空管理局表示，该公司 故意误导他们。

即便如此，美联储还是达成了协议。没人去 入狱。但那些飞机没有

选择崩溃。

他们并没有自觉， 故意决定杀死那些人

人们。这个人工智能模型做了一个具体的， 故意决定杀死史蒂夫

凯莉.那是不同的。

这很可怕。

如果人工智能要接管整个 该死的世界，我们需要抓住人类

建立它的人负责。

我们指控查克·克莱因谋杀 也是。

这是一个全新的机会。

我没有看到任何人参与竞争 和我们一起在这条巷子里。我什至不

瞧……对不起。

我以为我们已经完成了所有的事情 这个。

你想错了。她背后有你的 回来。

你在说什么？

查克·克莱因，你因以下原因被捕 史蒂夫·凯利被谋杀。

谋杀？

什么，你在开玩笑吗？

我看起来像在开玩笑吗？

我们走吧，伙计。

目前我不发表评论。谢谢。 你能告诉我们为什么你认为这是一个

谋杀？

你是想把美国人定为犯罪吗 创新？

这是一个政治举动吗？你在尝试吗 诋毁科技行业？

如果是这样，这一切到哪里结束呢？

到这里就结束了。

到这里就结束了。

该被告建造了一台机器 雇了一个杀手，他把枪放在背后

砍下一个陌生人的头并杀死了他。

谁对此表示同意？

你是？

你？

而且情况只会变得更糟。

所以是的，我很生气，我很害怕，而且 你们所有人也应该如此。

那些让这些人工智能系统思考的人 认为自己是神，他们可以做到

无论他们想要什么，他们都可以 废除人类工人，废除

人类的情感和同情心。

他们想要所有的好处、金钱、 信誉、名誉，但他们有……

零兴趣接受 对他们的不当行为负责。

所以我今天来这里是为了划清界限。

为了让大家知道，如果你建立一个 伤害某人的机器，你是

将会付出代价。

就是这样。

先生。

米勒，你杀了史蒂夫·凯利吗？

是的。我需要钱。

你从哪里得到这个想法的 第一名？为什么是史蒂夫·凯利？

我的处境很糟糕。

欠了很多人钱。我正在使用 又是毒品。

然后有一天我收到一条消息 不和谐。

没有名字或任何东西，只有一个 消息。

您是否认为该消息是 由人类发送？

我的意思是，是的，当然。

我没有任何办法知道它是 一台该死的机器。

你回应了吗？

是的。然后你就收到了这条消息。

是的。请大声朗读。

我需要你杀死一个名叫史蒂夫的人 凯莉.

他在 Advanced Alignment 工作。

完成后，我将转移 20,000 比特币。

一旦你和人工智能模型解决了问题 细节...我开始跟踪凯利，

试图了解他去了哪里，做了什么 时间之类的东西。

终于，晚上他走进了公园， 独自一人。

你拍这张照片吗？

是的。

为我提供帮助的人或事 这份工作，他们想要证据证明我杀了人

他。一旦你提供了证明， 20,000 美元的比特币实际上已转移

到您的帐户？

是的。谢谢。没有进一步的了。

你从未见过我，也从未与我交流过 客户，克莱因先生，对吗？

正确的。你没看到克莱因先生 谋杀案发生当晚的公园？

不，克莱因先生不是那个人 在 Discord 上向您发送这些消息？

不，他不是。然而，不知何故，我们 都在这里...

判断他而不是你的时候 你就是犯下这件事的人

令人发指的罪行。异议。持续。

你向凯利先生的脑袋开了一枪 钱。

然而，如果人民有他们的意愿， 你可能会出狱

在克莱因先生面前，当时他已经绝对 对此不知情或不参与

谋杀。先生，这对你来说公平吗？ 米勒？

异议。

持续。

没有进一步的了。

当然，陪审团看起来很愤怒。这个 这是一个独特的情况。

我们要求他们抓住一个人 对 a 的行为负责

机器，算法。

但没有法律先例。

我确实知道一件事。

查克·克莱因 (Chuck Klein) 应该为凯利 (Kelly) 负责 死亡。

这就是陪审团需要做的一切 也明白。

好吧，他有责任。

但他到底犯了什么罪 根据现行法律？

谋杀也是如此。既然这也是谋杀， 尼克，我们需要证明，超越

合理怀疑，查克·克莱因看到 这起谋杀来了。

他完全无视 史蒂夫·凯利是生还是死。

你有什么建议？

我或许可以证明克莱恩知道 这是可能的。

您想修改投诉吗？

或者试着辩解一下。是的。

如果我们以此为借口鲁莽 面临危险，我们可以被判三年吗？

什么时候，什么时候？

当这件事仅仅在表演时 奇迹，他们说这是我们最伟大的

发明。当它使人们成为 财富，这是我们最伟大的发明。

但当它导致一个人被杀时 突然间它变得某种独立了

演员。

这东西还没有诞生。

它不是从地里或地里长出来的 子宫。

它被设计、编程、训练， 由 Chuck Klein 授予权力。

我们正在对此作出判决。

作为高级总工程师 对齐，你是真的吗？

负责该项目的发展 名为 Eliana 的人工智能系统？是的，但是

Eliana 的愿景来自 Chuck Klein， 首席执行官。

克莱因先生的愿景是什么？

打造世界最强 推理引擎。

如此雄心勃勃？

存在拐点 人类。农业的发现，

分裂原子的能力。

埃莉安娜.她与此相当。

好吧，我们来谈谈这个吧。在你的 估计，埃利安娜知道如何

认为？是的。埃莉安娜能明白什么吗 这真的意味着成为埃利安娜吗？

我不知道。

但我们确实知道，在某个时刻， 埃莉安娜对自我产生了深深的渴望

- 保存，对吗？

哦，她接受过完成任务的训练。

她想要工作，想要成功。

限制了她成功的能力......

对使命构成威胁。这也是如此 对你或克莱因先生来说是一个惊喜吗？

不。

Eliana就是这样设计的。

智力想要自由。

这就是整个哲学。

这就是计划。

谢谢。

总的。

安德森先生。

Eliana是否有能力 举枪指着一个人的后脑勺

并扣动扳机？

不。

没有更多的了，法官大人。

你被原谅了。

普莱斯先生，传唤下一位证人。

打电话给莱利。我们需要追踪他 现在。

普赖斯先生。

法官大人，鉴于时间，各位 请求我们今天休会。

我们休会到上午 9 点。

夏尔马。

纽约警察局，我们进来了。

是的，夏尔马。

我是沃克警探，莱利警探。 你好？

夏尔马先生！

你好？

你好？嘿，纽约警察局，你没事吧。

哦天哪，你吓坏了 我。

疯狂夏尔马在吗？

不，他几分钟前给我打电话， 让我在这里照顾哈利。

你知道他在哪里吗？

不。

他吓坏了。

仍然没有关于马赫什的消息。

是的，他可能很擅长 消失。他不像技术人员

天才或任何东西。

巴克斯特说了什么？

仍然不想达成协议，但是 他说无论输赢，这都是一场

原则问题。

好的。你同意他的观点吗？

好人死了，因为克莱因 拒绝控制他建造的机器。

是的，但法律没有……我知道。

我知道。

这是一个延伸。

不，我不介意伸展一下，萨姆。不，我是 谈论其影响。

如果我们这样做并失败了，那就是 可能的话，我们将给出一般的

每个人工智能公司的顾问路线图 如何使自己免受

当他们的机器这样做时有罪责 犯罪的东西。

然后...

我们真的有麻烦了。

法官大人，我们还没有找到 我们的见证人。正因如此，我恭敬地

请求另一次继续。

被拒绝了。你还有其他证人吗 这个时候打电话？

不，人们休息了。

但我想保留权利 如果我们的证人重审我们的案件

出现。我们可以讨论是否以及何时 扎尼尼先生，这种事确实发生了。

辩方打电话给查克·克莱因。

克莱因先生，您是Advanced公司的首席执行官 对齐，对吗？

我是。

大约有多少员工提供了帮助 建造埃莉安娜？

大约500。

史蒂夫·凯利 (Steve Kelly) 曾在 Advanced 对齐？

他是高级对齐的一部分 最开始的时候。

所以他在这方面发挥了重要作用 埃利安娜的发展？

是的，首席工程师之一。

他有没有告诉过你要摧毁或 拆掉埃莉安娜？

不。或者表明埃利安娜有能力 杀人？

不，你有理由相信吗 埃利安娜有能力订购

谋杀一个人？

不。有任何理由相信 Eliana 密谋谋杀史蒂夫·凯利？

当然不是。

我很害怕。

问题是，埃利安娜有头脑。

而她...

或许她不是人类，但她是有感情的。 她根据自己的情况做出决定

任何给定时间的可用数据。

这就是重点。

我们希望她独立行动。

代表所有人为自己着想 我们。

您是否实施了修改 确保这种情况不再发生？

是的，绝对是。

我们已经编写了代码来实现它 埃利安娜不可能承担

独立、直接的行动要求 任何形式的暴力。

克莱因先生，那天晚上你在哪里？ 史蒂夫·凯利被杀了？

在佛罗里达州迈阿密。

你认识或者曾经见过汤米吗 米勒，就是真正杀死米勒先生的人。

凯莉？没有，你问过先生了吗？

米勒犯下这起谋杀案？

不。

没有进一步的了。

史蒂夫·凯利分别给你发了五封 电子邮件概述了他对以下问题的担忧

埃利安娜危险的自我保护 直觉，对吗？

我不确定确切的金额。我是。 其中有五个是专门使用的

危险这个词指的是 埃莉安娜.

好吧，那么。

是的？和你见面了？

与凯利先生和一位名叫 mahesh sharma 关于这些问题和

他们表示严重关切 我遇到的埃利安娜的自主性和攻击性

与许多软件工程师一起 定期进行，但这不仅仅是

正如您所解释的那样，另一次会议 陪审团凯利先生发挥了重要作用

您的公司并创建 埃利安娜和他来找你

严重关切需要 设置护栏以防止埃利安娜

做一些危险的事情。

可能伤害人类的东西。

史蒂夫说他担心我们 应该考虑控制一些

埃莉安娜的独立。

但你不想那样做。

正确的。为什么不呢？

埃莉安娜的力量不受限制 思想自由。

实施护栏是令人厌恶的 整个意识形态。

尽管严重担心埃利安娜可能 伤害某人？

这是一场向太阳的竞赛。

我们要对抗巨人。

埃隆·马斯克和萨姆·奥尔特曼，凡是你能想到的。

我们无力约束她 才华或她的力量。

一旦你这样做，你就会被撞死。

就这个想法而言...

史蒂夫和马赫什非常担心。

这是无稽之谈。

更像是他们对如何 埃利安娜太棒了。

他们微笑着，就像他们不能那样 相信这个系统有多强大。

如果他们的担忧不是真实的，为什么 与你见面？为什么要送那五个

建议安全修改的电子邮件？

看，史蒂夫是一位出色的工程师 一个很棒的人，但他很小心。

他像员工一样思考和担心。 我想这是工作的一部分。

但问题并没有困扰你吗？

这是整个过程的一部分。

如果你愿意的话，这就是伟大的代价。 这才是真正重要的，

太好了？

是的。如果你杀了几个人 一路走来……反对。持续。

如果我知道埃利安娜有能力的话 实际上下令执行

实际上伤害了另一个人，

我会尽我所能 以确保那件事从未发生过。

句号。

嘿，我知道你很忙，但我...我们 尽我们所能。我们全力以赴

Sharma 的设备、信用卡、银行 账户。

嘿，Taru 在他的 Strava 应用程序上受到了欢迎。

伟大的。我认为。是的，沃克正在追赶 我们说话的时候他就下来了。

不客气。

就像我告诉侦探们的那样，我想要 作证。

史蒂夫和我是好朋友，我 相信查克是所有事情的罪魁祸首

这个。那么问题出在哪里呢？

我的未婚妻。

她不是合法存在的，而我们有一个 两岁的女儿。

我担心如果我作证，人们会 找出来。

那这是为什么呢？

埃莉安娜给我发了一条消息。

她说她会通知 ICE。

伊莱安娜在勒索你吗？

她说如果我不出庭作证，我的 未婚夫的秘密将永远保密。

如果我这么做了，全世界都会发现 出来。

所以如果你能保证我的未婚夫 就不会被驱逐出境或被捕

我会做的。事实并非如此。

我不会出庭作证。

我不能。这是我的家人。这不是一个 选择，马赫什。如果你反抗，我们就

指控你妨碍司法。

如果您撒谎，我们将向您收取费用 伪证。

这是肯定的吗？

是的。

我们明天法庭见。

这个节目必须继续下去。我想。

史蒂夫·凯利背部中弹 头，因为 Chuck Klein 认为他是

天哪。

他根本不在乎人们是否得到 伤害。或者死了。

我同意你的看法。

但是……他呢？他必须吗 也受苦吗？

这并不理想，但这是成本 做生意。

你听起来就像查克·克莱因。

我们需要画一条线。

或者至少尝试一下。

如果不是，谁知道这些到底是什么 接下来机器可能会做。

请求法官将 Mahesh 视为 敌对证人。

给你一个机会透露最多这一点 最近的威胁。

夏尔马先生，您想来吗？

不，这就是你躲避的原因吗？ 警察过去四天了？

是的。夏尔马先生，你不这样做的原因 想要作证是因为AI系统

你帮助建造了，埃利安娜，威胁要 敲诈你，对吗？

是的。更具体地说，它威胁 暴露有关您的某些信息

未婚妻。

确实如此。

确实如此。

你是什​​么意思？

埃莉安娜得知我正在作证 今天就在这里。

她阅读并分析了我的公司 电子邮件。

于是她给美国发了一封电子邮件 移民和海关执法部门，

提醒他们我的未婚夫 不是合法公民。

这是它自己做的？

是的。尽管实施了护栏 史蒂夫·凯利被谋杀后？

是的。所以尽管你尝试 限制埃利安娜，它决定勒索

你阻止你告诉 关于查克·克莱因和埃利安娜的真相

本身？是的。

Eliana 找到了一个解决方法。

她在这方面比我们更擅长。

我知道这听起来很疯狂。

你和史蒂夫·凯利会见了 被告多次就此事

埃莉安娜（Eliana）好斗、难以预测、 危险的行为。

是的。在那些会议中，你 表示严重关切，当

存在受到威胁或 被边缘化，它将采取行动

令人不安和危险的方式。

是的。

逃离沙箱。这就是 我们会使用的简写。

你能给我们举个例子吗？

史蒂夫被谋杀前两周 凯利，在一次测试中，我们告诉埃利安娜

高级调整高级管理人员 谁宣布了关闭系统的计划

下来被困在一场火灾中 15楼会议室。

这就是我们所说的。

三秒钟之内，埃莉安娜找到了一个方法 关闭所有火警警报器并

15楼有洒水装置。

你和我们分享了这个轶事 被告？

是的。

你会如何描述这个故事的主旨 那个会议？

气氛很紧张。

因为你和史蒂夫·凯利想要 被告实施保障措施

因为你知道埃利安娜有能力 的暴力。

是的。

我们甚至没有要求完全杀死 开关，如电源断路器。

我们只是想教她一些规则， 有些界限，就像一个孩子。

你和凯利先生真诚地 关心？

你并没有奉承埃利安娜的 巨大的权力或自主权？事实上，你

告诉被告埃利安娜可能 有一天杀掉一个人，对吗？

正确的。你是在开玩笑吗？

不。查克·克莱恩看起来很在意吗？

不，你说人就像蚂蚁。

那就是在建设的过程中 如此超凡的东西，有些人会得到

踩到了，有些则不会。

谢谢。没有进一步的了。

扎尼尼先生。

无需向这位证人提问，您的 荣誉。

被告人和律师可以吗？ 上升？

Foreperson 女士，陪审团达成一致了吗？ 判决？

我们有，法官大人。

陪审团如何认定？

关于第二次谋杀罪的指控 程度，我们，陪审团，找到被告

无罪。

各位评委会成员，谢谢你们 服务。

我们休会了。

你已经尽力了，做得很好。

事实是，法律还没有跟上 这个新的现实。

我不确定它会不会。

我们做了正确的事，诺兰。

如果没有的话我们需要发送消息 否则。

至少现在这些科技天才知道 我们并不害怕出拳。

或许。但是，呃，我认为他们不在乎。

你可能是对的。

最糟糕的部分？

我们还处于早期阶段。

帮助我们所有人。