1
00:00:00,000 --> 00:00:00,976


2
00:00:00,976 --> 00:00:09,000
在一次对话中，人工智能公司OpenAI的负责人萨姆·奥尔特曼描述了他对ChatGPT继任者的计划。

3
00:00:09,000 --> 00:00:15,679
这款继任者预计将在未来几个月内投入使用。奥尔特曼说了以下内容：

4
00:00:15,679 --> 00:00:37,279
“我相信，我们即将进入一个世界，在那里你可以拥有一个ChatGPT的继任者，它时刻观察你的电脑屏幕
，跟踪你参加的每一次会议，记录每一通电话，从而对你整个生活拥有完美的上下文——包括你所看到的一切。”

5
00:00:37,279 --> 00:00:42,840
因此，很快人工智能不仅会对请求做出反应，还会主动采取行动。

6
00:00:42,840 --> 00:00:51,161
它将提出想法，识别潜在问题，并支持日常生活。多么美丽的新世界！

7
00:00:51,161 --> 00:01:02,178
相比之下，经典的反乌托邦如《1984》——“老大哥在看着你”——就像一场无害的木偶戏，因为奥威尔的观察者还坐在墙后面。

8
00:01:02,178 --> 00:01:08,526
奥尔特曼的观察者坐在自己的智能手机或电脑里，而且很快会进入自己的大脑。

9
00:01:08,526 --> 00:01:12,650
它们将成为永久的伴侣，成为所谓的朋​​友。

10
00:01:12,650 --> 00:01:15,343
便利的诱饵很诱人。

11
00:01:15,343 --> 00:01:23,476
谁不想把一些烦人的约会外包出去，或者让一个完美的权威在工作中支持自己呢？

12
00:01:23,476 --> 00:01:30,363
然而，一旦人们依赖新的人工智能支持，人工智能就会开始对他们进行管教。

13
00:01:30,363 --> 00:01:37,520
“支持”与“家长式干预”之间的狭窄界限，将不再由用户定义，而是由算法定义。

14
00:01:37,520 --> 00:01:41,204
这样，主动的帮助就变成了家长式的干预。

15
00:01:41,204 --> 00:01:47,020
以下是一些具体例子：

16
00:01:47,020 --> 00:01:50,695
1. 你想写一条关于政府政策的批评性评论？

17
00:01:50,695 --> 00:01:55,437
跟踪每一次按键的人工智能会事先“修正”文本。

18
00:01:55,437 --> 00:02:04,040
她提出更无害的表述，或者根本不发布该帖子，因为它被归类为“不正确”或“两极分化”。

19
00:02:04,040 --> 00:02:11,060
目前谷歌人工智能已经根据自身的定义屏蔽了无害的评论。

20
00:02:11,060 --> 00:02:15,078
2. 人们在网上搜索有争议的话题信息？

21
00:02:15,078 --> 00:02:22,414
人工智能过滤搜索结果，只显示它认为“可信”——即符合体制的——来源。

22
00:02:22,414 --> 00:02:25,585
目前社交媒体上已经存在影子封禁。

23
00:02:25,585 --> 00:02:34,269
内容并未被封锁，但不再在搜索中显示，因此订阅者也无法再获取。

24
00:02:35,769 --> 00:02:42,683
3. 不再需要阅读和写作，因为人工智能可以总结复杂的文本，甚至撰写整篇文章和演讲。

25
00:02:42,683 --> 00:02:49,870
政论作家汤姆-奥利弗·雷根奥尔最近在一份立场文件中写道：

26
00:02:49,870 --> 00:02:56,020
“谁将阅读、思考和写作外包出去，谁就会失去这些能力——而且速度非常快。

27
00:02:56,020 --> 00:03:01,599
大脑就像一块肌肉。如果不锻炼，它就会萎缩……

28
00:03:01,599 --> 00:03:19,616
如果回想一下自2007年智能手机推出以来产生了多么灾难性的后果，就
不难推断出人工智能将在更短的时间内对我们物种的认知能力产生何种影响。

29
00:03:19,616 --> 00:03:26,343
人工智能——如同智能手机一样——首先是军事技术和退化工具。

30
00:03:26,343 --> 00:03:32,294
一种很少有人能负责任且富有成效地使用的工具。

31
00:03:32,294 --> 00:03:43,840
那些迷失方向、缺乏意志和思考的“低头族”（Smombie，即智能手机与僵尸的结合，指那些过于专注看手机、
以至于无法正确感知周围环境的人），如今已经构成了城市景观的一部分，但似乎还不足以成为令人警醒的反面例子。”

32
00:03:43,840 --> 00:03:52,821
4. 人工智能在极短时间内就能识别出个人的政治立场，读取私人信息，并掌握其人际关系和联络网络。

33
00:03:52,821 --> 00:03:58,580
它利用这些知识不是为了促进人的发展，而是为了对人进行“优化”。

34
00:03:58,580 --> 00:04:02,526
直白地说，这意味着：适应所要求的规范。

35
00:04:02,526 --> 00:04:10,245
助推（Nudging），即微妙的舆论操控，在新冠疫情期间已经成功进行了大规模测试。

36
00:04:10,245 --> 00:04:15,040
那么，我们这些用户究竟想赋予ChatGPT及其同类多少权力？

37
00:04:15,040 --> 00:04:19,198
汤姆-奥利弗·雷格瑙尔对此发表了明确的声明：

38
00:04:19,198 --> 00:04:27,392
“我拒绝训练一个无时无刻不在监视我、并且现在已经具备杀死我潜力的系统。

39
00:04:27,392 --> 00:04:40,404
因为Palantir、OpenAI的ChatGPT、
Anthropic的Claude以及SpaceXAI的Grok今天已经在加沙、乌克兰、

40
00:04:40,404 --> 00:04:52,424
伊朗和其他战区做着这样的事——这些系统正在那里操控自主武器系统，就像欧洲刑警组织所说的那些不久将在我们城市中巡逻的微型无人机一样。

41
00:04:52,424 --> 00:05:00,370
谁使用人工智能系统，就是在训练“天网”，一个将操控真正“终结者”的中央数据库。

42
00:05:00,370 --> 00:05:06,784
而多亏了波士顿动力、宇树科技和特斯拉，这个终结者很快就会出现在我们家门口。”