1
00:00:00,000 --> 00:00:00,976


2
00:00:00,976 --> 00:00:05,763
Trong một cuộc trò chuyện, Sam Altman, người
đứng đầu công ty AI OpenAI, đã mô tả kế hoạch

3
00:00:05,763 --> 00:00:09,000
của mình cho một phiên bản kế nhiệm ChatGPT.

4
00:00:09,000 --> 00:00:15,679
Phiên bản này được cho là sẽ sẵn sàng sử dụng
trong vài tháng tới. Altman đã nói như sau:

5
00:00:15,679 --> 00:00:23,920
"Tôi tin rằng chúng ta đang tiến gần đến một thế giới mà ở đó
người ta có thể có một phiên bản kế nhiệm ChatGPT luôn quan sát

6
00:00:23,920 --> 00:00:31,502
màn hình máy tính của bạn, theo dõi mọi cuộc họp bạn tham
gia, ghi lại mọi cuộc gọi và nhờ đó có được bối cảnh hoàn

7
00:00:31,502 --> 00:00:37,279
hảo về toàn bộ cuộc sống của bạn – về mọi thứ bạn nhìn thấy."

8
00:00:37,279 --> 00:00:42,840
Trong thời gian ngắn nữa, AI sẽ không chỉ phản
hồi các yêu cầu mà còn hành động một cách chủ động.

9
00:00:42,840 --> 00:00:51,161
Nó sẽ đề xuất ý tưởng, nhận diện các vấn đề tiềm ẩn và hỗ
trợ cuộc sống hàng ngày. Thật là một thế giới mới tuyệt đẹp!

10
00:00:51,161 --> 00:00:57,975
Bên cạnh đó, những tác phẩm dystopia kinh điển như 1984 – “Big
Brother is watching you” – trông giống như một vở múa rối vô hại,

11
00:00:57,975 --> 00:01:02,178
bởi những kẻ quan sát của Orwell vẫn còn ngồi sau một bức tường

12
00:01:02,178 --> 00:01:05,894
Những kẻ quan sát của Altman ngồi trong chính
chiếc điện thoại thông minh hoặc máy tính của bạn và

13
00:01:05,894 --> 00:01:08,526
chẳng bao lâu nữa sẽ ở trong chính bộ não của bạn.

14
00:01:08,526 --> 00:01:12,650
Chúng trở thành những người bạn đồng hành thường
xuyên, những người bạn tưởng chừng như thân thiết.

15
00:01:12,650 --> 00:01:15,343
Mồi nhử của sự tiện lợi thật hấp dẫn.

16
00:01:15,343 --> 00:01:23,476
Ai mà không muốn thuê người khác làm vài việc lặt vặt
hay có một trợ lý hoàn hảo hỗ trợ mình trong công việc?

17
00:01:23,476 --> 00:01:30,363
Nhưng ngay khi con người trở nên phụ thuộc vào
các hỗ trợ AI mới, AI sẽ bắt đầu kiểm soát họ.

18
00:01:30,363 --> 00:01:37,520
Ranh giới mong manh giữa "hỗ trợ" và "áp đặt" khi đó
không còn do người dùng quyết định nữa, mà do các thuật toán.

19
00:01:37,520 --> 00:01:41,204
Như vậy, sự giúp đỡ chủ động trở thành sự can thiệp áp đặt.

20
00:01:41,204 --> 00:01:47,020
Dưới đây là một số ví dụ cụ thể về điều đó:

21
00:01:47,020 --> 00:01:50,695
1. Bạn muốn viết một bình luận
chỉ trích chính sách của chính phủ?

22
00:01:50,695 --> 00:01:55,437
AI, thứ theo dõi từng lần nhấn
phím, sẽ "sửa" văn bản ngay từ trước.

23
00:01:55,437 --> 00:02:00,823
Cô ấy đề xuất những cách diễn đạt vô hại hơn
hoặc thậm chí không đăng bài viết vì nó bị

24
00:02:00,823 --> 00:02:04,040
coi là "không chính xác" hoặc "gây phân cực".

25
00:02:04,040 --> 00:02:11,060
Hiện tại, AI của Google đã chặn các đánh giá
vô hại dựa trên các định nghĩa của riêng mình.

26
00:02:11,060 --> 00:02:15,078
2. Người ta tìm kiếm thông tin về
các chủ đề gây tranh cãi trên mạng?

27
00:02:15,078 --> 00:02:22,414
AI lọc kết quả tìm kiếm và chỉ hiển thị những nguồn mà
nó cho là "đáng tin cậy" – tức là phù hợp với hệ thống.

28
00:02:22,414 --> 00:02:25,585
Hiện tại đã có hiện tượng shadow banning trên mạng xã hội.

29
00:02:25,585 --> 00:02:34,269
Nội dung không bị khóa, nhưng chúng không còn được hiển thị trong
tìm kiếm và do đó không còn được cung cấp cho người đăng ký.

30
00:02:35,769 --> 00:02:42,683
3. Không cần phải đọc và viết nữa, vì AI tóm tắt các văn
bản phức tạp hoặc viết toàn bộ bài báo và bài phát biểu.

31
00:02:42,683 --> 00:02:49,870
Nhà báo Tom-Oliver Regenauer gần đây đã
viết về điều này trong một văn bản quan điểm:

32
00:02:49,870 --> 00:02:56,020
"Ai chuyển việc đọc, suy nghĩ và viết ra
ngoài sẽ quên mất chúng – và quên rất nhanh.

33
00:02:56,020 --> 00:03:01,599
Bộ não có thể so sánh với một cơ bắp.
Nếu không được luyện tập, nó sẽ teo đi...

34
00:03:01,599 --> 00:03:10,226
Nếu ta nhớ lại những hậu quả tai hại mà việc du nhập điện thoại
thông minh từ năm 2007 đã gây ra, thì không cần nhiều trí tưởng

35
00:03:10,226 --> 00:03:16,203
tượng để ngoại suy những tác động mà AI sẽ
có trong thời gian ngắn hơn nhiều đối với các

36
00:03:16,203 --> 00:03:19,616
khả năng nhận thức của loài người chúng ta.

37
00:03:19,616 --> 00:03:26,343
AI – giống như điện thoại thông minh – trước hết
là công nghệ quân sự và công cụ gây thoái hóa.

38
00:03:26,343 --> 00:03:32,294
Một công cụ mà rất ít người có thể sử
dụng một cách có trách nhiệm và hiệu quả.

39
00:03:32,294 --> 00:03:38,928
Những "Smombie" không định hướng, không ý chí và không
suy nghĩ, những người đã định hình diện mạo thành phố

40
00:03:38,928 --> 00:03:43,840
hiện nay, dường như vẫn chưa đủ để làm gương răn đe."

41
00:03:43,840 --> 00:03:49,451
4. Trí tuệ nhân tạo (AI) có thể nhận diện quan điểm chính trị cá
nhân, đọc các tin nhắn riêng tư và hình dung chính xác về mạng

42
00:03:49,451 --> 00:03:52,821
lưới quan hệ và các mối liên hệ chỉ trong thời gian cực ngắn.

43
00:03:52,821 --> 00:03:58,580
Nó không sử dụng kiến thức này để thúc đẩy
con người phát triển, mà để "tối ưu hóa" họ.

44
00:03:58,580 --> 00:04:02,526
Điều đó có nghĩa rõ ràng là: thích
nghi với chuẩn mực được yêu cầu.

45
00:04:02,526 --> 00:04:10,245
Nudging, tức kiểm soát quan điểm một cách tinh vi, đã được
thử nghiệm thành công trên diện rộng trong những năm Corona.

46
00:04:10,245 --> 00:04:15,040
Vậy chúng ta, những người dùng, muốn trao
cho ChatGPT và đồng loại bao nhiêu quyền lực?

47
00:04:15,040 --> 00:04:19,198
Tom-Oliver Regenauer đưa ra một tuyên bố rõ ràng về điều này:

48
00:04:19,198 --> 00:04:27,392
"Tôi từ chối huấn luyện một hệ thống thường
xuyên theo dõi tôi và đã có tiềm năng giết tôi.

49
00:04:27,392 --> 00:04:35,651
Bởi vì đó chính xác là những gì Palantir, ChatGPT của OpenAI,
Claude của Anthropic và Grok của SpaceXAI đang làm ngay lúc này

50
00:04:35,651 --> 00:04:43,975
tại Gaza, Ukraine, Iran và các khu vực chiến sự khác, nơi các hệ
thống vũ khí tự động được điều khiển bởi chính những hệ thống

51
00:04:43,975 --> 00:04:52,424
này – giống như những chiếc máy bay không người lái cỡ nhỏ mà
theo EUROPOL sẽ sớm tuần tra trong các thành phố của chúng ta.

52
00:04:52,424 --> 00:05:00,370
Ai sử dụng các hệ thống AI là đang huấn luyện "SkyNet", một
cơ sở dữ liệu trung tâm sẽ điều khiển "Terminator" thật sự.

53
00:05:00,370 --> 00:05:06,784
Và nhờ Boston Dynamics, Unitree và Tesla,
nó sẽ sớm đứng trước cửa nhà chúng ta."