WEBVTT 00:00.976 --> 00:09.000 AI 기업 오픈AI(OpenAI)의 대표인 샘 알트먼은 한 인터뷰에서 ChatGPT의 후속 버전에 대한 계획을 설명했다. 00:09.000 --> 00:15.679 이 시스템은 앞으로 몇 달 안에 가동될 예정이다. 알트만은 다음과 같이 말했다: 00:15.679 --> 00:28.861 “제 생각에는, ChatGPT의 후속 버전이 당신의 컴퓨터 화면을 끊임없이 지켜보고, 당신이 참여하는 모든 회의를 모니터링하며, 모든 통화를 녹음하여, 당신이 보는 모든 것을 00:28.861 --> 00:37.279 바탕으로 당신의 삶 전체에 대한 완벽한 맥락을 파악하는 세상이 머지않았다고 생각합니다.” 00:37.279 --> 00:42.840 곧 AI는 단순히 요청에 반응하는 것을 넘어, 주도적으로 행동하게 될 것입니다. 00:42.840 --> 00:51.161 이 시스템은 아이디어를 제안하고, 잠재적인 문제를 파악하며, 일상생활을 도와줄 것입니다. 정말 멋진 신세계가 되겠네요! 00:51.161 --> 01:02.178 게다가 『1984』 — “빅 브라더가 너를 지켜보고 있다” — 와 같은 고전적인 디스토피아 는 마치 무해한 인형극처럼 보일 정도인데, 오웰의 감시자들은 여전히 벽 뒤에 숨어 있었기 때문이다. 01:02.178 --> 01:08.526 알트만의 관찰자들은 현재 스마트폰이나 PC에 자리 잡고 있으며, 머지않아 우리 뇌 속에도 자리 잡게 될 것이다. 01:08.526 --> 01:12.650 그들은 늘 곁에 있는 동반자가 되고, 겉보기에는 친구가 됩니다. 01:12.650 --> 01:15.343 안락함이라는 유혹은 참으로 매력적이다. 01:15.343 --> 01:23.476 누구든 성가신 약속 몇 가지를 다른 사람에게 맡기거나, 업무에서 완벽한 전문가의 도움을 받고 싶어 하지 않을 사람이 어디 있겠습니까? 01:23.476 --> 01:30.363 하지만 사람들이 새로운 AI 지원 시스템에 의존하게 되자마자, AI는 그들을 질책하기 시작할 것이다. 01:30.363 --> 01:37.520 “지원”과 “간섭” 사이의 미묘한 경계는 더 이상 사용자가 아닌 알고리즘에 의해 정의되게 된다. 01:37.520 --> 01:41.204 이렇게 되면 적극적인 도움이 간섭으로 변해버립니다. 01:41.204 --> 01:47.020 구체적으로 어떻게 보이는지 몇 가지 예를 들어 보겠습니다: 01:47.020 --> 01:50.695 1. 정부 정책에 대한 비판적인 논평을 쓰고 싶은가요? 01:50.695 --> 01:55.437 모든 키 입력을 추적하는 AI가 텍스트를 미리 “수정”합니다. 01:55.437 --> 02:04.040 그녀는 더 무해한 표현을 제안하거나, 해당 게시물이 “부적절”하거나 “논란을 일으킬 수 있다”고 판단되면 아예 게시하지 않습니다. 02:04.040 --> 02:11.060 이미 현재 구글의 AI는 자체 정의에 따라 무해한 리뷰들을 차단하고 있다. 02:11.060 --> 02:15.078 2. 인터넷에서 논란이 되는 주제에 대한 정보를 찾고 계신가요? 02:15.078 --> 02:22.414 AI는 검색 결과를 걸러내어, “신뢰할 수 있는” — 즉, 시스템에 부합하는 — 것으로 판단되는 출처만 표시합니다. 02:22.414 --> 02:25.585 이미 소셜 미디어에서는 섀도우 배닝이 이루어지고 있다. 02:25.585 --> 02:34.269 콘텐츠는 차단된 것은 아니지만, 더 이상 검색 결과에 표시되지 않으므로 구독자에게 제공되지 않습니다. 02:35.769 --> 02:42.683 3. 더 이상 읽고 쓰는 일은 필요하지 않습니다. AI가 난해한 텍스트를 요약해 주거나 기사나 연설문 전체를 작성해 주기 때문입니다. 02:42.683 --> 02:49.870 저널리스트 톰-올리버 레게나우어는 최근 이 주제에 관한 입장문에서 다음과 같이 썼다: 02:49.870 --> 02:56.020 “읽기, 생각하기, 쓰기를 다른 사람에게 맡기면, 그 능력을 잃게 된다. 게다가 아주 빨리 잃게 된다.” 02:56.020 --> 03:01.599 뇌는 근육과 비슷합니다. 훈련하지 않으면 퇴화하게 됩니다... 03:01.599 --> 03:13.186 2007년 이후 스마트폰의 도입이 초래한 치명적인 결과를 떠올려 보면, AI가 우리 종의 인지적 능력에 훨씬 더 짧은 시간 내에 어떤 영향을 미칠지, 인공지능이 훨씬 더 짧은 시간 내에 03:13.186 --> 03:19.616 우리 종의 인지적 능력에 어떤 영향을 미칠지 예측하는 데는 그리 큰 상상력이 필요하지 않습니다. 03:19.616 --> 03:26.343 AI는 – 스마트폰과 마찬가지로 – 무엇보다도 군사 기술이자 타락의 도구이다. 03:26.343 --> 03:32.294 극소수만이 책임감 있게 그리고 생산적으로 다룰 수 있는 도구입니다. 03:32.294 --> 03:43.840 방향 감각도, 의지도, 생각도 없는 “스롬비”들, 는 이미 도시 풍경을 특징짓고 있지만, 경각심을 불러일으키는 사례로서는 아직 충분하지 않은 듯하다.” 03:43.840 --> 03:52.821 4. AI는 아주 짧은 시간 만에 개인의 정치적 성향을 파악하고, 사적인 메시지를 읽으며, 관계 및 인맥 네트워크를 파악한다. 03:52.821 --> 03:58.580 그녀는 이 지식을 인간의 발전을 돕기 위해 사용하는 것이 아니라, 인간을 ‘최적화’하기 위해 이용한다. 03:58.580 --> 04:02.526 간단히 말해, 이는 요구되는 기준에 부합하는 것을 의미합니다. 04:02.526 --> 04:10.245 ‘너징(nudging)’, 즉 미묘한 여론 조종은 코로나 팬데믹 기간 동안 이미 대규모로 성공적으로 시험된 바 있다. 04:10.245 --> 04:15.040 그렇다면 우리 사용자들은 ChatGPT와 같은 서비스에 얼마나 많은 권한을 부여해야 할까요? 04:15.040 --> 04:19.198 톰-올리버 레게나우어는 이에 대해 다음과 같이 분명히 밝혔습니다: 04:19.198 --> 04:27.392 “나를 끊임없이 감시하고, 이미 지금 이 순간에도 나를 죽일 수 있는 잠재력을 지닌 시스템을 훈련시키는 것은 거부합니다.” 04:27.392 --> 04:40.398 바로 이것이 Palantir, OpenAI의 ChatGPT, Anthropic의 Claude, SpaceXAI의 Grok이 이미 가자지구, 우크라이나, 이란 및 기타 전쟁 지역에서 하고 있는 04:40.398 --> 04:52.424 일입니다. 바로 이러한 시스템들이 자율 무기 시스템을 제어하고 있는데, 유로폴(EUROPOL)에 따르면 조만간 우리 도시에서도 순찰을 돌게 될 그 미니 드론들처럼 말입니다. 04:52.424 --> 05:00.370 AI 시스템을 사용하는 사람은 실제 ‘터미네이터’를 제어하게 될 중앙 데이터베이스인 ‘스카이넷’을 훈련시키는 셈이다. 05:00.370 --> 05:06.784 “그리고 보스턴 다이내믹스, 유니트리, 테슬라 덕분에 그 기술이 머지않아 우리 곁에 다가올 것입니다.”