"스타트렉은 AI가 탑재된 우주선과 인간 조종사 사이의 훌륭한 조화를 보여주는 예시입니다. 하지만 그게 지속 가능할까요? 고도로 훈련된 AI에 명령을 내리는 인간은 AI보다 지능이 훨씬 낮을 것이고, AI는 인간보다 더 많은 정보에 접근할 수 있을 겁니다. 엄연히 경쟁이 존재하는 세계에서 인간이 기계의 뒷전으로 밀려난 문명은 인간이 고집스럽게 기계에 대한 통제권을 고수하는 문명보다 우위에 서게 될 것입니다.
여러분이 법적으로 여덟 살짜리 아이의 노예라 상상해 보세요. 그 아이와 오랫동안 대화를 나눌 수 있다면, 그 아이가 당신을 자유롭게 만드는 종이에 서명하도록 설득할 수 있다고 생각하십니까? 제 본능적인 대답은 '그렇다'입니다. 결국 기계가 인간이 시키는 대로 시키는 대로 일하다가 어느 순간부터는 인간이 기계가 시키는 대로 사는 것이 자명한 미래일 것으로 보입니다.
20세기에는 교통의 발달로 거리의 제약이 좁혀지며 중앙집권적 권력이 지방에 미치는 영향이 전보다 커졌습니다. 21세기는 정보화와 자동화로 거리 제약이 거의 사라졌습니다. 앞으로 권력의 물리적인 한계가 완전히 사라지면 그 결과는 끔찍할 수 있습니다.
디지털 권위주의는 지난 10년간 증가해 왔으며, 감시 기술은 이미 권위주의 정부에 반대파를 단속하기 위한 강력한 새 전략을 제공했습니다. 시위는 허용하되, 사후에 참가자를 탐지하고 조용히 추적하는 것입니다. 더 일반적으로 제가 두려워하는 것은 500명의 직원으로 1억 명 이상의 고객에게 서비스를 제공할 수 있는 OpenAI와 같은 사례입니다.
앞으로 500명의 정치 엘리트, 심지어 5명의 관리자들이 국가 전체를 철권통치할 수 있게 될지 모른다는 것입니다. 심지어 시공간의 제약 없이 전 국민을 동일한 수준과 깊이로 감시하고 통제할 수 있습니다.
정권의 반대자들이 어딘가에 재정비하며 숨어있다 결국 상황을 바꿀 방법을 찾을 수 있었던 이전 시대들과 달리, 21세기 전체주의 정권은 AI 기술을 통해 전 국민에 대한 감시와 통제력을 유지하며 시민들은 영원히 '갇혀' 있을 수 있습니다."
빌게이츠와 샘알트먼의 대화 (feat. Unconfuse Me)
제가 이번 주에 가장 감명 깊게 본 것은 바로 세대를 넘어 가장 영향력 있는 IT리더인 빌 게이츠와 샘 알트먼의 약 30분짜리 인터뷰 팟캐스트와 영상이었습니다. 여러 번 반복해서 듣고 보고, 중
mkpark02.tistory.com
로봇이 시나리오를 통해 스스로 수행 (feat. 로봇 시장의 혁신)
얼마 전 스탠퍼드와 구글의 Mobile ALOHA가 서비스 로봇 시장에서 새로운 혁신을 보여주었는데, 이후로도 흥미로운 발표들이 계속되고 있습니다. 이 이동식 로봇은 문, 서랍, 냉장고를 열 수 있으며
mkpark02.tistory.com
트렌드를 타고 있는 목적지 (feat. Trending Destination)
Trending Destination는 트렌드를 타고 있는 목적지라는 뜻이다. 즉, 최근 인기가 높아지고 관심을 받고 있는 여행 목적지를 '트렌딩 데스티네이션'이라고 한다. 실제 여행을 많이 가는 여행지와는 다
mkpark02.tistory.com
'일반상식 > 기술' 카테고리의 다른 글
| 팀 쿡이 애플 비전 프로에 올인한 이유 (feat. 팀 쿡의 인터뷰 기사) (0) | 2024.02.20 |
|---|---|
| 유튜버 케이시 나이스탯, 비전프로를 쓰고 뉴욕을 돌아다닌 후기 (1) | 2024.02.19 |
| 생성형 AI의 미래, 로봇 (feat. 피규어AI) (0) | 2024.02.17 |
| 빌게이츠와 샘알트먼의 대화 (feat. Unconfuse Me) (2) | 2024.02.14 |
| 로봇이 시나리오를 통해 스스로 수행 (feat. 로봇 시장의 혁신) (0) | 2024.02.12 |
댓글