[!INFO] 책 정보

• 저자: 저자/헨리_A_키신저
• 번역: 번역/김고명
• 출판사: 출판사/윌북
• 발행일: 2023-05-22
• origin_title: The Age of AI- And Our Human Future (2021년)
• 나의 평점: 8
• 완독일: 2024-01-27 00:00:00

AI 이후의 세계

1. Befor Qustion

인공지능 이후의 세계 어떤 방향으로 흘러 가는가 [AI 슈퍼파워](AI 슈퍼파워) [챗GPT에게 묻는 인류의 미래](챗GPT에게 묻는 인류의 미래) [AI 메이커스 - 인공지능 전쟁의 최전선](AI 메이커스 - 인공지능 전쟁의 최전선)

회사 24년 1월의 추천책

2. Synopsis (개요)

2.1 주제

2.2 기획 및 지필 의도

2.3 주요 등장 인물

2.4 전체 줄거리

3. After My Idea

3.1 Insight

• 인공지능을 어떻게 사용할 것이고, 어떻게 제어할 것이고, 어디까지 개발할 것인지 우리는 그 목적과 목표를 정하지 않았다.

  • 핵폭탄이 터지고 수십만의 사람들이 죽고서야 핵을 억제하는 정책과 세계적 공감대가 이루어 졌다
  • 그럼에도 수많은 나라에서 핵폭탄을 만들고, 만들려고 하고 있다.

• AI, 범용 인공지능에 대해서도 같은 길을 가게 될까? 세계 나라들이 한나의 컨센서스를 이룰 수 는 없어보인다. 아주 강력히!

• 컴퓨팅 환경, 인터넷 환경은 인간의 사유를 빼앗아가고, 자아성찰과 사유가 없는 인간은 스스로 세상을 판단할 힘과 용기가 없어지고 있다.

3.2 After Qustion

• (why) 이 책의 제목을 이렇게 지은 이유는?

• (how) 어떻게 설명하고 있는가? 어떻게 하라고 하는가? 어떻게 해야하는가?

• (where) 어느 곳에서 쓴 책인가? 어느 것을 위해 쓴건인가? 어디로 가야하는가? 어디에서 읽어야 하나? 그곳은 어떤 곳인가?

• (when) 이책은 언제 쓰여졌는가? 시대적 배경은 무엇인가? 언제를 기준으로 쓰였는가? 언제 할것인가?

• (who) 저자는 누구인가? 주인공은 누구이고 어떤 사람들이 나오나? 누구를 위해 저자는 말하는가?

• (why) 이책을 통한 질문을 만들기

  • 질문 1.
  • 질문 2.

• (what) 이 책에서 말하는 주제라는 무엇?

  • 알게된 것은 무엇인가?
  • 해야할건 먼가?
  • 다른 책과 다른 점은 먼가?
  • 이 책의 특징은 먼가?

• 조금은 실망이다. 저자들의 이름이 예사롭지 않았기에 기대를 너무 해서인가

• 현재 나온 인공지능에 관한 도서들 - 특히 김대식님- 과 별반 다르지 않은 이야기가 주를 이룬다

• 인공지능은 본격적으로 우리 삶에 밀접하게 다가오기 시작했고

  • 그 인공지능은 이제 유아기,초등생 정도의 시기를 시작하고 있다
  • 말이 통하고, 잠재력이 보이는

• 우리는 그 아이를 어떻게 어디에 사용할지 아직 모르고 있다.

• 그 아이를 이용하는 사람들은 그 아이를 어떻게 대하고 있을까? 무엇을 학습시키고 있을까?

• 그아이의 잠재력과 파괴력을 본 권력자와 국가와 기업들은 그것을 어떻게 이용하려고 할까?

• 우리가 그 아이를 어떻게 대하냐가 그아이가 선한 슈퍼맨이 될지 , 악한 악당이 될지 가 결절 될것이다

• 그 아이가 난폭하게 되지 않도록, 적적한 제한과 목표와 목적을 마련해야한다.

• 윤리적이고 인간에게 유익한 아이로 자라도록 해야한다.

• 그러나… 그 방법은 요원하다. 착하게 살자 처럼 구름, 메아리 처럼 들린다.

• 심히 걱정된다.

3.3 Top 3 Highlight

• 만일 AI에 악의가 생긴다면 어떻게 해야 하는가?

• 우리는 생성형 AI에게 무엇을 물을지 신중하게 결정해야 한다.

• AI를 신뢰하려면 그 정확성과 안전성, AI와 인간의 목적 일치성, AI 운용자의 책임감이 개선돼야 한다

• 만일 이 기술을 우리가 완전히 통제할 수 없다면 어떻게 할 것인가?

  • 우리는 아직 아 성과물의 목적지를 개발하지 않았다. 일단 앞만 보고 달려가고 있다.
  • 이제 기술과 공생하는 인간, [호모 테크니쿠스Homo Technicus](호모 테크니쿠스Homo Technicus)가 된 우리에게는 인류의 목적을 정의할 책무가 있다.
  • 진정한 답을 제시하는 것은 언제나 우리의 몫이다.

#정보 에 #맥락 이 더해질 때 #지식 이 된다. 지식에 #소신 이 더해지면 #지혜 가 된다. 역사적으로 볼 때 소신이 생기려면 홀로 #성찰 ( #사유 ) 하는 #시간 이 필요했다 하지만 ,

• 인터넷은 이용자에게 수천·수만·수억 명의 의견을 쏟아부으며 혼자 있을 시간을 허락하지 않는다.
• 홀로 생각할 시간이 줄어들면 용기가 위축된다.
• 용기는 소신을 기르고 지키기 위해 꼭 필요하며 특히 새로운 길, 그래서 대체로 외로운 길을 걸을 때 중요하다.
• 인간은 소신과 지혜를 갖출 때만 새로운 지평을 탐색할 수 있다.

[칩 워, 누가 반도체 전쟁의 최후 승자가 될 것인가](칩 워, 누가 반도체 전쟁의 최후 승자가 될 것인가) 에서 본것 처럼 AI 에 대해서도 미국은 철저하게 기술우위를 지키기 위해 권력을 사용할 것이다. 군사력에도 지대한 영향을 줄 인공지능!!! 나는 투자해서 돈이나 벌자!!! 웃프다

AI의 시대에도 강력한 방위력이 안보의 전제 조건이라는 사실은 달라지지 않는다.

인공지능으로 인해 인간은 , 신앙과 이성에 추가로 다른 방식으로 세상을 바라보는 방법을 알게 되었다.

4. Key Word 책에서 뽑은 키워드 정리

__index_키워드

4.1 키워드 1

키워드-제목 1

6.책 밑줄 정리 (책 밑줄 전체,page)

계몽시대의 과학이 분명한 지식을 축적한 반면, 새로운 AI는 모호한 지식을 누적한다.

• 계몽시대의 과학은 미스터리를 해소하면서 점점 넓어지는 지식과 이해의 한계선을 명확히 그렸다.

• 지식과 이해가 나란히 움직였다.

  • 가설을 통해 이해가 지식으로, 귀납을 통해 지식이 이해로 발전했다.

• 그러나 AI시대에는 우리가 알지 못하는 프로세스로 수수께끼가 해소된다.

  • 이 혼란스럽고 모순적인 기제로 미스터리는, 더 이상 미스터리가 아니지만 설명할 수는 없는 현상이 된다.

• 따라서 복잡다단한 AI는 인간의 지식을 확장하지만 이해를 확장하진 않는다.

  • 계몽시대 이래로 현대 사회에서 보기 힘들었던 양상이다.

• 그럼에도 인간의 이성과 연합한 AI는 홀로 작용하는 이성보다 강력한 탐구와 발견의 수단이 된다.

• 그러므로 계몽시대와 AI시대의 결정적 차이는 기술적 측면이 아니라 인지적 측면에서 발견된다

• 강력한 도덕적·전략적 지도체계가 필수다.

  • 원칙이 없으면 인류는 전제 혹은 무질서, 즉 무제한적 권력의 지배 혹은 허무주의적 자유라는 위험에 처할 수 있다.

• 앞으로는 사회에 주요한 변화가 생길 때 그 윤리적 정당성을 따지고 새롭게 미래의 비전을 마련하는 과정이 지금까지와 다를 것이다.

• AI가 책임감 있게 사용되도록 한계를 설정해야 하고, 이때 기술의 종류와 사용 환경을 고려해 그 한계를 달리해야 한다. 챗GPT 같은 언어모델은 결론에 제약을 둬야 한다. 챗GPT는 자신이 알지 못하고 전달하지 못하는 것이 무엇인지 알고서 출력을 전달해야 한다.

• AI는 단일한 ‘영역domain’이 아니다.

  • 과학·교육·제조·물류·교통·국방·치안·정치·광고·예술·문화 등 다양한 산업과 삶의 방면을 지원하는 기술이다.
  • 학습 능력, 진화 능력, 예측불가성 등을 갖춘 AI는 모든 영역에서 혁명을 일으킬 것이다.
  • 그 결과로 인간의 정체성이 변하고 이제껏 겪어보지 못한 현실을 경험하게 될 것이다.

명심하라, 지금 일어나는 혁신은 인공지능이 이룰 성취의 첫걸음에 불과하다. AI는 우리가 미처 알아차리기도 전에 오늘날 문제가 되는 모든 한계를 돌파해버릴 것이다. 빌 게이츠 | 마이크로소프트 설립자

• 개발자들은 프로그램을 만들고, 목적(게임 승리, 박테리아 사멸, 문장 생성)을 부여하고, ‘훈련’할 시간(인간의 인지 능력을 기준으로 하면 짧은 시간)을 허용했다.

  • 그 시간이 지났을 때 각 프로그램은 인간과 다른 방식으로 대상을 정복했다.
  • 그 결과물 중에는 인간이 발휘하는 계산 능력을 넘어서는, 적어도 현실적으로 시간을 고려했을 때 인간이 발휘할 수 있는 계산력의 한계를 뛰어넘는 결과물이 있었다.
  • 어떤 것은 도출된 과정을 인간이 연구하여 이해할 수 있었지만, 반대로 어떻게 도출했는지 아직까지 인간이 이해하지 못하는 결과물도 존재한다 -

• AI는 인간과 다른 방식으로 현실에 접근한다.

  • 그리고 AI가 발휘하는 신기한 능력을 보자면 인간이 접근할 수 없는 현실의 ‘측면들’에 접근하는 것 같다.
  • 그래서 AI를 통해 우리가 사물의 본질에 더 가까이 다가갈 듯 보인다.
  • 이는 지난 수천 년간 철학자, 신학자, 과학자들이 그토록 바랐지만 부분적인 성공만 거둔 일이다.
  • 하지만 모든 기술이 그렇듯이 AI도 무엇을 가능케 하느냐만이 아니라 어떻게 활용하느냐가 중요하다.

• 앞으로 AI의 발전이 당연하다고 해도 그 종착지가 어디라고는 단정할 수 없다.

  • 그래서 AI의 등장은 역사적으로도 철학적으로도 중요하다.
  • 그 발전을 저지하려고 해봤자 결국에는 인간의 창의성을 과감히 시험해보는 이들이 인류의 미래를 써내려갈 것이다.

• 우리는 이렇게 물어야 한다.

  • AI의 진화가 인간의 지각·인지·상호작용에 어떤 영향을 미칠 것인가?
  • AI가 우리의 문화를, 인간에 대한 우리의 인식을, 종국에는 우리의 역사를 어떻게 바꿔놓을 것인가?

• AI는 인간 경험의 모든 영역에서 변화를 예고한다.

  • 그 변화의 중심에는 인간이 현실을 이해하는 방식,
  • 그리고 그 안에서 자신이 맡은 역할을 이해하는 방식을 바꿔놓는 철학적 전환이 있을 것이다.

• 변화의 토대를 닦은 것은 컴퓨터와 인터넷이다.

  • 그리고 그 변화의 정점에서는 삶의 곳곳에 파고든 AI가 우리의 생각과 행동을 증강할 것이다.

• AI가 ‘생각’을 할 수 있다면, 혹은 생각을 흉내낼 수 있다면, 우리는 누구인가?

  • 우리도 결국은 기계적은 매커니즘에 의해 동작하는 것인가

• 모든 분야에서 AI의 지원이 당연시되어, 때로는 무엇이 인간의 결정이고 무엇이 AI의 결정이며 무엇이 인간과 AI의 공동 결정인지 분간이 안 될 것이다.

• 국가안보와 직결된 사안이라면 어떨까?

  • AI가 제 계산에 따라 더 많은 사람을 구하기 위해 적지 않은 국민의 생명이나 이익을 희생시키라고 지도자에게 권고한다면 어떻게 해야 할까?
  • 무엇을 근거로 그 권고를 거부할 수 있을까?
  • AI의 권고를 거부하는 것이 과연 정당화될 수 있을까?
    • 그리고 AI가 무엇을 어떻게 계산했는지 인간이 항상 다 알 수 있을까?
  • 인간이 AI의 석연치 않은 선택을 제때 탐지하거나 철회할 수 있을까?
  • AI의 결정이 어떤 논리에서 나왔는지 모를 때도 의심 없이 그 결정을 따라야 할까?
  • 만일 AI의 결정을 따르지 않는다면, 우리보다 우수한 능력을 보유한 기계를 방해하는 것은 아닐까?
  • 혹시 AI가 내린 결정의 논리와 파급효과를 이해할 수 있다고 해도 라이벌 또한 AI에 의존한다면 어떻게 될까?
  • 이렇게 다양한 고려 사항 사이에서 어떻게 균형을 잡고, 그 균형을 어떻게 정당화할 것인가?

• 이 혁명에 대응하려면 기존의 철학 사상과 사회제도만으로는 역부족하다.

책을 지필한 … 질문들

▫AI의 등장으로 의료, 공간, 생물학, 양자물리학에 어떤 혁신이 일어나는가? ▫AI가 만드는 ‘친구’는 (특히 어린이에게) 어떤 존재인가? ▫AI를 기반으로 하는 전쟁은 어떤 형태인가? ▫AI가 인간은 인식할 수 없는 현실의 측면을 인식하는가? ▫AI가 인간의 행동을 평가하고 유도하는 시대에 인간은 어떻게 변할 것인가? ▫그러한 AI시대에 인간으로 산다는 것은 어떤 의미인가?

#현실 에 단일하고 객관적인 형태가 존재하느냐, 그리고 그것을 인간의 정신이 파악할 수 있느냐 하는 질문은 이미 플라톤 시대부터 철학자들의 #고민 거리였다. 하이젠베르크는 『물리와 철학』(1958)에서 두 학문의 관계를 살피며 당대에 비로소 과학으로 풀리기 시작했던 미스터리를 탐구했다. 한편으로 보어는 그의 선구적 저작에서 관찰이 현실에 영향을 미침으로써 현실을 정립한다고 주장했다. 보어의 이론에 따르면, 예전부터 현실을 객관적이고 중립적으로 관측하는 수단으로 여겨졌던 과학 장비들이 실제로는 관측 대상과 미미하게나마 상호작용할 수밖에 없고, 따라서 연구하고자 하는 현상의 일부로 편입되어 현상을 왜곡한다.

인간의 정신은 현실을 구성하는 다수의 상호보완적 측면 중에서 그 시점에 정확히 알고자 하는 측면을 ‘하나’만 선택할 수밖에 없다.

• 객관적 현실의 전체를 관찰하는 것이 설령 가능하다고 할지라도 이는 어디까지나 현상을 구성하는 상호보완적 측면들을 관찰한 결과를 결합하고 각각의 결과에 존재하는 왜곡을 보정할 때만 가능하다.

우리는 AI로 인해 허락되는 새로운 인식 혹은 이해의 차원에 관한 탐구를 시작하는 시점에 이르렀다.

• AI를 활용함으로써 과학자들은 인간 관찰자가 현상을 관측하고 인식할 때 발생하는 빈틈, 혹은 인간이(또는 전통적 컴퓨터가) 상호보완적인 데이터세트를 처리하고 그 안에서 패턴을 식별할 때 발생하는 빈틈을 메울 것이다.

이제 우리는 AI로 인해 허락되는 새로운 인식 혹은 이해의 차원에 관한 탐구를 시작하는 시점에 이르렀다.

설령 인간의 정신과 같은 방식으로 어떤 사물을 #인지 할 수는 없다고 해도, #AI 는 현실에 존재하는 #패턴 과 일치하는 부분을 취합하여 인간의 지각 및 사유와 유사한, 때로는 그 이상의 능력을 발휘한다.

#정보 에 #맥락 이 더해질 때 #지식 이 된다. 지식에 #소신 이 더해지면 #지혜 가 된다. 역사적으로 볼 때 소신이 생기려면 홀로 #성찰 ( #사유 ) 하는 #시간 이 필요했다 하지만 ,

• 인터넷은 이용자에게 수천·수만·수억 명의 의견을 쏟아부으며 혼자 있을 시간을 허락하지 않는다.
• 홀로 생각할 시간이 줄어들면 용기가 위축된다.
• 용기는 소신을 기르고 지키기 위해 꼭 필요하며 특히 새로운 길, 그래서 대체로 외로운 길을 걸을 때 중요하다.
• 인간은 소신과 지혜를 갖출 때만 새로운 지평을 탐색할 수 있다.

디지털 세상에는 지혜가 생길 여유가 없다.

• 디지털 세상에서 중시되는 덕목은 자아성찰이 아니라 타인의 인정이다.
• 그래서 디지털 세상은 이성이 의식의 요체라는 계몽주의의 명제를 위협한다.
• 디지털 세상은 역사적으로 거리·시간·언어의 한계 때문에 인간의 행동에 가해진 제약을 파기하면서 ‘연결’을 의미 있는 미덕으로 내세운다.

그렇게 AI가 삶에 점점 더 넓게 영향을 미치면서, 우리의 정신이 홀로 선택과 행동을 하고, 체계화하고, 평가하던 시대가 저물고 있다

AI는 인간처럼 맥락을 이해하거나 행동을 반추하지 못하기 때문에 더더욱 인간이 주시해야 한다.

AI 활용 분야

• 자동화 기기의 대중화
• 차량,도구,가전제품 증가
• 소비자 경험 증가 유도 제품들
• 인간과 기계가 더 친밀
• 자율주행 차
• 난치병,만성질환 치료 및 발견
• 드론
• 전투기
• 자동 코딩
• 물류
• 광고
• 에너지
• 환경,
• 전쟁과 평화
• 번역

#유럽 대형 네트워크 플랫폼 운영자들이 유럽에 주목하는 이유는 일류 기업과 대학이 다수 포진했고, 컴퓨터시대의 근간이 된 계몽주의적 탐구 전통이 살아 있으며, 시장 규모가 크고, 혁신적인 법적 요건을 제정하고 강제하는 탁월한 규제 기관이 존재하기 때문이다. 하지만 여러 국가가 통합된 시장이기 때문에 사용하는 언어가 많고 국가별 규제 기관도 별도로 존재한다는 점에서, 여전히 신규 네트워크 플랫폼이 초반에 사업을 확장하기 불리하다.

2030년 초쯤이면 우리는 뇌의 신피질을 비생물학적 지능과 결합할 수 있다. 지적 한계는 사라지고 인간의 지능은 두뇌 바깥으로 나아가 클라우드에 도달할 것이다. 레이 커즈와일 | 미래학자

#AI 는 #인간 이 전통적으로 현실을 인식하던 두 가지 방식, 즉 #신앙 과 #이성 외에 또 다른 방식을 제시한다.

• 이 같은 변화는 세계에 관한, 그리고 그 안에서 인간의 위치에 관한 우리의 핵심적 가정을 시험하고 때로는 전환할 것이다.
• 이성은 과학을 혁명적으로 발전시키고 우리의 사회적 삶, 예술, 신앙을 바꿔놓았다.
• 이성의 면밀한 감시하에 봉건제도가 무너지고 이성적인 사람들이 통치에 직접 관여하는 민주주의가 발흥했다.
• 이처럼 우리의 자기인식을 떠받치는 원리가 이제 AI로 인해 다시금 시험대에 오를 것이다. -

AI로 인해 우리가 세상과 상호작용하는 방식이 달라지고 그에 따라 자신에 관한, 그리고 세계에서의 역할에 관한 인식이 달라진다.

• AI는 예측하고(예: 환자의 질환이 초기 유방암일 가능성), 결정하고(예: 체스에서 다음에 둘 수),
• 정보를 강조하며 필터링하고(예: 영화나 투자 종목 추천),
• 인간과 유사한 텍스트(문장·문단·문서)를 만든다.

AI시대에도 중대한 판단을 하는 주체는 올바른 자격을 갖추고 이유를 제시할 수 있으며 익명이 아닌 인간이어야 한다.

각 사회는 제일 먼저 다양한 영역에서 AI의 사용이 허용되고 허용되지 않는 범위를 정해야 한다. AGI처럼 강력한 AI는 악용을 방지하기 위해 철저히 규제해야 한다. AGI는 어마어마한 개발 비용이 들기 때문에 아마도 개발할 수 있는 주체가 소수에 불과하고, 그래서 자연스럽게 사용이 제한될 것이다.

#중세시대 에는 인간이 ‘이마고 데이imago Dei’(신의 형상)를 닮은 존재로 정의되고, 봉건제 농경 질서가 유지되고, 왕권이 존중되고, 우뚝 솟은 교회의 첨탑이 숭앙됐다. #이성시대 에는 ‘코기토 에르고 숨’이라는 기치하에 새로운 지평이 활발히 탐색되면서 개인에게도 사회에도 숙명에 관한 인식에 인간의 주체성이라는 개념이 파고들었다. #AI시대 에는 아직 기본적인 이념도, 도덕론도, 추구해야 할 것과 제한해야 할 것도 정립되지 않았다

AI를 제한하거나 , 제한해야 하는 분야 협력하거나 - 협력하고 이용하는 분야 따를 것이다 - 믿고 맞길수 있는 분야

3. 연관 문서