[!INFO] 책 정보

• 저자: 저자/박태웅
• 번역:
• 출판사: 출판사/한빛비즈
• 발행일: 2024-09-30
• origin_title: -
• 나의 평점: 8
• 완독일: 2024-11-17 00:00:00

박태웅의 AI강의 2025

1. Befor Qustion

삼프로 언더스텐딩에서 게스트로 나오셨다 깊이와 넓이가 있어 읽어본다.

2. Synopsis (개요)

2.1 저자 - 박태웅

인물정보 IT종사자 박태웅 KTH, 엠파스 등 IT 분야에서 오래 일했다. 한빛미디어 이사회 의장을 거쳐 현재 녹서포럼 의장을 맡고 있다. 녹서포럼은 당대 사회가 반드시 답해야 할 질문들, 정의 내려야 할 문제들을 드러내는 토론과 공론의 장이다. 2021년 정보통신분야 발전에 기여한 공로를 인정받아 동탑산업훈장을 수훈하였다. 저서로 《눈 떠보니 선진국》, 《박태웅의 AI 강의》 등이 있다.

2.2 주제

2.3 기획 및 지필 의도

2.4 주요 등장 인물

2.5 전체 줄거리

3. After My Idea

3.1 Insight

ai 생성한 것을 다른 ai가 활용 점점더 원본은 희미하고 없어져 간다 오염된 데이터로 오염된 자료가 나오고 차별은 더욱 뚜렷해진다. 점점 세계는 비슷한 류의 모델 (학습) 을 통해 비슷한 결론을 도출하는 인공지능을 사용 편향으로 치우칠듯하다

점점더 지혜가 필요한 시기가 오고 있다. 인공지능이 올바른 길로 가고 있는지 점검하는 조직이 필요하다.

대한 민국의 정책이 아쉽다. 공무원은 한계가 있다. 전문가는 전문가의 의견을 듣고 정책을 만드러야 한다. 우리는 희망이 있다. 하지만 이 중요한 시기를 놓치면 힘들어진다.

정치가 , 사람들의 인공지능 이해와 위험성에 대한 인식이 필요하다.

3.2 After Qustion

• (why) 이 책의 제목을 이렇게 지은 이유는?

• (how) 어떻게 설명하고 있는가? 어떻게 하라고 하는가? 어떻게 해야하는가?

• (where) 어느 곳에서 쓴 책인가? 어느 것을 위해 쓴건인가? 어디로 가야하는가? 어디에서 읽어야 하나? 그곳은 어떤 곳인가?

• (when) 이책은 언제 쓰여졌는가? 시대적 배경은 무엇인가? 언제를 기준으로 쓰였는가? 언제 할것인가?

• (who) 저자는 누구인가? 주인공은 누구이고 어떤 사람들이 나오나? 누구를 위해 저자는 말하는가?

• (why) 이책을 통한 질문을 만들기

  • 질문 1.
  • 질문 2.

• (what) 이 책에서 말하는 주제라는 무엇?

  • 알게된 것은 무엇인가?
  • 해야할건 먼가?
  • 다른 책과 다른 점은 먼가?
  • 이 책의 특징은 먼가?

3.3 Top 3 Highlight

벤지오, 힌턴 등은 “특히, 저희는 AI 기업의 안전 문제를 신고하는 직원에 대한 강력한 내부 고발자 보호 조항을 담은 SB 1047을 강력히 지지합니다. 일부 첨단 AI 기업의 직원들의 ‘무모한’ 개발 사례32를 고려할 때, 이러한 보호 조치는 분명히 필요합니다. 안전을 최우선시하겠다는 기업의 말을 맹목적으로 믿을 수는 없습니다”라고 얘기합니다. 이것은 물론 앞에서 보여드렸던 오픈AI의 퇴직 직원에 대한 주식 몰수 위협 사례를 지적하는 것입니다. 기존의 내부 고발자 보호 규정만으로는 보호할 수가 없었던 케이스였습니다. 법의 미비점을 보완하려는 시도는 당연히 환영해야 합니다.

4. Key Word 책에서 뽑은 키워드 정리

__index_키워드

4.1 키워드 1

키워드-제목 1

6.책 밑줄 정리 (책 밑줄 전체,page)

앞으로의 AI Trend!

• AI as OS
  • AI는 1년여 만에 OS의 지위를 넘보고 있습니다. 1~2년 안에 거의 모든 소프트웨어들이 어떤 형태로든 인공지능과 연동하는 형태를 갖게 될 것입니다.
• Contextual Interface
  • 오랫동안 왕좌를 지켜왔던 GUI(그래픽 유저 인터페이스)도 인공지능의 등장과 함께 서서히 내려올 준비를 하고 있습니다. 맥락 인터페이스가 그 자리를 차지하게 될 것입니다.
• AI as Partner
  • AI는 사상 최초로 ‘쓰는’ 도구가 아닌 ‘함께하는’ 도구가 될 것입니다.
• Multimodal
  • 멀티모달이 기본이 됩니다. 인공지능은 기계로 인간의 지능을 만들어보자는 시도입니다. 인간의 지능이 책을 읽는 것만으로 만들어지지 않는다면 인공지능도 당연히 텍스트뿐 아니라 이미지, 동영상, 오디오 등을 두루 학습해야 합니다.
• Cheaper,Faster,Smallar
  • 작아지고, 빨라지고, 저렴해집니다. 인간의 두뇌는 하루에 21와트쯤의 에너지만 주어지면 F=MA, E=MC2를 생각해낼 수 있습니다. 매일 수천 가구분의 전기를 쓰고, 몇만 대의 비싼 GPU를 써서는 제대로 된 인공지능이라 부르기가 어렵습니다.
• Humanoid
  • 인간형 로봇인 휴머노이드의 시간이 옵니다. 휴머노이드가 인공지능과 결합하면서 발전의 속도가 눈부시게 빨라지고 있습니다. 휴머노이드는 ‘몸을 가진 AI’가 될 것입니다.

1강 걷잡을 수 없는 변화의 물결: 인공지능, 우리의 일과 삶에 급격히 파고들다

미디어는 메시지다

TV는 ‘모니터가 붙은 라디오’가 아니다

점점 더 빨라지는 변화

AI의 진화

1. 운영체제로서의 인공지능

2. 맥락 인터페이스

3. 파트너로서의 인공지능

4. 멀티모달

5. 더 저렴하게, 더 빠르게, 더 작게

6. 인간형 로봇, 휴머노이드

2강 모두를 놀라게 만든 거대언어모델, LLM의 등장: 챗GPT로 알아보는 인공지능의 정체

몬테카를로 알고리듬

고양이 사진을 가려내라

인공지능의 역사에 대해서 간략하게 설명하면 다음과 같다.

1956년 다트머스 회의, AI가 나타나다. 1957년 로젠블랫 퍼셉트론을 고안하다. 1969년 마빈 민스키와 시모어 페퍼트, 퍼셉트론의 한계를 증명하다. 1974년 1차 AI 겨울, AI에 대한 과도한 기대가 깨지다. 1980년 2차 AI 부흥, 전문가 시스템과 기호주의가작동하는가? 1986년 다층 퍼셉트론과 역전파 알고리듬 등장 1980년대 후반 기울기 소실 문제와 하드웨어 제약, 두번째 AI 겨울 2000년 GPU 등장 2006년 제프리 힌턴, 딥러닝 논문을 발표하다. 2012년 제프리 힌턴 팀, 딥러닝으로 이미지넷 경진대회에서 압도적인 점수를 얻다. 2015년 ResNet, 사람보다 이미지 분류를 잘하다. 2016년 알파고AphaGo, 비둑에서 이세돌 9단을 이기다. 2017년 트랜스포머Transformer 모델 등장 2018년 GPT/BERT 생성형 인공지능의 새장을 열다 2020년 GPT-3출현 2021년 알파폴드 AlphaFold, 딥마인드 단백질 접힘을 거의 완벽히 예측하다. 2022년 스태빌리티 AI, 스테이블 디퓨전을 오픈소스로 공개하다. 2022년 ChatGPT, 놀라운 자연어를 구현하다. 2023년 GPT-4, 멀티모달을 선보이다

인공지능, 잠재된 패턴을 찾다

챗GPT의 정체

어려운 일은 잘하고, 쉬운 일은 못한다

할루시네이션, 멀쩡한 거짓말

견고하지 않은 인공지능

GPT-4의 등장

자연어 처리Natural Language Processing: NLP에서는 언어를 작은 단위로 나누는데 이때 나뉜 단어, 구두점, 특수문자, 접두사, 접미사 등을 숫자(정수)로 표기한 것을 토큰이라고 부릅니다.

벡터, vector 라틴어 Vector는 ‘운반자’라는 뜻입니다. 점 A를 점 B까지 운반하는 데 필요한 것을 나타내기 위해 쓰였습니다.

18세기 천문학자들이 태양 주변의 행성의 공전을 조사하면서 처음 사용했습니다. 그러니까 벡터의 크기는 A와 B 사이의 거리입니다. 거리가 멀수록 커지겠지요. 방향은 B가 A로부터 놓인 방향을 말합니다. 그러니까 거리와 방향을 함께 표시하는 게 벡터 값입니다. 2차원 평면이라면 이런 식으로 표현할 수 있겠지요. V=(3, 4) 앞의 3은 가로 방향(x축)으로 이동한 거리, 뒤의 4는 세로 방향(y축)으로 이동한 거리를 나타냅니다. 이렇게 해서 거리와 방향을 함께 표시할 수 있습니다. <박태웅의 AI 강의 2025>, 박태웅 - 밀리의 서재

깊이 들어가기

3강 인공지능이 인간보다 똑똑해질 수 있을까?: 생성형 AI의 놀라운 능력과 최근의 기술 흐름

우리는 왜 챗GPT에 열광하게 되었나?

생각의 연결고리 혹은 단계적 추론

챗GPT의 추론 능력에 대한 해석들

GPT-4는 인공일반지능의 시작이다

GPT에게 지능이 있을까?

왜 인공지능은 믿을 수 없을 정도로 똑똑하면서 충격적으로 멍청한가

말하기와 생각하기는 다르다

그것은 완전히 다른 형태의 지능이다

자연어 인터페이스 혁명, 챗GPT와 랭체인이 만든 변화

AI의 대세, 오픈소스

#랭체인 은 ‘Language’와 ‘Chain’의 조합입니다. 대규모 언어모델을 기반으로 애플리케이션을 쉽게 개발할 수 있게 해주는 오픈소스 프레임워크Framework입니다.

소형화의 거센 흐름

에이전트의 시대

Welcome to AI Monopoly!

깊이 들어가기

4강 열려버린 판도라의 상자: AI의 확산, 그리고 필연적으로 도래할 충격들

Open AI?

마이크로소프트, AI 윤리팀 해고

게리 마커스의 다섯 가지 걱정

Don’t Look Up? 올려다보지 말라고?

오리지널의 실종, 검색의 종말

자연 독점

오염된 데이터, 오염된 결과

잘못된 학습, 차별의 재생산

잊힐 권리와 지적재산권 침해

5강 신뢰할 수 있는 인공지능, 어떻게 구축할까?: 세계 각국의 윤리 원칙과 법제화 노력

공론화: 독일의 녹서와 백서

신뢰할 수 있는 인공지능을 위하여

아실로마 AI 원칙

로마 교황청, 인공지능 윤리를 요청하다

유럽연합의 인공지능법

미국 알고리듬 책무법안 2022

AI 규제를 둘러싼 국제적인 움직임들

선출되지 않은 슈퍼 엘리트들

장기주의, 효과적 이타주의, 효과적 가속주의

6강 우리 사회는 어떻게 대응해야 하는가?: ‘눈 떠보니 후진국’이 되지 않기 위한 제언들

한국은 어떻게 대응하고 있나?

정의를 내리지 않는 사회

캐나다 정부는 어떻게 하고 있나?

미국의 국가 인공지능 연구자원 프로젝트

대한민국 정부가 하지 말아야 할 일과 해야 할 일

• 기초과학 육성 필요
• 연구개발에 대한 지원 정책 보완
  • 긴 호흡으로 지원되어야 한다
• 전문가들 지식 반영 통로 - 정책 - 필요

머지않은 장래에 세상의 거의 모든 소프트웨어들이 어떤 형태로든 AI와 연동하는 형태로 작동하게 될 것입니다. PC에서 돌아가는 모든 소프트웨어들이 운영체제 위에서 돌아가듯이, 앞으로는 거의 모든 소프트웨어들이 AI와 연동할 것이라는 뜻입니다. 아마도 2025년 말이 되면 AI와 연동하는 소프트웨어가 그렇지 않은 것보다 더 많아지게 될 것입니다. _1강 26쪽 중에서

휴머노이드를 만드는 또 하나의 특별한 이유가 있습니다. 이런 종류의 휴머노이드 로봇을 ‘몸을 가진(AI Embodied AI)’라고 부릅니다. ‘몸을 가진’이 무슨 뜻일까요? 인공지능이 제대로 ‘지능’이 되기 위해서는 ‘몸’을 가지고 있어야 한다고 주장하는 AI 과학자들이 있습니다. 그래야 세계에 관한 모델(World Model)을 가질 수 있다는 것입니다. _1강 44쪽 중에서

현재의 거대언어모델은 할루시네이션을 없앨 수 없습니다. 그것은 동전의 양면과 같기 때문입니다. 물론 챗GPT에 비해 GPT-4 터보의 할루시네이션은 체감할 수 있을 만큼 크게 줄었습니다. 계속해서 줄어들고 있지요. 그러나 없앨 수는 없을 것이라고 저는 생각합니다. _2강 102쪽 중에서

IT 업계의 발전이 나날이 속도를 더해가는 토대에는 이런 오픈소스 문화가 있다고 할 수 있습니다. 누군가 차트를 제대로 표현할 수 있는 코드를 한번 만들기만 하면 그 즉시 지구상의 모든 사람들이 다시 그 코드를 만들 필요 없이 그저 가져다 쓰기만 하면 되기 때문입니다. 앞서 얘기한 트랜스포머, 어텐션, 라마2 등도 모두 오픈소스입니다. IT 업계는 그런 점에서 ‘집단지성’이 일상으로 작동하는 혁신의 용광로라고 할 수 있습니다. _3강 179쪽 중에서

AI에서도 오픈소스의 움직임이 거셉니다. 메타가 2024년 7월 23일(미국 현지 시각) 라마3.1을 공개했습니다. 라마3.1은 4,050억 개의 매개변수를 가진 역대 최대 크기의 오픈소스 인공지능 모델입니다. 메타는 이 모델이 오픈AI의 GPT-4o, 앤스로픽의 클로드3.5 소네트보다 뛰어나다고 주장했습니다. GPT-4는 매개변수가 1조 8,000억 개쯤이라고 알려져 있습니다. 3분의 1도 안 되는 적은 크기로 비슷한 성능을 낸다는 것입니다. _3장 181쪽 중에서

소형화의 흐름도 거셉니다. 오픈AI, 마이크로소프트, 구글, 메타, 애플 등이 잇따라 앞서 나온 더 큰 모델과 맞먹는 성능을 보이는 작은 모델들을 내놓고 있습니다. 소형화는 몇 가지 이유에서 필연이라고 할 수 있습니다. 우선 현재의 AI는 자원을 너무 많이 씁니다. 챗GPT를 학습시키는 데 3.7조 원이 들었다고 합니다. 라마3.1은 최신 GPU H100을 1만 6,000대나 돌렸습니다. 한 번에 몇천 가구분의 전기를 씁니다. 이래서는 수지를 맞추기가 어렵습니다. _3강 196쪽 중에서

오픈AI는 GPT-4부터는 스펙도, 모델도 공개하지 않고 있습니다. 모델의 크기, 투입한 하드웨어의 규모, 학습에 사용한 데이터 세트, 훈련 방법 어느 것도 밝히지 않습니다. 단지 API만 공개했습니다. 오픈AI 쪽은 이것을 더 이상 밝히지 않는 이유로 ‘기업 비밀’을 꼽았는데, 사실 오픈AI의 이런 태도는 설립 취지에 비춰보면 아주 이상해 보이기도 합니다. 오픈AI의 CEO인 샘 올트먼은 “인공일반지능이 만약에 고장 나면 무엇인가 다른 조치가 필요할 수 있습니다. 이 때문에 특정 회사가 이런 AI를 소유해서는 안 됩니다”라고 말한 바 있습니다. 이 때문에 오픈AI는 사실상 ‘클로즈드(Closed)’ AI가 아니냐는 비판을 받고 있습니다. _4강 239쪽 중에서

아실로마는 6년 뒤 한 번 더 모임의 배경이 됩니다. 2023년 3월, 스튜어트 러셀, 일론 머스크(테슬라 창업자), 스티브 워즈니악(애플 공동 창업자) 등 일군의 AI와 IT 전문가들이 ‘거대한 인공지능 실험을 멈춰라’라는 성명을 발표합니다. 이들은 인공지능 개발이 통제 불능의 경쟁으로 치닫고 있지만 그에 걸맞은 수준의 계획과 관리가 전혀 이뤄지고 있지 않다며, 이런 결정을 선출되지 않은 기술 리더에게만 맡겨서는 안 된다고 말했습니다. _5강 283쪽 중에서

인공지능 법안을 둘러싼 찬반양론이 보여주는 것은, 산업계가 거대 모델에 대한 규제가 필요하다고 때로 주장하고, 스스로 약속을 발표하기도 하지만 실제로 그 부담을 지는 것은 꺼린다는 것입니다. 또한 반대파들의 주장과 달리 이들이 실제 위험이 발생할 가능성에 대해서도 인식을 하고 있지 않은가 짐작할 만합니다. 힌턴 교수 등의 서한이 지적하듯이 “이러한 위험이 정말 공상과학소설에 불과하다면 기업은 이를 완화하기 위한 책임을 지는 데 아무런 문제가 없어야” 할 것이기 때문입니다. _5강 347쪽 중에서

문제는 이들이 전 세계의 주요 거대 인공지능 개발을 도맡아 하고 있다는 것 입니다. 말하자면 우리는 모르는 사이에 이들의 사상을 강요당하고 있다고 할 수도 있습니다. ‘선출되지 않은 슈퍼 엘리트들’이 단지 인공지능 개발만 독점하고 있는 게 아니라, 사상까지 독점해가고 있는지도 모른다는 것이지요. 인공지능의 발전에 대한 국제적 규제와 규범의 확립이 대단히 시급하고 중요한 또 다른 이유라고 할 것입니다. _5강 363쪽 중에서

미국, 독일, 영국이 선진국이 되고, 세계 각국의 인재들을 모을 수 있는 것은 세계 최고 수준의 대학교와 연구소를 가지고 있기 때문입니다. 우리는 기초과학 학과가 단 하나라도 설치된 대학이 이제는 절반도 안 됩니다. 박사과정의 인재들은 국내 대학에 진학하지 않고 해외로 유학을 떠나는 것을 당연하게 여깁니다. 선진국들이 세계 최고의 대학들을 이용해 전 세계의 인재를 자석처럼 끌어들이는 것과 비교하면 서글플 정도로 초라합니다. 정부가 과학과 기술 정책의 호흡을 바꾸지 않고, 후발 추격국의 태도와 전략을 버리지 못한다면 우리는 머지않아 다시 ‘눈 떠보니 후진국’이 되어버릴지도 모릅니다. _6강 395~396쪽 중에서

3. 연관 문서