[!INFO] 책 정보

저자: 저자/케이트_크로퍼드

번역: 번역/노승영

출판사: 출판사/소소의책

발행일: 2022-11-29

origin_title: Atlas of AI

나의 평점: 9

완독일: 2024-09-06 00:00:00

AI 지도책

1. Befor Qustion

2. Synopsis (개요)

2.1 저자 - 케이트 크로퍼드

인물정보 과학/공학칼럼니스트 마이크로소프트 연구소 선임 수석 연구원, 프랑스 고등사범학교 AIㆍ정의학과 초빙 석좌교수, 멜버른 대학교 미에구냐 초빙 석좌교수. 뉴욕 대학교 AI 나우 연구소를 공동 설립했으며 기계학습재단 국제연구단을 이끌고 있다. 인공지능의 사회적 의미를 연구하는 선도적인 학자로서 지난 20년간 역사, 정치, 노동, 환경 등 광범위한 맥락에서 대규모 데이터 시스템, 기계학습 및 AI를 이해하는 데 초점을 맞춰왔으며 〈네이처〉, 〈사이언스〉 같은 세계적인 과학 학술지와 〈뉴욕 타임스〉, 〈더 애틀랜틱〉, 〈하퍼스 매거진〉 등에도 기고하고 있다.

2.2 주제

인공지능이 어떻게 권력 구조의 역할을 하며 하부 구조, 자본, 노동을 결합하는지 제대로 알고 그 대안을 마련하는 것은 우리의 현재, 미래와 직결되어 있다. 교묘하게 통제받는 우버 운전자를 비롯하여 추적당하는 미등록 이민자, 주택 내 얼굴 인식 시스템에 항의하는 공영주택 임차인에 이르기까지 AI 시스템은 자본, 치안, 군사화의 논리에 따라 구축되며 이 조합은 기존의 권력 불균형을 더욱 확대한다. 따라서 AI 시스템이 산업적 추출과 차별이 아니라 정의와 평등을 향해 시급히 새로운 길을 열어야 한다. 기술 우선식 접근법을 거부하고 기저의 불평등과 불의에 맞서는 국가적ㆍ국제적 운동을 확장해야 할 필요성이 제기되고 있으며 노동, 기후, 데이터 정의를 함께 요구해야 한다는 것이다. 이 책은 인공지능이 실제로 어떻게 만들어지고 있는지를 생생하게 들여다보면서 이전의 편향된 인식과 불확실한 기술 낙관주의에서 벗어나 현실적이고 지속 가능한 미래를 그리는 데 큰 도움이 될 것이다.

2.3 기획 및 지필 의도

2.4 주요 등장 인물

2.5 전체 줄거리

3. After My Idea

3.1 Insight

인공지능은 대규모 자본이 필요하다. 따라서 대기업이나 거대 자본에 밀접하다. 인공지능을 튜닝한다는 것은 누구에 의해서, 누구를 위해서 , 누구를 통해서 다루어 지는가. 19p 인간 모두에게 라는 것은 애초에 불가하다. 그것이 자본 때문만이 아니라 인간이 이루지 못하고, 이루지도 못할 것 같기 땜ㄴ이다 결국은 인공지능은 또다른 상위 계급자들을 위한 도구가 될것인가? 이런 질문에 답을 줄지 궁금하게 시작 한다

3.2 After Qustion

(why) 이 책의 제목을 이렇게 지은 이유는?
(how) 어떻게 설명하고 있는가? 어떻게 하라고 하는가? 어떻게 해야하는가?
(where) 어느 곳에서 쓴 책인가? 어느 것을 위해 쓴건인가? 어디로 가야하는가? 어디에서 읽어야 하나? 그곳은 어떤 곳인가?
(when) 이책은 언제 쓰여졌는가? 시대적 배경은 무엇인가? 언제를 기준으로 쓰였는가? 언제 할것인가?
(who) 저자는 누구인가? 주인공은 누구이고 어떤 사람들이 나오나? 누구를 위해 저자는 말하는가?
(why) 이책을 통한 질문을 만들기
- 질문 1.
- 질문 2.
(what) 이 책에서 말하는 주제라는 무엇?
- 알게된 것은 무엇인가?
- 해야할건 먼가?
- 다른 책과 다른 점은 먼가?
- 이 책의 특징은 먼가?

3.3 Top 3 Highlight

인공지능은 인간의 지시없이 판단을 내리는 객관적이고 보편적인 연산 기법이 아니다. 인공지능 시스템은 사회적, 정치적,문화적,경제적 세계에 붙박여 있으며, 무엇을 어떻게 해야하는지 결정하는 인간,제도,명령에 의해 빚어 진다. 249

AI시스템은 국가와 제도, 그리고 그들의 봉사를 받는 기업에 주로 혜택을 주는 방식으로 세상을 바라보고 개입하도록 제작된다. 이 점에서 AI 시스템은 더 폭넓은 경제적, 정치적 힘으로부터 생겨나는 권력의 표현이며, 권력을 휘두르는 자들을 위해 이익을 증가 시키고 통제권을 중앙 집중화하기 위해 창조된다. 250

이 질문을 던져야 한다. 이 시스템은 누구에게 봉사하는가? AI 시스템을 구성하는 정치,경제는 무엇인가? AI시스템은 지구 전체에 어떤 영향을 미치는가? 254

AI 는 볼리비아의 소금 호수와 콩고의 광산에서 탄생하여, 크라우드 노동자들에 의해 라벨링되며 인간의 행동과 감정과 정체성을 분류하려 드는 데이터 집합으로부터 구성된다. 예멘 상공에 드론을 날리고 미국에서 이민자 단속을 지휘하고 전 세계에서 인간의 가치와 위험에 대한 신용점수를 조정하는 데 이용된다. 이 중첩하는 체제와 맞서려면 AI를 광각 적이고 다규모적인 관점에서 바라보아야 한다. 258

4. Key Word 책에서 뽑은 키워드 정리

__index_키워드

4.1 키워드 1

키워드-제목 1

6.책 밑줄 정리 (책 밑줄 전체,page)

#인공지능 #ai

서문

세상에서 가장 영리한 말

AI란 무엇일까?

책에서는AI가 ‘인공’적이지도 않고 ‘지능’도 아니 라고 주장한다. 오히려 인공지능은 체화되고 물질적인 지능이며 천연자원, 연료, 인간 노동, 하부 구조, 물류, 역사, 분류를 통해 만들어 진다. AI 시스템은 자율적이지도 합리적이지도 않으며 대규모 데이터 집합이나 기존의 규칙 및 보상을 동원한 방대하고 (연산의 측면 에서) 집약적인 훈련 없이는 아무것도 분간하지 못한다. 사실 우리가 아는 형태의 인공지능은 휠씬 폭넓은 정치적,사회적 구조에 전적으로 의존한다. 또한 시를 대규모로 구축할 자본과 AI를 최적화할 방법이 필요한 탓에 AI 시스템은 궁극적으로 기득권에 유리하게 설계된다. 이런 의미에서 인공지능은 권력의 등기부인 셈이다 17

기본적인 차원에서 AI는 기술적 행위이자 사회적 행위요, 제도이자 토대요, 정치이자 문화다. 연산 추론과 체화된 일은 서로 깊숙히 연결되어 있다. AI 시스템은 사회관계와 세계에 대한 이해를 반영하는 동시에 생산 한다. 18

이책에서는 #ai

정치,노동,문화,자본을 아우르는 대규모의 산업적 구성물 이라는 의미로 쓴다

ai가 어떻게 해서 기본적으로 정치적인지 이해하려면 신경망과 통계적 패턴 인식을 넘어서서 ‘무엇이 누구를 위해’ 최적화되고 ‘누구에게’ 결정권이 있는지 물어야 한다. 그런 뒤에야 우리는 그 선택들의 의미를 추적할 수 있다. 19

AI를 지도책으로 보아야 하는 이유

#지도학 적 접근법 어떻게 유익할 수 있느나는 질문에 대해 내가 애용하는 설명은 물리학자이자 기술 비평가 어설라 프랭클린의 언급이다. ‘지도에는 목적이 있다. 그것은 여행자를 도와주고 알려진 것과 알려지지 않은 것의 간극을 메우는 데 유용해야만 한다. 지도는 집단적 지식과 통찰의 증거다.’ #지도 #map

지도의 장점은 열린 길, 즉 공유된 앞의 방식들을 우리에게 보여준다는 것이다. 우리는 이 길들을 섞고 합쳐 새로운 연결을 만들 수 있다. 그런가 하면 지배의 지도도 있다. 분쟁지역에서 강대국들 의 직접적 개입으로 그어진 국경선이나 제국들의 식민지 개척 경로를 드러내는 지도들은 힘의 단층선에 따라 깎인 영토들을 보여준다 지도책 비유를 통해 내가 주장하는 것은 인공지능 제국을 이해할 새로운 방법이 필요하다는 것이다. 인공지능을 추동하고 지배하는 국가와 기업, 지구에 흉터를 남기는 추출식 채굴, 데이터 대량 수집,이를 떠받치는 불평등하고 착취적인 노동 관행 등을 설명하는 AI 이론이 필요하다. 이것들은 AI 내에서 이루어지는 권력의 지각 변동에 대한 설명이다. 지형학적 접근법은 인공지능이나 최신 기계학습 모형의 추상적 약속을 넘어선 새로운 관점과 규모를 제시한다. 그목적은 연산의 다양한 지형을 주파하면서 이것들이 어떻게 연결되는지 살펴봄으로써 AI 를 더 넓은 맥락에서 이해하는 것이다. AI 분야는 지구를 연산의 형태로 파악하려고 공공연히 시도하고 있다. 이것은 비유라기보다는 AI 산업의 노골적 야심이다. AI 산업은 신고 ㅏ같은 중앙 집중적 관점에서 인간의 동작,소통,노동을 바라모며 제 나름의 지도를 만들고 표준화하고 있다. 21

프로테스탄트 목사 하인리히 뷘팅이 1581년 그린 세계지도에는 예루살렘을 중심으로 유럽, 아시아, 아프리카가 맞닿아있다. 원문 ![Pasted image 20240906153048.png](Pasted image 20240906153048.png)

연산의 지형학

컴퓨터에 필요한 동력 공급 - 광물 채굴장, 리튬광산 인간의 노동으로 만들어지는 인공지능, 단순 반복 클릭의 디지털 삯꾼

추출, 권력, 정치

#인공지능 은 개념이자, 하부 구조이자, 산업이자, 권력 행사의 형태이자, 관점이다 지구 전체 아우르는 공급사슬, 거대한 추출,물류시스템을 바탕으로 고도로 조직화된 자본의 발현 ‘인공지능’이라는 용어에는 기대, 이념, 욕망, 공포의 복잡한 층이 겹쳐 있다. 29

AI 시스템은 지구를 새로 빚는 동시에 세계가 지각되고 이해되는 방식을, 변화시키는 물적 토대다.

어설라 프랭클린 “기술의 실행 가능성은 민주주의와 마찬가지로 결국 정의의 실현과 권력의 제한에 달렸다” [기술에 대한 인간의 태도 - chatgpt4](기술에 대한 인간의 태도 - chatgpt4)

우리는 현명한 집단적 결정을 내려야 한다.

1 지구

데이터 센터는 세계 최대의 전기 소비처 중 하나다. 이 다층적인 기계에 동력을 공급하려면 석탄, 가스, 원자력, 재생에너지 등의 전력이 필요하다. 일부 기업은 대규모 연산의 에너지 소비에 대해 점차 적극적으로 대응하고 있는데, 애플과 구글은 탄소 중립(탄소배출권을 구입하여 자사의 탄소 배출을 상쇄한다는 뜻)을 공언하고 있으며 마이크로소프트는 2030년까지 탄소 네거티브를 실현하겠다고 약속했다. 하지만 사내 직원들은 환경 죄책감을 덜기 위해 면죄부를 살 것이 아니라 총 배출량을 감축하라고 요구했다. 게다가 마이크로소프트, 구글, 아마존은 모두 화석연료 기업들이 땅속에서 연료를 찾아내고 채굴하는 일을 지원하기 위해 자사의 AI 플랫폼, 엔지니어링 인력, 인프라에 대한 이용 권한을 부여함으로써 인류발 기후변화에 가장 큰 책임이 있는 산업을 더욱 육성하고 있다.

이 책은 인공지능을 ‘추출 산업’으로 규정한다. 현대 AI 시스템을 창조하려면 지구의 에너지와 광물자원, 값싼 노동력, 대규모 데이터를 추출해야 한다. 이 일이 벌어지는 현장을 관찰하기 위해 저자는 AI가 실제로 만들어지는 장소들을 여행한다.
인공지능이 무엇이고 무엇으로 만들어지는지를 알기 위한 첫 번째 출발점은 컴퓨터에 동력을 공급하는 데 필요한 여러 광물 채굴장 중 하나인 미국 네바다의 리튬 광산이다. 채굴은 AI에 추출의 정치적 성격이 결부되었음을 가장 적나라하게 보여주는 분야다. 희토류, 석유, 석탄에 대한 기술 부문의 수요는 엄청나지만 이 채굴의 진짜 비용을 AI 업계에서 부담하는 경우는 전혀 없다. 소프트웨어 부문을 보자면, 자연어 처리와 컴퓨터 시각의 모형을 구축하려면 에너지가 어마어마하게 필요하며 더 빠르고 효율적인 모형을 제작하려는 경쟁 때문에 AI의 탄소 발자국을 키우는 탐욕스러운 연산 기법이 도입되었다. 최초의 대서양 횡단 해저 케이블에 필요했던 라텍스를 생산하기 위해 수확된 말레이시아의 마지막 나무로부터 독성 잔류물이 모여 생성된 내몽골의 거대한 인공 호수에 이르기까지 지구적 연산 네트워크의 환경적ㆍ인간적 출생지를 추적하며 이 행위들이 어떻게 지구를 대규모로 변화시키는지 살펴본다

AI를 위한 채굴

연산의 풍경

광물학적 층위

검은 호수와 흰 라텍스

청정 기술이라는 환상

물류의 층위

거대기계로서의 AI

2 노동

이제 고용주는 공장을 직접 둘러보지 않고도 노동력을 감시할 수 있다. 노동자들은 출입증을 긁거나 전자시계에 부착된 판독기에 지문을 갖다 대어 근무시간을 기록한다. 그들의 앞에 놓인 시한장치는 현재 작업을 끝마쳐야 하는 시간을 분이나 초 단위로 표시한다. 노동자의 몸에 달린 센서들은 체온, 동료와의 물리적 거리, 할당 업무 대신 웹사이트 탐색에 쓰는 시간 등을 끊임없이 보고한다. 2019년 나락에 떨어진 협업 공간업계의 거인 위워크(WeWork)는 데이터에서 이익을 창출할 새로운 방법을 모색하며 자사의 업무 공간에 은밀히 감시 장비를 설치했다. 2019년 공간 분석 스타트업 유클리드(Euclid)를 인수했을 때는 유급 회원들의 시설 내 동선을 추적하려는 계획이 아닌가 하는 우려를 자아냈다. 도미노 피자는 주방에 기계 시각 시스템을 설치하여 직원이 지정된 표준에 따라 피자를 만들었는지 확인하기 위해 완성품을 검사한다. 감시 장비를 설치하는 논리는 알고리즘적 일정 관리 시스템에 정보를 입력하거나 고성과나 저성과와 상관관계가 있을 행동 신호를 추려내거나 데이터 중개 업체에 정보로 판매하겠다는 것이다.

작업장 AI의 과거 역사

포템킨 AI와 메커니컬 터크

해체와 작업장 자동화에 대한 구상 : 배비지, 포드, 테일러

시카고의 도축장

시간 관리, 시간 사유화

사적인 시간은 권력의 전략

속도의 무자비한 리듬

3 데이터

기본적으로, 오랜 데이터 축적 관행은 강력한 추출의 논리에 일조했는데, 이 논리는 이제 AI 분야가 작동하는 방식의 핵심 특징이 다. 이 논리는 가장 큰 데이터 파이프라인으로 기술 기업들을 살찌웠으며, 데이터 수집으로부터 자유로운 공간은 처참하게 쪼그라들었다. 버니바 부시가 예견했듯 기계는 먹성이 무지막지하다. 하지만 기계가 무엇을 어떻게 공급받느냐는 그 기계가 세상을 어떻게 이해하는가에 어마어마한 영향을 미치며 기계 주인들의 우선순위는 항상 그 시야에서 어떻게 이익이 산출될 것인가를 만들어낼 것이다. AI 모형과 알고리즘을 형성하고 여기에 정보를 공급하는 훈련 데이터의 층위들을 살펴보면 세계에 대한 데이터를 수집하고 라벨을 붙이는 일이 (순수한 기술적 행위를 가장하지만 실은) 사회적ㆍ정치적 개입임을 알 수 있다.

기계에 보는 법 훈련시키기

데이터 수요에 대한 짧은 역사

얼굴 포착

인터넷에서 이미지넷으로

동의 따위는 필요 없다

데이터의 신화와 은유

로켓이 어디 떨어지든 무슨 상관이랴

공유재 포획으로 억만장자 되기

4 분류

사실 인공지능은 인간의 노동으로 만들어진다. 단순 반복 작업을 위해 클릭을 하면서 푼돈을 받는 디지털 삯꾼과 거대 물류 제국의 알고리즘에 장단을 맞추는 아마존 창고의 직원들, 동물 사체를 해체하고 가공하는 시카고의 도축장에서 일하는 노동자들…… 이들은 기업주를 위해 감시와 통제를 강화하는 AI 시스템에 어떻게 적응해나가고 있을까? 인간의 행동을 로봇과 조립 라인 기계의 반복적 동작에 맞추기 위해 시간 관리 메커니즘이 어떻게 작동하는지, 그 문제점이 무엇인지를 꼼꼼하게 짚어봄으로써 노동의 미래가 어떤 모습일 것인가를 가늠해볼 수 있을 것이다.

지구와 인간 노동의 관계를 규정한 추출의 논리는 AI가 데이터를 이용하고 이해하는 방식과도 결부된다. 공개적으로 접근할 수 있는 모든 디지털 자료는 AI 모형을 생성하는 데 이용되는 훈련 데이터 집합을 위해 자유롭게 수집되는데, 이것들은 얼굴 인식, 언어 예측, 대상 탐지 등의 기능을 수행하는 알고리즘을 개선하는 데 쓰인다. 그런데 AI가 데이터를 이용하는 현재의 관행은 개인정보 유출과 감시 자본주의라는 심각한 문제 외에도 적잖은 윤리적ㆍ방법론적ㆍ인식론적 우려를 낳는다. 그중 가장 대표적인 것은 인공지능 시스템에서의 분류 행위이다. 현행 시스템이 어떻게 이분법적 성별, 획일적 인종 구분, 성격과 신용에 대한 미심쩍은 평가 등을 라벨의 주된 바탕으로 삼아 신원을 예측하는지 들여다보고 그 과정에서 AI 시스템이 어떻게 위계를 강화하고 불평등을 증폭하는지 알 수 있다.

순환 논증 체계

편향 해소 시스템의 한계

편향에 대한 여러 정의

분류 엔진으로서의 훈련 집합 : 이미지넷의 사례

‘사람’을 정의하는 권력

인종과 성별을 구성하다

측정의 한계

5 감정

자동 감정 탐지 시스템은 현재 널리 도입되고 있으며 채용 분야에서 특히 활발하게 쓰인다. 휴먼(Human)이라는 런던의 스타트업은 감정 인식을 이용하여 입사 지원자의 동영상 면접을 분석한다. 〈파이낸셜 타임스〉의 보도에 따르면 ‘이 회사는 입사 희망자의 감정 표현을 포착하여 성격 특질을 파악할 수 있다고 주장한’다. 그런 다음에야 정직성이나 업무 열정 같은 성격 특질에 대해 점수를 매긴다는 것이다. 골드만삭스, 인텔, 유니레버 등을 고객으로 둔 AI 채용 기업 하이어뷰(HireVue)는 기계학습을 통해 얼굴 단서를 평가하여 사람들의 업무 적합도를 추정한다. 2014년 이 회사는 동영상 취업 면접에서 미세 표정과 어조 등의 변인을 추출하는 AI 시스템을 출시했는데, 이것을 이용하여 입사 지원자를 회사 내 최고 성과자와 비교한다

AI가 인간의 감정을 어떻게 인식하는지도 중요한 쟁점이다. 심리학자 폴 에크먼 등의 연구 성과를 통해 감정 인식을 둘러싼 여러 주장을 검토하고, 파푸아뉴기니의 산악 마을을 여행하며 감정 인식의 역사를 탐구한다. 아마존, 마이크로소프트, IBM 같은 기술 기업들이 어떻게 감정 탐지 시스템을 설계하고 적용하는지 알아보고, 그에 따른 과학적 논란 및 우려와 부작용 가능성도 살펴본다.
AI 시스템이 어떤 방식으로 국가 권력의 도구로 이용되고 있는지도 이 책의 핵심 내용 중 하나다. 과거와 현재 인공지능의 군사적 활용은 감시, 데이터 추출, 위험 평가 등의 관행을 빚어냈다. 기술 부문과 군사 부문의 밀접한 관계는 강력한 국가주의적 의도에 들어맞도록 통제되고 있다. 한편 정보 부문에서 쓰이던 탈법적 도구들이 군사 분야에서 상업 기술 분야로 전파되어 교실, 경찰서, 직장, 고용지원센터에서 쓰이고 있다. AI 시스템을 빚어낸 군사적 논리는 이제 지방정부 운영의 일부가 되었으며, 더 나아가 국가와 국민의 관계를 왜곡하고 있다.

연관 참고 [감정은 어떻게 만들어지는가](감정은 어떻게 만들어지는가)

감정 예언자 : 감정이 돈이 될 때

세계에서 가장 유명한 관상가

감정 : 관상학에서 사진까지

감정을 포착하다 : 감정을 연기하는 수법

표정은 실제로 감정을 표현하는가

얼굴의 정치학

6 국가

정부의 AI 시스템 계약이 대규모로 증가하고 있지만 정부가 이 시스템을 이용하는 과정에서 피해가 발생했을 때 민간 AI 기술업체들이 법적 책임을 져야 하는가의 문제는 거의 주목받지 못했다. 정부가 (치안 체제이든 복지 체제이든) 국가의 의사 결정을 위한 알고리즘 아키텍처의 공급을 도급업체에 의존하는 일이 비일비재한 상황에서 팔란티르 같은 기술 도급업체들이 차별을 비롯한 위법 행위에 책임져야 하는 사례가 발생하고 있다. 현재 대부분의 국가는 조달된 AI 시스템으로 인한 문제에 대해 어떤 책임도 지지 않으려 하며 ‘이해하지 못하는 것에 대해서는 책임질 수 없다’라고 주장한다. 이 말은 상업적 알고리즘 시스템이 유의미한 책임성 메커니즘 없이 정부의 의사 결정 과정에 관여한다는 뜻이다. 나는 법학자 제이슨 슐츠와 함께 정부의 결정에 직접적 영향을 미치는 AI 시스템 개발자가 정부에 소속되어 일정한 맥락에서 헌법적 책임을 져야 한다고 주장했다. 그래야 국가와 마찬가지로 그들에게도 위해에 대한 법적 책임을 지울 수 있다. 그때까지 공급업체와 도급업체는 자신들의 시스템이 역사적 피해를 가중하거나 전혀 새로운 피해를 만들어내지 않도록 할 유인을 거의 느끼지 않을 것이다.