인공지능은 천재지변이 아닙니다. 우리가 함께 만들어가는 어떤 것입니다. 미래는 정해진 게 아닙니다. 우리가 만들어갈 수 있습니다. 인공지능이 인간을 위해 작동할 수 있도록 함께 집단지성을 모아가는 것, 이것이 우리가 할 수 있고, 해야 할 일입니다.
_머리말 8쪽 중에서얀 르쿤이 말하고 싶었던 핵심은 이런 겁니다. “현재의 챗GPT 같은 AI는 패턴 맞추기 게임일 뿐이고, 진정한 지능을 위해서는 세상을 ‘이해’하는 능력이 필요하다.” 그가 생각하기에 현재 AI, 즉 거대언어모델의 문제점은 세상을 정말 이해하는 게 아니라, 언어 패턴을 복사하는 것 같다는 겁니다. 정말 필요한 능력은 ‘월드 모델’, 즉 이미 당신의 머릿속에 있는 ‘세상이 어떻게 작동하는지에 대한 감각’을 가져야 한다는 것입니다.
_1강 62쪽 중에서저도 일자리는 앞으로 지속적으로 줄어들 수밖에 없다고 생각합니다. 왜냐하면 AI는 그것을 위해 만들어졌기 때문입니다. 세탁기가 빨래하는 수고를 줄이기 위해, 식기세척기가 설거지하는 수고를 줄이기 위해 만들어졌다면, AI는 일을 줄이기 위해, 자동화하기 위해 만들어진 것입니다. 그러니 AI가 도입된 뒤에도 일이 하나도 줄어들지 않는다면 그건 AI를 잘못 만든 게 됩니다. 일자리가 줄어드는 건 예정된 수순이라는 것이지요.
_1강 116쪽 중에서
중국 산업 전체가 고부가가치 산업으로 자연스러운 전환의 기회를 맞게 됩니다. 전기화 관련 기술 산업들, 태양광 패널, 배터리, 반도체, 제어 시스템이 발전할 뿐 아니라, 전통 제조업도 전기화와 함께 자연스럽게 기술력 기반 산업으로 진화합니다. 전기화는 자동화를 한층 쉽게 만들어주기 때문입니다. 최근 중국의 강력한 부상을 받치는 큰 기둥 중의 하나가 바로 ‘전기화’입 니다. 전기화는 피지컬 AI와 떼놓을 수 없는 짝입니다.
1강 133~134쪽 중에서
챗GPT는 인류 역사상 가장 빠른 속도로 사용자를 모은 서비스입니다. 그 전까지는 인스타그램과 틱톡이 가장 빨랐습니다. 하지만 챗GPT는 이들이 우스워 보일 정도로 유례없이 빠른 속도로 사용자를 모았습니다. 2022년 11월 30일에 공개하고 두 달 만에 1억 명의 사용자를 돌파했습니다. 그리고 2년 반 만에 8억 명의 사용자를 모았습니다. 인터넷이 그만한 사용자를 모으는 데는 13년이 걸렸습니다. 오픈 AI라는 회사 하나가 인터넷 전체보다 일곱 배나 빨리 사용자를 모은 것입니다.
_2강 188쪽 중에서
‘거대 AI 회사들이 새로운 모델을 발표할 때마다 수십 개의 스타트업들이 문을 닫는다’는 말이 괜히 나온 게 아닙니다. 인공지능의 ‘느닷없이 나타나는 능력’은 컴퓨팅 파워와 학습 데이터와 매개변수가 함께 거대한 규모로 커져야 비로소 나타나는데, 작은 벤처기업들이나 중규모의 인공지능기업은 그런 막대한 투자를 할 여력이 없습니다. 거대 AI 회사들은 사용자들이 AI를 어떻게 쓰고 있는지를 실시간으로 들여다봅니다. 그러다 일 정량을 넘으면 그것을 서비스로 모델에 포함해버립니다. 그러니 모델이 발표될 때마다 그 분야에서 서비스를 하던 많은 스타트업들이 졸지에 시장에서 증발하는 광경을 보게 되는 것입니다.
_3강 306쪽 중에서
무엇이 잘못됐을까요? 어디에 함정이 숨어 있을까요? 피터 틸의 말에 따르면 그 올바른 한 명은 누구도 견제할 수 없습니다. 오직 그만이 옳기 때문입니다. “사람들은 중요한 결정을 맡길 수 있는 존재가 아니기” 때문입니다. 카프에 따르면 서구권이 틀릴 때, 어처구니없이 잘못된 결정을 내리기 시작할 때 그것을 견제할 수단은 없습니다. 그는 단지 권위주의 국가가 위험하니 이에 맞서기 위해 국방력을 강화해야 하고, 최소한의 규제로 기술을 개발해 우위를 점한 다음이라야 AI와 관련한 윤리적·법적 울타리를 칠 수 있다고 말합니다. 그렇다면, ‘이제 기술적 우위를 점했으니 지금부터 윤리적·법적 울타리를 칩시다!’라고 말할 수 있는 사람은 누구일까요? 그때가 오기는 할까요?
_4강 341쪽 중에서
미국이 최고의 프런티어 모델을 먼저 만들어 독점하고 경쟁 우위를 지속하려고 한다면, 중국은 전 산업에의 신속한 응용으로, 오픈소스를 앞세운 글로벌 사우스 진출로 맞섭니다. AI 영역에서도 미중의 경쟁 구도는 날로 첨예해지고 있습니다. 이런 구도에서는 전 세계적인 AI 규제를 위한 연대도 설 땅을 잃을 수밖에 없습니다. 미국이 경쟁을 위해 규제를 턱없이 낮춰버린다면 다른 나라들도 마냥 규제를 앞세울 수가 없기 때문입니다. AI의 폐해는 나라를 가리지 않지만, 인간은 편을 갈라선 채 서로를 노려보고 있습니다. 정말 안타까운 상황입니다.
_4강 379쪽 중에서
그러니 한국 산업의 AI 전환은 기본적으로 세 가지, 즉 돈이 없고, 사람이 없고, 데이터가 없는 상황을 전제로 하지 않으면 안 됩니다. 이 세 가지를 해결하지 못하는 어떤 정책도 실효를 거두지 못할 거라는 뜻입니다. 이 세 가지는 함께 풀지 않으면 안 됩니다. 얽혀 있기 때문이지요. 가령 돈이 없으면 사람과 데이터를 풀지 못합니다. 돈이 있어도 사람이 없으면 진도를 나가지 못합니다. 돈과 사람이 있어도 데이터가 없으면 무망합니다. 셋은 함께 풀어야 하는 문제입니다.
_5강 413쪽 중에서
AI 기본사회에 관한 논의가 본격화될 것입니다. 생산성은 급하게 올라갈 텐데 그대로 두면 일자리는 없어지고, 부는 소수에게 집중될 수 있기 때문입니다. AI가 축복을 가장한 저주가 될 수 있다는 것입니다. 기술은 갈수록 복잡해져 보통 사람이 이해하기가 점점 더 어려워집니다. 최고의 AI를 개발할 수 있는 곳은 극히 소수의 회사들입니다. 전 국민의 AI 리터러시가 긴요해집니다.
_5강 455쪽 중에서