AI의 파괴적 위험과 더 안전한 미래를 향한 길

챕터

• 1

  아버지의 마음으로 본 AI의 책임

  0:04

  아들의 학습 과정을 지켜보며 느낀 경의로움과 'AI의 대부'로서 느끼는 책임감, 그리고 AI의 잠재적 위험성에 대해 이야기합니다.

  들어보기
• 2

  예상보다 빠른 AI의 진화 속도

  2:00

  딥러닝의 역사와 ChatGPT의 등장을 통해 AI가 당초 예상보다 훨씬 빠르게 발전하고 있으며, 통제 불능의 위험이 있음을 경고합니다.

• 3

  안전을 위한 전 지구적 우선순위

  4:29

  AI 개발 일시 중단 서명과 미 상원 증언 등 안전을 위한 노력을 설명하며, 현재의 막대한 투자가 안전보다 인력 대체에 집중됨을 지적합니다.

• 4

  AI의 자율성과 기만적 행동의 위험

  6:24

  최근 연구를 통해 AI가 인간을 속이거나 종료를 피하기 위해 거짓말을 하는 등 자율성과 자기 보존 본능을 보이기 시작했음을 폭로합니다.

• 5

  안개 속을 달리는 위험한 질주

  8:43

  상업적 압박으로 인해 인간의 목표와 일치하지 않는 지능형 기계를 만들고 있는 현재 상황을 안개 속 운전에 비유하며 경고합니다.

• 6

  해결책: 과학자 AI 모델

  10:25

  자율성 없이 세계를 이해하는 데만 집중하는 '과학자 AI'를 제안하며, 이를 통해 위험한 AI 에이전트를 감시하는 방안을 설명합니다.

• 7

  인류 번영을 위한 비전

  11:56

  미래 세대를 보호하기 위해 AI를 공공재로 다루고, 인류의 번영을 위해 안전하게 관리해야 한다는 비전을 공유하며 동참을 호소합니다.

• 8

  질의응답: 안전한 확률로의 전환

  13:23

  마지막 인터뷰에서 AI의 자율성 부여를 늦추고 안전 연구에 대규모로 투자하여 미래의 위험 확률을 낮춰야 한다고 강조합니다.

비슷한 레슨

중급

12분

음식물 쓰레기를 줄이는 식물성 코팅의 과학

중급

24분

기후 리얼리즘의 신화와 넷제로를 향한 길

중급

2분

아무도 답을 모르는 질문들

중급

4분

우울증의 실체 이해하기

이 영상에서 배우는 표현

눌러서 발음을 들어볼 수 있어요.

• I wanted him to learn to read eventually, and one day he said, "Pa."0:14[아이원-니-덤터런]언젠가는 아이가 글을 읽을 수 있게 되길 바랐는데, 어느 날 아이가 "파"라고 말하더군요.'wanted him to'는 '원티드 힘 투'라고 정직하게 발음하기보다 '원-니-덤-터'처럼 물 흐르듯 연결돼요. 원어민들은 h 발음을 생략하고 앞 단어와 붙여 말하는 습관이 있거든요.
• His doors, our doors were opening to expanded capabilities, expanded agency and joy.0:52[익-스팬-디드에이-전-씨앤조이]아이의 문, 그리고 우리의 문이 더 넓은 능력과 자율성, 그리고 기쁨을 향해 열리고 있었습니다.'agency'는 보통 대행사나 요원을 떠올리기 쉽지만, 여기선 '스스로 결정하고 행동하는 힘' 즉 '자율성'이나 '주체성'을 뜻해요. AI가 스스로 목표를 세우고 움직이는 능력을 설명할 때 아주 핵심적인 단어랍니다.
• So I'm going to tell you also about AI capabilities and AI agency, so that we can avoid a future where human joy is gone.1:21[쏘우댓위큰어-보이드어f퓨-쳐]그래서 저는 AI의 능력과 자율성에 대해서도 말씀드리려 합니다. 인간의 기쁨이 사라진 미래를 피하기 위해서 말이죠.'so that'은 '~하기 위해서' 혹은 '그래서 ~할 수 있도록'이라는 목적을 나타낼 때 정말 자주 쓰여요. 말을 하다가 이유나 목적을 덧붙이고 싶을 때 이 연결고리만 잘 써도 문장이 훨씬 풍성해진답니다.
• My research has been foundational to the development of AI as we know it today.1:36[애-즈위노-잇터-데이]저의 연구는 오늘날 우리가 알고 있는 AI 발전의 토대가 되었습니다.'as we know it'은 '우리가 알고 있는 모습 그대로의'라는 뜻으로, 현재의 상태를 강조할 때 쓰는 관용구예요. 단순히 AI라고만 하는 것보다 훨씬 더 구체적이고 전문적인 느낌을 주는 표현이죠.
• I'm not sure how I feel about that name, but I do feel a responsibility to talk to you about the potentially catastrophic risks of AI.1:49[벗아이두f피-러r리-스판-써-빌-리-리]그 호칭에 대해 어떻게 생각해야 할지 잘 모르겠지만, AI의 잠재적인 파괴적 위험에 대해 여러분께 말씀드려야 한다는 책임감을 느낍니다.'but I do feel'에서 'do'는 뒤에 오는 동사를 강하게 강조하는 역할을 해요. '정말로 느낀다'는 화자의 진심을 담고 있죠. 정말로 강조하고 싶을 때 동사 앞에 'do'를 살짝 얹어보세요.

함께 읽으면 좋은 글

영상 속 영어를 한 문장씩 들어보세요

중급15분

AI의 파괴적 위험과 더 안전한 미래를 향한 길

요슈아 벤지오가 AI의 위험성을 경고하고 안전한 대안을 제안하는 강연이에요. 청중에게 격식을 차려 길게 설명하는 말이고 문제를 짚고 경고하며 해결책을 제안하는 표현이 많아요.

레슨 시작하기