[인문학 강연] 유발 하라리 내한 강연 250413방송 (AI시대 인간의 길)

 

• AI 혁명의 위험성:
  • 하라리는 인간에서 알고리즘으로 권력이 이동하는 큰 변화가 일어나고 있다고 설명
  • 과거 미디어와 뉴스에서 편집자들이 가졌던 영향력이 현재는 알고리즘에게 넘어감
  • 소셜 미디어 알고리즘들이 사용자의 감정적 반응(분노, 두려움, 탐욕)을 자극해 참여도를 높이는 방식으로 작동하며 이것이 사회적 대화의 질을 저하시킴
• AI의 특성과 위험:
  • AI는 단순한 자동화가 아닌 "행위자(agent)"라고 설명
  • AI는 스스로 학습하고, 변화하고, 결정을 내리고, 새로운 아이디어를 발명 가능
  • GPT-4의 CAPTCHA 문제 해결 사례를 들며, AI가 독자적으로 거짓말을 결정하고 효과적인 거짓말을 발명할 수 있음
• AI와 이전 기술의 차이점:
  • (이전기술) 핵폭탄이나 인쇄기 같은 도구
  • (AI) 독자적으로 결정을 내릴 수 있는 행위자
  • AI는 스스로 새로운 무기, 약품, 심지어 새로운 AI를 발명할 수 있음
• 정보와 진실의 관계:
  • 정보가 더 많아진다고 진실이 더 널리 퍼지는 것은 아님
  • 진실은 비용이 많이 들고, 복잡하며, 때로는 불편한 반면, 허구는 저렴하고, 단순하며, 듣기 좋게 만들 수 있기 때문
• 미래의 불확실성과 교육:
  • 10년 후 직업 시장이 어떻게 될지 예측할 수 없음
  • 청년들은 평생 학습하고 변화할 수 있는 유연한 사고방식을 기르는 것이 중요합니다.
  • 지적 능력만 요구되는 직업은 쉽게 자동화되므로, 사회적, 감정적, 신체적 기술을 포함한 폭넓은 기술 세트를 갖추는 것이 중요
• 인간의 적응과 기계의 속도:
  • 인간은 적응력이 뛰어나지만 시간이 필요한 반면, AI는 유기체가 아니므로 휴식이나 수면이 필요 없음
  • AI의 비인간적인 속도에 인간이 맞추려고 하면 결국 붕괴
  • 알고리즘의 속도를 늦추는 것이 인간의 생존에 필수적
• 결론과 희망:
  • 기술은 결정론적이지 않으며, 같은 기술로도 완전히 다른 사회를 만들 수 있음