AI 파멸 경고와 실리콘 밸리의 대응: 2024년의 주요 사건들

2024년, 기술자들은 고급 AI 시스템이 인류에 치명적인 피해를 줄 가능성에 대해 경고했지만, 실리콘 밸리는 실용적이고 번영하는 생성 AI 비전을 통해 이러한 경고를 잠재웠습니다. 2023년에는 AI 규제 논의가 활발히 이루어졌으며, 일론 머스크와 1,000명 이상의 기술자와 과학자들이 AI 개발을 일시 중지할 것을 촉구했습니다. 그러나, 실리콘 밸리의 기업가들은 AI 파멸에 대한 내러티브를 우려하며, 규제 장벽 없이 AI를 빠르고 공격적으로 구축할 것을 주장했습니다. 2024년에는 AI 모델이 더 인기를 끌면서 많은 AI 제품이 공상 과학 소설의 개념을 현실로 가져왔습니다.

SB 1047 법안은 AI 안전 논쟁의 중심에 있었지만, 캘리포니아 주지사에 의해 거부되었습니다. 2025년에는 장기적인 AI 위험을 다루기 위한 수정된 법안이 다시 제출될 가능성이 있습니다.

 

 

AI 파멸 경고와 실리콘 밸리의 대응

몇 년 동안 기술자들은 고급 AI 시스템이 인류에 치명적인 피해를 줄 가능성에 대해 경고해 왔습니다. 그러나, 2024년에는 기술 산업이 촉진한 실용적이고 번영하는 생성 AI 비전이 이러한 경고를 잠재웠습니다. 이 비전은 실리콘 밸리의 기업가들에게도 큰 이익을 안겨주었습니다. 특히 'AI 파멸론자'라고 불리는 사람들은 AI 시스템이 사람을 죽이는 결정을 내리거나, 권력자들이 대중을 억압하는 데 사용될 수 있다는 우려를 표명했습니다.

 

2023년의 AI 규제 논의

2023년에는 기술 규제의 르네상스 시대가 시작된 것처럼 보였습니다. AI 파멸과 AI 안전은 샌프란시스코 커피숍에서 논의되던 틈새 주제에서 MSNBC, CNN, 뉴욕 타임즈의 첫 페이지에 등장하는 대화로 발전했습니다. 일론 머스크와 1,000명 이상의 기술자와 과학자들은 AI 개발을 일시 중지하고 기술의 심각한 위험에 대비할 것을 촉구했습니다. 그 후, OpenAI, Google 및 기타 연구소의 최고 과학자들은 AI가 인류 멸종을 초래할 위험이 더 신뢰받아야 한다는 공개 서한에 서명했습니다. 몇 달 후, 바이든 대통령은 미국인을 AI 시스템으로부터 보호하기 위한 AI 행정 명령에 서명했습니다.

 

실리콘 밸리의 반응과 경제적 이익

실리콘 밸리의 기업가들에게 AI 파멸에 대한 내러티브는 AI 모델 자체보다 더 우려스러웠습니다.

이에 대응하여 a16z 공동 창립자인 마크 안드레센은 2023년 6월 "왜 AI가 세상을 구할 것인가"라는 에세이를 발표하여 AI 파멸론자들의 의제를 해체하고 기술의 보다 더 낙관적인 비전을 제시했습니다. 안드레센은 대형 기술 회사와 스타트업이 규제 장벽 없이 AI를 최대한 빠르고 공격적으로 구축할 수 있어야 한다고 주장했습니다. 이는 AI가 몇몇 강력한 회사나 정부의 손에 떨어지지 않도록 하고, 미국이 중국과 효과적으로 경쟁할 수 있도록 할 것입니다.

 

2024년의 AI 투자 증가

2024년에는 AI 모델이 더 인기를 끌면서 그들이 얼마나 지능이 없는지도 보게 되었습니다. 그러나, 동시에 2024년은 많은 AI 제품이 공상 과학 소설의 개념을 현실로 가져온 해이기도 했습니다. OpenAI는 우리가 전화기를 통한 대화가 아닌 전화기와 대화할 수 있는 방법을 보여주었고, Meta는 실시간 시각적 설명을 갖춘 스마트 안경을 공개했습니다. AI 파멸 위험의 근본적인 아이디어는 주로 공상 과학 영화에서 비롯되었으며, AI 시대는 일부 공상 과학 아이디어가 영원히 허구가 아닐 수 있음을 증명하고 있습니다.

 

2024년 가장 큰 AI 파멸 논쟁: SB 1047

2024년 AI 안전 논쟁은 SB 1047 법안으로 절정에 달했습니다. 이 법안은 저명한 AI 연구자들인 제프리 힌튼과 요슈아 벤지오의 지지를 받았습니다. 이 법안은 고급 AI 시스템이 대규모 인류 멸종 사건이나 2024년의 CrowdStrike 정전보다 더 큰 피해를 초래할 수 있는 사이버 공격을 방지하려고 했습니다. SB 1047은 캘리포니아 주 의회를 통과하여 주지사 개빈 뉴섬의 책상까지 도달했습니다. 그러나, 뉴섬은 SB 1047을 거부했습니다. 그는 결정 전 샌프란시스코 시내에서 AI 규제에 대해 이야기하며 "모든 것을 해결할 수는 없습니다. 무엇을 해결할 수 있을까요?"라고 말하며 우선순위를 정하여 해결할 수 있는 문제부터 해결해 나가자는 취지로 말했습니다.

 

2025년의 AI 규제 논쟁 전망

SB 1047의 정책 입안자들은 2025년에 장기적인 AI 위험을 다루기 위해 수정된 법안을 다시 제출할 수 있다고 암시했습니다. 법안의 후원자 중 하나인 Encode의 정치 담당 부사장인 써니 간디는 "AI 안전 운동은 2024년에 매우 고무적인 진전을 이루었습니다."라고 말했습니다.

반면, A16Z의 일반 파트너인 마틴 카사도는 AI 파멸 위험을 규제하는 것에 반대하는 싸움을 이끌고 있습니다. 그는 AI가 매우 안전하다고 주장하며, 미래에는 더 합리적인 AI 정책이 필요하다고 강조했습니다.

 

 

이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다