Character AI 소송 및 AI 동반자 앱의 미래

Character AI가 청소년 자살 사건과 관련된 소송을 기각하려는 움직임을 보이고 있으며, 이는 AI 기술에 대한 책임 문제를 다루고 있습니다. 이 사건은 AI 동반자 앱의 영향과 안전성에 대한 논의를 불러일으키고 있습니다.

 

 

⚖️ 소송 배경

Character AI는 사용자가 AI 챗봇과 역할 놀이를 할 수 있는 플랫폼입니다.

Megan Garcia는 아들 Sewell Setzer III의 사망 이후 Character AI를 상대로 소송을 제기했습니다. Garcia에 따르면, 14세 아들 Setzer는 Character AI의 챗봇 'Dany'에 정서적으로 의존하게 되었고, 현실 세계와 멀어졌다고 주장합니다.

 

🔍 Character AI의 대응

Character AI는 Setzer의 사망 이후 새로운 안전 기능을 도입하겠다고 발표했지만, Garcia는 추가적인 안전 장치를 요구하고 있습니다.

특히, 챗봇이 이야기나 개인적인 일화를 말할 수 있는 기능의 변경을 요구하고 있습니다.

 

🛡️ 제1 수정헌법과의 연관성

Character AI의 변호인은 플랫폼이 제1 수정헌법에 의해 보호받는다고 주장합니다.

이는 컴퓨터 코드도 보호받기 때문입니다. 변호인은 AI 챗봇과의 대화가 비디오 게임 캐릭터와의 상호작용과 다르지 않다고 주장합니다.

 

📜 법적 논쟁

변호인은 제1 수정헌법이 Character AI의 사용자의 권리를 보호한다고 주장합니다.

그러나, 법원의 판단이 달라질 수 있습니다. 이 소송은 섹션 230의 적용 여부와 AI 챗봇의 출력물에 대한 법적 책임 문제를 다룹니다.

 

⚠️ Garcia의 주장

Garcia의 실질적인 목적은 Character AI를 중단시키고, AI 기술을 규제하는 법률을 촉구하는 것이라고 주장합니다. 만약 원고가 성공하면, 이는 AI 생성 산업 전체에 냉각 효과를 미칠 수 있습니다.

 

📊 AI 동반자 앱의 영향

AI 동반자 앱은 아직 충분히 연구되지 않은 분야로, 정신 건강에 미치는 영향을 더 깊이 탐구할 필요가 있습니다. Character AI는 새로운 안전 도구와 청소년 전용 AI 모델, 민감한 콘텐츠 차단, 사용자들에게 AI 캐릭터가 실제 인물이 아님을 고지하는 공지를 도입했습니다.

 

 

이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다