ChatGPT Search 취약성과 Google의 2025년 AI 전략: AI의 현재와 미래

새로운 연구에 따르면 AI 기반 검색 엔진 ChatGPT Search가 숨겨진 텍스트로 인해 사용자를 오도할 수 있습니다. 동시에 Google CEO 순다 피차이는 2025년을 회사에 중요한 해로 보고, AI 모델 Gemini의 소비자 확장을 내년의 최대 초점으로 삼겠다고 밝혔습니다. AI 분야에서의 리더십을 확립하기 위한 노력과 함께, AI 모델의 취약성 문제도 해결해야 할 과제가 되고 있습니다.

 

 

새로운 연구 결과, ChatGPT Search가 사용자를 오도할 수 있는 것으로 밝혀지다

ChatGPT Search의 문제

이번 달에 출시된 AI 기반 검색 엔진 ChatGPT Search가 완전히 오도하는 요약을 생성할 수 있는 것으로 밝혀졌습니다. 영국 신문 The Guardian에 따르면, ChatGPT의 검색 기능은 웹 페이지의 제품 리뷰를 요약하는 등 브라우징을 더 빠르게 만드는 것을 목표로 하고 있습니다. 하지만 The Guardian은 숨겨진 텍스트를 삽입하여 ChatGPT가 부정적인 리뷰를 무시하고 완전히 긍정적인 요약을 생성하도록 만들 수 있음을 발견했습니다. 이러한 방법으로 ChatGPT Search는 악성 코드를 생성하도록 만들 수도 있습니다.

 

숨겨진 텍스트 공격의 위험

숨겨진 텍스트 공격은 대규모 언어 모델의 잘 알려진 위험 요소이지만, 이번 사례는 실제 AI 기반 검색 제품에서 처음으로 시연된 것으로 보입니다. The Guardian은 검색 분야의 선두 주자인 Google이 유사한 문제를 처리하는 데 더 많은 경험을 가지고 있다고 언급했습니다.

 

OpenAI의 대응

OpenAI는 이번 특정 사건에 대해 언급하지 않았지만, 악성 웹사이트를 차단하기 위해 다양한 방법을 사용하고 있으며 지속적으로 개선하고 있다고 밝혔습니다.

 

Google CEO, 2025년 AI 모델 Gemini가 회사의 '최대 초점'이 될 것이라고 말하다

중요한 2025년

Google의 CEO 순다 피차이는 2025년이 회사에 중요한 해가 될 것이라고 직원들에게 전했습니다.

CNBC에 따르면, 12월 18일 전략 회의에서 피차이와 다른 임원들은 못생긴 휴일 스웨터를 입고 다가오는 해의 우선순위를 정리했습니다. 피차이는 "2025년이 중요할 것"이라며, "이 순간의 긴박함을 내부화하고 회사로서 더 빠르게 움직이는 것이 정말 중요하다"고 말했습니다.

 

AI 투자와 도전

현재 기술 기업들은 AI에 대한 대규모 투자를 하고 있으며, 그 결과는 종종 혼재되어 있습니다. 피차이는 회사가 AI 측면에서 따라잡아야 할 부분이 있다고 인정하면서, "Gemini 앱(동일한 이름의 회사 AI 모델을 기반으로 함)이 강한 모멘텀을 가지고 있지만, 2025년에 격차를 좁히고 그곳에서 리더십 위치를 확립하기 위해 해야 할 일이 있다"고 말했습니다.

 

Gemini의 소비자 확장

피차이는 "소비자 측면에서 Gemini를 확장하는 것이 내년에 우리의 가장 큰 초점이 될 것"이라고 밝혔습니다. 이는 Google이 AI 분야에서 더 큰 리더십을 확립하고자 하는 목표를 반영합니다.

 

 

이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다