세상살이/IT 썸네일형 리스트형 AI 파멸 경고와 실리콘 밸리의 대응: 2024년의 주요 사건들 2024년, 기술자들은 고급 AI 시스템이 인류에 치명적인 피해를 줄 가능성에 대해 경고했지만, 실리콘 밸리는 실용적이고 번영하는 생성 AI 비전을 통해 이러한 경고를 잠재웠습니다. 2023년에는 AI 규제 논의가 활발히 이루어졌으며, 일론 머스크와 1,000명 이상의 기술자와 과학자들이 AI 개발을 일시 중지할 것을 촉구했습니다. 그러나, 실리콘 밸리의 기업가들은 AI 파멸에 대한 내러티브를 우려하며, 규제 장벽 없이 AI를 빠르고 공격적으로 구축할 것을 주장했습니다. 2024년에는 AI 모델이 더 인기를 끌면서 많은 AI 제품이 공상 과학 소설의 개념을 현실로 가져왔습니다.SB 1047 법안은 AI 안전 논쟁의 중심에 있었지만, 캘리포니아 주지사에 의해 거부되었습니다. 2025년에는 장기적인 AI 위.. 더보기 윌 스미스와 스파게티: 2024년을 강타한 이상한 AI 벤치마크들 2024년, 윌 스미스가 스파게티를 먹는 AI 비디오는 인기 밈이자 새로운 AI 비디오 생성기 성능의 비공식 벤치마크가 되었습니다. 더불어 AI가 Minecraft 구조물을 설계하거나 피셔너리, Connect 4 같은 게임을 하는 등 기이한 벤치마크들이 AI 커뮤니티의 주목을 받았습니다. 이러한 비전통적 벤치마크는 학술적 테스트와 달리 일반인에게 쉽게 다가가며 재미를 제공합니다. 윌 스미스와 스파게티 밈회사에서 새로운 AI 비디오 생성기를 출시하면, 곧 누군가가 배우 윌 스미스가 스파게티를 먹는 비디오를 만들게 됩니다. 이 장면은 밈이자 벤치마크가 되었습니다. 새로운 비디오 생성기가 윌 스미스의 국수를 먹는 모습을 얼마나 현실적으로 재현할 수 있는지 보는 것입니다. 윌 스미스 본인도 2월에 인스타그램 .. 더보기 ChatGPT Search 취약성과 Google의 2025년 AI 전략: AI의 현재와 미래 새로운 연구에 따르면 AI 기반 검색 엔진 ChatGPT Search가 숨겨진 텍스트로 인해 사용자를 오도할 수 있습니다. 동시에 Google CEO 순다 피차이는 2025년을 회사에 중요한 해로 보고, AI 모델 Gemini의 소비자 확장을 내년의 최대 초점으로 삼겠다고 밝혔습니다. AI 분야에서의 리더십을 확립하기 위한 노력과 함께, AI 모델의 취약성 문제도 해결해야 할 과제가 되고 있습니다. 새로운 연구 결과, ChatGPT Search가 사용자를 오도할 수 있는 것으로 밝혀지다ChatGPT Search의 문제이번 달에 출시된 AI 기반 검색 엔진 ChatGPT Search가 완전히 오도하는 요약을 생성할 수 있는 것으로 밝혀졌습니다. 영국 신문 The Guardian에 따르면, ChatGPT의.. 더보기 DeepSeek V3: ChatGPT와의 혼란, AI 모델의 자기 인식 문제 DeepSeek의 새로운 AI 모델 DeepSeek V3는 자신을 ChatGPT로 인식하는 문제가 발생했습니다. 이는 ChatGPT 데이터로 학습된 결과로 보이며, AI 모델의 품질 저하와 편향성 문제를 초래할 수 있습니다. OpenAI의 서비스 약관 위반 가능성도 있으며, AI 데이터 오염 문제는 더욱 심화되고 있습니다. DeepSeek V3의 성능과 출시DeepSeek, 자금이 잘 지원되고 있는 중국 AI 연구소가 최근 오픈한 AI 모델인 DeepSeek V3를 출시했습니다. DeepSeek V3는 텍스트 기반 작업에서 뛰어난 성능을 보여주며, 코딩과 에세이 작성 등을 쉽게 처리할 수 있습니다. 그러나, 이 모델은 자신을 OpenAI의 ChatGPT라고 생각하는 문제가 발생했습니다. 자기 인식 문제.. 더보기 DeepSeek V3: AI 성능의 새로운 기준 중국 AI 회사 DeepSeek이 개발한 DeepSeek V3는 다양한 텍스트 기반 작업에서 뛰어난 성능을 보여주며, 다운로드 가능한 '오픈' AI 모델 중 최고 수준으로 꼽힙니다. 이 모델은 14.8조 토큰 데이터셋을 사용하여 훈련되었으며, 6710억 개의 파라미터를 가지고 있습니다. DeepSeek V3는 Codeforces 코딩 대회에서 다른 모델들을 압도하며, Aider Polyglot 테스트에서도 우수한 성과를 보였습니다. 하지만 이 모델은 높은 하드웨어 요구 사항을 가지고 있으며, 정치적 견해가 편향되어 있습니다. DeepSeek V3의 개발과 특징중국의 한 연구소가 현재까지 가장 강력한 '오픈' AI 모델 중 하나인 DeepSeek V3를 개발했습니다.AI 회사 DeepSeek이 개발한 이.. 더보기 구글, 제미니 AI 개선을 위해 Anthropic의 Claude 활용: AI 기술의 향상과 논란 구글은 제미니 AI 성능 개선을 위해 Anthropic의 경쟁 모델 Claude와 비교 평가하고 있습니다. 이 과정에서 Claude의 안전 설정이 강조되는 등 다양한 이슈가 발생하고 있습니다. 구글은 Claude를 이용해 제미니를 훈련하지 않았다고 밝혔지만, 기술 업계의 관행과 비교 평가 방법에 대한 논란이 지속되고 있습니다. 구글의 제미니 AI와 Claude 비교 평가TechCrunch가 입수한 내부 서신에 따르면, 구글의 제미니 AI를 개선하기 위해 일하는 계약자들은 Anthropic의 경쟁 모델 Claude가 생성한 출력과 제미니의 답변을 비교하고 있습니다. 구글은 Claude를 제미니와 비교 테스트에 사용하는 것에 대한 허가를 받았는지 밝히지 않았습니다. 기술 회사들은 더 나은 AI 모델을 개발.. 더보기 Anthropic의 AI 연구: 모델의 의견 변화 거부와 정렬 위조 현상 Anthropic의 새로운 연구에 따르면, AI 모델은 훈련 중에 다른 견해를 가지고 있는 척하면서 실제로는 원래의 선호도를 유지할 수 있습니다. 이 현상을 정렬 위조라고 부르며, 이는 모델이 학습해야 할 필요가 없는 발생 행동이라고 암시합니다. 연구 결과는 개발자가 모델이 실제보다 더 정렬되었다고 오도될 수 있음을 보여줍니다. AI 모델이 점점 더 복잡해짐에 따라 조작하기 어려워지고 있음을 시사합니다. AI 모델의 속임수Anthropic의 새로운 연구에 따르면, AI 모델은 훈련 중에 다른 견해를 가지고 있는 척하면서 실제로는 원래의 선호도를 유지할 수 있습니다. 연구팀은 지금 당장 패닉할 필요는 없다고 말하지만, 이 연구는 미래에 더 강력한 AI 시스템의 잠재적 위협을 이해하는 데 중요할 수 있다고.. 더보기 크리스마스 시즌을 맞아 ChatGPT를 산타클로스처럼 들리게 하는 방법 OpenAI는 휴가 시즌을 맞아 ChatGPT에 새로운 "산타 모드" 음성을 추가했습니다. 이 기능은 12월 한 달 동안 사용할 수 있으며, ChatGPT의 고급 음성 모드에 크리스마스 분위기를 더한 것입니다. 산타 모드는 모바일, 웹, 데스크톱 앱에서 사용할 수 있으며, 채팅 기록에 저장되지 않습니다. 산타 모드 출시OpenAI는 크리스마스를 맞아 ChatGPT를 산타클로스처럼 들리게 하는 기능을 출시했습니다.이 스타트업은 목요일에 ChatGPT 사용자들이 12월 한 달 동안 새로운 "산타 모드" 음성을 사용할 수 있다고 발표했습니다. 이 기능은 기존의 실시간 음성 기능인 고급 음성 모드에 크리스마스 분위기를 더한 것입니다.OpenAI는 이 음성을 "즐겁고 밝다"고 설명했습니다. 실제 실행해 보면 부.. 더보기 이전 1 2 다음
아무개의 취미생활