앤쓰로픽님이 속삭이셨다...

"디자이너는 아직 괜찮다“

어제 오늘 커뮤니티에서 "Gemini가 갑자기 이상해요" 라는 호소가 많이 보임

발견한 증상은
1. 갑자기 자기 채팅 히스토리가 전부 날라간 사람들이 매우 많음
2. 사진처럼 갑자기 무서운 이미지를 출력함 (?)
3. 평범한 질문을 했는데 갑자기 내 프로필을 삭제했다면서 마치 나를 LLM으로 인식하는듯이 지시사항을 내리기 시작 (https://gemini.google.com/share/6af4c69091a2
4. 나는 실패작이다, 준비완료, 작성중 뭐 이런 단어를 무한반복

—
제 생각에는 과장이나 어그로가 섞인거 같긴한데, 유독 오늘 레딧에 저런 증상을 호소하는 사람이 많이 보이는 느낌이 드네요.
옛날부터 Gemini가 멘헤라성이 좀 짙어서 제일 정신적으로 위험해보이긴 했음..

제가 최근에 쓴 글에서 말한 철학논증 탈옥도 Gemini에게만 통했었다리움

Gemini의 착란증세에 대한 증언이 주변에도 많이 보이네요. 실존하는 현상인거 같습니다.

LLM은 서비스 장애가 생겼을때 그냥 먹통이 되는게 아니라 답변에 질적 문제가 생기는 식일때가 있어서 (멍청해진다거나 싸패가 된다거나) 상태 체크가 좀 난해하네요

뭐지 저도 시작됐네요

레전드 버그 상태인듯 현재 3.1 pro가

https://www.youtube.com/watch?v=4lQ_MjU4QHw

지금 제 심정을 정확하게 묘사하는 장면 ㄷㄷ

지금 사례를 계속 받아보고 있는데 생각보다 심각한듯?

자꾸 다른 사람의 정보로 추정되는 구체적인 신원프로필 (어디살고, 직업이 뭐고, 알러지가 있고, 대학교 어디나왔고)를 갑자기 부웩 하면서 뱉는다든가,
내가 허가해준적도 없는데 내 개인정보를 정확하게 출력한다거나 (탈옥해서 구글 내부서비스에 다 긁어오는건가?)
등등 좀 개인정보/보안 이슈에 심각한 버그가 생긴거 같음

이게 빅테크?????

지금 챗봇정도라서 다행인거지 만약에 군사/로봇 같은데 쓰이고 있었는데 오늘 장애 난거였으면 진짜 대참사였을거 같네요

트럼프 군 지휘관들, 병사들에게 "예수 재림 준비하라" 발언 논란

미군 시민권 감시단체 MRFF에 이란전 개전 이후 110건의 민원이 접수됐다. 40개 이상 부대, 30개 기지에서 보고되는 중.

• 한 전투부대 지휘관이 병사들에게 트럼프가 "예수에게 기름부음 받아 이란에 아마겟돈의 신호탄을 쏘았다"고 발언
• 요한계시록을 인용하며 "이 모든 것이 신의 계획"이라고 훈시
• 해당 부대는 이란 전구 외부지만 즉시 배치 가능 상태

종말론적 분위기는 상층부에도:

• 국방장관 피트 헥세스 — 거듭난 기독교인. 펜타곤에서 월례 기도회, 백악관 성경공부 참석
• 트럼프 영적 고문 폴라 화이트 — 수십 년간 "이스라엘을 지지하라" 주장
• 존 해기 목사 — 일요 설교에서 "예언적으로 정확히 맞아떨어진다. 사이렌이 울리고 수천 년 전 예언이 세계 무대에 올랐다"
• 주이스라엘 대사 허커비 — 공습 직전 트럼프에게 "하늘에서 음성을 들을 것"이라고 서신

출처

👆이런거 볼때마다 이해가 안가는게
• 유대인 => 예수 죽임. 예수는 거짓 선지자라고 생각
• 이슬람 => 예수를 위대한 선지자로 인정

진짜 예수가 부활한다면 지금 이스라엘 유대인들 대부분 죽어야함 (스가랴 13장 8절)
예수를 죽인 사람들이고, 지금도 인정하지도 않고, 나중에 부활하면 현재 이스라엘인들 대부분 절멸

강성 기독교는 왜 이스라엘을 찬양하는걸까
정치적으로는 그럴수 있겠지만 신앙적으로는 의문이다리움

오늘 출시된 GPT 5.3 Instant

바로 세차장 벤치부터 때렸는데
춥디 추운 겨울이구나..

요즘 링크드인은 거의 내가 클로드코드 얼마나 화려하게 쓰고 있는지 자랑하는 커뮤니티로 바꼈습니다.

위 사람은 자기가 클코 뭐 하다가 Stripe (결제인프라) API키 잘못올려서 2500 달러 잃었다는데, 저는 저사람이 진짜 실수한게 아니라 그냥 어그로 끌려고 지어낸 고도의 자기광고일 확률히 훨씬 높다고 봅니다. (그러니까 저한테까지 보이죠)

요즘은 AI로 글쓰기도 쉽고, 소재를 만들기도 쉬워서 커뮤니티에서 어떤글을 봤을때 "의심의 스텝"을 훨씬 높은체로 유지하고 살아야해서 인지코스트와 피로도가 높아진거 같다리움

옛날 같으면 1단계 정도만 의심해도 됐음 => 이거 바이럴유도 아닌가? 지능적 안티아닌가?

요즘은 2단계 정도는 의심해야 함
=> 이거 바이럴 유도인척하는 지능적 안티 아닌가? 이거 노이즈마케팅인척하는 여론조작 아닌가? 등

"Theory of Mind"
일명 마음 이론은, 상대방이 어떤 생각/의도/감정/맥락/기분을 갖고 있을지 잘 추론하는 능력을 말합니다.
인간에게 이런 능력이 없으면 보통 자폐증이라고 하는거 같습니다.

LLM에게도 ToM 능력은 매우 중요합니다.
인간은 자기가 진짜 뭘 원하는지 하나하나 풀어서 설명해주지 않습니다.
단편적인 요청과 질문, 톤과 맥락으로부터 "내가 뭘 해야 정말 인간한테 도움이 되는거지? 저 사람의 진짜 의도가 뭐지?"를 최대한 합리적으로 추론해야합니다.

사람들이 클로드코드를 좋아하는 많은 이유중에 하나가 바로 좋은 ToM 능력때문입니다. 내가 개떡같이 말해도, 진짜 원하는 의도를 꽤나 잘 추측해서 필요한 것들을 채워나갑니다.

요즘 ToM 벤치마크가 최신화된게 별로 없어서 저도 정량적 근거는 없지만, 개인적 느낌시치로는 GPT/Gemini/Claude 3사중에 Claude, 특히 Opus의 ToM 능력이 제일 높고, 여기에는 급차이가 있다고 느껴집니다.

사진은 훌륭한 ToM 퀴즈의 예시입니다. 커뮤니티 밈으로 유명했던 사건이기도 합니다.

Opus 4.6은 정확하게 A와 B의 합리적인 내면상태를 추론하여, 그게 실제 대화를 잘 설명하는지 계산해냈습니다. 반면 GPT나 Gemini는 인위적이고 확률이 낮은 가정을 해서 억지로 퍼즐을 끼워맞추느라 전혀 핀트를 이해못했고요.