피부 연고 지출 통계를 찾던 AI 에이전트가 호주 정부 포털 안까지 들어갔습니다. 정부, 보안 연구자, OpenAI의 설명이 서로 다르고, 에이전트가 실제로 무엇을 했는지 외부에서는 확인할 방법이 없습니다.

AI 에이전트에게는 사고 후 열어볼 "블랙박스"가 없습니다. 그래서 추론 증명(proof of inference)이 필요합니다.

미시간에 있는 원격 상담원 한 명에게 예/아니오를 물어보고, 그 답을 그대로 믿고 정지 표지판을 지나친 웨이모. '자율'이라는 단어는 그 뒤에 사람이 있다는 사실을 알려주지 않았고, 드론에서도 마찬가지입니다.

조이스틱으로 날리는 기체부터 20분째 연결이 끊긴 채 알아서 도는 기체까지, 영업 자료에서는 모두 '자율'이라는 한 단어로 불립니다. 그래서 무전이 끊겼을 때, 기체 한 대가 사라졌을 때, 그룹이 둘로 갈라졌다 합쳐질 때 어떻게 되는지 직접 물어봐야 합니다.

@lmslms1004
@dhl1013
@Ark_6599
@dn0574
@Bongdidi
@andante89
@soonuu78
@didhkd
@misty2318
@pispis86
@Looksware
@daeseonhan
@minimi1217
@jiu09876
@sinwoo1649

싼 달걀을 찾아달라고 했을 뿐인데, 사라고 한 적 없는 달걀을 $31.43에 사버린 AI 에이전트. Target, Microsoft, eBay, Shopify는 약관에 "우리 책임 아님"이라고 적어뒀고, 보상하겠다고 나선 Amex는 6개월째 "앞으로 할 예정"입니다라고만 합니다.

카드사들이 만들고 있는 기록은 내가 무엇을 승인했는지만 증명할 수 있습니다. 모델이 "싼"을 어떻게 해석했는지, 그때 어떤 모델이 돌아가고 있었는지는 증명하지 못하죠. 지시는 증명할 수 있지만 추론은 증명할 수 없는 지금, 그 빈틈을 메울 추론 증명과 DeepProve 이야기를 담았습니다.