📌 참여 방법

🎁 보상

🗓 일시

📌 이번 글에서 다루는 내용

피부 연고 지출 통계를 찾던 AI 에이전트가 호주 정부 포털 안까지 들어갔습니다. 정부, 보안 연구자, OpenAI의 설명이 서로 다르고, 에이전트가 실제로 무엇을 했는지 외부에서는 확인할 방법이 없습니다.

AI 에이전트에게는 사고 후 열어볼 "블랙박스"가 없습니다. 그래서 추론 증명(proof of inference)이 필요합니다.

미시간에 있는 원격 상담원 한 명에게 예/아니오를 물어보고, 그 답을 그대로 믿고 정지 표지판을 지나친 웨이모. '자율'이라는 단어는 그 뒤에 사람이 있다는 사실을 알려주지 않았고, 드론에서도 마찬가지입니다.

조이스틱으로 날리는 기체부터 20분째 연결이 끊긴 채 알아서 도는 기체까지, 영업 자료에서는 모두 '자율'이라는 한 단어로 불립니다. 그래서 무전이 끊겼을 때, 기체 한 대가 사라졌을 때, 그룹이 둘로 갈라졌다 합쳐질 때 어떻게 되는지 직접 물어봐야 합니다.