일렉허니
팔란티어 알렉스 카프 Ai속도 조절론에 중국때문에 어려움 팔란티어 CEO 알렉스 카프는 AI 개발을 일시 중단해야 한다고 주장하는 사람들은 현실에 살지 않고 있으며, 사실상 우리의 적들이 승리하도록 내버려 두자는 소리를 하고 있다고 말했습니다: "만약 우리가 적들이 없었다면, 저는 이 기술을 완전히 일시 중단하는 데 매우 찬성할 텐데, 하지만 우리는 그렇지 않죠."
샘 알트먼은 트럼프와 시진핑이 1페이지짜리 AI 협정으로 노벨 평화상을 공동 수상할 것이라고 말했다
“트럼프와 시진핑 대통령이 합의하기 쉬운 어떤 것에 합의할 수 있다면, 함께 노벨 평화상을 받을 거라고 생각합니다. 그리고 그건 정말 멋진 일이 될 겁니다.”
“두 나라가 분명히 여러 면에서 경쟁할 테고, 이건 사회경제적으로, 지정학적으로 중요할 겁니다. 하지만 개발 과정에서 일정 수준의 위험을 감수해서는 안 된다는 데는 합의할 수 있을 겁니다.”
“그리고 미국과 중국만이라도 이 기술 개발에 대한 공유된 기준과 테스트에 합의할 수 있다면, 그건 두 사람이 이룰 수 있는 정말 멋진 성과가 될 겁니다.”
“이건 어렵지 않다고 생각합니다. 이건 딱 1페이지짜리 문서 같은 거예요.”
“트럼프와 시진핑 대통령이 합의하기 쉬운 어떤 것에 합의할 수 있다면, 함께 노벨 평화상을 받을 거라고 생각합니다. 그리고 그건 정말 멋진 일이 될 겁니다.”
“두 나라가 분명히 여러 면에서 경쟁할 테고, 이건 사회경제적으로, 지정학적으로 중요할 겁니다. 하지만 개발 과정에서 일정 수준의 위험을 감수해서는 안 된다는 데는 합의할 수 있을 겁니다.”
“그리고 미국과 중국만이라도 이 기술 개발에 대한 공유된 기준과 테스트에 합의할 수 있다면, 그건 두 사람이 이룰 수 있는 정말 멋진 성과가 될 겁니다.”
“이건 어렵지 않다고 생각합니다. 이건 딱 1페이지짜리 문서 같은 거예요.”
👍6
Forwarded from 루팡
AI "안전성 속도 조절(slowdown)"의 가장 큰 문제점:
중국은 어떻게 되는가?
AI의 안전성과 그 진화 속도에 대한 타당한 우려들이 존재하지만, AI 경쟁은 전 세계적인 양상을 띠고 있습니다.
그리고 오늘날의 생태계에서 AI 경쟁에 단 6개월만 뒤처지는 것은, AI 이전 시대의 수십 년을 뒤처지는 것과 같습니다.
미국의 AI 거대 기업들이 개발 속도를 늦추고 안전성에 집중하기로 합의하더라도, 반드시 국제적인 협정이 함께 마련되어야 합니다.
또한 설령 협정이 마련된다 하더라도, 규정 준수 여부를 어떻게 통제할 것인가요?
전에도 말했고 앞으로도 계속 말하겠지만, AI는 역사상 가장 큰 기술 혁명입니다.
이는 완벽하게 통제하는 것이 불가능할 수도 있는 AI 군비 경쟁입니다.
중국은 어떻게 되는가?
AI의 안전성과 그 진화 속도에 대한 타당한 우려들이 존재하지만, AI 경쟁은 전 세계적인 양상을 띠고 있습니다.
그리고 오늘날의 생태계에서 AI 경쟁에 단 6개월만 뒤처지는 것은, AI 이전 시대의 수십 년을 뒤처지는 것과 같습니다.
미국의 AI 거대 기업들이 개발 속도를 늦추고 안전성에 집중하기로 합의하더라도, 반드시 국제적인 협정이 함께 마련되어야 합니다.
또한 설령 협정이 마련된다 하더라도, 규정 준수 여부를 어떻게 통제할 것인가요?
전에도 말했고 앞으로도 계속 말하겠지만, AI는 역사상 가장 큰 기술 혁명입니다.
이는 완벽하게 통제하는 것이 불가능할 수도 있는 AI 군비 경쟁입니다.
👍4
Ai 상호검증법 : 일론머스크
일론 머스크: AI 경쟁사들은 출시 전에 서로의 모델을 상호 심사해야 한다.
“저는 적어도 비공식적인 주간 또는 격주 통화를 갖는 것을 추천하며, 경쟁사들에게 일주일 또는 2주 정도의 조기 액세스를 제공하는 방식을 제안합니다. 이것이 바로 인센티브가 작동하는 이유라고 생각합니다. 경쟁 회사들은 보안 위험이 있는지 파악할 가능성이 높고, 경쟁사의 모델 출시를 지연시켜야 한다는 점을 부끄러워하지 않고 지적할 것입니다.
인센티브 구조는 거기서 꽤 잘 작동합니다. 이는 영화 산업 협회(Motion Picture Association)가 영화 등급을 결정하는 산업 그룹으로서 작동하는 방식과 유사합니다. 그것은 꽤 잘 작동하는 것 같습니다. 정말로 정부에 개입을 요청해야 하는 것은 한 회사가 매우 위험한 일을 하고 있으며 위험을 줄이기 위한 조치를 거부할 때뿐입니다.”
일론 머스크: AI 경쟁사들은 출시 전에 서로의 모델을 상호 심사해야 한다.
“저는 적어도 비공식적인 주간 또는 격주 통화를 갖는 것을 추천하며, 경쟁사들에게 일주일 또는 2주 정도의 조기 액세스를 제공하는 방식을 제안합니다. 이것이 바로 인센티브가 작동하는 이유라고 생각합니다. 경쟁 회사들은 보안 위험이 있는지 파악할 가능성이 높고, 경쟁사의 모델 출시를 지연시켜야 한다는 점을 부끄러워하지 않고 지적할 것입니다.
인센티브 구조는 거기서 꽤 잘 작동합니다. 이는 영화 산업 협회(Motion Picture Association)가 영화 등급을 결정하는 산업 그룹으로서 작동하는 방식과 유사합니다. 그것은 꽤 잘 작동하는 것 같습니다. 정말로 정부에 개입을 요청해야 하는 것은 한 회사가 매우 위험한 일을 하고 있으며 위험을 줄이기 위한 조치를 거부할 때뿐입니다.”
❤6
AI속도 조금 늦춘다고해도
잔력 인프라는 미리미리
준비해야 하니
ESS속도는 덜 영향 받고
(시간걸리니 기 모으기)
상대적으로 괜찮지 않을까
싶었는데 센티에 영향을
같이 받나봅니다
잔력 인프라는 미리미리
준비해야 하니
ESS속도는 덜 영향 받고
(시간걸리니 기 모으기)
상대적으로 괜찮지 않을까
싶었는데 센티에 영향을
같이 받나봅니다
👍9