AI는 사회의 많은 측면을 크게 개선할 잠재력을 가지고 있습니다. 기술은 과거의 다른 기술들과 마찬가지로 사람들에게 더 큰 역량과 주도권을 줄 것입니다. 사람들이 AI로 할 수 있게 될 일은 증기기관이나 전기가 가능하게 했던 것보다 훨씬 더 클 것입니다.

우리는 현재로서는 상상하기 어려울 정도로 광범위한 번영이 이루어지는 세상, 그리고 개인의 잠재력·주체성·삶의 충만함이 크게 높아지는 세상을 기대합니다. 지금까지 공상과학에서만 꿈꾸던 많은 일들이 현실이 될 수 있으며, 대부분의 사람들은 오늘날보다 훨씬 더 의미 있는 삶을 살 수 있게 될 것입니다.

하지만 이런 결과가 보장된 것은 아닙니다. 미래의 권력이 소수의 기업들이 초지능을 통제하며 독점하는 형태로 집중될 수도 있고, 사람들에게 분산된 방식으로 주어질 수도 있습니다.

우리는 후자가 훨씬 더 바람직하다고 믿으며, 진정한 범용 AI를 가능한 한 많은 사람들의 손에 쥐여주는 것을 목표로 합니다. 현재와 마찬가지로 미래 역시 완전히 좋거나 완전히 나쁘지만은 않겠지만, 지금 우리가 내리는 결정이 좋은 결과를 최대화하는 데 도움이 될 수 있습니다.

우리의 사명은 AGI가 모든 인류에게 혜택이 되도록 하는 것입니다. 다음은 우리의 일을 이끄는 원칙들입니다.

1. 민주화 (Democratization)

우리는 이 기술이 소수의 손에 권력을 집중시키는 가능성에 맞설 것입니다. 이는 단순히 모두가 AI에 접근할 수 있게 하는 것만을 의미하지 않습니다. AI에 대한 핵심 결정들이 AI 연구소들만에 의해 내려지는 것이 아니라, 민주적 절차와 평등주의적 원칙에 따라 이루어져야 한다는 뜻이기도 합니다.

2. 역량 강화 (Empowerment)

우리는 AI가 모든 사람이 자신의 목표를 이루고, 더 많이 배우고, 더 행복하고 충만한 삶을 살며, 자신의 꿈을 추구하도록 도울 수 있다고 믿습니다. 그리고 사회 전체도 그 혜택을 받을 것입니다.

이를 실현하려면 우리 앞에 놓인 막대한 가능성을 사람들이 자유롭게 탐색할 수 있어야 하며, 이를 가능하게 하는 제품을 만들어야 합니다. 사용자들은 우리의 서비스를 통해 점점 더 가치 있는 일을 안정적으로 수행할 수 있어야 합니다.

세상은 다양하며 사람마다 필요도 다릅니다. 우리는 사용자들에게 필요한 자율성을 제공하고, 합리적인 범위 내에서 가능한 한 많은 자유를 허용하고자 합니다.

우리는 사용자가 우리의 서비스를 매우 폭넓게 활용할 수 있도록 하고 싶으며, AI가 전반적으로 엄청난 혜택을 가져올 것이라 강하게 믿습니다. 그러나 동시에 피해를 최소화하는 방식으로 이를 구축하고 배포할 책임이 있습니다.

여기에는 물론 재앙적 피해를 막는 것뿐 아니라, 지역적 피해를 줄이고 사회를 잠식할 수 있는 부정적 효과를 피하는 것도 포함됩니다. 따라서 불확실성이 있을 때는 신중한 쪽으로 판단하고, 더 많은 증거가 확보되면 제약을 완화할 것입니다.

3. 보편적 번영 (Universal Prosperity)

우리는 모두가 훌륭한 삶을 누릴 수 있는 미래를 원합니다.

강력한 컴퓨팅 능력을 갖춘 사용하기 쉬운 AI 시스템을 모두의 손에 쥐여줌으로써, 사람들은 새로운 방식으로 가치를 창출하고 모두의 삶의 질을 크게 향상시킬 것이라고 믿습니다. 특히 새로운 과학적 발견에서 효과가 클 것입니다.

번영이 완전히 실현되고 널리 공유되기 위해서는 다음 두 가지가 필요하다고 봅니다.

1. 모든 사람이 앞으로 다가올 가치 창출에 참여할 수 있도록 정부가 새로운 경제 모델을 검토해야 할 수 있습니다.

2. 대규모 AI 인프라를 구축하고, AI 인프라 비용을 대폭 낮출 새로운 기술을 개발해야 합니다.

우리가 하는 일 중 일부가 이상해 보일 수 있습니다. 예를 들어 매출 규모에 비해 엄청난 양의 컴퓨팅 자원을 구매하는 것, 비용 절감과 사용 편의성을 위해 수직 통합을 추진하는 것, 전 세계 곳곳에 데이터센터를 건설하려는 것 등이 그렇습니다. 하지만 이는 모두 보편적 번영의 미래에 대한 우리의 근본적 믿음에서 비롯된 것입니다.

4. 회복 탄력성 (Resilience)

AI는 새로운 위험을 가져올 것이며, 우리는 다른 기업들, 생태계, 정부, 사회와 함께 이를 해결하기 위해 노력할 것입니다. 또한 우리의 재단 자원을 적극 활용해 이 일을 지원할 것입니다.

어떤 AI 연구소도 혼자서 좋은 미래를 보장할 수는 없습니다. 분명한 예로, 매우 강력한 모델이 새로운 병원체를 더 쉽게 만들도록 도울 수도 있습니다. 이에 대응하려면 특정 병원체에 한정되지 않는 사회 전체 차원의 방어책이 필요합니다.

또 다른 예로, 모델의 사이버보안 능력이 커질수록 우리는 이 모델들을 신속히 활용해 오픈소스 소프트웨어와 핵심 인프라를 보호해야 하며, 동시에 모두가 더 안전한 소프트웨어를 만들 수 있도록 모델을 훈련시켜야 합니다.

이는 우리가 오래전부터 유지해온 ‘점진적 배포(iterative deployment)’ 전략의 확장입니다. 사회는 AI 능력이 한 단계씩 높아질 때마다 그것을 이해하고, 통합하고, 함께 최선의 방향을 찾아가야 한다고 믿습니다. 이는 진공 상태에서 이뤄질 수 없습니다. 사회와 기술은 함께 진화하며, 그러기 위해서는 시간이 필요합니다.

물론 이것만이 우리의 안전 전략은 아닙니다. 우리는 안전한 시스템을 만들어야 하며, 기술적 정렬(alignment) 분야에서도 훌륭한 연구를 계속해야 합니다.

또한 심각한 정렬·안전·사회적 문제를 충분히 해결하기 전에는 더 나아가지 않도록, 정부·국제기구·다른 AGI 개발 주체들과 협력해야 하는 시기가 올 것이라고 예상합니다.

5. 적응성 (Adaptability)

우리는 매우 예측 불가능한 미래의 도전에 대응하는 유일한 방법은, 더 많이 배울수록 우리의 입장을 업데이트할 준비가 되어 있는 것이라고 계속 믿고 있습니다.

또한 OpenAI가 몇 년 전보다 훨씬 더 큰 영향력을 가진 존재가 되었다는 점도 인정합니다. 그래서 우리의 운영 원칙이 언제, 어떻게, 왜 바뀌는지 투명하게 공개할 것입니다.

구체적인 예로, 우리는 보편적 번영이 매우 중요하다는 점에는 확신이 있지만, 미래의 어떤 시기에는 더 큰 회복탄력성을 위해 일부 역량 강화를 희생해야 하는 상황도 상상할 수 있습니다.

AI 발전은 이미 많은 놀라움을 가져왔고, 앞으로도 더 많은 일이 있을 것입니다. 기술이 발전할수록 emergent behavior(창발적 행동)는 점점 더 예측하기 어려워질 것입니다. 우리는 그 불확실성을 받아들이며, 능력을 신중하게 발전시키고, 시스템을 점진적으로 배포하며, 세상과의 상호작용을 통해 배우겠습니다.

그리 오래되지 않은 과거에 우리는 GPT-2의 가중치를 공개하는 것을 두려워했습니다. 사회에 어떤 영향이 있을지 확신하지 못했기 때문입니다. 돌이켜보면 이는 지나친 걱정이었습니다. 하지만 그 과정에서 우리는 점진적 배포라는 전략을 발견했고, 이는 우리가 찾아낸 가장 중요한 원칙 중 하나가 되었습니다.


우리는 기술이 계속 발전함에 따라 매우 큰 영향력을 갖는 시기로 들어가고 있습니다. 우리의 모든 결정에 대해 비판하는 것은 매우 정당합니다. 우리가 하고 있는 일의 무게를 생각하면, 우리는 엄청난 수준의 검증과 감시를 받아야 마땅합니다.

우리가 모든 것을 항상 옳게 하지는 못할 것입니다. 하지만 우리는 빠르게 배우고, 신속히 수정해 나갈 것입니다.우리는 미래를 과거보다 더 나은 방향으로 만들기 위해 우리의 역할을 다할 것입니다. 이렇게 중요한 일을 맡을 수 있다는 점을 행운으로 생각합니다.