샘 알트만(Sam Altman) 블로그 번역: 온화한 특이점 (The Gentle Singularity)

The Gentle Singularity

아래는 샘 알트먼의 블로그를 한국어로 번역한 것입니다.

온화한 특이점

우리는 사건의 지평선을 넘어섰습니다.

이륙은 이미 시작되었습니다. 인류는 디지털 초지능 구축에 가까워졌고,

적어도 지금까지는 생각했던 것보다 훨씬 덜 기이한 방식으로 진행되고 있습니다.

아직 거리를 활보하는 로봇은 없으며, 우리 대부분이 하루 종일 AI와 대화하는 것도 아닙니다.

사람들은 여전히 질병으로 죽고,

우리는 아직 우주로 쉽게 나아가지 못하며,

우주에 대해 이해하지 못하는 것들이 많습니다.

하지만 우리는 최근 여러 면에서 인간보다 더 똑똑하고,

인간 사용자의 결과물을 상당히 증폭시킬 수 있는 시스템을 구축했습니다.

가장 어려워 보였던 부분은 이미 지나왔습니다.

GPT-4나 o3와 같은 시스템을 가능하게 한 과학적 통찰력은 힘들게 얻었지만,

우리를 매우 먼 곳까지 데려다줄 것입니다.

AI는 여러 방식으로 세상에 기여하겠지만,

AI가 이끄는 더 빠른 과학 발전과 생산성 향상으로 인한

삶의 질 개선 효과는 막대할 것입니다.

미래는 현재보다 훨씬 더 나아질 수 있습니다.

과학의 진보는 전반적인 진보의 가장 큰 동력이며,

우리가 얼마나 더 많은 것을 가질 수 있을지 생각하면 매우 흥분됩니다.

어떤 큰 의미에서는, ChatGPT는 이미 인류 역사상 그 어떤 인간보다도 더 강력합니다.

수억 명의 사람들이 매일같이 점점 더 중요한 작업을 위해 ChatGPT에 의존합니다.

작은 신기능 하나가 엄청나게 긍정적인 영향을 창출할 수 있으며,

작은 불일치(misalignment)라도 수억 명의 사용자를 통해 증폭되면

막대한 부정적 영향을 초래할 수 있습니다.

2025년에는 실질적인 인지 작업을 수행할 수 있는 에이전트가 등장했습니다.

컴퓨터 코드 작성은 이전과 결코 같지 않을 것입니다.

2026년에는 새로운 통찰력을 발견할 수 있는 시스템이 등장할 가능성이 높습니다.

2027년에는 현실 세계에서 작업을 수행할 수 있는 로봇이 등장할지도 모릅니다.

훨씬 더 많은 사람들이 소프트웨어와 예술을 창작할 수 있게 될 것입니다.

하지만 세상은 그 두 가지 모두를 훨씬 더 많이 원하며,

전문가들이 새로운 도구를 받아들이기만 한다면

아마추어보다 훨씬 더 뛰어난 역량을 유지할 것입니다.

일반적으로, 한 사람이 2020년에 할 수 있었던 것보다

2030년에 훨씬 더 많은 것을 해낼 수 있다는 사실은

눈에 띄는 변화가 될 것이며,

많은 사람들이 그 혜택을 누리는 방법을 찾아낼 것입니다.

가장 중요한 방식들에서, 2030년대는 이전의 어떤 시대와도 크게 다르지 않을 수 있습니다.

사람들은 여전히 가족을 사랑하고,

창의성을 표현하고,

게임을 하고,

호수에서 수영을 할 것입니다.

하지만 여전히 매우 중요한 방식들에서,

2030년대는 이전의 어떤 시대와도 완전히 다를 가능성이 높습니다.

우리는 인간 수준의 지능을 얼마나 뛰어넘을 수 있을지 모르지만,

이제 곧 알게 될 것입니다.

2030년대에는 지능과 에너지,

즉 아이디어와 그 아이디어를 실현하는 능력이 엄청나게 풍부해질 것입니다.

이 두 가지는 오랫동안 인류 발전의 근본적인 제한 요소였습니다.

풍부한 지능과 에너지(그리고 훌륭한 거버넌스)가 있다면,

이론적으로 우리는 다른 모든 것을 가질 수 있습니다.

우리는 이미 믿을 수 없는 디지털 지능과 함께 살고 있으며,

초기 충격이 지난 후 우리 대부분은 꽤 익숙해졌습니다.

우리는 AI가 아름답게 쓰인 단락을 생성할 수 있다는 것에 놀라워하다가,

어느새 아름답게 쓰인 소설을 생성할 수 있을지 궁금해합니다.

생명을 구하는 의료 진단을 내릴 수 있다는 것에 놀라워하다가,

어느새 치료법을 개발할 수 있을지 궁금해합니다.

작은 컴퓨터 프로그램을 만들 수 있다는 것에 놀라워하다가,

어느새 완전히 새로운 회사를 창조할 수 있을지 궁금해합니다.

이것이 특이점이 진행되는 방식입니다.

경이로움은 일상이 되고, 그다음엔 기본적인 전제가 됩니다.

우리는 이미 과학자들로부터 AI 도입 이전보다

생산성이 두세 배 향상되었다는 말을 듣습니다.

발전된 AI는 여러 이유로 흥미롭지만,

아마도 우리가 그것을 이용해

더 빠른 AI 연구를 수행할 수 있다는 사실만큼 중요한 것은 없을 것입니다.

우리는 새로운 컴퓨팅 기판, 더 나은 알고리즘,

그리고 또 무엇을 발견하게 될지 모릅니다.

만약 우리가 10년 치 연구를 1년, 혹은 한 달 만에 해낼 수 있다면,

발전의 속도는 분명히 상당히 달라질 것입니다.

이제부터는 우리가 이미 구축한 도구들이

더 깊은 과학적 통찰력을 찾는 데 도움을 주고

더 나은 AI 시스템을 만드는 데 기여할 것입니다.

물론 이것이 AI 시스템이 완전히 자율적으로

자신의 코드를 업데이트하는 것과 같지는 않지만,

그럼에도 불구하고 이는

재귀적 자기 개선(recursive self-improvement)의 유충 단계라 할 수 있습니다.

작동 중인 다른 자기 강화 루프도 있습니다.

경제적 가치 창출은 점점 더 강력해지는 이 AI 시스템들을 운영하기 위한

인프라 구축의 복합적인 선순환을 일으키기 시작했습니다.

그리고 다른 로봇을 만드는 로봇(어떤 의미에서는

다른 데이터센터를 짓는 데이터센터)도 그리 멀지 않았습니다.

만약 우리가 첫 백만 대의 휴머노이드 로봇을 구식 방법으로 만들어야 하지만,

그 후 그들이 전체 공급망—광물 채굴 및 정제, 트럭 운전, 공장 운영 등—을 운영하여

더 많은 로봇을 만들고, 이 로봇들이 더 많은 칩 제조 시설, 데이터 센터 등을 건설할 수 있다면,

발전의 속도는 분명히 상당히 달라질 것입니다.

데이터센터 생산이 자동화됨에 따라,

지능의 비용은 결국 전기 비용에 가깝게 수렴해야 합니다.

(사람들은 종종 ChatGPT 쿼리가 얼마나 많은 에너지를 사용하는지 궁금해합니다.

평균 쿼리는 약 0.34와트시(watt-hour)를 사용하는데,

이는 오븐이 1초 남짓, 또는 고효율 전구가 몇 분 동안 사용하는 양과 비슷합니다.

또한 약 0.000085갤런의 물을 사용하는데,

이는 티스푼의 약 15분의 1에 해당합니다.)

기술 발전의 속도는 계속해서 가속화될 것이며,

사람들은 거의 모든 것에 적응할 수 있다는 사실은 변치 않을 것입니다.

특정 직업군 전체가 사라지는 것과 같은 매우 어려운 부분도 있겠지만,

다른 한편으로는 세상이 너무나 빠르고 풍요로워져서

이전에는 상상도 할 수 없었던 새로운 정책 아이디어를 진지하게 고려할 수 있게 될 것입니다.

우리가 새로운 사회 계약을 한 번에 채택하지는 않겠지만,

수십 년 후에 돌이켜보면 점진적인 변화들이 모여

거대한 무언가를 이루었음을 알게 될 것입니다.

역사가 길잡이라면, 우리는 새로운 할 일을 찾아내고

새로운 원하는 것을 발견하며,

새로운 도구를 빠르게 받아들일 것입니다

(산업 혁명 이후의 직업 변화가 좋은 최근의 예입니다).

기대치는 높아지겠지만, 능력도 그만큼 빠르게 향상될 것이고,

우리 모두는 더 나은 것을 갖게 될 것입니다.

우리는 서로를 위해 더욱 경이로운 것들을 만들어낼 것입니다.

인간은 AI에 비해 장기적으로 중요하고 흥미로운 이점을 가지고 있습니다.

우리는 다른 사람들과 그들의 생각과 행동에 신경 쓰도록 타고났으며,

기계에는 별로 신경 쓰지 않습니다.

천 년 전의 자급자족 농부는 오늘날 우리 중 많은 이들이 하는 일을 보며

가짜 직업을 가졌다고 말하고,

우리가 충분한 식량과 상상할 수 없는 사치를 누리며

단지 스스로를 즐겁게 하기 위해 게임을 하고 있다고 생각할 것입니다.

저는 우리가 천 년 후의 직업들을 보며 그것들이 매우 가짜 직업이라고 생각하기를 바랍니다.

그리고 저는 그 직업들이 그것을 수행하는 사람들에게는

믿을 수 없을 만큼 중요하고 만족스럽게 느껴질 것이라 의심치 않습니다.

새로운 경이로움이 달성되는 속도는 엄청날 것입니다.

2035년까지 우리가 무엇을 발견하게 될지 오늘날 상상하기조차 어렵습니다.

어쩌면 어느 해에는 고에너지 물리학 문제를 해결하고

다음 해에는 우주 식민지화를 시작할 수도 있습니다.

또는 어느 해에는 중대한 재료 과학의 돌파구를 마련하고

다음 해에는 진정한 고대역폭 뇌-컴퓨터 인터페이스를 개발할 수도 있습니다.

많은 사람들은 이전과 거의 같은 방식으로 삶을 살아가겠지만,

적어도 일부 사람들은 "접속하기로" 결정할 것입니다.

미래를 내다볼 때, 이 모든 것은 이해하기 어렵게 들립니다.

하지만 아마도 그 시대를 살아가는 것은 인상적이면서도

감당할 만하게 느껴질 것입니다.

상대론적 관점에서 보면, 특이점은 조금씩 일어나고,

융합은 천천히 일어납니다.

우리는 기하급수적인 기술 발전이라는 긴 곡선을 오르고 있습니다.

미래를 내다보면 항상 수직으로 보이고

과거를 돌아보면 평평해 보이지만,

실제로는 하나의 부드러운 곡선입니다.

(2020년을 돌아보며, 2025년까지 거의 AGI에 가까운 것이 나타난다는 말이 어떻게 들렸을지,

그리고 지난 5년이 실제로는 어떠했는지를 생각해 보십시오.)

거대한 긍정적 측면과 함께 우리가 직면해야 할 심각한 도전 과제들이 있습니다.

우리는 기술적으로나 사회적으로 안전 문제를 해결해야 하지만,

그 후에는 경제적 파급력을 고려할 때 초지능에 대한 접근성을

널리 분배하는 것이 매우 중요합니다.

최선의 길은 다음과 같을 수 있습니다.

먼저 정렬(alignment) 문제를 해결합니다.

이는 우리가 AI 시스템이 장기적으로

우리 모두가 진정으로 원하는 것을 향해 학습하고

행동하도록 확실하게 보장할 수 있음을 의미합니다.

(소셜 미디어 피드는 잘못 정렬된 AI의 한 예입니다.

그 알고리즘들은 당신이 계속 스크롤하도록 만드는 데는 놀랍도록 뛰어나고

당신의 단기적 선호를 명확히 이해하지만,

당신의 장기적 선호를 덮어쓰는 뇌의 어떤 부분을 이용함으로써 그렇게 합니다.)

그런 다음 초지능을 저렴하고, 널리 이용 가능하게 하며,

어떤 개인, 기업 또는 국가에도 너무 집중되지 않도록 하는 데 초점을 맞춥니다.

사회는 회복력이 있고, 창의적이며, 빠르게 적응합니다.

우리가 사람들의 집단적 의지와 지혜를 활용할 수 있다면,

비록 많은 실수를 저지르고 일부 일들이 정말 잘못될지라도,

우리는 빠르게 배우고 적응하며 이 기술을 사용하여 이익은 극대화하고

단점은 최소화할 수 있을 것입니다.

사회가 결정해야 할 넓은 범위 내에서

사용자에게 많은 자유를 주는 것이 매우 중요해 보입니다.

세계가 이러한 넓은 범위가 무엇인지,

그리고 우리가 집단적 정렬을 어떻게 정의할지에 대한 대화를 빨리 시작할수록 좋습니다.

우리(OpenAI뿐만 아니라 업계 전체)는 세상을 위한 뇌를 만들고 있습니다.

그것은 극도로 개인화되고 모두가 사용하기 쉬울 것이며,

우리는 좋은 아이디어에 의해서만 제한받을 것입니다.

오랫동안 스타트업 업계의 기술자들은

"아이디어만 가진 사람들(the idea guys)"—아이디어는 있지만

그것을 구현할 팀을 찾는 사람들—을 놀려왔습니다.

이제 그들이 햇빛을 볼 날이 온 것 같습니다.

OpenAI는 이제 많은 것을 하는 조직이지만,

무엇보다도 우리는 초지능 연구 회사입니다.

우리 앞에는 해야 할 일이 많지만,

우리 앞의 길 대부분은 이제 밝혀졌고,

어두운 영역은 빠르게 물러나고 있습니다.

우리는 우리가 하는 일을 할 수 있다는 것에 대단히 감사하게 생각합니다.

계량할 수 없을 정도로 저렴한 지능은 충분히 손에 닿는 거리에 있습니다.

이 말이 미친 소리처럼 들릴 수도 있지만,

만약 우리가 2020년에 지금의 위치에 도달할 것이라고 말했다면,

그것은 아마도 2030년에 대한 우리의 현재 예측보다 더 미친 소리처럼 들렸을 것입니다.

우리가 초지능의 시대를 순조롭게,

기하급수적으로,

그리고 별다른 사건 없이 확장해 나가기를 바랍니다.

내용 요약

나의 생각

샘 알트먼은 인공지능의 특이점은 이미 시작되었다고 말하고 있다.

다만 그 방식이 충격적이지 않고 온화한 방식으로

우리의 삶에 시나브로 스며들고 있다는 것이다.

늘 느끼는 바이지만, 샘 알트먼의 이러한 '온화한(?)' 글에도

그의 지나친 기술 낙관주의를 비판하지 않을 수 없다.

사회가 그의 말처럼 '회복력이 있고 창의적으로 빠르게 적응'한다고 말하지만

과거 역사를 돌이켜 보면,

새로운 기술 발전에 인간이 적응할 때까지

인간이 치뤄야 할 고통과 대가를 샘 알트먼이 과소평가하고 있다는 생각이 든다.

소설 미디어 알고리즘의 정렬문제도 해결하지 못하고 있는데,

초지능 시스템의 정렬은 얼마나 더 어려울까?

이러한 급격한 변화에 사회가 '온화하게' 적응할 수 있을까?

샘 알트먼의 '온화한 특이점'은 그럼에도 불구하고

기술 발전에 대한 새로운 패러다임을 제시한다는 의의가 있다.

특이점이 점진적 적응의 과정으로 보는 시각은 현실적이기 때문이다.

그의 글에서 영감을 얻을 수 있지만,

비판적 거리는 여전히 필요하다는 생각이다.