AGI를 향한 흥미진진하고 위험한 여정 | 일리야 서츠케버 | 테드

유튜브에서 한글 자막을 켜고 보세요.

최근 테드에서 공개한 일리야 서츠케버의 발표 영상입니다. 10분정도의 동영상인데 한번 보시고 agi 의 영향력과 위험성에 대해 생각해 보았으면 합니다.

요약

• 인공지능의 진보를 경험해왔으며, 어느 시점에서는 컴퓨터가 사람보다 똑똑해질 것이라는 상상이 어렵지 않을 정도로 연구 속도가 빠르다.

• 이러한 인공지능의 영향이 크다면 기술이 영향력이 크다는데 문제는 없을까?

• 인공지능은 디지털 브레인이 있는 대형 컴퓨터일 뿐이다. 이 아이디어는 모든 흥미로운 AI의 기초이다.

• 인공 지능 연구자들은 디지털 브레인이 어떻게 작동하고 구축되어야 하는지 연구해왔다.

• 인공지능은 인간의 지능이 생물학적 뇌에 있는 것처럼, 인공 지능의 지능은 인공 뇌에 있다.

• 인공 지능은 기술 진보를 통해 우리 자신에 대한 이해와 내부 의식에 대한 통찰력을 얻을 수 있는 기회를 제공한다.

• 인공 지능의 발전에 따라 디지털 브레인은 우리의 생물학적 뇌보다 똑똑해질 것이다. 이를 우리는 "AGI"라고 부른다.

• AGI가 구축되면 모든 분야에서 엄청난 영향을 미칠 것이다

• 예를 들어, 의료 분야에서 지능적인 컴퓨터가 건강 상담사로 활용된다면 대기 시간이 줄고 저렴하게 의료 지원이 가능해질 것이다.

• AGI의 긍정적인 측면뿐만 아니라 부정적인 측면도 존재하며, 기술이 자기 자체를 발전시키는 능력을 가질 수 있다.

• OpenAI는 AGI의 질문과 우려 사항을 대응하기 위해 설립되었다.

• 미래에 AI와 AGI에 대한 인식이 바뀌고, 협력적인 행동을 취하게 될 것이다.

• OpenAI는 사회적인 이익을 우선시하여 다른 회사와 협력, 경쟁 대신 동료로서 함께 일할 것이다.

• AI와 AGI의 성능이 개선됨에 따라 사회 전반의 행동 양식이 변화할 것이며, 이로 인해 기술의 도전을 극복할 수 있을 것이다.

일리아 서츠케버란?

• 일리야 서츠케버는 오픈AI의 수석 과학자이나 공동창립자. OpenAI 기술 분야의 핵심.

• 서츠케버는 인공 슈퍼지능이 인간을 능가하지만 독립적이고 예측 불가능한 인공지능(rogue)이 되지 않도록 방지하는 방법에 대하여 집중하고 있음.

• 서츠케버는 소련 러시아에서 태어났으나 5살 때부터 예루살렘에서 자랐고, 토론토 대학에서 'AI의 대부'로 불리는 제프리 힌튼과 함께 공부함.

• 힌튼과 함께 2012년 알렉스넷(AlexNet)을 개발하여 이미지 인식에 있어서 신경망의 효과를 입증함.

• 구글은 힌튼의 회사 DNNresearch를 인수하고 서츠케버를 고용함.

• 구글에서 알파고 개발에 공동 저자 중 한명으로 참여함. 텐서플로우 개발에도 참여함. 가장 큰 업적은 sequence to sequence 학습 알고리즘임.

• 일론 머스크의 권유로 서츠케버는 2015년 구글을 떠나 오픈AI의 공동 창립자 겸 수석 과학자가 됨.

• 오픈AI에서 서츠케버는 대규모 언어 모델인 GPT-2, GPT-3, 그리고 텍스트-이미지 모델인 DALL-E 등을 개발하는 데 핵심 역할을 함.

• 최근에는 AI의 잠재적 위험성, 특히 인간을 능가하는 인공 슈퍼지능이 도래할 경우를 생각하고 있으며, 이는 10년 이내에 발생할 수 있다고 믿음.

• 서츠케버는 AI가 인간의 의도나 윤리 원칙에 맞춰 행동하는 '정렬(alignment)' 문제에 주력하고 있음.