AGI에 다음 토큰 예측이 충분한 이유 - Ilya Sutskever (OpenAI 수석 과학자)

https://www.youtube.com/watch?v=YEUclZdj_Sc

* 다음 토큰 예측이 인간의 성능을 능가할 수 없다는 주장에 도전함

* 단순히 모방만 배우면 인간을 따라잡을 수는 없다는 것이 표면상으로는 사실

* 그러나, 네트워크가 충분히 똑똑하면 가령, 창의성과 지혜가 있는 인물이 어떻게 행동할 지 예측할 수 있다는 반론도 있음

* 예측을 잘하려면 그 토큰이 만들어진 배경을 이해해야 함

* 사람들은 생각, 감정, 아이디어, 행동 방식 등이 있으며, 이들을 예측하는 것으로부터는 인공지능도 그들의 특징을 유추할 수 있음

* 그래서, 가상의 사람이나 특성이 높은 인물의 행동을 예측할 수 있을 것이라 주장함.

다음 토큰 예측 (경사하강법)에 의해 AGI에 도달할 수 없다고 생각하는데 AI가 뛰어난 인물(천재)을 외삽(extrapolate, 추청)함으로써 이를 뛰어넘을 수 있다는 서츠케버의 주장.

<p>AGI에 다음 토큰 예측이 충분한 이유 - Ilya Sutskever (OpenAI 수석 과학자)</p><div class="youtube-video-container"><iframe allowfullscreen="true" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture" frameborder="0" class="youtube-video" src="https://www.youtube.com/embed/YEUclZdj_Sc"></iframe></div><ul><li><p>다음 토큰 예측이 인간의 성능을 능가할 수 없다는 주장에 도전함</p></li><li><p>단순히 모방만 배우면 인간을 따라잡을 수는 없다는 것이 표면상으로는 사실</p></li><li><p>그러나, 네트워크가 충분히 똑똑하면 가령, 창의성과 지혜가 있는 인물이 어떻게 행동할 지 예측할 수 있다는 반론도 있음</p></li><li><p>예측을 잘하려면 그 토큰이 만들어진 배경을 이해해야 함</p></li><li><p>사람들은 생각, 감정, 아이디어, 행동 방식 등이 있으며, 이들을 예측하는 것으로부터는 인공지능도 그들의 특징을 유추할 수 있음</p></li><li><p>그래서, 가상의 사람이나 특성이 높은 인물의 행동을 예측할 수 있을 것이라 주장함.</p></li></ul><p>다음 토큰 예측 (경사하강법)에 의해 AGI에 도달할 수 없다고 생각하는데 AI가 뛰어난 인물(천재)을 외삽(extrapolate, 추청)함으로써 이를 뛰어넘을 수 있다는 서츠케버의 주장.</p>