인공지능의 기초 모델 (Foundation Model)

기초모델은 대형 인공지능 모델로 수많은 양의 비정형 데이터로 학습한 모델을 이야기 한다. 학습할 때 보통 자기 주도 학습 (Self-supervised learning)을 활용한다. 이 모델은 다양한 영역에 적용할 수 있는 범용적인 모델로 사용될 수 있다. 2018년에 알려진 이 개념 (대량의 데이터로 학습한 모델이 다양한 영역에 적용될 수 있다는 개념) 은 많은 변화를 만들어 냈다. 초기의 예로는 Large pre-trained language model인 BERT와 GPT-3가 있다. 그리고 이는 멀티모달 기초모델로 이어졌는데 DALL-E, Flamingo, Florence 그리고 NOOR와 같은 모델들이 나왔다. 이 용어는 HAI (Stanford Institute for Human-Centered Artificial Intelligence's Center)에서 만든 용어이다.

출처 : 영문 위키피디아 Foundation models - Wikipedia