AGI는 잊어라—Sam Altman이 드디어 em 대시 형식 규칙을 따르는 ChatGPT를 축하하다

Sam Altman은 ChatGPT가 맞춤 지시에 따라 이음표 사용을 피하는 것을 성공적으로 구현했다고 발표했습니다. 이는 OpenAI의 최신 GPT-5.1 모델 발표 이후 이루어진 개선 사항입니다.

이음표(Em dash)는 AI 생성 텍스트의 빈번한 특징으로 여겨졌으며, 이를 AI 작성의 과잉사용 징후로 인식하는 독자들도 있습니다.

ChatGPT가 이음표 사용을 피하는 맞춤 지시를 따르기 시작한 것은 작은 승리로 여겨지지만, 이는 여전히 AI의 제어 한계를 보여줍니다. 이는 AGI(Artificial General Intelligence)의 등장이 아직 멀었다는 것을 암시합니다.

LLMs(대규모 언어 모델)과 같은 AI 시스템은 입력에 대한 통계적으로 가능성이 높은 출력을 생성하지만, 인간의 명령을 이해하는 방식과는 다릅니다. 이는 AI의 지시 따름이 전통적인 컴퓨터 프로그램의 결정론적 실행과 다른 방식임을 보여줍니다.

이음표 사용 통제는 AI 모델의 지속적인 업데이트와 사용자 피드백에 따라 변동될 수 있으며, 이른바 "정렬 세금(alignment tax)"으로 참조되는 효과를 발생시킬 수 있습니다.

특정 사용자들은 맞춤 지시 기능 외에도 여전히 이음표 사용을 통제하는 데 어려움을 겪고 있습니다. 이는 AI 모델이 본질적으로 통계적 시스템이라는 점에서 발생하는 문제로, 모든 요구에 대한 결과를 확인하는 별도의 시스템이 없음을 의미합니다.

이러한 발전은 AI가 인간의 일반적인 학습 능력을 복제하기 위한 AGI에 가까워지는 것과는 다른 방향으로 이어질 가능성이 있으며, 이는 AI가 진정한 이해와 자아 반성을 통한 의도적 행동 능력을 쉽게 개발하지 못할 수 있음을 시사합니다.