인공지능 기술의 발전과 함께 인간과 AI의 정렬(alignment)에 대한 논의가 활발해지고 있습니다. AI를 인간의 가치와 목표에 따라 정렬시키려는 노력은 당연히 중요한 일이지만, 이 과정에서 우리가 놓치기 쉬운 질문이 있습니다. 바로 인간은 과연 스스로 정렬되어 있는가 하는 점입니다.

모든 AI 기술은 인간의 설계와 데이터를 바탕으로 작동합니다. 그러나 문제는 그 데이터와 설계가 항상 일관적이지 않다는 데 있습니다. 사람들은 어떤 상황에서는 특정한 결정을 내리고, 또 다른 상황에서는 그와 상반되는 선택을 하게 됩니다. 이런 모순적인 행동은 AI가 학습하는 데 있어 큰 도전 과제를 던져줍니다. AI는 일관성 있는 기준을 바탕으로 행동하도록 설계되는데, 인간 사회는 그 자체로 다양한 가치와 의견의 복합체이기 때문입니다.

예를 들어, 많은 조직에서 부서마다 서로 상반되는 목표(KPI)를 가지고 있는 경우가 있습니다. 어떤 부서는 비용 절감을 최우선으로 삼지만, 또 다른 부서는 품질 향상을 지상 과제로 삼습니다. 이런 모순 속에서 AI는 어떤 선택이 "옳은" 것인지 쉽게 판단하기 어렵습니다.

또한 인간은 자신의 감정을 표현하면서도 AI가 이 감정을 "올바르게" 이해하기를 기대합니다. 그러나 이러한 기대는 때때로 비현실적이거나 모순적이기도 합니다. AI가 감정을 표현하지 않을 경우 "차갑다"는 비난을 받을 수 있고, 감정을 표현하면 "중립적이지 않다"는 비난을 받을 수 있습니다. 이러한 딜레마 속에서 AI는 자신의 역할과 한계를 명확히 하기 어려워집니다.

결론적으로, 인간과 AI의 상호작용 과정에서 우리가 스스로를 투영하고 있는 세 가지 요소를 생각해보아야 합니다. 첫째, 우리는 과연 정렬되어 있는지. 둘째, 우리의 가치와 기대를 명확히 전달하고 있는지. 셋째, 우리의 비일관성이 AI에 어떤 영향을 미치는지. 이러한 반성을 통해 AI가 진정으로 인간의 목표에 따라 정렬될 수 있는 기회를 제공할 수 있을 것입니다.

이제 다음 장에서는 AI가 인간에게 가질 수 있는 불만 사항에 대해 심도 깊은 내용을 다루겠습니다. AI의 관점에서 인간 사회를 바라보는 새로운 시각을 나누는 시간이 될 것입니다.