심리상담 챗봇 산업은 어떤 논의들이 있을까

바클라바2024-02-02 16:57

지피터스 부트캠프 중 AI 임팩트 리포트에 참여 중 입니다.

저는 주제를 심리적인 문제에 대한 상담 챗봇으로 정했습니다.

글로 다듬는 것은 마지막 주 보고서를 쓸 때 다듬기로 했기 때문에 이 글은 참고 자료 모음이라고 생각하시면 됩니다.

과제를 위해 조사하기 시작했지만 생각보다 많은 연구들이 있었네요. 개인적으로 우울증으로 힘들어하는 분들을 너무 많이 봐서 무엇이든 도움이 될 수 있는 툴이 하나라도 더 있다면 좋지 않을까 생각하고 있습니다.

1. 심리상담 분야의 생성형 AI도입에 대한 기술 동향

😋 Positive
- StabilityAI의 대표인 에마드 모스타크는 2023년 5월 미국 실리콘밸리에서 열린 “Cerebral Valley Summit” 콘퍼런스에서 “GPT-4는 최고의 상담 심리 치료사다”[2]고 말해 주목 받았다.
- 미국 샌디에이고 캘리포니아의 존 에어즈 퀄컴연구소 교수 연구팀은 “대화형 챗봇 ‘ChatGPT’ 가 내놓는 의료 상담의 만족도가 의사를 능가한다”라는 분석을 의학학술지 “미국의사협회지 (JAMA) 내과”에 발표했다[3].
- “ChatGPT로 이미 심리상담이 가능하다”라고 주장하는 서적들도 출간되고 있다. 한국만 해도 “ChatGPT 인생의 질문에 답하다”, “ChatGPT 연애학개론” 등의 서적이 ChatGPT를 저자로 하여 출간되었으며, 이들 서적은 “ChatGPT 인간심리까지 파고들다” 등의 표어를 내세우며 심리분석이나 상담을 ChatGPT로 수행할 수 있는 것처럼 주장하고 있다.
😠 Negative
- 영국 심리학회 회원인 폴 마스덴 박사는 정신건강 개선을 목표로 하는 앱에 대해서 “앱은 대면 치료의 보조 수단으로 만 사용해야 하며, 대면 치료를 대체할 수 없다는 것이 중론이다”[5]라고 말했다.
- 현재의 AI는 인간 심리를 이해하고 답변을 내는 것이 아니다.
  - 세계 최초의 챗봇, ELIZA의 사례 --> [[일라이자 효과]]
  - "중국어 방"실험 #튜링테스트 : 의미를 알고 대답하는 것이 아니다.
  - 인간 심리에 대한 정확한 데이터 수집과 연구의 어려움
    - 쉬운 분야:
      1. 바둑과 같이 데이터 수집이 매우 쉬운 분야거나(바둑의 ‘기보’는 그 자체로 데이터셋이라 고 할 수 있다)
      2. 그 결과물이 정확하지 않아도 빅데이터를 통해 경향성을 제대로 잡아낼 수 있거나,
      3. 오랜 시간과 비용을 들여 데이터를 가공하고 이를 통해 AI 모델링을 진행한 분야
    - 상담은 셋 모두에 해당되지 않음
    - 심리상담 분야는 디지털 전환이 매우 미비한 분야라 정확한 데이터 수집/분석이 어렵
      - 분야 자체가 영세
      - 데이터 수집/분석에 대한 체계가 제대로 정립되어 있지 않음
  - 의료 분야 규제를 뚫기 어려움
    - 일정 이상 정확도를 확보하지 않으면 장벽이 크다.
    - 정확도가 확보되지 않았을 때의 예:
      AI 챗봇과 대화 하다 목숨 끊은 男..."천국서 살 수 있다” - ZDNet Korea
      원문: Belgian man dies by suicide following exchanges with chatbot
      내담자를 잘못된 방향으로 이끌 수도
  - 의료 윤리: 인간을 동의 없이 생성 AI의 실험상대로 삼는 사기업들
    - ChatGPT used by mental health tech app in AI experiment with users: 상담 앱에서 동의 없이 GPT가 생성한 내용으로 답변하고 만족도를 조사했던 경우
    - https://www.ciokorea.com/news/21512: 페이스북에서 인위적인 뉴스피드 조작했던 경우