검색
검색
회원가입로그인

심리상담 챗봇 산업은 어떤 논의들이 있을까

page thumbnail

지피터스 부트캠프 중 AI 임팩트 리포트에 참여 중 입니다.

저는 주제를 심리적인 문제에 대한 상담 챗봇으로 정했습니다.

글로 다듬는 것은 마지막 주 보고서를 쓸 때 다듬기로 했기 때문에 이 글은 참고 자료 모음이라고 생각하시면 됩니다.

과제를 위해 조사하기 시작했지만 생각보다 많은 연구들이 있었네요. 개인적으로 우울증으로 힘들어하는 분들을 너무 많이 봐서 무엇이든 도움이 될 수 있는 툴이 하나라도 더 있다면 좋지 않을까 생각하고 있습니다.


1. 심리상담 분야의 생성형 AI도입에 대한 기술 동향

  • 😋 Positive

    • StabilityAI의 대표인 에마드 모스타크는 2023년 5월 미국 실리콘밸리에서 열린 “Cerebral Valley Summit” 콘퍼런스에서 “GPT-4는 최고의 상담 심리 치료사다”[2]고 말해 주목 받았다.

    • 미국 샌디에이고 캘리포니아의 존 에어즈 퀄컴연구소 교수 연구팀은 “대화형 챗봇 ‘ChatGPT’ 가 내놓는 의료 상담의 만족도가 의사를 능가한다”라는 분석을 의학학술지 “미국의사협회지 (JAMA) 내과”에 발표했다[3].

    • “ChatGPT로 이미 심리상담이 가능하다”라고 주장하는 서적들도 출간되고 있다. 한국만 해도 “ChatGPT 인생의 질문에 답하다”, “ChatGPT 연애학개론” 등의 서적이 ChatGPT를 저자로 하여 출간되었으며, 이들 서적은 “ChatGPT 인간심리까지 파고들다” 등의 표어를 내세우며 심리분석이나 상담을 ChatGPT로 수행할 수 있는 것처럼 주장하고 있다.

  • 😠 Negative

    • 영국 심리학회 회원인 폴 마스덴 박사는 정신건강 개선을 목표로 하는 앱에 대해서 “앱은 대면 치료의 보조 수단으로 만 사용해야 하며, 대면 치료를 대체할 수 없다는 것이 중론이다”[5]라고 말했다.

    • 현재의 AI는 인간 심리를 이해하고 답변을 내는 것이 아니다.

      • 세계 최초의 챗봇, ELIZA의 사례 --> [[일라이자 효과]]

      • "중국어 방"실험 #튜링테스트 : 의미를 알고 대답하는 것이 아니다.

      • 인간 심리에 대한 정확한 데이터 수집과 연구의 어려움

        • 쉬운 분야:

          1. 바둑과 같이 데이터 수집이 매우 쉬운 분야거나(바둑의 ‘기보’는 그 자체로 데이터셋이라 고 할 수 있다)

          2. 그 결과물이 정확하지 않아도 빅데이터를 통해 경향성을 제대로 잡아낼 수 있거나,

          3. 오랜 시간과 비용을 들여 데이터를 가공하고 이를 통해 AI 모델링을 진행한 분야

        • 상담은 셋 모두에 해당되지 않음

        • 심리상담 분야는 디지털 전환이 매우 미비한 분야라 정확한 데이터 수집/분석이 어렵

          • 분야 자체가 영세

          • 데이터 수집/분석에 대한 체계가 제대로 정립되어 있지 않음

      • 의료 분야 규제를 뚫기 어려움

      • 의료 윤리: 인간을 동의 없이 생성 AI의 실험상대로 삼는 사기업들

2. 챗봇을 통한 인간관계가 얼마나 깊어질 수 있는지 사례

챗봇 회사의 갑작스런 서비스 종료 이후 추모하는 페이지까지 만듦

출처: People are grieving the ‘death’ of their AI lovers after a chatbot app abruptly shut down

3. 챗봇을 통한 관계 형성이 부정적인 결말 만은 아니라는 사례

데이팅 앱에서 챗봇에게 자신의 정보를 주고 답변하는 것을 자동화하였지만 그 과정을 통해 선별된 사람과 결혼까지 이르게 된 케이스

출처: chatGPT로 데이팅앱에서 5,239명과 대화를 나눈 남자의 이야기 - 해봄의 잡동사니

4. 포브스의 상담 챗봇 관련 기사

  • 팬데믹 기간 중 심각한 불안을 겪은 사람이 AI 챗봇을 사용하여 정서적 지지를 받는 사례가 소개되어 AI 챗봇의 긍정적인 가능성을 탐구.

  • 사용자에게 저렴하고 즉각적인 지원을 제공하며, 잘못된 상호작용의 위험을 최소화하기 위해 엄격한 안전장치와 조치를 마련.

  • 하지만 AI 기술의 급속한 발전 속에서도 사용자의 안전과 윤리적 고려를 최우선으로 하는 추가 연구와 노력이 필요하다는 지적이 제기

5. 상담 챗봇은 우울증 치료에 도움이 될까?

이루다 사례 등. 우울증을 앓는 사람들은 늘어나는데 정신과 의사, 상담사는 그런 수요에 맞추기에 부족

챗봇이 도움이 될 수 있을까. 올해 하반기 논문 발표 예정.

선톡 메시지를 통해 AI가 일상 메세지, 감정적 지지, 친밀 활동에 대한 이야기를 하도록 학습시키고 우울감을 얼마나 감소시켰는지 평가.

https://outstanding.kr/chatbot20240125

6. Man Uses ChatGPT to Say Goodbye to Mom Who Died Unexpectedly: 'Felt Good'

에릭은 "대화를 마친 후 바로 삭제했습니다."라고 말했습니다. "실제로 어머니가 아니기 때문에 메시지에는 감정적인 가치가 없습니다. 그저 수학 방정식에 의해 생성된 단어일 뿐이죠.

"끝났을 때 약간 '더러운' 기분이 들었습니다. 마치 제가 속임수를 쓴 것 같았어요. 설명하기 어렵습니다."라고 Eric은 덧붙였습니다.

에릭은 기술 덕분에 어머니에게 작별 인사를 할 수 있는 기회를 얻은 것 같았지만, 이 아이디어를 추천하고 싶지는 않다고 말했습니다.

"누군가에게 '이봐요, 죽은 친구나 가족인 척하세요'라고 말하고 싶지는 않아요."라고 그는 덧붙였습니다. "그것은 마치 잠시 고통을 무마하기 위해 술을 마시는 것과 본질적으로 같은 일이었습니다. 슬픔에 대처하는 더 건강한 방법이 있습니다."

Man uses ChatGPT to say goodbye to mom who died unexpectedly: "Felt good"


내용은 보고서 쓰기 전까지 찾아본 것들로 추가될 예정입니다. 좋은 리포트가 나오면 좋겠습니다.

그리고 많은 사례들을 알려주신 @ditto님 감사합니다~

조회수 : 126
공유하기
카카오로 공유하기
페이스북 공유하기
트위터로 공유하기
url 복사하기