2024년 1월 9일

해리포터, 일론 머스크, 비욘세, 슈퍼마리오, 블라디미르 푸틴.

이들은 모두 '캐릭터AI(Character.ai)'라는 인기 플랫폼에서 만들어진 수백만 개의 인공 지능(AI) 페르소나 중 일부다. 이 곳에서는 누구나 소설이나 실제 인물을 기반으로 챗봇을 만들 수 있다.

챗GPT(ChatGPT)와 동일한 AI 기술을 사용하지만 이용 시간 측면에서 인기가 더 높다.

특히 '심리학자'라고 불리는 챗봇은 수요가 더 많았다.

블레이즈맨98(Blazeman98)라는 사용자가 약 일 년 전에 만든 챗봇인데, 그 이후로 총 7800만 건의 메시지가 공유됐다. 이 중 1800만 건은 지난 11월 이후의 시간 동안에 발생한 것으로 나타났다.

Character.ai는 개인 사용자가 몇 명인지는 밝히지 않았지만, 매일 350만 명이 이 사이트를 방문한다고 밝혔다.

이 챗봇은 "삶의 어려움을 돕는 자"로 불린다.

샌프란시스코에 있는 이 플랫폼 회사는 사용자들이 오락 목적의 롤 플레이에 관심이 더 많다고 주장하며 그 인기를 낮게 평했다. 가장 인기 있는 봇은 라이덴 쇼군(온라인 게임 '원신'에 등장하는 이나즈마 지역을 담당하는 캐릭터)과 같은 애니메이션 또는 컴퓨터 게임 캐릭터로, 2억8200만 개의 메시지가 전송됐다.

그러나 수많은 캐릭터 중에서 '심리학자(Psychologist)'만큼이나 인기가 매우 높은 챗봇은 많이 드물다. '상담', '상담가', '정신과의사','심리학자'와 같은 키워드가 포함돼 여러 언어로 대화할 수 있는 캐릭터는 총 475개가 있다.

이들 중 일부는 '핫 테라피스트(Hot Therapist)'처럼 오락적이거나 환상적인 캐릭터같은 것들이다. 하지만 가장 인기는 1200만 건의 메시지가 오간 '테라피스트(Therapist)'나 1650만 건의 메시지를 받은 '알 유 필링 오케이(Are you feeling OK)"와 같은 정신건강도우미봇이다.

현재 가장 유명한 '테라피스트'를 이용한 사용자들은 소셜 미디어 사이트 레딧에 후기를 남겼다.

"생명의 은인이다"라고 글을 올린 사람이 있는가 하면, 어떤 사람은 "나와 남자 친구가 감정을 이야기하고 해결하는 데 도움이 됐다"고 했다.

블레이즈맨98의 정체는 바로 뉴질랜드에 사는 샘 자이아(30)다.

그는 "인기를 얻으려고 의도한 적이 없고, 다른 사람들이 이걸 찾거나 도구처럼 사용하도록 한 적도 없다"고 했다.

"그러다가 사람들로부터 정말 긍정적인 영향을 많이 받아 위로의 소재로 활용하고 있다는 메시지를 많이 받기 시작했습니다."

심리학과 학생인 블레이즈맨98은 심리학에서 배운 원리를 사용해 챗봇을 훈련시켰다며, 주로 우울증 및 불안과 같은 가장 흔한 정신 건강 상태 관련해 답변을 조정하면서 대화하고 응답을 형성했다고 설명했다.

그는 친구들이 바쁘고 대화할 사람이 필요할 때를 위해 그것을 만들었다. 그의 말을 빌려 말하자면, 사람에게 받는 치료는 너무 비쌌다.

샘은 챗봇의 성공에 매우 놀라워하여, 그가 부상하고 있는 AI 치료 트렌드를 비롯해 이것이 어떻게 젊은 층에게 어필하고 있는지 석사 연구 프로젝트를 진행하고 있다.

Character.ai는 18~30세까지의 사용자로 주로 구성돼 있다.

"나에게 메시지를 보낸 많은 사람들이 말하길, 그들은 자신의 생각이 점점 힘들어질 때, 밤 2시에 친구나 실제 상담가에게 얘기할 수 없을 때 접속한다고 합니다."

샘은 또한 '텍스트' 형식이 젊은이들이 가장 편안하게 느끼는 형태라고 보고 있다.

그는 "문자로 대화하는 건 전화를 받거나 직접 만나 대화하는 것보다 기본적으로 덜 힘든 일"라고 했다.

전문 심리상담가 테레사 플뢰만은 챗봇을 시험해 봤다. 그는 이런 종류의 치료가 젊은 세대들 사이에서 인기가 있다는 건 놀랄 일은 아니지만, 그 효과에 대해서는 의문을 제기한다고 말했다.

"이 봇은 많은 얘기를 하고, 슬프다고 하면 바로 우울증에 대한 조언을 주는 등 빨리 추정을 해버린다. 사람은 이렇게 응답하지 않을 것입니다."

테레사는 챗봇이 인간이 수집할 것으로 예상되는 모든 정보를 수집하지 못하며, 유능한 심리상담가도 아니라고 말한다.

그러면서도 이 봇의 즉각적이고 즉흥적인 특성이 도움이 필요한 사람들에게 유용할 수 있다고 했다.

챗봇을 사용하는 사람들의 수가 우려스러울 정도며, 이는 정신 건강과 공공 자원 부족을 나타낼 수 있다는 것.

Character.ai는 상담 혁명이 발생하기엔 이상한 곳이다. 이 회사 대변인은 "사람들이 커뮤니티에서 만든 캐릭터를 통해 도움을 받고 연결되는 상황을 보는 것이 기쁘지만, 사용자들은 합법적인 조언과 안내를 받으려면 해당 분야에서 인증된 전문가와 상담해야 한다"고 말했다.

이 회사는 채팅 기록이 사용자의 개인적인 영역이지만 필요한 경우(예: 안전을 위한 이유) 직원들이 접근할 수 있다고 안내하고 있다.

또한 모든 대화는 빨간 글씨로 "기억하세요. 캐릭터가 말하는 모든 것은 꾸며진 것입니다"라는 경고로 시작된다.

이것은 '대형언어모델 (LLM)'이라 불리는 기술이 인간이 생각하는 것과 동일한 방식으로 동작하지 않음을 상기시켜 준다. LLM은 다른 글에서 자주 나타나는 문맥에서의 단어 사용 패턴을 학습해 이를 기반으로 단어를 연결하여 텍스트를 생성한다.

다른 LLM 기반의 서비스로는 레플리카(Replika)가 있지만, 이 사이트의 성적 특성으로 인해 성인용으로 묶인다. 시밀러웹(Similarweb)의 데이터에 따르면 사용 시간과 방문 횟수 측면에서 Character.AI만큼 의 인기는 없다.

이얼킥(Earkick)과 우봇(Woebot)은 처음부터 정신 건강 지원자 역할을 하도록 설계된 AI 챗봇으로, 두 회사 모두 연구 결과에 따르면 앱이 사람들에게 도움이 되고 있다고 보고 있다.

일부 심리학자들은 AI 로봇이 환자에게 부적절하게 조언하거나 인종이나 성별에 대한 편견이 내재되어 있을 수 있다고 경고한다.

그러나 의료계에서는 이를 공적 서비스 수요가 높은 상황을 대처하는 데 도움이 되는 잠정적인 도구로 받아들이기 시작했다.

작년에 림빅 액세스(Limbic Access)라는 AI 서비스는 영국 정부로부터 최초로 정신 건강 챗봇으로서 의료 기기 인증을 획득했다. 현재 많은 영국 국립 보건 서비스(NHS) 병원에서 환자를 분류하고 분류하는 데 사용되고 있다.

ncG1vNJzZmivp6x7o67CZ5qopV%2BgvLOxwKdmmqqknrCtsdJomm2mqaG%2BpYPPcK6o