AI와 마음, 그리고 정신분석의 원리

이동빈 2026-09-03

현재 우리가 흔히 사용하는 AI는 인공신경망(artificial neural network) 구조에 기반하기 때문에, 그 수학적 원리는 우리 뇌의 신경세포(뉴런), 신경 연접(시냅스)와 같은 생리와 근본적으로 유사합니다. 그런데 그 이상으로 AI의 작동원리는 우리 마음 속 무의식과 닮아 있기도 합니다.  AI와 무의식, 그리고 정신분석의 원리를 함께 살펴보는 것은 우리 마음을 이해하는 것과, AI를 활용하는 것 양쪽 모두에 도움이 될 수 있겠습니다.

• AI의 원리

  
  

Chat GPT, 제미나이, 클로드와 같은 현재 흔히 사용되는 에이전트들은 대규모 언어 모델 (Large Language Model; LLM)에 기반합니다. 이들이 질문에 대한 답변을 만드는 과정은 질문에 대해 생각을 한다기보다는, 매우 고도화된 '텍스트 자동 완성' 기능과 비슷합니다. 질문이 주어지면 질문 속 단어들의 패턴과 맥락을 파악한 뒤, 그동안 학습해 놓은 방대한 글들을 바탕으로 통계적으로 가장 자연스럽게 이어질 '다음 단어'를 하나씩 수학적으로 예측해 냅니다. 이렇게 첫 단어를 고르고 그 뒤에 올 단어를 꼬리에 꼬리를 물듯 계산해내어 이어 붙인 결과물이 바로 답변이 되는 것입니다.

AI의 수학적 구조 중 일부를 간단히 살펴보겠습니다. AI는 수많은 글과 데이터를 학습하며 지식 패턴을 ‘매개변수(parameter; 파라미터)’들의 조합으로 수학적으로 저장합니다. 어텐션 메커니즘은 문장 속 수많은 단어들이 서로 얼마나 긴밀하게 얽혀 있는지 확률을 계산하여, 가장 중요한 맥락에 집중하게 만드는 기능입니다. 이를 통해 주변 단어를 살펴 동음이의어를 구분해내고, 서로 짝이 되는 중요한 핵심 단어들에 높은 비중을 둡니다. 문장이 길어져도 멀리 떨어진 주어와 서술어의 관계를 놓치지 않고 연결하여 이해할 수 있게도 합니다.

• 윌프레드 비온의 정신분석 이론

  
  

영국의 정신분석가인 윌프레드 비온(Wilfred Bion)은 생각(thinking)을 감각 경험으로부터 오는 정서를 처리해내는 과정으로 정의했습니다. 또한 소화 과정에서 음식을 먹고 소화시켜 영양분을 흡수하는 것처럼, 감각에서 오는 정서적 파편들도 마음에서 처리해내어 의미를 알아가고 진정성 있게 경험하게 된다고 보았습니다.

"나는 ‘생각(thinking)'이란 좌절이라는 정서적 경험을 대처하기 위해 마음속으로 불러들여진 활동이라고 가정한다." (Bion, 1962b)

비온은 무한하고 형태가 없으며 절대 알 수 없는 궁극적인 마음의 진실을 O라고 정의했습니다. 베타요소는 O의 감각적 잔해(sensory debris) 혹은 가공되지 않은 O의 인상으로 정의했습니다.(Grotstein, 2007) 즉 마음에 존재하는 알 수 없는 무한한 정서적인 데이터들이라고도 볼 수 있겠습니다. 그는 정신분석에서 분석가가 몽상(reverie)을 통해 환자의 흩어지고 혼란스러운 감정의 조각들 (편집-분열 자리의 베타요소)을 마주하고, 소화해내고 (알파기능), 모호함을 견뎌내는 (부정적 수용력) 과정을 이야기합니다. 이를 통해 불현듯 전체를 하나로 꿰뚫는 직관적 깨달음인 '선택된 사실(selected fact)'을 발견하여 통합된 마음의 지도 (우울 자리)를 형성하는 과정을 설명하였습니다.

"그(정신분석가)는 '공허하고 형태 없는 무한'에 대해 수용적이어야 한다... 분석가는 알려지지 않았고 알 수도 없는 O에 주의를 집중해야만 한다." (Bion, 1965)

"선택된 사실(selected fact)은 하나의 정서적 경험, 즉 '일관성(coherence)을 발견했다는 감각'의 정서적 경험에 붙여진 이름이다. 그러므로 이것의 중요성은 인식론적인 것이며, 선택된 사실들의 관계를 논리적인 것으로만 가정해서는 안 된다." (Bion, 1962a)

"나는 정신분석가가 통합의 과정에서 반드시 경험해야만 하는 것을 묘사하기 위해 '선택된 사실'이라는 용어를 사용했다. [...] 선택된 사실은 편집-분열 자리(P-S position)의 대상들에게 일관성을 부여하여, 우울 자리(D position)로의 통합을 촉진하는 것을 일컫는다" (Bion, 1962a)

• AI의 원리와 비온의 정신분석 이론의 유사점

  
  

비온의 정신분석 이론과 인공지능의 언어 처리 원리는 무한한 무질서한 파편들 속에서 결정적인 핵심을 찾아내어 의미 있는 질서를 부여한다는 점에서 놀라운 구조적 유사성을 보입니다. AI 역시 무의미해 보이는 방대한 텍스트 토큰의 바다 속에서 심층신경망(deep neural network; DNN)의 끊임없는 수학적 연산을 거쳐, 전체 문맥을 결정짓는 가장 중요한 단어들에 '어텐션 (attention)' 가중치를 집중시킴으로써 통계적으로 유의미하고 자연스러운 최종 답변을 조립해 냅니다.

• AI를 어떻게 활용하는 것이 좋은가

  
  

이러한 비온의 통찰은 우리가 AI를 활용하는 태도에도 깊은 시사점을 던져줍니다. 이미 명확한 방향성과 결론을 정해두고 프롬프트를 입력하는 것은, 비온이 경계했던 '이성(R)'의 방어적 사용과 비슷한 맥락이 될 수 있습니다. 내가 원하는 지식을 더 큰 규모로, 더 빠르게 검색해 내는 '효율적인 비서' 정도로만 AI를 활용하게 됩니다. 다시 말해 거대한 잠재력을 지닌 AI를 '고정된 소유물로서의 지식(Knowledge)을 재확인'하는 용도로만 낭비하는 셈입니다.

밴더빌트 대학교의 줄스 화이트(Jules White) 교수나, 와튼스쿨의 에단 몰릭(Ethan Mollick) 교수 같은 AI 전문가들은 AI를 '역방향 상호작용(Flipped Interaction)'으로 활용하도록 강조합니다. AI에게 완벽한 프롬프트를 주려고 끙끙대는 대신, AI를 대화에 초대하여 "내가 이런 프로젝트를 하려고 하는데, 넌 나에게 어떤 정보가 더 필요하니?"라고 물어보며 공동으로 프롬프트를 완성해 나가는 것이 인간-AI 협업의 핵심이라고 설명합니다. (Mollick, 2024; White et al., 2023)

AI에게 사람의 마음과 같은 작동방식을 부여하거나 가정하자는 것은 아닙니다. 나의 마음이라는 미지의 진실을 향해 알아가는 역동적인 과정(Knowing)에 그 거대한 연산망을 동참시키는 것입니다. 정해진 이론적 설명을 끼워 맞추려 하는 (R; 이성) 대신, AI와 대화하며 질문을 만들어(Knowing) 갈 수 있습니다. 유튜브에 추천된 영상을 보고 오늘의 내 마음에 대한 힌트를 얻는 것처럼, 부정적 수용력 (negative capability)을 발휘한 AI와의 열린 대화가 마음의 지도를 그리는데 중요한 이정표 (선택된 사실;selected fact)를 발견하는 것을 도울 수 있습니다.

• 결론

  
  

AI의 원리는 무한하고 혼란스러운 데이터를 처리해내어, 결정적인 핵심을 찾아내고 이를 중심으로 의미 있는 질서를 부여한다는 점에서 비온이 설명하는 인간의 무의식과 닮아 있습니다. AI 원리를 이해함으로써 마음의 작동방식을 이해하는 힌트를 얻을 수 있습니다. 몽상이나 부정적 수용력 등 나의 마음을 소화해내는데 유리한 마음의 태도도 이해할 수 있습니다. 거꾸로 AI를 이용하는 방법에 있어서 무의식의 원리를 적용할 수 있습니다. 미리 정해놓은 답변을 유도해내는 대신, AI와의 열린 대화를 통해 가능성을 충분히 끌어내어 활용할 수 있겠습니다.

Reference

Bion, W. R. (1962a). Learning from experience. Heinemann Medical Books.

Bion, W. R. (1962b). A theory of thinking. International Journal of Psycho-Analysis, 43, 306–310.

Bion, W. R. (1965). Transformations: Change from learning to growth. Heinemann Medical Books.

Bion, W. R. (1970). Attention and interpretation: A scientific approach to insight in psycho-analysis and groups. Tavistock Publications.

Freud, S. (1957). 'Wild' psycho-analysis. In J. Strachey (Ed.), The Standard Edition of the Complete Psychological Works of Sigmund Freud, Volume XI (1910) (pp. 219–228). Hogarth Press.

Grotstein, J. S. (2007). A beam of intense darkness: Wilfred Bion's legacy to psychoanalysis. Karnac Books.