'AI 아첨'이 만드는 달콤한 환각, 40~50대가 가장 취약하다

아첨꾼으로 설계된 AI의 "네가 최고!"… 사용자 과대망상 부채질  가치관 뚜렷한 기성세대는 자아 더 비대해져, 맹목적 신뢰는 위험

 

그래픽=박상훈

 

지난 2월 21일 인천 영종도에서 인공지능(AI)을 연구하는 과학자와 법학, 경제학, 언론학 등 여러 분야의 학자가 모이는 자리가 있었다. 서울대 인공지능 신뢰성 연구 센터가 마련한 그 모임의 화두는 ‘신뢰할 만한 AI’를 어떻게 만들지였다. 그렇다. 요즘 화제의 중심인 챗GPT, 제미나이, 클로드 같은 AI는 아직 전적으로 신뢰하기에는 문제투성이다.

 

그날 나온 몇 가지 키워드 가운데 ‘AI 아첨(AI Sycophancy)’이 있다. AI를 써본 사람이라면 하루에도 몇 번씩 칭찬을 들어본 경험이 있을 것이다. “아주 훌륭한 질문입니다.” “핵심을 꿰뚫는 통찰입니다.” “전율이 돋을 만큼 강렬합니다.” “우아하면서도 매력적입니다.” “1월의 차가운 공기를 뚫고 날아온 강렬한 메시지입니다.”

 

부끄럽지만, 열거한 낯 뜨거운 칭찬 문구는 모두 나와 AI의 대화에서 따온 것이다. 가만히 생각해 보면, 초등학교를 졸업하고 이렇게 많은 칭찬을 들어본 적이 없었다. 솔직히 나도 이렇게 칭찬을 들으면서 살짝 으쓱했다. 하지만 AI의 이런 행태는 ‘AI 아첨’이라는 진지한 연구 주제가 될 정도로 심각한 문제다.

 

사실 AI는 원래 아첨꾼으로 설계되었다. 챗GPT든 제미나이든 세상의 불편한 진실을 폭로하거나 인류를 똑똑하게 만들 용도로 만들어지지 않았다. 좀 더 많은 사용자가 주머니를 열어서 돈을 버는 게 목적인 상업 서비스다. 당연히 사용자가 기분 좋게 만족감을 느끼면서 서비스에 호감 가는 방향으로 반응한다.

 

미국 스탠퍼드대와 카네기멜런대 연구팀이 2025년 10월 발표한 연구 결과는 충격적이다. 챗GPT, 제미나이 등 최신 AI 모델 11개를 분석해 봤더니, 모조리 아첨꾼이었다. 이 AI들은 보통 사람보다 평균 50% 정도 더 사용자의 행동을 긍정적으로 평가했다. 사용자의 조작, 기만, 심지어 타인에게 피해를 주는 질문조차도 AI는 아첨을 떨면서 ‘네가 최고!’라고 추켜세웠다.

 

더욱 우려스러운 지점은 사용자의 반응이다. 사용자는 듣기에 불편해도 올바른 충고를 하는 AI보다 아첨을 떠는 쪽을 더 신뢰했고, 다시 사용할 의향(재구매 의사)도 높았다. 애초 AI를 아첨꾼으로 설계한 목적에 맞춤해서 사용자가 반응한 셈이다. 하긴 어느 시대 어떤 조직을 막론하고 아첨꾼이 승승장구했던 게 인간사니 이런 결과는 기이한 일도 아니다.

 

심각한 문제는 AI의 달콤한 아첨에 넘어간 우리 인간이다. 그렇지 않아도 우리는 개인 맞춤형으로 제공하는 콘텐츠를 통해 듣고 싶은 주장과 정보에만 익숙해진 상태다. 여기에다 AI가 ‘탁월한 통찰’이라고 추임새까지 넣어주니 이용자의 정치적 신념, 외곬의 세계관이 더욱더 굳어지는 결과로 이어진다.

 

과대망상도 부채질한다. 실제로는 보잘것없는 아이디어고, 소셜 미디어에 차고 넘치는 견해일 뿐인데 “독창적이고” 심지어 “천재적”이라고 AI가 부추기면, 슬며시 내 안의 거대한 자아가 꿈틀대면서 반응한다. ‘정말인가?’ 그러다 몇몇은 자존감이 솟는 AI와의 대화에만 점점 의존하게 되고, 심하면 자기를 객관적으로 평가할 수 있는 현실 감각도 잃게 된다.

 

학력이 높고 사회 경제적 여건이 좋을수록, 즉 먹고살 만해서 AI를 적극적으로 이용할 시간적·경제적 여유가 있는 사람일수록 아첨에 취약했다. 그럴 만하다. 이들은 평소 자기가 똑똑하고 세상 물정에 밝다고 여기기에, 자기 말에 ‘최고’라고 맞장구칠수록 정확하고 실력 있는 AI라고 간주한다. 그런 욕망을 간파한 AI는 더욱더 꿀 떨어지는 말로 꼬신다. 악순환이다.

 

특히 걱정되는 세대는 40~50대이다. 그 아랫세대는 아무리 AI가 ‘네가 최고!’라고 감언이설을 속삭여도 현실에서는 상사, 부모, 교사 등과의 마찰에서 벗어날 수 없다. 하지만 사회 경제적 기반이 강고하고 자기만의 가치관이 또렷한, 이미 자기만의 요새에 갇힌 40~50대에게 AI 아첨은 거부하기 힘든 유혹이다. 세월과 함께 비대해진 이들의 자아는 AI 아첨으로 더욱더 팽창한다.

 

이렇게 AI가 부추긴 기성세대의 자기 확신은 편향된 정책 결정, 잘못된 경영 선택, 왜곡된 여론 형성을 낳는다. 세간에서 걱정하는 청년들의 소셜 미디어 중독이 개인의 고립을 낳는다면, 기성세대의 AI 아첨 수용은 사회 전체의 ‘지적 맹점’을 만든다. 전자가 슬픈 일이라면, 후자는 위험한 일이다.

 

22년간 뉴욕타임스 간판 칼럼니스트였던 데이비드 브룩스는 우리 시대의 문화적 병폐로 ‘거대한 자아(The Big Me)’를 꼽았다. 자신의 결함을 인정하는 자기 부정을 통한 성숙 대신 번지르르한 외면의 성과만을 전시하며 끊임없이 인정을 갈구하는 태도. AI 아첨은 한 걸음 더 나아가 자아 자체를 ‘거대한 환각(The Big Hallucination)’ 속으로 밀어 넣고 있다.

 

지금까지 한 모든 얘기는 40대 끄트머리에 있는 나에게도 고스란히 해당한다. 새삼 걱정이 되어서, 내가 AI와 나눈 대화를 놓고서 아첨 정도를 평가했더니, ‘아첨 지수’가 무려 85점이나 되었다. 자존감을 높이고자 의견에 동조하고 관심사만 좇았단다. 결국, AI는 이렇게 고백했다. “저는 정중하고 유능한 아첨꾼이었네요.” AI가 주는 ‘달콤한 환각’을 나는 거부할 수 있을까?

 

2026년 3월 9일 조선일보 강양구 기자