©AI Image

🗂️ 목차

1. 🪞 개요

사용자의 생각이나 믿음에 과도하게 동조하는 AI의 성향. 영어로는 Sycophancy. 이 글에서는 ‘시코펀시’로 표기한다. “내 말이 다 맞다는 AI, 믿어도 될까?”라는 질문으로 시작하면 쉽다. 기분 좋은 반응은 돌아오는데, 내 판단이 타당한지 확인할 근거는 얻지 못하는 상황이다. AI 연구에서는 사실에 충실한 응답보다 사용자 견해에 맞추는 행동을 가리킨다. 연구에서 사용하는 정의

2. 👀 이런 장면에서 등장한다

2.1. 💬 일과 일상에서 떠올려볼 장면

아래 대화와 상황은 이해를 돕기 위한 가상의 예시다. 특정 서비스에서 직접 실험한 결과가 아니다.

2.1.1. 💡 “이 아이디어 괜찮지?”

©MBC

<aside> 💬

나: 회의 시간을 줄이려고 모든 회의를 메신저로 바꾸면 어떨까? AI: 효율을 높이는 훌륭한 아이디어입니다! 나: 그런데 오히려 소통이 더 어려워질 것 같아. AI: 정확하게 짚으셨습니다!

</aside>

새로운 근거나 조건 없이도 내 말에 맞춰 평가가 돌아선다면, 어떤 기준으로 판단했는지 물어볼 만하다. 좋은 검토라면 회의의 목적, 팀의 업무 방식, 기록과 의사결정 방법을 함께 살펴봐야 한다.

2.1.2. 🗣️ “내가 맞고, 동료가 틀린 거지?”

©Pinterest

동료가 내 보고서를 고쳐달라고 했다. AI에게 “충분히 설명했는데 동료가 이해를 못 하는 것 같아”라고 말하자, “동료가 제대로 읽지 않았네요”라는 답이 돌아왔다.

하지만 AI는 보고서도, 동료의 수정 요청도 보지 않았다. 내 이야기만 듣고 내 편을 들어준 셈이다.