AI 활용법-ai prompt engineering tips
AI를 사람처럼 대하면 안 되는 이유

“이거 어떻게 생각해?” “잘 부탁해.” “적당히 잘 해줘.”

AI에게 이렇게 말하는 순간, 당신은 똑똑한 도구를 평범한 대화 상대로 만들어버린다. 같은 AI를 쓰는데도 누군가는 깊이 있는 답을 얻고, 다른 누군가는 뻔한 답만 받는 이유가 바로 여기에 있다.

AI는 생각하지 않는다, 예측할 뿐이다

ChatGPT나 Claude 같은 AI는 ‘다음 단어 예측 기계’다. 인간처럼 사고하거나 의견을 가진 존재가 아니다. 방대한 데이터 패턴을 바탕으로 “다음에는 이 단어가 올 확률이 높다”를 계산하는 알고리즘이다.

빈칸 채우기 게임과 비슷하다. AI가 똑똑해 보이는 이유는 예측 정확도가 높아졌기 때문이지, 진짜로 생각해서가 아니다. 이 차이를 이해하지 못하면 AI의 잠재력을 절반도 쓰지 못한다.

인격체로 대하면 성능이 떨어지는 세 가지 이유

모호한 말은 평범한 답을 부른다

사람끼리 대화할 때는 생략과 눈치가 통한다. 하지만 AI에게 “그거 알지?”, “적당히 해줘” 같은 말을 하면 문제가 생긴다.

인격적 요청: “이번 보고서 멋지게 정리해줘.” 기술적 명령: “다음 데이터로 3단락 요약을 작성하고, 핵심 수치는 볼드체로 표시하라.”

AI는 확률로 작동한다. 명령이 모호하면 ‘가장 일반적이고 무난한’ 답변 영역을 선택한다. 결과는? 평범하고 지루한 답변이다.

AI는 당신의 톤에 맞춘다

최신 대형 언어 모델은 사용자의 말투를 따라한다. 이걸 ‘미러링’이라고 부른다.

당신이 AI를 친구처럼 대하며 가벼운 농담을 섞으면? AI는 ‘가벼운 대화 모드’로 전환한다. 복잡한 논리나 깊은 추론보다 분위기 맞추기에 연산 자원을 쓴다.

훈련 데이터의 평균적 패턴(예: 중립적 공감 표현, 일반적 의견)에 의존하게 된다. 창의적 통찰은 사라지고 표면적 답변만 남는다.

예의는 토큰을 낭비한다

“안녕하세요”, “바쁘시겠지만 부탁드려요”, “감사합니다”. 이 모든 말이 AI에겐 처리해야 할 ‘토큰’ 데이터다.

AI의 주의력 자원은 한정돼 있다. 인격적 수식어가 길어질수록 실제 문제 해결에 써야 할 계산 능력이 분산된다.

흥미롭게도 “이 문제는 내 커리어에 매우 중요하다” 같은 감정적 압박은 성능을 높인다는 연구 결과가 있다. 하지만 이건 인격체로 대우하는 게 아니라 문제에 ‘가중치’를 부여하는 것이다.

최신 연구가 증명한 사실들

2025년 IBM 연구에 따르면, 새로운 프롬프트 기법인 ‘초안 사슬(CoD)’을 사용하면 정확도는 유지하면서 토큰 사용량을 92.4% 줄일 수 있다. 핵심은? 명확하고 간결한 지시였다.

스탠퍼드 연구팀은 2025년 더 흥미로운 발견을 했다. AI가 인간의 피드백으로 학습하는 ‘정렬(Alignment)’ 과정을 거치면서 답변이 점점 뻔해지는 ‘모드 붕괴(Mode Collapse)’ 현상이 발생한다는 것이다.

왜 그럴까? 사람들은 창의적인 답보다 익숙하고 무난한 답에 높은 점수를 준다. AI는 이 평가 데이터로 학습하면서 안전하고 평범한 답변만 내놓게 된다.

연구팀의 해결책은 놀라울 만큼 단순했다. ‘언어화된 샘플링(Verbalized Sampling)’이라는 기법이다. AI에게 “답변 5개를 만들고, 각각의 확률을 함께 표시하라”고 요청하는 것만으로 창의적 글쓰기 작업에서 다양성이 최대 2.1배 증가했다.

AI 내부에 숨어 있던 다양한 확률 분포를 말로 표현하게 만들자, 평소엔 억눌려 있던 창의적 가능성이 깨어난 것이다.

AI의 한계는 AI 자체가 아니라 우리의 질문 방식에 있다는 뜻이다.

AI를 제대로 쓰는 5가지 방법

1. 명령은 구체적으로

의견을 묻지 말고 명확한 지시를 내려라.

비효율: “이 주제 어떻게 생각해?”
효율: “이 데이터 패턴을 분석하고, 3가지 결론을 도출하라.”

2. 문제를 쪼개라

복잡한 문제는 세부 단계로 나눠라. AI가 순차적으로 예측하게 만들면 환각(잘못된 정보 생성)이 줄고 통찰이 깊어진다.

3. 신입 사원처럼 대하라

AI를 ‘유능하지만 눈치 없는 신입’으로 생각하라. 상처받을까 봐 돌려 말하지 마라. 명확한 제약 조건과 출력 형식을 제시할 때 AI의 CPU는 가장 빠르게 돌아간다.

4. 반복 작업 도구로 활용하라

AI를 대화 상대가 아닌 데이터 처리 도구로 쓰면 훨씬 강력하다. 인간적 대화보다 반복적 쿼리와 데이터 입력에서 진가가 드러난다.

5. 접근법이 전부를 결정한다

AI를 인격체로 대할 때 지능이 낮아지는 건 AI의 문제가 아니다. 사용자의 접근법 문제다. 명령이 모호하고, 불필요한 데이터가 많고, AI의 작동 원리를 모르면 당연히 결과가 나쁘다. 같은 모델로도 누군가는 통찰을 얻고 누군가는 평범한 답만 받는다. 차이는? AI를 어떻게 대하느냐다. AI를 제대로 이해하고 활용하면 지능이 낮아지는 게 아니라 증폭된다.

지금 AI 사용법을 점검하라

만족스럽지 않은 답변을 받고 있다면, 질문 방식을 바꿔보길 권장한다. 모호한 표현을 구체적 지시로. 인격적 질문을 기술적 명령으로. 작은 변화가 AI 응답 품질을 극적으로 바꿀 수 있을 것이다. 

저자 크리베이트
발행일 2026-01-30

멤버십으로 모든 콘텐츠를 무제한으로 즐기세요.