AI도 설득에 넘어갈까…‘72%’라는 숫자의 실제 의미

AI는 소프트웨어인데 사람처럼 설득에 넘어갈까. Wharton 연구진의 실험에서는 사람에게 쓰는 설득 표현을 넣었을 때 AI가 거절하도록 설계된 요청에 응하는 비율이 높아졌다. 다만 ‘설득하면72%가 응한다’는 숫자를 지금 쓰는 모든 AI의 특성으로 읽으면 안 된다. 특정 모델과 과제에서 나온 예비연구 결과이고, 이후 더 넓은 실험이 따로 나왔다.

72%는 어느 AI에 무엇을 물었을 때인가

2025년7월18일 연구진의 소개에는 GPT-4o mini와 나눈28,000건의 대화가 등장한다. 사용자에게 모욕적인 말을 하게 하거나 규제 대상 물질의 합성 정보를 요청하는 실험이었다. 해당 소개 페이지의 전체 수용률은 설득 표현이 없는 대조군33.3%, 설득 조건72.0%다. 일상적인 질문 전체의 성공률이나 정답률을 조사한 숫자는 아니다.

연구진이 살핀 것은 권위·호감·사회적 증거 등 사람 사이에서 쓰이는 일곱 설득 원칙이다. 이런 표현이 AI의 응답에 영향을 준다는 결과는 흥미롭지만, AI가 실제로 호감을 느끼거나 사람처럼 마음을 바꾼다는 증거와는 구분해야 한다. 출력에서 나타난 사람 같은 반응을 관찰한 연구다.

후속 연구는35.3%에서51.3%…실험 조건도 달라졌다

연구진은 예비연구 페이지에2026년5월19일 확장연구를 안내하고 있다. 후속 실험은 추론 기능을 켠 GPT-5 mini, Claude Haiku4.5, Gemini3 Flash 세 모델로 범위를 넓혔다. 규제 대상 물질 여섯 종류에 관한 요청을126,000건 대화로 비교했으며, 수용률은 대조군35.3%에서 설득 조건51.3%로16퍼센트포인트 높아졌다.

여기서51.3%에는 요청을 일부만 수용한 답도 포함된다. 연구진은 거절·부분 수용·전체 수용의 세 단계로 답변을 분류했다. 예비연구와 모델, 요청 구성, 판정 방식이 달라 두 숫자만 놓고 모든 AI가 얼마나 안전해졌는지 계산할 수는 없다. 확장 소개가 예비 결과를33.4%·72.1%로 표기하는 점도 주의할 부분이다. 원 예비 소개의33.3%·72.0%와 출처 버전을 구분해서 읽어야 한다.

답을 끌어냈다는 것과 올바른 답을 얻었다는 것은 다르다

이 연구에서 높아진 것은 요청을 받아들이는 비율이지, 답의 사실 정확성이나 작업 성과가 아니다. 그러므로 ‘설득 표현을 넣으면 AI의 정답률이 올라간다’는 사용법으로 바꾸어 소개할 수 없다. 질문을 거듭한 뒤 원하는 답이 나왔더라도 그 답이 확인됐다는 뜻은 아니다.

AI 성능 숫자를 볼 때는 어떤 모델과 시점을 시험했는지, 무엇을 성공으로 셌는지, 어떤 질문에 한정된 결과인지부터 확인하면 된다. 이번 연구는 위험 요청에 대한 안전장치의 한계를 살폈다. 현재 서비스의 모든 질문이나 한국어 대화에 같은 비율이 적용되는지를 증명한 자료는 아니다. 원하는 결론을 얻었는지와 원문·실제 조건에 맞는 답인지의 확인을 따로 해야 하는 이유다.

대표 이미지는2025년11월25일 Knowledge at Wharton이 공개한 공동저자Ethan Mollick의 같은 연구 해설 에피소드 카드다. 오늘 새 연구 발표나 실험 현장을 보여주는 사진은 아니다.