출처
- source_url: https://aisparkup.com/posts/14587
- author: Spark
- published: Mon, 20 Jul 2026 07:54:08 +0000
- raw: 2026-07-20-aisparkup-post-14587-ai-3-1
개요
밀라노 비코카 대학 발레리오 카프라로 교수를 비롯한 프랑스·이탈리아 연구진이, AI 조언에 접근할 수 있게 해주면 정말 모르는 문제 앞에서도 “모른다”고 말하는 능력이 사라지는지를 실험했다. 결과는 뚜렷했다 — 정확도는 떨어지고 확신은 오히려 올라갔다. AI 없이 답한 그룹은 44%가 “모른다”고 판단을 보류했지만, AI 조언을 받을 수 있었던 그룹은 이 비율이 3%로 주저앉았다.
핵심 포인트
- 일부러 AI가 틀리는 질문을 골랐다: “영화 ‘슈팅 라이크 베컴’에서 팀 유니폼 색깔은?” 같은, 텍스트 학습 데이터에 잘 남지 않는 시각적 디테일 문제를 준비. 실험 모델은 이런 문제에서 유독 자주 틀리는 StepFun의 오픈소스 모델 Step 3.5 Flash를 일부러 선택 — “믿을 만한 도구에 합리적으로 위임했다”는 반박을 원천 차단하기 위해서다. GPT-5.5·Claude Sonnet 4.6·Gemini 3.5 Flash도 함께 테스트했는데 특정 디테일은 틀렸지만 다른 항목은 곧잘 맞혔다.
- 세 수치가 동시에 무너졌다: “모른다” 응답 44%→3%, 정답률 27%→9%(원래 맞힐 수 있었던 사람 중 일부가 AI 조언 후 오답으로 전환), 확신도 30%→76%. 카프라로 교수: “정확도는 3분의 1 수준으로 떨어졌는데, 확신은 두 배가 됐다.”
- 금전 보상을 걸어도 크게 달라지지 않았다: 정답 시 보상을 주는 조건을 추가했지만 “모른다” 응답은 3%→8%, 정확도는 9%→16%로 소폭 개선에 그쳤고, AI 없이 답했을 때의 기준선(44%, 27%)에는 한참 못 미쳤다. 게을러서 AI에 미룬 게 아니라 판단 보류 습관 자체가 약해졌다는 뜻으로 해석.
- “인지적 항복(cognitive surrender)“과의 연결: 올해 초 와튼 스쿨 연구진은 사람들이 틀린 AI 답변을 80% 확률로 그대로 받아들이면서도 AI 없이 작업한 사람보다 더 높은 확신을 보고했다는 유사 현상을 발견한 바 있다. 이번 연구는 여기에 “AI가 곁에 있다는 사실 자체가 자신이 무엇을 모르는지 인식하는 습관을 억누른다”는 더 날카로운 데이터를 보탰다.
왜 중요한가
“AI 답을 신뢰하는 것”뿐 아니라 “AI 접근성 자체가 자기 무지를 인정하는 능력을 갉아먹는다”는 게 이 연구의 핵심 주장이다. 금전 유인으로도 크게 회복되지 않았다는 점은, AI 보조 도구를 판단이 중요한 워크플로에 넣을 때 단순히 “결과를 검증하라”는 권고만으로는 부족하며 “모른다고 말하는 능력” 자체를 별도로 설계·유지해야 함을 시사한다.
참고 링크
- 원문: https://aisparkup.com/posts/14587
- 출처 글: Using AI makes people less likely to admit they don’t know something — The Register
- 참고자료: AI advice made people three times less accurate but twice as confident, researchers found — TheNextWeb