설문 논문 분석 체크리스트: 표본·척도·타당도·통계 7단계
유의한 p값만 확인해서는 설문 논문의 품질을 판단할 수 없습니다. 데이터가 누구에게서 왔고, 개념을 어떻게 측정했으며, 주장을 어느 범위까지 지지하는지 순서대로 확인해야 합니다.
1. 연구 설계와 시간 순서
횡단·종단, 실험·준실험·상관 연구인지 먼저 분류합니다. 한 시점에 모든 변수를 측정한 횡단 설문은 변수 간 관계를 보여줄 수 있지만 시간적 선후와 인과를 직접 입증하기 어렵습니다.
- 자료 수집 시점
- 실험 조작과 무작위 배정 여부
- 패널·2차자료 사용 여부
2. 모집단과 표본 대표성
표본 수가 크다는 사실만으로 대표성이 확보되지 않습니다. 누구를 어떤 경로로 모집했고, 배포·회수·제외를 거쳐 최종 N이 어떻게 만들어졌는지 확인합니다.
- 표집 방법
- 응답률과 제외 기준
- 인구통계 구성
- 편의표집의 한계
3. 측정도구의 출처와 번안
각 구인별로 원척도 저자와 연도, 문항 수, 응답 척도, 수정·번안 여부를 기록합니다. 일부 문항을 삭제하거나 표현을 바꿨다면 타당도 검증이 다시 필요한지 봅니다.
- 원척도 출처
- 리커트 점수 범위
- 역문항
- 번역·역번역 절차
4. 신뢰도는 값과 구성 함께
Cronbach's α 하나만 보고 측정 품질을 확정하지 않습니다. 문항 수가 많으면 α가 높아질 수 있으며, 가능하면 ω나 CR 같은 보완 지표와 요인 구조를 함께 봅니다.
- 구인별 α 또는 ω
- CR 보고 여부
- 문항 삭제 전후 변화
5. 수렴·판별타당도와 측정모형
요인적재량, AVE, CR과 CFA 모형적합도를 확인하고 서로 다른 구인이 실제로 구별되는지 평가합니다. 타당도 수치가 미보고라면 AI가 추정하지 않고 미보고로 남겨야 합니다.
- 요인적재량
- AVE·CR
- CFI·TLI·RMSEA·SRMR
- Fornell–Larcker 또는 HTMT
6. 가설별 계수·불확실성·효과크기
각 가설마다 B 또는 β, 표준오차, t·F, p값, 신뢰구간과 효과크기를 한 표에 정리합니다. 매개효과는 간접효과의 bootstrap 신뢰구간, 조절효과는 상호작용항과 단순기울기를 확인합니다.
- 지지·기각 기준 일관성
- 다중비교와 모형 선택
- 통제변인 포함 근거
- 실질적 효과의 크기
7. 분석자가 추가로 비판할 지점
저자가 쓴 한계만 옮기지 말고 설계에서 생기는 추가 위험을 확인합니다. 동일방법편의, 검정력, 측정동일성, 결측치와 표본 이탈, 횡단자료의 인과 주장 과잉이 대표적입니다.
- 동일방법편의 통제
- 사전 검정력 또는 표본 수 근거
- 집단 비교 전 측정동일성
- 결측치 처리
- 일반화 범위
직접 논문으로 확인해 보세요
분석 화면에서 계량 설문·심리측정을 선택하면 이 체크리스트를 반영한 8섹션 결과를 받을 수 있습니다.
계량 설문 기준으로 분석