구조방정식모형에서 경로계수의 검정 방법들에 대한 비교 연구*

황인옥1, 강현철2

*이 논문은 2020년도 호서대학교의 재원으로 학술연구비 지원을 받아 수행된 연구임(No. 20200802).

131499 충남 아산시 배방읍 호서로79번길 20, 호서대학교 빅데이터AI학과 석사과정. E-mail: ghkdin@naver.com

2(교신저자) 31499 충남 아산시 배방읍 호서로79번길 20, 호서대학교 빅데이터AI학과 교수.

E-mail: hychkang@hoseo.edu

요 약

Proceedings of the Korean Data Analysis Society

January 26-27, 2023, pp. 1-4

구조방정식모형을 이용하여 데이터 분석을 수행할 때 주요 관심이 되는 것은 경로계수들에 대한 추정과 검정이다. 경로계수들에 대한 검정 방법으로는 [eqn: t]-값을 이용하는 방법, Satorra-Bentler의 척도화 검정통계량을 이용하는 방법, Bollen-Stine의 붓스트랩 방법 등이 사용된다. 이러한 방법들은 모두 근사적인 검정 방법으로서 주어진 데이터 및 모형의 형태에 따라서 서로 다른 검정결과를 제공하는 경우도 있다. 본 논문에서는 주요 검정 방법들에 대해 모의실험(simulation)을 사용하여 다양한 상황하에서 제1종 오류를 산출하였으며, 이를 통해 주요 검정 방법들의 성능이 어떤지를 평가하였다. ML 방법은 추정과 검정의 관점에서 ML 방법이 정규분포로부터의 이탈에 로버스트(robust)한 성질을 가지는 것으로 나타났다. 반면에 WLS 방법의 경우에는 표본크기가 작을 때 수렴하지 않는 비율이 상대적으로 높으며, 제1종 오류도 상대적으로 크게 나타났다. 따라서 WLS 방법은 표본크기가 상당히 클 때 유용하다는 것을 알 수 있다. 붓스트랩 방법의 경우에는 표본크기가 커질수록 제1종 오류가 오히려 커지는 경향이 있음을 볼 수 있다. 따라서 붓스트랩 방법을 적용할 때 이러한 현상을 개선할 수 있는 보완이 필요하다고 여겨진다.

주요용어 : 구조방정식모형, 경로모형, 잠재변수, 제1종 오류.

1. 서론

구조방정식모형(structural equation model)은 연구자의 관심 영역에 있는 변수들 간의 인과관계 및 연관관계를 방정식 체계로 정식화한 것으로 상관분석, 인자분석, 회귀분석 등 매우 넓은 영역의 통계적 분석기법들을 포함하고 있다(Lee, Kang, 2021; Yang et al., 2019; Kim, 2019; Lee, 2017). 구조방정식모형을 이용하여 데이터 분석을 수행할 때 주요 관심이 되는 것은 경로계수들에 대한 추정과 검정이다. 추정의 경우 연구자가 모공분산행렬 [eqn: SIGMA]를 알고 있다면 식별가능한 모형에 대해 ‘[eqn: SIGMA = SIGMA ( theta )]’를 풀어봄으로써 해를 구할 수 있다. 여기에서 [eqn: SIGMA ( theta )]는 연구자가 가정하고 있는 모형의 모수들로 표현된 공분산행렬이다. 그러나 실제로는 [eqn: SIGMA]를 알 수 없기 때문에 [eqn: N]개의 표본으로부터 얻은 표본공분산행렬 [eqn: S]를 이용하여 [eqn: SIGMA ( theta )]의 추정치 [eqn: {hat{SIGMA }} ( theta )]을 얻게 된다. 이때 [eqn: {hat{SIGMA }} ( theta )]이 가급적 [eqn: S]와 가깝도록 해야 하는데, [eqn: {hat{SIGMA }} ( theta )]와 [eqn: S]가 가까운 정도를 나타내는 함수 [eqn: F[S, SIGMA ( theta )]]를 적합함수라고 하며 이 적합함수를 어떻게 정의하느냐에 따라 추정방법이 달라진다.

본 논문에서는 주요 검정 방법들에 대해 모의실험(simulation)을 사용하여 다양한 상황하에서 제1종 오류를 산출하였으며, 이를 통해 주요 검정 방법들의 성능이 어떤지를 평가하였다. 본 논문의 세부 구성은 다음과 같다. 2절에서는 본 연구를 위해 적용된 모의실험 설계의 내용을 기술하였다. 3절에서는 주어진 모의실험의 상황에서 ML과 WLS 추정치의 정확도를 비교하였다. 4절에서는 제1종 오류의 관점에서 여러 가지 검정 방법들의 성능을 평가하였다.

구조방정식모형에서 경로계수의 검정 방법들에 대한 비교 연구

황인옥, 강현철

2. 모의실험 설계

본 연구에서 모의실험을 위해 사용한 구조방정식모형의 형태는 Figure 1과 같으며, 이 모형은 Bagozzi & Yi(1988)와 Joreskog & Sorbom(1996) 등에서도 다루어진 바 있다.

Figure 1에서 관찰변수와 잠재변수의 관계를 묘사하는 측정모형(measurement model)은 다음과 같은 선형방정식 체계로 표현할 수 있다.

[eqn: LEFT { eqalign{x _{1} = lambda _{11}^{x} xi _{1} + delta _{1} ,# x _{2} = lambda _{21}^{x} xi _{1} + delta _{2} ,# x _{3} = lambda _{32}^{x} xi _{2} + delta _{3} ,# x _{4} = lambda _{42}^{x} xi _{2} + delta _{4} ,# x _{5} = lambda _{53}^{x} xi _{3} + delta _{5} .} RIGHT .]               [eqn: LEFT { eqalign{y _{1} = lambda _{11}^{y} eta _{1} + epsilon _{1} ,# y _{2} = lambda _{21}^{y} eta _{1} + epsilon _{2} ,# y _{3} = lambda _{32}^{y} eta _{2} + epsilon _{3} .} RIGHT .]

또한 잠재변수들의 인과관계를 묘사하는 구조모형(structural model)은 다음과 같은 선형방정식 체계로 표현할 수 있다.

[eqn: LEFT { eqalign{eta _{1} = gamma _{11} xi _{1} + gamma _{13} xi _{3} + beta _{12} eta _{2} + zeta _{1} ,# eta _{2} = gamma _{22} xi _{2} + zeta _{2} .} RIGHT .]

Figure 1에 주어진 구조방정식모형을 따르는 [eqn: N]개의 다변량 난수벡터 [eqn: {bold{x}} `=(x _{1} ,~x _{2} ,~cdots,~x _{5} ) prime], [eqn: {bold{y}} `=(y _{1} ,~y _{2} ,~y _{3}) prime]을 발생시키는 절차는 다음과 같다.

(1) 주어진 분포하에서 외생 잠재변수 [eqn: xi_i]에 대하여 평균이 0이고 분산이 [eqn: phi_i]를 가지는 난수를 생성한다. 오차변수 [eqn: delta _{i}]에 대하여 평균이 0이고 분산이 [eqn: theta^delta _{i}]를 가지는 난수를 생성한다. [eqn: lambda^x]들의 값을 주어진 값으로 고정하고, 측정모형의 방정식 체계를 적용하여 외생 관찰변수 [eqn: x]들을 생성한다.

Figure 1. Path diagram for simulation

(2) 구조모형의 오차변수 [eqn: zeta _{i}]에 대하여 평균이 0이고 분산이 [eqn: psi _{i}]를 가지는 난수를 생성한다. [eqn: gamma]와 [eqn: beta]들의 값을 주어진 값으로 고정하고, 구조모형의 방정식 체계를 적용하여 내생 잠재변수 [eqn: eta]들을 생성한다.

(3) 오차변수 [eqn: epsilon _{i}]에 대하여 평균이 0이고 분산이 [eqn: theta _{i}^{epsilon }]를 가지는 난수를 생성한다. [eqn: lambda ^{y}]들의 값을 주어진 값으로 고정하고, 측정모형의 방정식 체계를 적용하여 내생 관찰변수 [eqn: y]들을 생성한다.

3. ML 추정치와 WLS 추정치에 대한 비교

구조방정식모형을 분석할 때 주로 사용되는 사용되는 추정방법은 ML(maximum likelihood, 최대우도) 방법과 WLS(weighted least squares, 가중최소제곱) 방법이다.

ML 방법에 대한 적합함수는 관찰변수들이 다변량 정규분포에 따른다는 가정에 기초를 두고 있으며, ML 방법에 대한 적합함수는 다음과 같다.

[eqn: F _{rm ML it} = rm log it | {bold SIGMA} _{theta } |+tr({bold S} {bold SIGMA} _{theta }^{-1} )- rm log it |{bold S}|-(p+q)]

여기에서, [eqn: p]와 [eqn: q]는 각각 관찰변수 [eqn: x]와 [eqn: y]의 개수이고, [eqn: |A|]는 정방행렬 [eqn: A]의 행렬식의 값(determinant)을 나타낸다. ML 방법은 정규분포의 가정하에서는 점근적 정규분포성, 불편성, 일치성, 최소분산성  등을 가지는 가장 효율적인 추정량을 산출하는 방법이라고 할 수 있다.

ADF(asymptotically distribution free, 점근적 분포무관) 방법이라고도 언급되는 WLS 방법은 데이터가 정규성을 만족하지 않을 때 가장 많이 사용되는 비모수적 방법이며, WLS 방법에 대한 적합함수는 다음과 같다.

[eqn: F _{rm WLS it} = left[ {bold s} - {bold sigma (theta) right ]' {bold W}^{-1} left[ {bold s} - {bold sigma (theta) right ]]

여기에서, [eqn: bold s]와 [eqn: {bold sigma} (theta)]는 각각 [eqn: bold S]와 [eqn: {bold Sigma }_theta]의 중복되지 않은 원소들로 구성된 벡터이고, [eqn: bold W]는 가중치 행렬로서 차수가 [eqn: k(k+1)/2]인 정방행렬이며(단, [eqn: k=p+q]) 2차 및 4차 적률의 추정치가 조합된 원소들로 이루어져 있다.

위의 추정방법들은 특별한 적합함수가 최소화되도록 추정치들을 연속적으로 개선하는 반복적(iterative) 방법이며, 따라서 데이터와 주어진 모형을 통한 실제 추정에서 계산 결과가 수렴하지 않는 경우가 발생할 수 있다. Table 1은 1,000번의 모의실험에서 수렴하지 않는 비율을 제시한 것이다. 표본크기([eqn: N])가 100일 때 두 방법 모두 수렴하지 않는 비율이 다소 높으며, ML 방법보다는 WLS 방법에서 수렴하지 않는 비율이 높음을 볼 수 있다. 그리고 표본크기가 200 이상일 때는 수렴하지 않는 비율이 매우 낮음을 볼 수 있다. 한편, 데이터가 정규분포를 따를 경우보다는 정규분포를 따르지 않을 경우에 수렴하지 않는 비율이 높음을 볼 수 있다.

Table 1. Percentage of not converge

Distribution	Method	[eqn: N=]100	[eqn: N=]200	[eqn: N=]300	[eqn: N=]500	[eqn: N=]1,000
Normal	ML	3.3%	0.7%	0.1%	0.0%	0.0%
	WLS	4.3%	0.4%	0.1%	0.1%	0.0%
Exponential	ML	4.0%	0.6%	0.6%	0.0%	0.0%
	WLS	5.7%	1.7%	0.5%	0.1%	0.0%

Table 2. Means and standard deviations of estimates for structural model

Parameters	Methods	[eqn: N=]100	[eqn: N=]200	[eqn: N=]300	[eqn: N=]500	[eqn: N=]1,000
[eqn: gamma _{22}] = 0.738	ML	0.740±0.114	0.736±0.081	0.741±0.066	0.738±0.050	0.738±0.035
	WLS	0.750±0.187	0.740±0.090	0.742±0.070	0.739±0.052	0.739±0.036
	Boot.ML	0.745±0.120	0.738±0.082	0.742±0.066	0.739±0.050	0.738±0.035
	Boot.WLS	0.758±0.144	0.743±0.091	0.745±0.070	0.741±0.052	0.740±0.036
[eqn: gamma _{11}] = 2.139	ML	2.394±1.205	2.224±0.527	2.193±0.367	2.162±0.277	2.134±0.180
	WLS	2.324±1.046	2.203±0.596	2.168±0.377	2.147±0.286	2.126±0.182
	Boot.ML	2.747±1.688	2.350±0.591	2.260±0.416	2.193±0.289	2.148±0.183
	Boot.WLS	2.608±1.030	2.321±0.624	2.220±0.419	2.167±0.296	2.134±0.184
[eqn: gamma _{13}] = 0.421	ML	0.420±0.103	0.423±0.069	0.419±0.053	0.419±0.041	0.421±0.029
	WLS	0.416±0.126	0.422±0.075	0.418±0.055	0.418±0.043	0.421±0.029
	Boot.ML	0.420±0.111	0.423±0.071	0.419±0.054	0.419±0.042	0.421±0.029
	Boot.WLS	0.410±0.125	0.420±0.076	0.416±0.056	0.418±0.043	0.420±0.029
[eqn: beta _{12}] = 0.462	ML	0.461±0.178	0.466±0.110	0.465±0.090	0.462±0.071	0.465±0.049
	WLS	0.455±0.213	0.466±0.119	0.464±0.094	0.463±0.073	0.464±0.049
	Boot.ML	0.457±0.218	0.466±0.111	0.465±0.091	0.462±0.071	0.465±0.049
	Boot.WLS	0.458±0.203	0.466±0.119	0.464±0.094	0.463±0.073	0.464±0.049

Table 2는 Figure 1에 제시된 구조모형의 경로계수들에 대하여 1,000번의 모의실험을 통해 얻어진 추정치들의 평균과 표준편차를 제시한 것이다. 대부분의 경로계수들에 대해 표본크기가 작을 때도 추정치의 평균이 주어진 참값에 유사하게 나타나고 있으며, 표본크기가 커질수록 더 유사하게 나타남을 볼 수 있다. 특히 ML 방법의 경우 꽤 비대칭적인 지수분포하에서도 비교적 잘 작동하는 것으로 나타났다. 다만 이 결과에서 주목할만한 부분은 계수 [eqn: gamma_{11}]에 대한 것으로, 표본크기가 작을 때는 대체적으로 추정치의 평균이 참값보다 다소 크게 나타나고 있다. 그리고 이 계수에 대한 결과에서 정규분포의 경우에는 ML 방법에서, 지수분포의 경우에는 WLS 방법에서 추정치의 평균이 참값과 다소 더 가깝게 나타나고 있다.

References

Bagozzi, R., Yi, Y. (1988). On the evaluation of structural equation models, Journal of the Academy of Marketing Sciences, 16, 74-94. http://dx.doi.org/10.1007/BF02723327

Joreskog, K. G., Sorbom, D. (1996). LISREL 8: User's Reference Guide, Chicago: Scientific Software International.

Kim, B. (2019). Understanding key antecedents of SNS addiction: focused on flow and trust in members, Journal of the Korean Data Analysis Society, 21(6), 3155-3168. (in Korean).

Lee, C. (2017). An analysis of determinants of purchase of accident coverage using structural equation model, Journal of the Korean Data Analysis Society, 19(2), 827-837. (in Korean).

Lee, K. T., Kang, H. (2021). Evaluation of type I error of fit indices for structural equation model under normal and exponential distribution, Journal of the Korean Data Analysis Society, 23(1), 173-181. (in Korean). https://doi.org/10.37727/jkdas.2021.23.1.173

Song, Y. S., Kang, H. (2021). Evaluation of type Ⅱ error of fit indices for structural equation model under normal and exponential distribution, Journal of the Korean Data Analysis Society, 23(2), 599-609. (in Korean). https://doi.org/10.37727/jkdas.2021.23.2.599

Yang, S., Kim, K., Lee, J., Choi, T. (2019). Bayesian semiparametric structural equation model with Dirichlet process and splines, Journal of the Korean Data Analysis Society, 21(6), 2829-2845. (in Korean).