공기업이 자체 개발하여 운영 중인 사회적 가치 측정지표가 실제 사업의 이해관계자와 성과를 제대로 반영하고 있는지를 검증하였음. 지표의 존재 여부가 아니라 측정식이 성과를 설명할 수 있는 구조인지를 기준으로 검토하고, 미흡한 지표에 대해서는 대체 측정식을 제안하였음.
연구 개요
발주기관은 설립 근거 법률에 따라 지역사회의 균형 발전과 주민 생활 향상에 기여할 의무를 지고 있으며, 그 기여 정도를 자체 진단 도구인 지역상생기여도로 측정하고 있음. 이 지표는 중장기 경영목표의 달성도를 판정하는 척도로 사용되므로 측정식 자체의 타당성이 곧 경영성과 평가의 신뢰도를 좌우함.
발주기관은 내외부 환경 변화와 추진사업 개편에 따라 기존 지표체계를 고도화하였고, 신규로 발굴하거나 수정한 지표에 대해 외부 전문기관의 검증을 받고자 하였음. 이에 본 연구에서는 지표별 측정방식과 측정식의 정합성을 검토하고, 기준에 미치지 못하는 경우 개선안을 제시하였음.
검토는 개별 지표의 적정성 판단에 그치지 않고, 지표를 담고 있는 평가 프레임 전체가 사업의 실제 성과를 담아낼 수 있는 구조인지까지 확장하여 수행하였음.
연구 배경과 핵심 쟁점
기존 평가체계는 투입예산이나 활동 횟수와 같은 투입·산출 중심의 측정에 머물러 있어, 성과와 지역상생 기여 사이의 상관성을 설명하기 어려웠음. 또한 본사와 유사 사업을 수행하는 재단 사이에 공통 평가 프레임이 없어 전사 차원의 성과를 통합적으로 파악하기 어려운 상태였음. 이러한 배경에서 결과 중심의 측정체계로 전환이 이루어졌으나, 새로 만들어진 측정식이 실제로 그 성과를 담아내는지는 별도로 확인되지 않았음.
- 측정식에 사업의 핵심 이해관계자가 모두 포함되어 있는가?
- 측정식이 사업의 결과와 영향을 충실히 반영하고 있는가?
- 각 항목이 화폐가치로 환산 가능한 객관적 지표인가?
- 투입을 성과로 간주한 측정이 과도하게 사용되고 있는가?
- 지표 개편이 평가 프레임의 구조와 정합적인가?
- 개선식은 기존 체계와 단절 없이 적용 가능한가?
분석 범위와 대상
지표체계 개편으로 전체 측정지표는 43개로 구성되었으며, 이 가운데 기존에 유지되는 지표를 제외하고 신규로 발굴하거나 수정한 24개 지표를 검증 대상으로 하였음. 개편 과정에서는 3개 지표가 폐지되고 12개가 신규 추가되었으며 12개가 수정되었음.
평가 프레임은 3개 전략과제로 구성되며 각각 가중치가 부여되어 있음. 검증 대상 24개 지표는 세 전략과제에 걸쳐 분포하며, 일자리·소득·주거·교육·복지·문화·환경 등 성격이 크게 다른 사업들을 포함하고 있어 단일 기준으로 일괄 판정하기 어려운 구조였음.
전략과제별 구성과 검증 대상 분포
| 전략과제 | 가중치 | 중분류 수 | 검증 대상 지표 |
|---|---|---|---|
| 동반성장 기반 조성 | 0.274 | 1개 | 4개 |
| 지역경제 활력 제고 | 0.370 | 4개 | 8개 |
| 지역주민 생활향상 기여 | 0.356 | 5개 | 12개 |
| 합계 | 1.000 | 10개 | 24개 |
연구 설계와 분석 방법
정합성 검증 기준의 도출 방법론
사회적 가치 측정의 국제 기준으로 통용되는 SROI 7대 원칙을 검토하여 검증 기준을 도출하였음. 7개 원칙은 성격상 핵심 이해관계자, 핵심 성과, 측정 객관성의 세 축으로 수렴하며, 본 연구에서는 이 세 축을 정합성 판정 기준으로 삼았음.
원칙 자체는 반드시 지켜야 하는 규칙이 아니라 분석을 타당하게 이끄는 가이드라인의 성격을 지니므로, 기계적으로 적용하지 않고 사업별 특성을 반영하여 판단하였음.
개별 사업 분석 틀
일반적인 사업 분석은 투입·산출·결과의 3단 구조를 사용하나, 본 연구에서는 투입 자원이 활용되는 방식인 활동과 사업 목적과 직접 연관되지 않는 간접 결과인 영향을 추가하여 5단 구조로 분해하였음. 측정식이 결과와 영향 단계를 누락하고 산출 단계에 머무는 사례를 식별하기 위한 설계였음.
각 사업에 대해 직간접 수혜 대상인 핵심 이해관계자와 이들이 얻는 편익인 핵심 성과를 도출한 뒤, 현행 측정식이 이를 포함하고 있는지를 대조하였음. 핵심 성과 판단에는 주관이 개입될 여지가 크므로 복수 검토자의 교차 확인을 거쳤음.
정합성 검증 기준과 판정 절차
SROI 7대 원칙을 세 개의 검증 기준으로 재구성하고, 각 기준에 대해 상·중·하로 판정하였음. 세 기준 중 하나라도 충족하지 못하는 경우 개선안 제안 대상으로 분류하였음.
SROI 원칙과 정합성 검증 기준의 대응
| 검증 기준 | 대응하는 SROI 원칙 | 확인 사항 |
|---|---|---|
| 핵심 이해관계자 | 이해관계자를 참여시킨다, 과대 산정되어서는 안 된다 | 측정식에 핵심 이해관계자가 모두 포함되어 있는가 |
| 핵심 성과 | 변화사항을 이해한다, 중요한 사항을 가치화한다, 중요한 것만 포함시킨다 | 결과와 영향이 측정식에 충실히 반영되어 있는가 |
| 측정 객관성 | 명백하고 투명해야 한다, 결과를 검증한다 | 각 항목이 화폐가치 환산이 가능한 객관적 지표인가 |
지표별 정합성 검증 결과
검증 대상 24개 지표 중 18개가 개선 필요, 6개가 적합으로 판정되었음. 개선이 필요한 지표의 대다수는 측정 객관성에는 문제가 없으나 이해관계자와 성과의 대표성이 부족한 경우였음.
전략과제별 정합성 검증 결과
| 전략과제 | 검증 대상 | 적합 | 개선 필요 | 개선 비율 |
|---|---|---|---|---|
| 동반성장 기반 조성 | 4개 | 1개 | 3개 | 75.0% |
| 지역경제 활력 제고 | 8개 | 2개 | 6개 | 75.0% |
| 지역주민 생활향상 기여 | 12개 | 3개 | 9개 | 75.0% |
| 합계 | 24개 | 6개 | 18개 | 75.0% |
세 전략과제 모두 개선 필요 비율이 동일하게 나타났음. 특정 사업 영역의 문제가 아니라 측정식을 설계하는 방식 자체에 공통된 한계가 있었다는 의미로 해석됨.
개선 필요 사유의 유형별 분포
| 미흡 유형 | 내용 |
|---|---|
| 이해관계자 누락 | 직접 수혜자만 반영하고 간접 수혜자인 정부·지역사회의 편익을 미반영 |
| 성과 범위 축소 | 소득 등 계량이 쉬운 성과만 포함하고 역량 강화 등 부수 성과를 미반영 |
| 투입의 성과 대체 | 결과를 측정하기 어려운 경우 사업 투입비를 성과 금액으로 갈음 |
개선 측정식 설계 사례
개선식은 기존 측정식을 대체하기보다 누락된 이해관계자와 성과를 항목으로 추가하는 방식으로 설계하였음. 직접 일자리 창출 사업의 사례를 통해 설계 방식을 정리하면 다음과 같음.
직접 일자리 창출 사업의 측정식 개선 전후
| 구분 | 측정식 구성 |
|---|---|
| 현행 | ∑(채용 후 총 소득액 − 채용 전 총 소득액) + 취약계층 교육프로그램 투입비 |
| 개선 | ∑(채용 후 총 소득액 − 채용 전 총 소득액) + ∑(국민취업지원금 × 취업자 수) |
현행식의 후단 항목인 교육프로그램 투입비는 사업의 투입을 성과로 간주한 것으로, 결과 중심 측정이라는 개편 취지와 어긋났음. 이를 취업 성사에 따라 정부가 절감하게 되는 구직 지원 재정으로 대체하여 간접 수혜자인 정부의 편익을 반영하였음.
개선식에 적용한 산정 근거
| 항목 | 기준값 | 출처 |
|---|---|---|
| 국민취업지원금 (연) | 600만원 | 월 50만원 × 6개월 |
| 구직자 월평균 취업준비 비용 | 453,000원 | 고용노동부 통계 |
개선방안과 실행과제
측정식을 설계하기 전에 해당 사업이 왜 필요한지와 누가 수혜자인지를 먼저 확정할 필요가 있음. 수혜자를 확인한 뒤 이들이 얻는 편익을 측정하는 순서로 설계해야 측정 범위의 누락을 줄일 수 있음.
사업 시행 이전에 이미 존재하던 편익을 제외하는 자연적 제외효과와 타 조직의 기여분을 제외하는 기여적 제외효과를 반영할 필요가 있음. 두 효과를 보정해야 기관이 순수하게 창출한 성과를 분리하여 측정할 수 있음.
내부 산정과 별개로 수혜자에게 직접 확인하는 설문조사 방식을 병행할 필요가 있음. 기존 방식과 결합할 경우 측정 결과의 설득력을 높일 수 있으며, 외부 이해관계자에 대한 설명 근거로도 활용 가능함.
지표와 화폐가치 환산계수를 데이터베이스로 축적한 측정도구를 마련할 필요가 있음. 도구가 갖춰지면 담당자가 바뀌어도 동일한 기준으로 측정할 수 있고 연도 간 비교 가능성도 확보됨.
평가 프레임 개선 방향
개별 지표 검증과 별개로, 지표를 담는 평가 프레임이 사업 성격을 제대로 분류하고 있는지를 상향식으로 검토하였음. 개별 사업의 실제 성과에서 출발하여 중분류·소분류의 적정성을 역으로 확인하는 방식이었음.
평가 프레임 중분류 조정 제안
| 전략과제 | 현행 중분류 | 제안 중분류 |
|---|---|---|
| 지역경제 활력 제고 | 혁신역량 | 지역경쟁력 제고 |
| 지역주민 생활향상 기여 | 장학지원 및 주민자생역량 강화 | 주민자생역량 강화 |
| 지역주민 생활향상 기여 | 문화체육시설 개선 | 지역 여가여건 확충 |
조정 제안의 공통점은 분류명이 투입 수단을 지칭하고 있던 것을 성과 상태를 지칭하도록 바꾼 것임. 시설 개선이나 장학 지원은 수단이며, 평가 프레임이 담아야 할 것은 그 수단이 만들어낸 지역 여건의 변화이기 때문임.
연구 시사점
검증 대상 24개 지표 중 18개가 개선 대상으로 판정되었으나, 이는 측정이 부정확하게 이루어지고 있었다는 뜻은 아님. 대부분의 측정식은 객관성 기준을 충족하고 있었고, 문제는 측정하고 있는 범위가 사업이 실제로 만들어내는 성과보다 좁다는 데 있었음. 계량이 쉬운 성과만 측정식에 포함되고 간접 수혜자의 편익이나 역량 강화 같은 성과가 빠지면, 측정 결과는 정확하되 기여도는 과소평가됨.
투입을 성과로 대체하는 관행도 반복적으로 확인되었음. 결과 중심 측정으로 체계를 전환하더라도 개별 측정식에 투입 항목이 남아 있으면 전환의 취지가 실현되지 않으므로, 체계 개편과 측정식 점검은 함께 이루어져야 함.
측정지표는 만드는 것보다 검증하는 것이 중요함
지표를 신설하거나 개편하는 단계에서는 무엇을 측정할지에 관심이 집중되지만, 정작 측정식이 그 성과를 담아내는지는 별도로 확인되지 않는 경우가 많음.
이해관계자·성과·객관성의 세 기준으로 측정식을 사후 검증하는 절차를 정례화할 때, 성과측정 결과가 경영목표 관리의 근거로 기능할 수 있음.