○ 들어가는 말
약 15년 동안 사회복지 영역에서 주로 비정형 대규모 데이터를 분석하며 빈곤, 자살, 고독사, 혐오 등과 관련된 당면 사회문제를 학제적 환경에서 다뤄오면서 필자가 느낀 대략의 인상은 기술변화에 대한 사회복지 영역의 대응이 인근 휴먼서비스 영역, 특히 의료와 교육 영역에 비해 상당히 더디다는 것이었다. 이런 인상은 실질적인 기술 응용 측면 이전에 새로운 기술에 대한 개념적 혼란, 전문적이지 않은 논의의 과도한 양산, 이해하기 힘든 냉소를 자주 목격하면서 얻게 된 것이다.
이런 가운데 사회복지 문제를 해결하는 기술적 적응력의 발전도 더디고, 진지하게 고민해야 할 윤리적·실천적 논의의 진또한 방해받는 안타까운 상황이 벌어지고 있다는 것이 필자의 문제의식이다.
이런 문제의식 하에서 이 글은 빅데이터와 인공지능 기술의 사회복지 분야 활용에서 우리가 고려해야 할 당면 과제가 무엇인가를 살펴보는 것에 목적이 있다. 이를 위해서 먼저 사회복지를 둘러싼 두 명의 거인을 소환해서 이야기를 들어보려고 한다.
○ 오래된 이야기(그러나 여전히 유효한)
• 베버리지, 실증주의의 칼을 든 시스템 설계자
보편주의 복지국가에 대한 열렬한 지지를 생각해 볼 때, 베버리지(William Beveridge)의 정치적 지향을 진보좌파로 보이게 하는 측면이 있다. 그러나 빅터 조지(Victor George)가 그의 저서 ‘복지의 근대적 사상가들(Modern Thinkers on Welfare)’에서 언급한 바와 같이 베버리지는 자신의 정치적 지향을 분명하게 제시하지 않았다. 베버리지의 저서와 그의 활동을 고려할 때, 그는 자신을 데이터에 기반하여 ‘사회문제를 해결하는 과학자’ 혹은 ‘사회공학자’로 이해했을 가능성이 매우 크다.
글쓴이의 상상이지만 근거와 실증성에 기반한 사회혁신가로서 베버리지가 오늘 부활한다면, 지능정보기술의 응용과 디지털화를 사회문제 해결을 위한 중요한 기회로 포착했을 가능성이 크다고 생각한다. 특히, 신사회 위험의 대두와 불평등 심화와 같은 도전적 양상은 그의 열정을 다시 불붙이는 상황으로 작용하지 않았을까 생각해 본다. 그가 오늘을 산다면 빅데이터와 알고리듬을 통한 데이터 기반 의사결정, 위험 예측과 합리적 대안 모색을 통해 새로운 ‘거악’과 기꺼이 투쟁했을 것이다.
• 하이에크, 개인의 자유에 대한 열렬한 옹호자
20세기 중반의 경제학자 프리드리히 하이에크(Friedrich Hayek)는 자유시장 경제와 소극적 자유에 대한 강력한 옹호에 기반을 두고, 그의 저서 ‘노예의 길(The Road to Serfdom, 1944)’에서 복지국가와 그 기반으로서 계획경제를 강력하게 비판했다. 그는 복지국가의 정책과 그와 관련된 경제 시스템은 개인의 자유를 제한하고, 정부에 의한 계획 경제의 비효율성과 권력의 집중이 발생하게 된다고 주장했다.
개인의 자유를 적극적으로 옹호하고 의사결정이 집중되는 상황을 비판한 하이에크의 관점에서 사회복지 디지털화에 대한 비판점을 찾는 것은 그리 어렵지 않다. 사회복지 영역에서 빅데이터와 인공지능을 활용한다고 할 때, 흔히 접할 수 있는 수사인 ‘선제적 대응’이나 ‘위험 예측’과 같은 표현은 시민의 삶과 관련된 방대하게 집적된 데이터를 기반으로 개인의 의사와 무관하게 개입이 이뤄질 수 있는 가능성을 시사하기 때문이다. 의사결정 과정에서의 시민 의사 배제와 권력 집중 문제, 알고리듬의 획일성에 따라 발생할 수 있는 편의(偏倚)와 다양한 지식의 배제, 그리고 이런 과정에서 커질 수 있는 사회 전반의 자율성 약화와 의존성 심화는 지능정보기술의 사회문제 활용에 있어서도 여전히 유효한 비판이라 할 수 있다.
○ 우리에게 주어진 우선 과제
복지국가를 둘러싼 두 거인의 역사적 논의를 정리하면서 여기서는 명확한 목표 설정과 개인의 자유 침해라는 두 가지 측면에서 지능정보기술의 사회복지 분야 활용을 위해 우선적으로 고려할 과제를 제시하고자 한다. 이것은 베버리지의 사회개혁에 대한 명료한 목표 의식과 하이에크의 개인의 자유 침해 가능성에 대한 우려라는 각각의 논의와도 연결된다.
• 핵심과제 1: 결과변수의 문제
데이터 분석에서 ‘결과변수의 문제(dependent variable problem)’라는 개념이 있다. 원인을 규명하려는 설명에 목적이 있든, 정확한 예측에 방점이 있든, 우리가 관심이 있는 현상은 분석 모형에서 결과변수로 포착된다. 결과변수의 명확한 개념화나 조작화, 가용한 측정 방법이 없을 때, 우리는 결과변수의 문제에 직면하게 된다. 이런 상황에서 우리는 아무리 정교한 알고리즘과 대규모의 데이터를 동원한다 해도 원하는 설명이나 예측을 얻을 수 없다.
그러나 현재 우리 사회에서 새로운 기술을 활용해 사회문제를 해결하겠다는 노력들은 결과변수 문제에 깊게 봉착한 모습을 보인다. ‘위기’, ‘사각지대’ 등을 예측하겠다고는 하지만 그와 같은 개념이 어떻게 정의될 수 있으며, 무엇보다 데이터에서 어떻게 측정할 수 있는 것인가에 대한 고민은 별로 보이지 않는다. 무엇을 예측하고 해결하겠다는 것인가에 대한 명확한 설정이 필요한 것이다. 베버리지가 복지국가 설계에서 ‘5대 악(the five giant evils)’을 명확하게 규정한 것과 같이 현재의 디지털 기술 발전을 어떤 문제를 해결하는 데 활용하겠다는 것인 가에 대한 명확한 설정과 그것을 예측 모형에 반영하는 노력이 필요하다.
• 핵심과제 2: 알고리듬 블랙박스의 문제
예측 모형의 성숙 과정에서 투입되는 자료의 양은 더욱 방대해지며, 학습 모형은 더욱 복잡해진다. 이런 과정은 예측의 정확도를 높이기 위해 필수적인 과정이지만 이러한 복잡성의 심화가 가져오는 사회적 문제 또한 크다. 이른바 ‘블랙박스 문제(blackbox problem)’인데, 이는 알고리즘의 동작방식이 인간의 이해 수준을 넘어설 때 발생하게 된다. 프랭크 파스콸레(Frank Pasquale)가 2016년에 출간한 ‘블랙박스 사회(The Black Box Society)’에는 이와 같은 우려가 잘 정리되어 있다. 모형이 도출하는 결과가 지니는 편향성이나 오류 문제를 모니터링하기 어려워지는 것이다. 이와 같은 문제는 사회적 공정, 사회복지 개입에서의 책무성, 서비스 공여와 수급 과정에서 필수적인 신뢰의 손상과 같은 문제로 이어지게 된다.
사회문제 해결과 관련한 빅데이터 활용에서 블랙박스 문제는 우선적으로 개인의 자유를 침해할 여지가 있기 때문에 주의가 필요하다. 제도 운영의 투명성, 대상자의 참여와 의사 존중이라는 사회복지 정책과 서비스 운영의 핵심 가치들이 블랙박스 문제에 의해 훼손될 가능성이 커지기 때문이다. 여기에 더해서 ‘선제적’ 문제 해결 노력과 상시적인 개인 감시 사이의 경계는 예상보다 훨씬 모호할 수 있다. 또한 문제 해결 모형이 기반하고 있는 데이터가 애초부터 편향되어 있었다면 그에 따른 결과도 차별을 재확대 하는 문제로 이어질 수 있는데, 블랙박스 문제는 이런 문제를 모니터링하고 수정하는 노력을 어렵게 만든다.
휴먼라이트워치(Human Right Watch)의 2020년 보고서 ‘Covid-19 backlash targets LGBT people in South Korea’는 코로나19 감염병 확산 상황에 대응하는 가운데 한국을 비롯한 주요 국가에서 다양한 개인 자유 침해 사례가 발생했음을 지적하고 있다. 이 보고서는 감염경로를 추적하는 가운데 성적 소수자의 신원이 노출되어 공개적인 혐오 피해를 입은 사례, 특정한 문화적 배경을 지닌 사람들을 감염 확산 위험군으로 분류해 주거와 이동의 자유를 제한하는 사례 등을 지적하고 있다. 물론 이런 개인 자유 침해 사례는 팬데믹 상황이라는 특수성을 고려할 여지가 있다고 본다. 그러나 한편으로는 빅데이터 기반 사회문제 해결 가운데 언제든지 개인 자유가 침해될 가능성을 드러냈다는 점 또한 짚어봐야 한다.
○ 늦었지만 우리가 다시 주도할 수 있는 이유
공공행정 분야 연구자인 하여르(Maarten Hajer)는 그의 논문 ‘Policy without polity? Policy analysis and the institutional void(2003)’에서 공공정책 분야에서 기술적인 변화가 빠르게 발생하는 영역에서 이른바 ‘제도적 공백(institutional void)’이 발생한다는 점을 지적했다. 제도적 공백이란 정책 방향의 설정과 집행에 있어서 충분한 합의와 상호 견제의 원리가 작용하지 않는 상황을 의미한다.
빅데이터·인공지능의 사회복지 분야 적용에 있어서도 이와 같은 제도적 공백이 발생하고 있을 가능성이 크다. 아이러니하게도 새로운 기술 변화에 의해 발생한 이런 공백을 채우는 것은 기존의 제도적인 흠결 요소에서 비롯됐을 가능성도 있다. 책임 미루기, 권위적인 의사결정 구조, 정책 당사자의 참여 부족과 같은 고질적인 문제들이 ‘빅데이터 기반’, ‘선제적 예측모형’과 같은 수사 뒤에 숨어 강화될 가능성이 있는 것이다.
지능정보 기술의 사회복지 문제 해결에 대한 맹신은 역으로 사회복지 현장의 불만과 불신으로 이어질 수 있다. 기술 응용에서의 제도적 공백이 현장 소외와 제도 운용의 투명성에 대한 의심을 가져올 수 있기 때문이다. 또한, 기술의 불완전한 실현은 데이터 확보와 관련한 업무의 가중으로 이어지거나, 예측 결과의 불안정성으로 인해 모형에 대한 낮은 신뢰로 이어질 가능성도 크다. 이런 상황은 지능정보기술 응용에 대한 정책 설계자의 환상과 현장의 불신이라는 양극단의 태도가 사회복지 분야에 불편하게 공존하는 사태로 이어지게 된다.
지능정보 기술에 대한 맹신과 불신이 사회복지 분야에서 초래하는 사회적 비용은 분명하고 중대하다. 가장 큰 사회적 비용은 이 기술이 사회복지 영역에서 제도적 공백을 해소하고, 윤리적으로 구현되며, 시민들의 삶을 진정으로 향상시키는 데 기여하지 못하고, 소외를 방지하는 중요한 역할을 하지 못한다는 것이다. 또한, 사회복지와 인접한 주요 휴먼서비스 분야, 예를 들어 의료, 법률, 교육 등에서 발견되는 혁신의 흐름보다 뒤처지는 것은 불행한 상황이다. 기술적 변화에 대한 적응 실패는 장기적으로 사회복지 분야의 고유성까지 위협할 수 있는 위험을 내포하고 있다.
사회복지 영역 발달에 핵심적인 힘 가운데 하나는 증성 추구와 새로운 지식에 대한 유연한 응용에 음을 우리는 다시 상기할 필요가 있다. 사회복지 영역의 성장 동력이었던 오랜 개념은 지능정보기술의 시대에 ‘데이터 기반’, ‘융복합’이라고 부르는 것과 크게 다르지 않다. 사회복지가 걸어온 역사적 경험과 학문적 역량을 생각한다면, 시작은 늦었지만 언제든 변화를 끌어내는 역사적 흐름의 주인공이 될 수 있으리라 기대한다.