디지털 플랫폼 알고리즘 조작의 법적 쟁점과 규제 방안

지난해 5월, 공정거래위원회(이하 공정위)는 국내 거대 온라인 유통사인 쿠팡에 1,400억여 원의 과징금을 부과했습니다. 이는 지난해 공정위가 유통업체에 부과한 과징금 중 최고액에 달합니다. 사유는 ‘알고리즘 조작’이었습니다. 자체 브랜드(PB) 상품의 판매를 늘리기 위해 검색 순위를 조작한 사실이 적발된 것입니다.

쿠팡은 자사 몰에 노출되는 검색 순위 알고리즘을 이용해 자사 PB 상품이 상위에 노출되도록 인위적으로 조작하고, 경쟁사 상품은 하위에 노출되는 방식으로 소비자의 구매 선택을 방해한 것으로 드러났습니다. 또한 임직원들에게 PB 상품 페이지에 긍정적인 구매 후기를 적극 작성하도록 지시하고, 반면 경쟁사 상품 페이지에는 부정적인 구매 후기를 쓰도록 유도한 사실도 적발되었습니다. 공정위는 이를 소비자의 합리적인 선택을 방해하고 업체별 공정한 경쟁을 저해한 행위로 판단해 쿠팡의 2개 계열사(쿠팡·씨피엘비)에 1,400억여 원이라는 이례적인 과징금을 부과한 것입니다.

비슷한 사례는 또 있습니다. 2024년 2월 공정위는 카카오모빌리티가 자사 가맹 택시를 우대하기 위해 배차 알고리즘을 조작한 사실을 적발했습니다. 카카오모빌리티는 택시 호출 서비스 ‘카카오 T’ 앱에서 자사 가맹택시에 더 유리하도록 배차 알고리즘을 설정해 비가맹 택시에 비해 더 많은 호출을 배정했습니다. 그뿐 아니라 가맹 택시 기사에게는 호출 수락률을 높게 유지하도록 압박하고 비가맹 택시 기사에게는 불이익을 주는 방식으로 가맹 택시를 직간접적으로 우대한 사실이 드러났습니다. 공정위는 카카오모빌리티의 이러한 행태가 택시 시장의 공정 경쟁을 저해하는 행위로 판단해 약 257억 원의 과징금을 부과했습니다.

앞선 사례에서 알 수 있듯, 구글이나 네이버 같은 온라인 플랫폼 알고리즘은 AI 기술을 만나 급속도로 고도화되면서 디지털 시대의 새로운 권력으로 자리 잡고 있습니다. 초기의 알고리즘은 개인의 취향을 예측해 최적의 검색 결과를 도출하는 것에 초점이 맞춰져 있었습니다. 반면 최근에는 사용자의 개별 데이터에 기반해 의도적으로 소비자의 거래 패턴을 조종하거나, 개인의 정치 성향을 파악해 이를 공고히 하는 한정된 콘텐츠를 반복적으로 노출시킴으로써 사회적 갈등을 증폭시키는 데 활용되고 있습니다.

이러한 알고리즘 메커니즘이 사회에 미치는 영향은 날로 커지고 있지만, 이에 대한 법적 규제는 시장자본주의에 대한 침해 요소에만 국한되어 있다는 점도 생각해봐야 할 문제입니다.

알고리즘으로 인해 촉발되는 문제는 비단 자본주의의 근간만 해치는 것이 아닙니다. 인종, 성별, 지역 등 각종 갈등을 촉발하는 기폭제가 되기도 합니다. 플랫폼 기업의 본산지인 미국에서는 2018년 자국 내 최대 온라인 상거래 업체인 아마존(Amazon)의 채용 알고리즘이 문제가 되었습니다. 아마존은 알고리즘을 통해 여성 지원자의 이력서에 기재된 ‘여성’이나 ‘여대 졸업’ 같은 단어를 특정해 페널티를 부여하는 등 남성 편향성을 드러냈습니다. 이를테면 ‘여성 체스 클럽 주장’이라는 경력이 기재되어 있으면 감점을 주는 방식으로 교묘히 성별을 차별한 것입니다.

세계 최대 검색 사이트인 구글(Google) 또한 사회적인 알고리즘 논란에서 자유롭지 않습니다. 구글의 사진 태그 알고리즘에 인종 차별적 오류가 있다는 지적이 끊이지 않고 있습니다. 흑인 사용자의 사진을 ‘고릴라’로 태그하는 등의 오류가 대표적입니다. 다양한 인종이나 문화권의 데이터를 충분히 학습하지 못한 알고리즘이 특정 인종이나 그룹에 대해 얼마나 부정확하게 인식하는지, 또 모욕적인 결과를 초래하는지 보여주는 단적인 예입니다. 이러한 예들은 단순한 기술적 결함에서 비롯된 것이 아니라 학습 데이터의 사회적 편향성이 알고리즘을 통해 발현된 결과물로 해석됩니다. 즉 알고리즘은 언제든 플랫폼 기업이 원하는 편향된 결과를 도출해내는 도구로서, 그 기술적 특이점에 도달했다고 보는 것이 타당합니다.

알고리즘은 우리가 자연스러운 경제활동이라 여겼던 일상의 영역, 또는 은연중에 알면서도 내막을 일일이 들여다보기 어려웠던 것들에 생각보다 아주 깊숙하고 치밀하고 내밀하게 스며들어 있습니다. 익숙하고 편리하지만 교묘하게 우리의 판단과 선택을 ‘누군가의 입맛에 맞게’ 조작하는 것, 그리하여 통제하고 길들여지는 데 본능적인 거부감이 들더라도 이를 완벽히 간파하거나 피하기란 쉽지 않습니다. 결국 세계 각국은 개인의 자유와 공정을 지키고, 편향적 사회 구조를 타파하기 위해 안티 알고리즘을 위한 법적 장치와 제도를 마련하고 있습니다.

유럽연합(EU)은 2019년 코로나 사태 당시 허위 정보와 음모론 등이 SNS를 통해 급속도로 확산되면서 백신 접종을 거부하는 등 사회적 혼란이 가중된 일을 계기로 디지털 서비스법(Digital Services Act, DSA 2022)을 제정했습니다. 이 법은 플랫폼 기업의 영향력 견제와 불법 콘텐츠 확산 방지 등을 위해 맞춤형 검색 결과 추천에 적용되는 알고리즘을 공개하도록 의무화한 것이 골자입니다. 현재까지 구글은 DSA의 알고리즘 공개의무 조항을 이행하지 않고 있으나, 유럽연합이 현재 X와 틱톡에 대한 조사를 진행 중인 만큼 그 결과에 따라 대응 전략을 내놓을 가능성이 높습니다. 다만 DSA 위반 시 글로벌 매출의 최대 6%까지 과징금이 부과될 수 있고, 지속 위반 시 시장 퇴출 조치까지 가능하므로 플랫폼 기업들이 어떻게 대처할 것인지가 관건입니다.

미국은 2021년 발의된 필터 버블 투명성 법안(Filter Bubble Transparency Act)을 통해 사용자 데이터를 기반으로 선호 콘텐츠만을 선별해 제공하는 필터 버블 알고리즘 적용 사실을 공개하도록 명시했습니다. 현재 법안은 의회 계류 중으로 통과 가능성이 매우 높은 것으로 파악됩니다. 호주는 2021년 온라인 안전법(Online Safety Act 2021)을 제정해 알고리즘이 청소년 유해 콘텐츠 제공이나 청소년 타깃 광고를 하는지 여부를 플랫폼 기업이 의무적으로 공개하도록 했습니다. 다만 플랫폼 기업들이 직접적으로 알고리즘을 공개하도록 의무화한 입법례는 유럽연합의 DSA를 제외하고는 아직까지 없는 상황입니다.

국내의 상황은 그보다 더 더딥니다. 알고리즘의 전면 공개는 기업의 영업 비밀을 침해할 수 있고, 공개된 알고리즘을 악용해 오히려 어뷰징을 초래할 수 있다는 우려를 이유로 법적 논의 자체가 미진한 상태입니다. 이를테면 특정 사용자가 원하는 결과(예 : 상위노출)를 얻는 데 알고리즘이 악용될 소지가 높다는 것입니다. 최근 22대 국회에서 발의된 ‘온라인 플랫폼 공정화법’도 배달 앱 수수료 인하와 소상공인 보호를 강조하는 쪽에 초점을 맞추고 있어 알고리즘 공개에 관한 부분은 전무합니다.

물론 플랫폼 알고리즘의 완전한 공개가 기업의 기술 혁신을 다소간 저해하고 그 동력을 약화시킬 수 있다는 점은 일정 부분 설득력이 있습니다. 그럼에도 불구하고 알고리즘이 사회적으로 미치는 영향력을 고려할 때 부분적으로나마 투명성을 확보하는 것은 필수불가결한 것으로 보입니다. 무방비한 알고리즘 과용이 불러일으키는 갈등, 이로 인한 사회적 비용은 추산하기 힘들 만큼 거대하고 강력하기 때문입니다. 때로 그 영향은 유럽의 백신 거부 사태, 수많은 희생자를 양산하는 인종 갈등처럼 우리 삶에 실체적 위협으로 나타나기도 합니다. 이는 단순히 개인의 자각과 노력만으로 타개할 수 있는 수준이 아닙니다.

그렇다면 어떤 방식으로 사회적 제도를 마련할 수 있을까요. 알고리즘의 핵심 로직 설명은 의무화하되 소스 코드 공개는 배제하는 유럽연합의 DSA 방식을 참조해도 좋겠습니다. 적어도 검색 순위 결정 기준, 추천 시스템의 주요 변수, 편향성 검증 결과 등을 공개하는 시스템을 법제화할 필요가 있습니다.

우리나라 현행 개인정보보호법 제37조의2에 따르면 자동화된 결정에 대해 사용자가 설명을 요구할 수 있는 권리(설명요구권)가 명시되어 있으나, 플랫폼 알고리즘은 그 대상에 포함되어 있지 않습니다. 반면 유럽연합의 개인정보보호법(GDPR)은 알고리즘에 의한 결정을 거부할 수 있는 권리(예: 채용 · 대출 거부)를 법제화하고 있습니다. 특히 플랫폼 알고리즘으로 인한 피해(예: 카카오모빌리티의 불공정 배차) 발생 시 사용자가 알고리즘의 의사 결정 과정을 공개하도록 요구하고 이의를 제기할 수 있는 절차가 법적으로 보장되어 있습니다. 또한 채용 등의 과정에서 불이익에 대한 이의를 제기할 경우, 개인이 아닌 알고리즘을 제공한 플랫폼 기업에서 공정성을 입증하도록 알고리즘 공정성에 대한 플랫폼 기업의 입증 의무를 강화해 두었습니다.

알고리즘은 더 이상 단순한 소스 코드가 아니라 디지털 권력입니다. 알고리즘 대응 관련 입법을 단순히 기술 발전을 억제하는 것이라는 판단은 편협하고 안일하다고 할 수 있습니다. 사용자의 권리 보호, 공정한 경쟁을 위해서 제도적 인프라를 구축하는 것으로 봐야 합니다. 플랫폼 기업의 자정 작용이나 자율 규제에만 의존하기에는 힘의 기울기가 지나치게 한쪽으로 쏠려 있기 때문입니다. 사전 예방적 차원의 알고리즘 공개 의무, 사후 구제를 위한 분쟁 조정 절차, 이를 바라보는 사회적 인식까지 알고리즘에 대한 사회 전반의 고민과 깊은 논의, 균형 잡힌 제도적 접근에 대해 지금이라도 이야기를 시작해야 합니다.