사람의 관심과 행동을 유도하는 플랫폼에는 어떤 한계를 요구해야 하는가?
플랫폼은 알림과 추천, 순위, 무한한 화면을 통해 사용자의 관심을 오래 붙잡고 특정 행동을 유도한다. 이런 설계는 원하는 정보와 사람을 쉽게 찾게 하지만 충동적 소비, 분노와 비교, 과도한 사용을 촉진할 수 있다. 이 질문이 문제가 되는 까닭은 사용자가 자발적으로 서비스를 선택하는 것처럼 보여도 기업은 개인의 취약성과 행동 자료를 이용해 선택 환경을 설계하고, 관심을 광고와 매출로 바꾸는 이해관계를 갖기 때문이다. 개인의 자기통제와 기업의 설계 책임이 어디에서 나뉘는지 분명하지 않다. 요구할 한계에는 투명한 추천 기준, 조작적인 화면 설계의 제한, 알림과 자동재생을 끌 수 있는 기본 설정, 아동과 취약한 이용자의 보호가 포함될 수 있다. 그러나 모든 설득과 편리한 설계를 조작으로 볼 수는 없고, 개인화는 접근성과 관련성을 높인다. 플랫폼이 표현과 콘텐츠를 조정하면 검열과 권력 집중의 문제가 생기며, 규제를 강화하면 작은 서비스와 이용자의 선택이 제한될 수 있다. 사용 시간과 함께 추천이 신념과 감정, 정치적 행동에 미치는 장기 영향도 살펴야 한다. 사회관계망은 분노를 일으키는 글을 더 널리 보여 주어 참여를 늘릴 수 있고, 짧은 영상 서비스는 다음 콘텐츠를 자동으로 재생한다. 온라인 쇼핑은 한 번의 결제와 시간제한 표시로 구매를 재촉하며, 게임과 도박 서비스는 보상 주기를 이용한다. 어린이용 앱의 광고와 개인정보 수집, 배달 플랫폼의 노동자 배정, 뉴스 추천의 정치적 편향도 관심과 행동 유도의 사례다. 장애인에게 맞춤 추천은 접근을 돕지만 선택 범위를 좁히는 결과도 만들 수 있다. 어떤 한계를 요구할지 묻는 일은 이용자가 원하는 것을 정확히 제공하는 기술을 모두 금지하는 데 있지 않다. 설득과 조작의 경계는 정보의 비대칭, 거절 가능성, 취약성의 이용, 숨겨진 목적에서 드러날 수 있다. 질문의 핵심은 화면 사용 시간을 개인이 관리하는 데 있지 않다. 사람의 주의와 감정이 사업의 자원이 될 때 플랫폼이 어떤 정보를 공개하고 어떤 선택권을 보장해야 하며, 공적 의사소통의 기반을 훼손하지 않을 책임을 어떻게 질지 이해하는 데 있다.
1. 임마누엘 칸트 - 이용자를 스스로 판단하는 목적으로 대하기
#### *Grundlegung zur Metaphysik der Sitten* (도덕형이상학 정초)
칸트는 사람을 자신의 목적을 세우고 판단할 수 있는 존재로 보며, 다른 사람을 언제나 동시에 목적으로 대하라고 요구했다. 플랫폼이 이용자의 주의와 행동을 수익을 위한 재료로만 다룰 때, 이용자가 선택하는 주체인지 예측하고 조정할 대상인지가 문제 된다.
저작과 위치: 제2절. 인간성 정식과 자율의 원리를 제시하는 대목이다.
#### 중심 생각
사람을 수단으로 이용하는 모든 관계가 잘못인 것은 아니다. 이용자와 플랫폼은 서로 서비스를 주고받을 수 있다. 문제는 플랫폼이 숨겨진 목적과 개인의 취약성을 이용해 사용자가 합리적으로 거절하거나 목적을 이해할 수 없게 만들 때 생긴다. 형식적인 동의만으로 자율성이 보장되지는 않는다.
> *너 자신 안에서든 다른 사람 안에서든 인간성을 언제나 동시에 목적으로 대하고, 결코 단순한 수단으로만 대하지 않도록 행동하라.*
원문 보기
2. 리처드 탈러와 캐스 선스타인 - 선택설계의 투명성과 쉬운 거부
#### *Nudge: Improving Decisions About Health, Wealth, and Happiness* (넛지)
탈러와 선스타인은 선택을 제시하는 순서, 기본값, 알림 방식이 사람의 행동에 영향을 준다는 사실을 ‘선택설계’라는 개념으로 설명했다. 아무런 설계가 없는 중립적 화면은 존재하기 어렵다. 따라서 행동에 영향을 주는 것 자체보다 누구의 이익을 위해 어떤 방식으로 설계했는지를 물어야 한다.
저작과 위치: 서론과 선택설계 원칙을 다루는 장. 넛지와 자유주의적 개입주의를 설명하는 대목이다.
#### 중심 생각
넛지는 선택지를 금지하거나 경제적 부담을 크게 바꾸지 않으면서 예측 가능한 방향으로 행동을 이끄는 장치다. 유익한 기본값도 가능하지만, 기업이 자신의 이익을 숨긴 채 이용자의 실수와 관성을 이용하면 ‘다크 패턴’에 가까워진다. 선택을 바꾸기 쉬운지, 목적이 공개되어 있는지가 경계가 된다.
> *넛지는 선택지를 금지하거나 경제적 유인을 크게 바꾸지 않으면서 사람들의 행동을 예측 가능하게 바꾸는 선택설계의 한 요소다.*
원문 보기
3. 쇼샤나 주보프 - 행동예측 시장의 권력 제한
#### *The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power* (감시 자본주의 시대)
주보프는 디지털 서비스가 이용자의 경험에서 행동자료를 추출하고, 이를 미래 행동을 예측하는 상품으로 바꾸는 경제 질서를 ‘감시 자본주의’라고 불렀다. 플랫폼은 무엇을 보여 줄지 결정할 뿐 아니라 행동을 더 예측 가능하게 만들기 위해 환경을 조정하려는 유인을 가진다.
저작과 위치: 서론과 ‘행동잉여’, ‘도구주의적 권력’을 설명하는 부분이다.
#### 중심 생각
개인정보 수집의 양만 줄인다고 주의와 행동의 문제가 모두 해결되지는 않는다. 이용자가 알지 못하는 실험, 감정과 취약성의 추론, 행동을 특정 방향으로 유도하는 최적화가 결합될 때 플랫폼은 개인보다 훨씬 큰 지식과 개입 능력을 가진다. 정보의 비대칭과 권력의 비대칭을 함께 다루어야 한다.
> *감시 자본주의는 인간의 경험을 행동자료로 전환하고, 그 일부를 미래 행동을 예측하는 상품의 원료로 사용한다.*
원문 보기