학술제_페이스북 알고리즘의 내부고발

필터버블에 관한 학술제 논문으로 본선을 진출하고 금요일 첫 회의를 앞두고 커진 어마어마한 사건!!

이거저거 찾아보면서 정리할 겸 적어봐야징(페이스북의 방향성보다는 알고리즘을 위주로)

 

페이스북 알고리즘 내부고발

물론 이전부터 소셜미디어 회사들이 데이터를 남용해왔다는 이야기를 많이 나왔었다.

이전. 케임브리지 애널리티카 스캔들

특히 페이스북은 2018년 케임브리지 애널리티카 스캔들, 페이스북 내 유저들의 정치성향 데이터를 불법 유철하여 2016년에 활용했다는 논란이 일어났었다.

이후. 내부고발

2021년 10월 5일 프랜시스 하우건이 의회청문회에서 전 페이스북 알고리즘 전 직원이 페이스북을 상대로 내부고발을 했다. 이 내부고발은 “인스타 그램 청소년에 가장 나쁜 소셜 미디어 컨텐츠를 제공해주고있다”이 정도가 아니다. 뉴욕 타임즈와 CNN등 미국의 17개의 언론사 컨소시엄이 이 문제를 비판하는 기사를 시리즈로 보도하기 시작했다. 그래서 미국은 페이스북 창사 이래 최대 위기라는 표현을 썼다.

2021 년  10 월  5 일  의회청문회에 나타난  프랜시스 하우건이 모습

하우건은 페이스북이 이윤을 높이기 위해 허위정보와 증오의 알고리즘을 유지했다고 주장했다. 페이스북이 유명인의 인종 혐오 발언이나 가짜 뉴스 게시물을 지우지 않았고, 인스타 그램에도 특정 게시물이 유해하다는 것을 알면서도 삭제하지 않았다. 오히려 높은 조회수를 위해 혐오발언, 갈등조장, 가짜뉴스 등을 지우지 않고 퍼뜨렸다고 한다. 그러면 사람들은 돈, 더 많은 조회수를 위해 내용보다는 알고리즘으로 더 노출을 시키게 된다는 것이다. 더 극단적인 표현, 더 분노를 표출할 수 있는 용어들을 사용한다.

결국 페이스북의 알고리즘이 증오와 극단적 컨텐츠, 양극화를 조장하는 환경을 만들었다(이슬기,조선비즈니스,2021.10.06.)

페이스북이 지난 2018년 개별 사용자와 비슷한 생각 및 감정을 공유한 이들의 게시물이 더 많이 노출되도록 가중치를 부여하는 식이 알고리즘을 설계했고, 그 경과 증오와 허위 정보, 극단적 컨텐츠와 양극화를 조장하는 환경을 만들었다. 그래서 요즘 알고리즘에서는 존재감을 키우는 가장 쉬운 방법은 분노와 증오라는 것.(일명 어그로)

 

<의회청문회 증언>

인공지능 알고리즘이라는 미명하에 페이스북은

우리 아이들에게 직접적인 해를 끼쳤고, 사회분열을 조장했스며, 극단적인 주장을 주류로 떠올렸다.

페이스북은 연구를 통해 내부적으로 알고 있었지만, 이익을 위해 방관했다.

그 결과 백인 우월주의와 백신 반대 등 사회 변두리에 있던 생각들이 갑자기 주류로 떠오르면서 사회에 막대한 피해를 줬다.

회사의 이익과 사람들의 안전이라는 가치 사이에서 일관되게 자사 이익을 우선시했다( 페이스북만의 문제는 아니다라고 생각은 하는데... 왜 하필 페이스북이 터졌을까 하는 궁금증도 생기는뎅..)

 

담배와 그에 따른 규제/ 아편진통제와 그에 따른 규제가 존재. 왜 사회에 엄청난 해악을 주고있는 알고리즘을 규제하지 않는가

=> 사회는 이와같은 알고리즘에 대한 고민과 검토를 해야한다

 

지금 알고리즘이 당신의 감정과 판단에 어떤 영향을 미치고 있고, 당신을 어떻게 통제하고 있는지 페이스북 말고는 아무도 모른다. 그러나 페이스북은 알고리즘과 데이터를 고객 보호라는 이름 하에 공개하지 않는다.(사실 나는,, 기업 입장에서 기술의 일부라고 주장하면 현재로서는 반박할 것이 없다고 생각하긴 한다.)

 

따라서, 페이스북이 초래한 위기는 너무 심각하고 중대해서 기존의 규제 패러다임을 근본적으로 혁신해야 한다고 주장했다. 사회는 이와 같은 알고리즘에 대한 고민과 검토를 해야한다는 해결점도 이야기 했다.

청문회에서 한 이 이야기가 빵 터졌다는 것.

 

과거 우리가 우려하던 빅브라더-> 우리를 감시하고 통제하는 누군가의 존재

하지만 현재 우리를 좌지우지하는 빅브라더는 정보를 통제하는 알고리즘.(어떤 글, 데이터를 누구에게 보여줄 것인가->데이터 통제권)

과거 TV로 채널을 돌리던 시대와 달리 현재 SNS와 OTT세대로 유튜브, 페이스북, 인스타, 네이버 뉴스, 구글 광고 등 내가 좋아하는 것, 관심사를 위주로 보여준다. 그러다 보면 경주마의 안대처럼 한정된 부분만 보게 만든다. 우리 판단의 근거인 정보를 움직인다는 것!(현재 스우파, 파이트 클럽, 공범 등 엄천 뜨는 컨텐츠도 누군가에게는 듣보 컴텐츠가 될 수 있다.)

->사회 판단의 근거를 좌우하는 알고리즘에 대한 고민과 고뇌가 없다.(외곽의 어그로성 의견인지, 조작된 의견인지, 혹은 정말 좋은 의견인지)

 

에코 챔버 효과

-일방적 논리만 반복적으로 듣다보면 증폭 강화되어 수용되는 현상

->반대면이 이야기하는 것을 가짜뉴스라고 할 정도로 무엇이 진짜/가짜인지 구분을 못할 지경에 이르렀다.

 

필터버블

-필터링 된 버블 안에 갇혀버렸다

-그 필터링(filtering)에 대한 고찰은 없다(ex-'다 그렇게 생각하는 것 아닌가?', '이게 여론이야', '도대체 누가 그런 생각을 하나'

 

웩더독 현상(Wag the Dog)

-개의 꼬리가 모통을 흔든다(꼬리가 빠르게 움직이며 개를 흔드는 현상)

-주식시장에서 선물시장(꼬리)이 현물시장(몸통)에 큰 영향을 미치는 현상

 

알고리즘의 결과, 예전 같으면 사회 변두리에 있던 어림도 없을 극단덕 생각들이 주류로 떠오르며 사회에 막대한 피해를 줬다.

그리고 헷갈리기 시작한다는 것. 무엇이 꼬리고 무엇이 몸통인가, 흔드는 것은 꼬리인가 몸통인가,, 

 

결국 페이스북과 같은 알고리즘은 민주주의를 위협하는 플랫폼이라는 것이 결론. (무엇이 여론이고 무엇이 진리인가,, 다른 의견을 잘못 말했다간, 집단 보복을 당할 수가 있다는 것..)

 

과연 우리는 알고리즘을 활용한 조작들을 우리는 판별할 수 있는가