일상을 편리하게 만들어주는 알고리즘, 이런 문제가 있었어?
유튜브의 첫 화면을 보면 그 사람의 세상을 어느 정도 가늠할 수 있습니다. 여러분의 유튜브 첫 화면은 무엇인가요? 대부분 최근 관심 있게 보았던 주제의 영상들이 추천 영상으로 떠 있을 거예요. 이는 유튜브의 알고리즘이 작동한 결과입니다.
알고리즘은 사용자의 데이터를 기반으로 사용자가 관심 가질 만한 방향의 콘텐츠를 제공합니다. 덕분에 굳이 찾아보지 않아도 편리하게 원하는 영상과 자료들을 손쉽게 볼 수 있죠.
일상을 보다 간편하고 풍부하게 만들어주는 알고리즘, 분명 눈에 보이는 장점들이 많이 있지만 역으로 사용자가 이 알고리즘에게 조정 당하며 정보를 편식하는 것이 사회적 문제로 떠오르고 있습니다. 그리고 알고리즘을 기반으로 설계된 AI의 차별적 발언 등으로 알고리즘 윤리도 뜨거운 감자가 되고 있죠.
알고리즘의 정의와 간단한 작동 원리, 알고리즘이 우리가 사는 세상에 던지고 있는 질문들까지 함께 살펴봐요.
그래서 알고리즘이 뭔데?
여러분이 아직 아무런 입력 값이 주어지지 않은 컴퓨터라고 가정을 해볼게요. 제가 ‘시리얼먹기’ 명령을 내려볼게요.
- 시리얼의 포장지를 뜯는다.
- 그릇을 꺼낸다.
- 그릉세 시리얼을 붓는다.
- 우유를 시리얼이 담긴 그릇에 붓는다. (단, 넘치지 않게!)
만약 이 명령 중 '그릇' 과 같은 사소한 정보나 순서 등을 하나라도 입력하지 않는다면 어떻게 될까요? 영상에서 볼 수 있듯 시리얼을 제대로 먹기는 어려울 것입니다. 이처럼 ‘시리얼먹기’ 라는 하나의 목적에 도달하기 위해서는 구체적이고 세세한 명령 과정이 필요하죠. 그 과정을 바로 ‘알고리즘’이라고 부릅니다.
알고리즘의 정의
알고리즘은 어떤 문제의 해결을 위해 입력된 자료를 토대로 원하는 출력을 유도해 내는 규칙의 집합입니다. 프로그램의 사용자들은 연령, 성별, 취향 등에 따라 선호도가 모두 다릅니다.따라서 우리가 알고리즘으로 익히 알고 있는 추천 알고리즘은 사용자들의 취향 정보를 기반으로 사용자 만족도가 가장 높을 것으로 추정되는 콘텐츠를 추천합니다.
알고리즘의 작동원리 : 콘텐츠 기반 필터링과 협업 필터링
추천 알고리즘에는 콘텐츠의 내용을 분석하여 좋은 콘텐츠를 추천하는 ‘콘텐츠 기반 필터링’과 다수의 사용자 경험 정보를 이용하여 추천하는 ‘협업 필터링’이 있습니다. 일상 속에서 접하는 추천은 두 가지 방식이 함께 작동해서 이뤄지죠. 이에 대한 자세한 설명은 이전 블로그 글에서 확인하실 수 있습니다.
→ 유튜브 추천 알고리즘, 나보다 나를 더 잘 아는 유튜브?!
알고리즘은 어떻게 사용되고 있을까?
추천 알고리즘은 아마존이나 유튜브 같은 기업의 성장 동력입니다. 더 효율적이고 편리한 알고리즘을 내놓는 기업이 더 많은 이용자를 불러 모으죠 . 고객의 수요를 예측하는 아마존의 알고리즘은 소비자가 주문하지 않은 물건까지 먼저 배송하기도 합니다. 아마존 매출의 40%가 추천에서 나오는 것으로 추산됩니다. 유튜브에서 소비되는 동영상의 대부분은 알고리즘이 추천한 동영상입니다. 유튜브는 ‘맞춤 동영상은 채널 구독이나 검색보다 전체 유튜브 시청률의 훨씬 많은 부분을 차지한다.’고 직접 밝힌 바 있습니다.
이처럼 추천 알고리즘을 사용하는 목적은 고객들의 서비스 이용 시간을 최대화함으로써 매출을 확대 시켜 기업들의 콘텐츠 서비스 제공 및 판매 사업을 활성화 시키는 것입니다. 기업의 관점에서는 사용자들의 성향과 선호도에 적합한 상품이나 콘텐츠를 제공하여 사업을 활성화하는데 매우 큰 도움이 되고 있습니다. 사용자들 또한 스스로 원하는 정보를 찾지 못했거나, 미처 생각하지 못했던 좋은 콘텐츠를 찾는데 편의성을 제공 받기 때문에 기업과 사용자 모두에게 많은 도움이 됩니다.
이외에도 다양한 플랫폼에서 자신들의 알고리즘을 공식 홈페이지를 통해 공유하고 있는데요, 이를 통해 해당 앱의 알고리즘이 신뢰할 만한 것이며. 편향적이지 않다는 것을 공식적으로 발표했습니다.
→ 넷플릭스의 알고리즘 자세히 확인하기 : https://help.netflix.com/ko/node/100639
→ 인스타그램의 알고리즘 자세히 확인하기 : https://about.instagram.com/ko-kr/blog/announcements/shedding-more-light-on-how-instagram-works
알고리즘의 두 얼굴
앞서 언급한 바와 같이, 추천 알고리즘은 우리 생활을 훨씬 편리하고 풍요롭게 만들어 주었습니다. 필요한 정보를 제공하고 선택의 효율성을 높였죠.
하지만 우리의 선택을 은밀히 지배하기도 합니다. 추천 알고리즘을 사용하기 위해서는 개인 정보를 대가로 지불해야만 하는데요. 이에 늘 알고리즘에는 ‘개인정보 이슈’가 꼬리표처럼 따라붙습니다. 또한 알고리즘은 개인의 편향성을 강화하는 역할을 하기도 합니다. 내 선택을 바탕으로 제공하는 추천을 따라가다 보면 편향된 정보 속에 갇히는 ‘필터 버블’ 현상이 발생합니다.
필터버블이란?
엘리 프레이저(Eli Pariser)가 쓴 ‘생각 조종자들’ 에서 나온 개념으로, ‘정보여과현상’으로도 불려요. 정보를 제공하는 인터넷 검색 업체나 SNS 등 이용자 맞춤형 정보를 제공하는 과정에서 이용자가 특정 정보만 편식하게 되는 현상을 뜻합니다.
필터 버블은 심각한 사회 갈등을 초래할 수 있습니다. 뉴스나 정보를 담은 영상을 선택할 때 추천 알고리즘을 무비판적으로 수용하면 개인의 편향성이 강화되고, 사회적인 공통 인식은 희박해져가죠. 갈수록 정치적 사회적 분열이 확산되고 갈등이 깊어지고 있는 현실은 우리 사회 뿐 아니라 세계적인 현상이기도 합니다. 그 배경에는 추천 알고리즘의 역할이 큰 비중을 차지하고 있어요.
구글, 페이스북의 AI 윤리 이슈
2020년, 독일 정보기술(IT) 전문지 ‘알고리즘워치’는 “구글 인공지능(AI) 서비스로 이미지 식별 실험을 한 결과, 밝은 피부를 가진 사람이 체온계를 들고 있는 사진은 체온계를 들고 있는 모습으로, 어두운 피부를 가진 사람이 체온계를 들고 있는 사진은 총을 갖고 있는 모습으로 분류하는 비율이 높았다”고 밝혔어요. AI가 충분한 학습 과정을 거치치 않았기 때문일 수 있다는 진단이 많은데요, 편향된 데이터로 잘못된 학습을 했을 가능성도 제기되고 있습니다. 인간의 편향이 만연한 사회의 데이터로 인공지능 서비스를 학습시키면(머신러닝) 차별적 판단을 지속해서 할 수 있다는 의견이에요.
‘대량살상 수학무기’의 저자 캐시 오닐은 “알고리즘이 공정할 것이라는 생각을 버려야 한다. 우리사회에 이미 차별이 내재돼 있기 때문에 알고리즘 처리 결과에도 이미 차별이 있을 수 밖에 없다”고 지적한 바가 있어요.
(관련 기사 : https://www.hani.co.kr/arti/science/technology/956206.html)
21년 1월 12일 운영을 중단한 인공지능 챗봇 ‘이루다’ 기억하시나요? 이루다는 스캐터랩에서 개발한 페이스북 메신저 채팅 기반의 인공지능 챗봇입니다. 20대 여성을 컨셉으로 만들어진 이루다는 딥러닝 알고리즘을 이용해 인간과 많은 유사성을 보였습니다. 출시 직후 인기를 누리던 이루다는 성소수자 혐오, 성희롱 등으로 논란의 중심에 섰습니다. 논란이 일자 이루다의 제작사인 스캐터랩은 “금지어 필터링을 피하려는 시도가 있을꺼라 예상했다며, 성적 취지로 접근하기 어렵게 알고리즘을 업데이트할 것이라 밝혔고 이 그 다음날 서비스 중단을 발표했습니다.
알고리즘, 앞으로 어떻게?(사용자 ver.)
혹시 여러분도 아무런 검열 없이 그저 알고리즘이 추천해주는 정보들을 습득하지는 않았나요? 자신의 의지와는 상관없이 알고리즘에 이끌려 클릭한 영상들을 끊을 수 없는 상황은 아닌가요? 알고리즘이 어떠한 구조로 운영되고 있고 사회적으로 어떤 영향을 끼치는지 알게 된다면 조금 더 건강한 사용자가 될 수 있을 거예요. 건강한 사용자는 결국엔 건강한 개발자로 이어질 겁니다.
