[5.0] 알고리즘의 편견

알고리즘의 편견
CODED BIAS


인공지능이 어떻게 혐오와 차별을 학습하는가에 대힌 다큐멘터리.
'기계는 공정할 것이다' 라는 생각.
얼마 전에 트위터에서 인공지능 알고리즘이 '중요한' 정보가 섬네일에 노출되도록 이미지를 크롭해서 보여주는 서비스를 종료했다. 이 기술이 나올 때부터 오바마 전 대통령과 그냥 백인 남성을 위아래에 배치해서 올렸을 때 오바마 전 대통령보다 그냥 백인 남성을 더 중요하다고 판단, 섬네일을 백인 남성으로 나오게 한다는 논란이 있었다.
기술의 발전은 빠른데 인간 정신의 발전은 더디다. 제법 무섭다. 개인정보 수집 및 사찰과 관련된 알고리즘을 대중에 직접적으로 노출하여 공포심을 조장하는 도구로 사용하는 중국과는 달리 미국 같은 것은 교묘하게 우리 삶에 파고들어 해악을 숨기고 대중의 정보를 상업적으로 판매하고 몰래 불이익을 준다.
우리가 수십 수백 수천년에 걸쳐 쌓아오고 고쳐온 모든 가치들이 '이전의 것'을 학습하는 시스템에 의해 붕괴되고 있다. 이런 기술이 발전하기 위해서는 만연한 혐오 정서를 없애는 것이 필요하다. 물론 오래 걸리겠지만(그리고 이제 머신 러닝으로 인해 더 힘들어질지도 모른다). 한편 이런 결과들은 '문사철' 조롱과 맞닿아있지 않을까 생각한다. 윤리 없는 기술 발전은 어디까지 도달할 수 있을까. 우리가 가진 가치를 얼마나 파괴할 수 있을까.