하이퍼

TikTok의 새로운 필터가 인터넷을 장악하고 있습니다. 이는 소셜 미디어의 미래에 관심이 있는 모든 사람에게 중요한 토론입니다.

이 기사는 권력, 정치, 실리콘 밸리에 관한 MIT Technology Review의 주간 기술 정책 뉴스레터인 The Technocrat에서 발췌한 것입니다. 매주 금요일 받은편지함으로 받아보려면 여기에서 가입하세요.

최신 바이럴 사례인 TikTok의 Bold Glamour 뷰티 필터가 귀하와 관련이 없다고 생각할 수도 있습니다. 하지만 나는 정중히 반대하고 싶습니다. 사용 여부에 관계없이 이러한 종류의 증강 현실(AR) 필터에 관심을 가져야 하는 이유를 설명하겠습니다.

지난달 출시 이후 현재 1,600만 번 이상 사용된 볼드 글래머 필터는 광대뼈와 턱선을 날카로우면서도 은은한 라인으로 윤곽을 잡아줍니다. 또한 코 끝, 눈썹 아래 부분, 뺨의 사과 부분을 강조합니다. 또한 눈썹을 올려주고 눈꺼풀에 쉬머 효과를 주어 두껍고 긴 검은색 속눈썹을 연출해 줍니다. 이름처럼 글래머러스한 효과를 줍니다.

미적인 것 자체가 인상적이다. 그러나 정말 놀라운 점은 그것이 얼마나 잘 작동하는지입니다. 필터는 일반적으로 필터처럼 얼굴이 움직이거나 손을 흔드는 것과 같은 물체가 시야를 방해하는 경우에도 필터에 결함이 발생하지 않습니다.

@rosaura_alvrz 사용자는 TikTok 리뷰에서 필터를 테스트하기 위해 얼굴을 두드리며 "너희들. 이게 문제야. 더 이상 필터라고 말할 수 없다"고 한탄했다.

전문 필터이자 AR 제작자인 Florencia Solari는 Bold Glamour가 기계 학습을 채용할 가능성이 높다고 말합니다. AI 필터가 파장을 일으킨 것은 이번이 처음은 아니지만 "이러한 필터를 사용한 경험은 매우 원활하며 설득력 있는 수준의 결과를 달성할 수 있습니다. 현실은 사람들이 겁에 질려 있다는 것이 놀라운 일이 아니라는 것입니다."

그리고 실제로 사람들은 겁에 질려 있습니다. 그렇다면 우리는 이 왜곡된 현실 세계에 대해 얼마나 관심을 가져야 할까요?

첫째, 몇 가지 맥락입니다. 수년 동안 Snap, Instagram, TikTok과 같은 소셜 미디어 사이트의 증강 현실 필터를 통해 사용자는 통통한 입술, 움푹 들어간 볼, 얇은 코, 넓은 눈과 같은 특정 아름다움 기준을 지속시키는 사전 설정된 특성으로 사진과 비디오를 쉽게 편집할 수 있었습니다. .

뷰티 필터는 인플루언서 문화와 알고리즘 증폭과 결합해 흰색과 날씬함을 우선시하는 방식으로 아름다움의 기준을 급속도로 좁혀왔습니다.

젊은이들은 필터 사용을 좋아하지만(Meta에서 얻은 최신 수치에 따르면 6억 명이 넘는 사람들이 적어도 하나의 AR 제품을 사용했다고 합니다), 정신 건강, 정체성, 행동에 미치는 영향에 대한 연구는 거의 없습니다.

우리가 수행한 연구에 따르면 몇 가지 심각한 위험이 있습니다. 여아는 남아보다 어릴 때부터 놀이보다는 미화를 위해 필터를 사용할 가능성이 높으며, 소셜 미디어는 젊은이들의 정신 건강과 신체 이미지에 부정적인 영향을 미치는 것으로 알려져 있습니다. 뷰티 브랜드 도브(Dove)가 실시한 설문조사에 따르면, 13세까지 소녀 중 80%가 온라인에서 외모를 바꾸기 위해 필터나 사진 편집을 사용한 적이 있다고 합니다.

그럼에도 불구하고 필터는 수년 동안 사용되어 왔습니다. 그렇다면 우리가 지금 이 이야기를 하는 이유는 무엇입니까? Bold Glamour는 첨단 기술, 초현실적인 뷰티 필터의 새로운 시대를 열 수 있습니다.

우리는 이러한 필터가 얼굴 필터의 표준인 얼굴 감지 기술과 결합하여 기계 학습의 최근 발전, 특히 생성적 적대 네트워크(GAN이라고 함)를 점점 더 많이 활용하는 것을 보게 될 것입니다. (기술에 대해 심도있게 다루는 Jess Weatherbed와 Mia Sato의 멋진 이야기를 읽어보세요!) 결과가 너무 현실적이어서 무엇이 실제인지 아닌지를 구별하기가 점점 더 어려워질 것입니다.

지난 달 TikTok은 사람들이 플랫폼용 필터를 만드는 데 도움이 되는 새로운 생성 AI 도구를 출시했지만 회사는 Bold Glamour가 실제로 생성 AI를 사용하는지 여부는 밝히지 않았습니다.

우리의 질문에 대답하는 대신 TikTok 대변인은 다음과 같은 성명을 제공했습니다. "TikTok에서는 자신에게 진실해지는 것을 축하하고 장려합니다. 창의적인 효과는 콘텐츠를 만드는 것을 재미있게 만들고 자기 표현과 창의성을 강화하는 것의 일부입니다. 투명성은 이를 사용하는 모든 비디오는 기본적으로 명확하게 표시되므로 효과 경험에 내장되어 있습니다."