구글 딥마인드에서 SynthID라는 상당히 흥미로운 기술을 내놨다.
직역하자면 SynthesizingID 일테니 합성ID? 정도 되겠다.
요약하면 Imagen이라는 이미지 생성 AI를 통해 생성한 이미지에 워터마크를 넣는 기술인데, 이 워터마크를 통해 생성AI가 만든 이미지인지 아닌지를 구분할 수 있게 된다는 얘기다.
워터마크를 넣는 방식에는 2가지의 딥러닝 모델을 사용했다.
1.
워터마킹용
2.
워터마크 식별용
딥러닝은 인공지능의 한 분야로 인간의 두뇌처럼 작동하게 모델링된 알고리즘인 신경망이라는 것이 데이터에서 학습하는 방식을 말한다.
기존에 내가 알던 워터마크는 이런거다. 예를 들면 구글 검색에서 매번 우리를 반겨주는 Shutterstock 워터마크. 요즘은 기술이 좋아졌으니 가운데 지우고 AI로 채워도 되고, 가운데를 사용하지 않고 위 아래만 사용할 수도 있다. 포토샵 기술이 좋으면 지우기 쉬운건 덤이다.
흥미로웠던건 기존 워터마크와 달리 온갖 편집에도 워터마크가 살아남는다는 거다.
잘라내고, 색깔 바꾸고, 압축하고, 노이즈 넣고, 뒤집고 다 해도 워터마크 식별이 가능하다는데 이게 어떻게 가능하지? 싶었다.
정확히 어떤 방식으로 운영했는지 관련 페이가 있는지 찾아봤지만 공개되지 않은 기술이었다.
어라? 근데 찾다보니 이렇게 딥러닝을 워터마크에 사용하는 방식은 굳이 구글이 먼저 시작한게 아니었다.
이미 국내 웹툰 업체에서는 AI를 활용한 워터마크를 사용 중이었고, 이걸 복제해간 사람이 누구인지 식별하는 것이 따지자면 생성AI로 만들어진걸 판단하는 것(1 이냐 0이냐)보다 훨씬 어렵다고 생각됐다. 각자의 목적과 기능을 비교해보면 큰 골자는 동일했다.
웹툰 워터마크
목적
•
불법 재사용 방지
필요 기능
•
보이지 않아 컨텐츠 소비에 불편함을 초래하지 않을 것(invisibility)
•
일정 이상의 편집(자르기, 밝기 조절 등)에도 강인성(robustness)을 지닐 것
•
추적 가능한 식별자를 통해 불법 복제자를 확인 가능할 것
생성AI 워터마크
목적
•
생성AI로 생성된 이미지 여부
필요 기능
•
보이지 않아 컨텐츠 활용에 불편함을 초래하지 않을 것(invisibility)
•
일정 이상의 편집(자르기, 밝기 조절 등)에도 강인성(robustness)을 지닐 것
•
생성 AI로 생성된 이미지인지 아닌지만 판단 가능할 것 ( 1 or 0 )
뭐 숨기는 정보를 문자열을 숨기느냐 아니냐의 차이 정도에 머물겠지만, 어찌됐든 워터마크에 딥러닝을 사용한 건 이미 꽤나 진보된 상태라는걸 알게 되자 논문을 찾아봤고 국내 논문도 이미 몇몇개 있었다.
아래 논문을 한 번 가볍게 흝어봤는데 딥러닝을 활용하는 가장 큰 이유는 앞서 언급한 필요 기능을 다 충족하기 때문이라고 보면 되겠다.
•
보이지 않는 정교한 워터마크 삽입 가능
•
다양한 콘텐츠에 적용가능
•
워터마크를 손상하거나 변조한 콘텐츠를 식별
이재은, 서영호, 김동욱.(2020).워터마크 및 해상도 적응적인 영상 워터마킹을 위한 딥 러닝 프레임워크.방송공학회논문지,25(2),166-175.
딥러닝을 활용한 꽃의 종류 분류
어느정도 이미지의 후처리(압축, 색전환 등)를 통해 나타난 패턴이 “내가 설정한 모양과 비슷하면 이건 생성AI가 만든거다!”라고 판단하는 원리다.
[AI로 만든 이미지에 워터마크 씌운 이미지 및 편집을 여러번 한 이미지 다수, 그냥 이미지들]을 가지고 “이건 AI가 만든거, 이건 AI가 안만든거 자 봐봐 알겠지?”하며 지도학습을 시켜서 워터마크를 구분하게 했다고 보면 된다.
진짜 사람이 하나씩 알고리즘 짜려면 머리 엄청 깨졌겠지 싶은데 어찌보면 골자만 짜고 입력 값만 잘 만들면 그 뒤부터는 세밀한 수치 조정 노가다 뿐이다.
정말 딥러닝은 어디까지 쓸 수 있냐 묻는다면 이제 할 거 다했나? 싶다가도 계속 사용처가 나타난다.
