๐Ÿค” LLM ์›Œํ„ฐ๋งˆํฌ์˜ ๊ทผ๋ณธ์  ์‹ ๋ขฐ๋„ ๋ฌธ์ œ

AI ๊ธฐ์ˆ ์˜ ๋ฐœ์ „์œผ๋กœ ์ •๊ตํ•œ ๊ฐ€์งœ๋‰ด์Šค ์ƒ์„ฑ์ด ๊ฐ€๋Šฅํ•ด์ง€๋ฉด์„œ, ๊ทธ๋กœ ์ธํ•œ ์‚ฌํšŒ์  ํ˜ผ๋ž€์˜ ์šฐ๋ ค๊ฐ€ ์ปค์ง€๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๋ฅผ ์œ„ํ•ด ํ•™๊ณ„์™€ ์‚ฐ์—…๊ณ„๋Š” ๊ฐ LLM์— ๊ณ ์œ ํ•œ '์›Œํ„ฐ๋งˆํฌ(watermark)'๋ฅผ ์ƒˆ๊ฒจ ๋„ฃ์–ด, ์ฝ˜ํ…์ธ ์˜ ์ถœ์ฒ˜๋ฅผ ์ฆ๋ช…ํ•˜๋Š” ์ผ์ข…์˜ ๋””์ง€ํ„ธ ์„œ๋ช…์ฒ˜๋Ÿผ ํ™œ์šฉํ•ด์™”์Šต๋‹ˆ๋‹ค. ์ด ์„œ๋ช…๋งŒ ์žˆ์œผ๋ฉด ์ด ๊ธ€์„ ์‚ฌ๋žŒ์ด ์ผ๋Š”์ง€, AI๊ฐ€ ์ผ๋‹ค๋ฉด ์ •ํ™•ํžˆ ์–ด๋–ค ๋ชจ๋ธ์ด ์ผ๋Š”์ง€์™€ ๊ฐ™์€ ์ถœ์ฒ˜ ์ •๋ณด๋ฅผ ๋ช…ํ™•ํžˆ ๋ฐํž ์ˆ˜ ์žˆ๋‹ค๋Š” ๊ฒƒ์ด ์ง€๊ธˆ๊นŒ์ง€์˜ ์ •์„ค์ด์—ˆ์Šต๋‹ˆ๋‹ค.

ํ•˜์ง€๋งŒ ๋งŒ์•ฝ, LLM์˜ ์ €์ž‘๊ถŒ์„ ์ฆ๋ช…ํ•˜๋Š” ์œ ์ผํ•œ ๋‹จ์„œ์ธ ์›Œํ„ฐ๋งˆํฌ ๊ทธ ์ž์ฒด๊ฐ€ ์ •๊ตํ•˜๊ฒŒ ์œ„์กฐ๋  ์ˆ˜ ์žˆ๋‹ค๋ฉด ์–ด๋–ป๊ฒŒ ๋ ๊นŒ์š”?

image.png

์ €ํฌ ์—ฐ๊ตฌ๋Š” ์ด ์ •์„ค์ด ์–ผ๋งˆ๋‚˜ ์œ„ํ—˜ํ•œ ์ฐฉ๊ฐ์ด์—ˆ๋Š”์ง€ ๋ช…๋ฐฑํžˆ ๋ณด์—ฌ์ค๋‹ˆ๋‹ค. ํŠน์ • LLM์˜ ์›Œํ„ฐ๋งˆํฌ๋ฅผ ๊ทธ๋Œ€๋กœ ํ›”์ณ๋‚ด, ์ „ํ˜€ ๋‹ค๋ฅธ AI๊ฐ€ ์ƒ์„ฑํ•œ ์ฝ˜ํ…์ธ ์— ์™„๋ฒฝํ•˜๊ฒŒ ๋ณต์ œํ•ด ๋„ฃ๋Š” '์„œ๋ช… ์œ„์กฐ' ๊ณต๊ฒฉ์ด ๊ฐ€๋Šฅํ•จ์„ ์ฆ๋ช…ํ–ˆ๊ธฐ ๋•Œ๋ฌธ์ž…๋‹ˆ๋‹ค.

๊ฒฐ๊ณผ์ ์œผ๋กœ, ์ด์ œ ์›Œํ„ฐ๋งˆํฌ๊ฐ€ ์ฐํ˜€ ์žˆ๋‹ค๋Š” ์‚ฌ์‹ค๋งŒ์œผ๋กœ๋Š” ๊ทธ ์–ด๋–ค ๊ฒƒ๋„ ์ฆ๋ช…ํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค. ๊ณต๊ฒฉ์ž๋Š” ์‹ ๋ขฐ๋„ ๋†’์€ AI ๋ชจ๋ธ์— ์ฑ…์ž„์„ ๋– ๋„˜๊ธฐ๋ฉฐ ์–ผ๋งˆ๋“ ์ง€ ๋น ์ ธ๋‚˜๊ฐˆ ์ˆ˜ ์žˆ๊ฒŒ ๋œ ๊ฒƒ์ž…๋‹ˆ๋‹ค. AI ์ฝ˜ํ…์ธ ์˜ ์‹ ๋ขฐ๋„๋ฅผ ๊ทผ๋ณธ๋ถ€ํ„ฐ ๋‹ค์‹œ ์ƒ๊ฐํ•ด์•ผ ํ•  ์‹œ์ ์ž…๋‹ˆ๋‹ค.

๐Ÿ’กDITTO: ์ง€์‹ ์ฆ๋ฅ˜๋ฅผ ์ด์šฉํ•œ LLM ์›Œํ„ฐ๋งˆํฌ ์Šคํ‘ธํ•‘ ๊ณต๊ฒฉ ํ”„๋ ˆ์ž„์›Œํฌ

๋ณธ ๋…ผ๋ฌธ์€ LLM ์›Œํ„ฐ๋งˆํ‚น ๊ธฐ์ˆ ์˜ ํ•ต์‹ฌ์ ์ธ ์‹ ๋ขฐ๋„, ์ฆ‰ 'ํŠน์ • ์›Œํ„ฐ๋งˆํฌ๋Š” ํŠน์ • ๋ชจ๋ธ์˜ ์ €์ž‘๊ถŒ์„ ์ฆ๋ช…ํ•œ๋‹ค'๋Š” ๊ฐ€์ •์— ์‹ฌ๊ฐํ•œ ๊ฒฐํ•จ์ด ์žˆ์Œ์„ ์ž…์ฆํ•ฉ๋‹ˆ๋‹ค. ์ €ํฌ๋Š” DITTO๋ผ๋Š” ์ƒˆ๋กœ์šด ์›Œํ„ฐ๋งˆํฌ ์Šคํ‘ธํ•‘(spoofing, ์†์ž„) ๊ณต๊ฒฉ ํ”„๋ ˆ์ž„์›Œํฌ๋ฅผ ์ œ์‹œํ•ฉ๋‹ˆ๋‹ค. ์ด ํ”„๋ ˆ์ž„์›Œํฌ๋ฅผ ํ†ตํ•ด ์•…์˜์ ์ธ ๊ณต๊ฒฉ์ž์˜ ๋ชจ๋ธ์ด ์‹ ๋ขฐ๋ฐ›๋Š” ๋‹ค๋ฅธ ๋ชจ๋ธ(ํ”ผํ•ด์ž ๋ชจ๋ธ)์˜ ์›Œํ„ฐ๋งˆํฌ๋ฅผ ๊ทธ๋Œ€๋กœ ๋ชจ๋ฐฉํ•˜์—ฌ ํ…์ŠคํŠธ๋ฅผ ์ƒ์„ฑํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๋Š” ๊ฐ€์งœ๋‰ด์Šค๋‚˜ ํ—ˆ์œ„ ์ •๋ณด์™€ ๊ฐ™์€ ์œ ํ•ด ์ฝ˜ํ…์ธ ๋ฅผ ๋งˆ์น˜ ChatGPT์™€ ๊ฐ™์€ ๊ณต์‹ ๋ ฅ ์žˆ๋Š” ์ถœ์ฒ˜์—์„œ ์ƒ์„ฑ๋œ ๊ฒƒ์ฒ˜๋Ÿผ ์™„๋ฒฝํ•˜๊ฒŒ ์กฐ์ž‘ํ•˜๊ณ  ์ฑ…์ž„ ์†Œ์žฌ๋ฅผ ์™œ๊ณกํ•  ์ˆ˜ ์žˆ์Œ์„ ์˜๋ฏธํ•ฉ๋‹ˆ๋‹ค. ๋ณธ ์—ฐ๊ตฌ๋Š” ์›Œํ„ฐ๋งˆํฌ์˜ ๋ถ€๊ฐ€์ ์ธ ํŠน์„ฑ์œผ๋กœ ์•Œ๋ ค์กŒ๋˜ '์›Œํ„ฐ๋งˆํฌ ๋ฐฉ์‚ฌ์„ฑ(watermark radioactivity)' ํ˜„์ƒ์„ ๊ณต๊ฒฉ ๋ฒกํ„ฐ๋กœ ์—ญ์ด์šฉํ•˜๋Š” ์ตœ์ดˆ์˜ ์‹œ๋„์ด๋ฉฐ , ๋‹จ์ˆœํ•œ ์›Œํ„ฐ๋งˆํฌ ํƒ์ง€๋ฅผ ๋„˜์–ด '์ง„์œ„ ์—ฌ๋ถ€'๋ฅผ ํŒ๋ณ„ํ•  ์ˆ˜ ์žˆ๋Š” ์ƒˆ๋กœ์šด ๋ณด์•ˆ ํŒจ๋Ÿฌ๋‹ค์ž„์˜ ํ•„์š”์„ฑ์„ ๊ฐ•๋ ฅํžˆ ์ œ๊ธฐํ•ฉ๋‹ˆ๋‹ค

โš™๏ธํ•ต์‹ฌ ์›๋ฆฌ

image.png

DITTO ํ”„๋ ˆ์ž„์›Œํฌ๋Š” ์ด 3๋‹จ๊ณ„๋กœ ๊ตฌ์„ฑ๋˜์–ด ํ”ผํ•ด์ž ๋ชจ๋ธ์˜ ์›Œํ„ฐ๋งˆํฌ๋ฅผ ํ›”์น˜๊ณ  ๋ณต์ œํ•ฉ๋‹ˆ๋‹ค.

  1. ์›Œํ„ฐ๋งˆํฌ ํ•™์Šต (Watermark Inheritance): ๋จผ์ € ๊ณต๊ฒฉ์ž๋Š” ์›Œํ„ฐ๋งˆํฌ๊ฐ€ ์‚ฝ์ž…๋œ ํ”ผํ•ด์ž ๋ชจ๋ธ(Teacher)์„ ์ด์šฉํ•ด ๋Œ€๋Ÿ‰์˜ ํ…์ŠคํŠธ ๋ฐ์ดํ„ฐ๋ฅผ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค. ๊ทธ ํ›„, ์ด ๋ฐ์ดํ„ฐ๋ฅผ ํ•™์Šต ๋ฐ์ดํ„ฐ๋กœ ์‚ผ์•„ ์™„์ „ํžˆ ๋‹ค๋ฅธ ๋ชจ๋ธ(Student)์„ ์ง€์‹ ์ฆ๋ฅ˜(Knowledge Distillation) ๋ฐฉ์‹์œผ๋กœ ๋ฏธ์„ธ์กฐ์ •(fine-tuning)ํ•ฉ๋‹ˆ๋‹ค. ์ด ๊ณผ์ •์—์„œ ํ•™์ƒ ๋ชจ๋ธ์€ ํ”ผํ•ด์ž ๋ชจ๋ธ์˜ ์–ธ์–ด์  ํŒจํ„ด๋ฟ๋งŒ ์•„๋‹ˆ๋ผ, ์›Œํ„ฐ๋งˆํฌ๊ฐ€ ๋งŒ๋“œ๋Š” ๊ณ ์œ ํ•œ ํ†ต๊ณ„์  ํŽธํ–ฅ๊นŒ์ง€ ๊ทธ๋Œ€๋กœ ํ•™์Šตํ•˜๊ฒŒ ๋ฉ๋‹ˆ๋‹ค(์›Œํ„ฐ๋งˆํฌ ๋ฐฉ์‚ฌ์„ฑ).
  2. ์›Œํ„ฐ๋งˆํฌ ์ถ”์ถœ (Watermark Extraction): ๋‹ค์Œ์œผ๋กœ, ์›Œํ„ฐ๋งˆํฌ๋ฅผ ํ•™์Šตํ•œ ํ•™์ƒ ๋ชจ๋ธ($M_S$)๊ณผ ํ•™์Šต ์ด์ „์˜ ์›๋ณธ ๋ชจ๋ธ($M_O$)์˜ ์ถœ๋ ฅ ์ฐจ์ด๋ฅผ ๋ถ„์„ํ•ฉ๋‹ˆ๋‹ค. ๋‘ ๋ชจ๋ธ์ด ๋™์ผํ•œ ๋ฌธ๋งฅ(context)์— ๋Œ€ํ•ด ์ถœ๋ ฅํ•˜๋Š” ๋กœ์ง“(logits) ๊ฐ’์˜ ํ‰๊ท ์ ์ธ ์ฐจ์ด๋ฅผ ๊ณ„์‚ฐํ•˜์—ฌ , ์ˆœ์ˆ˜ํ•œ ์›Œํ„ฐ๋งˆํฌ ์‹ ํ˜ธ(Extracted Watermark Signal, EWS)๋งŒ์„ ์ •๋Ÿ‰์ ์œผ๋กœ ๋ถ„๋ฆฌํ•ด ์ถ”์ถœํ•ฉ๋‹ˆ๋‹ค.
  3. ์Šคํ‘ธํ•‘ ๊ณต๊ฒฉ (Spoofing Attack): ๋งˆ์ง€๋ง‰์œผ๋กœ, ๊ณต๊ฒฉ์ž๋Š” ์ž์‹ ์ด ์›ํ•˜๋Š” ํ…์ŠคํŠธ๋ฅผ ์ƒ์„ฑํ•  ๋•Œ, ์ถ”์ถœ๋œ ์›Œํ„ฐ๋งˆํฌ ์‹ ํ˜ธ(EWS)๋ฅผ ์ž์‹ ์˜ ๋ชจ๋ธ์ด ์ถœ๋ ฅํ•˜๋Š” ๋กœ์ง“ ๊ฐ’์— ์‹ค์‹œ๊ฐ„์œผ๋กœ ๋”ํ•ฉ๋‹ˆ๋‹ค. ์ด ๊ฐ„๋‹จํ•œ ๊ณผ์ •์„ ํ†ตํ•ด ๊ณต๊ฒฉ์ž์˜ ๋ชจ๋ธ์€ ์ตœ์ข…์ ์œผ๋กœ ํ”ผํ•ด์ž ๋ชจ๋ธ์˜ ์›Œํ„ฐ๋งˆํฌ๊ฐ€ ์ฐํžŒ ๊ฐ์ชฝ๊ฐ™์€ ํ…์ŠคํŠธ๋ฅผ ์ƒ์„ฑํ•˜๊ฒŒ ๋ฉ๋‹ˆ๋‹ค.

๐Ÿ“ƒ์ฃผ์š” ๊ฒฐ๊ณผ

์‹คํ—˜์„ ํ†ตํ•ด DITTO ๊ณต๊ฒฉ์˜ ๊ฐ•๋ ฅํ•œ ์„ฑ๋Šฅ๊ณผ ์œ„ํ—˜์„ฑ์„ ํ™•์ธํ•  ์ˆ˜ ์žˆ์—ˆ์Šต๋‹ˆ๋‹ค.