AI ๊ธฐ์ ์ ๋ฐ์ ์ผ๋ก ์ ๊ตํ ๊ฐ์ง๋ด์ค ์์ฑ์ด ๊ฐ๋ฅํด์ง๋ฉด์, ๊ทธ๋ก ์ธํ ์ฌํ์ ํผ๋์ ์ฐ๋ ค๊ฐ ์ปค์ง๊ณ ์์ต๋๋ค. ์ด๋ฅผ ์ํด ํ๊ณ์ ์ฐ์ ๊ณ๋ ๊ฐ LLM์ ๊ณ ์ ํ '์ํฐ๋งํฌ(watermark)'๋ฅผ ์๊ฒจ ๋ฃ์ด, ์ฝํ ์ธ ์ ์ถ์ฒ๋ฅผ ์ฆ๋ช ํ๋ ์ผ์ข ์ ๋์งํธ ์๋ช ์ฒ๋ผ ํ์ฉํด์์ต๋๋ค. ์ด ์๋ช ๋ง ์์ผ๋ฉด ์ด ๊ธ์ ์ฌ๋์ด ์ผ๋์ง, AI๊ฐ ์ผ๋ค๋ฉด ์ ํํ ์ด๋ค ๋ชจ๋ธ์ด ์ผ๋์ง์ ๊ฐ์ ์ถ์ฒ ์ ๋ณด๋ฅผ ๋ช ํํ ๋ฐํ ์ ์๋ค๋ ๊ฒ์ด ์ง๊ธ๊น์ง์ ์ ์ค์ด์์ต๋๋ค.
ํ์ง๋ง ๋ง์ฝ, LLM์ ์ ์๊ถ์ ์ฆ๋ช ํ๋ ์ ์ผํ ๋จ์์ธ ์ํฐ๋งํฌ ๊ทธ ์์ฒด๊ฐ ์ ๊ตํ๊ฒ ์์กฐ๋ ์ ์๋ค๋ฉด ์ด๋ป๊ฒ ๋ ๊น์?
์ ํฌ ์ฐ๊ตฌ๋ ์ด ์ ์ค์ด ์ผ๋ง๋ ์ํํ ์ฐฉ๊ฐ์ด์๋์ง ๋ช ๋ฐฑํ ๋ณด์ฌ์ค๋๋ค. ํน์ LLM์ ์ํฐ๋งํฌ๋ฅผ ๊ทธ๋๋ก ํ์ณ๋ด, ์ ํ ๋ค๋ฅธ AI๊ฐ ์์ฑํ ์ฝํ ์ธ ์ ์๋ฒฝํ๊ฒ ๋ณต์ ํด ๋ฃ๋ '์๋ช ์์กฐ' ๊ณต๊ฒฉ์ด ๊ฐ๋ฅํจ์ ์ฆ๋ช ํ๊ธฐ ๋๋ฌธ์ ๋๋ค.
๊ฒฐ๊ณผ์ ์ผ๋ก, ์ด์ ์ํฐ๋งํฌ๊ฐ ์ฐํ ์๋ค๋ ์ฌ์ค๋ง์ผ๋ก๋ ๊ทธ ์ด๋ค ๊ฒ๋ ์ฆ๋ช ํ ์ ์์ต๋๋ค. ๊ณต๊ฒฉ์๋ ์ ๋ขฐ๋ ๋์ AI ๋ชจ๋ธ์ ์ฑ ์์ ๋ ๋๊ธฐ๋ฉฐ ์ผ๋ง๋ ์ง ๋น ์ ธ๋๊ฐ ์ ์๊ฒ ๋ ๊ฒ์ ๋๋ค. AI ์ฝํ ์ธ ์ ์ ๋ขฐ๋๋ฅผ ๊ทผ๋ณธ๋ถํฐ ๋ค์ ์๊ฐํด์ผ ํ ์์ ์ ๋๋ค.
๋ณธ ๋ ผ๋ฌธ์ LLM ์ํฐ๋งํน ๊ธฐ์ ์ ํต์ฌ์ ์ธ ์ ๋ขฐ๋, ์ฆ 'ํน์ ์ํฐ๋งํฌ๋ ํน์ ๋ชจ๋ธ์ ์ ์๊ถ์ ์ฆ๋ช ํ๋ค'๋ ๊ฐ์ ์ ์ฌ๊ฐํ ๊ฒฐํจ์ด ์์์ ์ ์ฆํฉ๋๋ค. ์ ํฌ๋ DITTO๋ผ๋ ์๋ก์ด ์ํฐ๋งํฌ ์คํธํ(spoofing, ์์) ๊ณต๊ฒฉ ํ๋ ์์ํฌ๋ฅผ ์ ์ํฉ๋๋ค. ์ด ํ๋ ์์ํฌ๋ฅผ ํตํด ์ ์์ ์ธ ๊ณต๊ฒฉ์์ ๋ชจ๋ธ์ด ์ ๋ขฐ๋ฐ๋ ๋ค๋ฅธ ๋ชจ๋ธ(ํผํด์ ๋ชจ๋ธ)์ ์ํฐ๋งํฌ๋ฅผ ๊ทธ๋๋ก ๋ชจ๋ฐฉํ์ฌ ํ ์คํธ๋ฅผ ์์ฑํ ์ ์์ต๋๋ค. ์ด๋ ๊ฐ์ง๋ด์ค๋ ํ์ ์ ๋ณด์ ๊ฐ์ ์ ํด ์ฝํ ์ธ ๋ฅผ ๋ง์น ChatGPT์ ๊ฐ์ ๊ณต์ ๋ ฅ ์๋ ์ถ์ฒ์์ ์์ฑ๋ ๊ฒ์ฒ๋ผ ์๋ฒฝํ๊ฒ ์กฐ์ํ๊ณ ์ฑ ์ ์์ฌ๋ฅผ ์๊ณกํ ์ ์์์ ์๋ฏธํฉ๋๋ค. ๋ณธ ์ฐ๊ตฌ๋ ์ํฐ๋งํฌ์ ๋ถ๊ฐ์ ์ธ ํน์ฑ์ผ๋ก ์๋ ค์ก๋ '์ํฐ๋งํฌ ๋ฐฉ์ฌ์ฑ(watermark radioactivity)' ํ์์ ๊ณต๊ฒฉ ๋ฒกํฐ๋ก ์ญ์ด์ฉํ๋ ์ต์ด์ ์๋์ด๋ฉฐ , ๋จ์ํ ์ํฐ๋งํฌ ํ์ง๋ฅผ ๋์ด '์ง์ ์ฌ๋ถ'๋ฅผ ํ๋ณํ ์ ์๋ ์๋ก์ด ๋ณด์ ํจ๋ฌ๋ค์์ ํ์์ฑ์ ๊ฐ๋ ฅํ ์ ๊ธฐํฉ๋๋ค
DITTO ํ๋ ์์ํฌ๋ ์ด 3๋จ๊ณ๋ก ๊ตฌ์ฑ๋์ด ํผํด์ ๋ชจ๋ธ์ ์ํฐ๋งํฌ๋ฅผ ํ์น๊ณ ๋ณต์ ํฉ๋๋ค.
์คํ์ ํตํด DITTO ๊ณต๊ฒฉ์ ๊ฐ๋ ฅํ ์ฑ๋ฅ๊ณผ ์ํ์ฑ์ ํ์ธํ ์ ์์์ต๋๋ค.
๋์ ๊ณต๊ฒฉ ์ฑ๊ณต๋ฅ : DITTO๋ ๊ธฐ์กด์ ๋ค๋ฅธ ์คํธํ ๊ณต๊ฒฉ ๊ธฐ๋ฒ๋ค๊ณผ ๋น๊ตํ์ ๋, ํจ์ฌ ๋์ ์ํฐ๋งํฌ ํ์ง์จ(TPR)๊ณผ ํต๊ณ์ ์ ๋ขฐ๋(๋ฎ์ p-value)๋ฅผ ๊ธฐ๋กํ๋ฉฐ ๋งค์ฐ ํจ๊ณผ์ ์ผ๋ก ์ํฐ๋งํฌ ํ์ง ์์คํ ์ ์์ด๋ ๋ฐ ์ฑ๊ณตํ์ต๋๋ค. ํนํ Llama3.2-3B ๋ชจ๋ธ์ ๋ชจ๋ฐฉํ์ ๋, p-value๊ฐ $5.48 \times 10^{-17}$์ ๋ฌํ๋ ๋ฑ ๊ฑฐ์ ์๋ฒฝ์ ๊ฐ๊น์ด ๋ชจ๋ฐฉ ์ฑ๋ฅ์ ๋ณด์์ต๋๋ค.
๋ฐ์ด๋ ์ผ๋ฐํ ์ฑ๋ฅ: ์ด ๊ณต๊ฒฉ์ ํน์ ์ํฐ๋งํน ๋ฐฉ์์ ๊ตญํ๋์ง ์์์ต๋๋ค. n-gram ๊ธฐ๋ฐ์ ์ ํต์ ์ธ ๋ฐฉ์(KGW)๋ฟ๋ง ์๋๋ผ, ๊ทผ๋ณธ์ ์ผ๋ก ๋ค๋ฅธ ์๋ฆฌ๋ก ๋์ํ๋ ์ํ๋ง ๊ธฐ๋ฐ ์ํฐ๋งํน ๊ธฐ์ (SynthID)์ ๋ํด์๋ ๋งค์ฐ ๋์ ์คํธํ ์ฑ๊ณต๋ฅ ์ ๋ณด์ฌ, DITTO๊ฐ ๋ณดํธ์ ์ธ ์ํ์์ ์ฆ๋ช ํ์ต๋๋ค.