프롬프트 인젝션이란 무엇인가 — LLM 앱에서 가장 흔한 보안 취약점
프롬프트 인젝션(Prompt Injection)이 무엇이고, 왜 LLM 애플리케이션의 대표 취약점으로 꼽히는지, 탈옥과는 어떻게 다르고 왜 근본적으로 막기 어려운지를 개념 위주로 정리합니다.
토큰, 환각 등 LLM을 이해하기 위한 기초 용어
프롬프트 인젝션(Prompt Injection)이 무엇이고, 왜 LLM 애플리케이션의 대표 취약점으로 꼽히는지, 탈옥과는 어떻게 다르고 왜 근본적으로 막기 어려운지를 개념 위주로 정리합니다.
LLM(대규모 언어 모델)이 무엇이고 어떻게 텍스트를 만들어내는지, ChatGPT·Claude 같은 서비스와 어떤 관계인지 쉬운 말로 정리합니다.
모델이 특정 작업에 대한 예시 없이, 지시문만으로 바로 그 작업을 수행하는 방식이다. 모델이 학습 과정에서 습득한 일반화 능력에 의존해 새로운 작업에도 곧바로 대응한다.
방대한 텍스트를 학습해 다음에 올 토큰을 확률적으로 예측하는 방식으로 문장을 생성하는 대규모 인공지능 모델이다. ChatGPT·Claude 같은 대화형 서비스의 기반 기술이다.