용어사전

AI 실무자가 자주 마주치는 개념을 짧고 명확하게 정리합니다.

가

용어2026-08-02

가드레일

AI 시스템의 입력과 출력, 실행 동작을 정해진 범위 안에 묶어 두는 통제 장치다. 프롬프트로 부탁하는 것이 아니라 코드와 정책으로 강제한다는 점이 핵심이다.

검

용어2026-07-10

검색 증강 생성

외부 지식원에서 관련 문서를 먼저 검색한 뒤, 그 내용을 근거로 언어 모델이 답변을 생성하는 방식이다. 모델의 내부 파라미터에만 의존하지 않고 검색된 문맥을 함께 활용한다.

구

용어2026-08-02

구조화 출력

모델의 답을 자유로운 문장이 아니라 JSON처럼 미리 정한 형식으로 받아 내는 기능이다. 결과를 프로그램이 곧바로 처리할 수 있게 만든다.

그

용어2026-08-02

그라운딩

모델이 자기 기억이 아니라 주어진 자료에 근거해 답하도록 만드는 설계다. 답변에 출처를 붙여 사실 여부를 검증할 수 있게 하는 것이 목표다.

리

용어2026-08-02

리랭킹

검색으로 1차로 걸러 낸 후보 문서를 다시 정밀하게 채점해 순서를 바로잡는 단계다. 넓게 건지는 일과 정확하게 고르는 일을 나눠 맡기는 2단계 검색 구조의 뒷부분이다.

멀

용어2026-08-02

멀티에이전트

여러 개의 AI 에이전트가 역할을 나눠 맡고 서로 결과를 주고받으며 하나의 목표를 처리하는 구성이다. 작업을 병렬로 나누거나 서로의 결과를 검증하는 데 쓰인다.

용어2026-07-11

멀티모달

텍스트뿐 아니라 이미지·영상·음성 등 여러 종류의 데이터를 함께 입력받거나 생성할 수 있는 AI 모델의 특성이다. 하나의 모델이 여러 형태의 정보를 함께 이해하고 연결한다.

벡

용어2026-07-11

벡터 데이터베이스

텍스트·이미지 같은 데이터를 임베딩 벡터로 저장하고, 의미가 가장 비슷한 항목을 빠르게 찾아주는 데이터베이스다. RAG의 문서 검색 단계를 담당하는 핵심 인프라다.

벤

용어2026-07-11

벤치마크

정해진 과제 집합과 채점 기준으로 여러 AI 모델의 성능을 같은 조건에서 비교할 수 있게 만든 표준화된 평가 체계다.

사

용어2026-07-11

사고의 연쇄

모델이 최종 답을 바로 내놓지 않고, 중간 풀이 과정을 단계별로 거치도록 유도하는 프롬프트 기법이다. 복잡한 추론이 필요한 문제에서 정확도를 높이는 데 쓰인다.

시

용어2026-08-02

시맨틱 검색

단어의 일치가 아니라 문장의 의미를 기준으로 관련 문서를 찾아내는 검색 방식이다. 질의와 문서를 각각 벡터로 바꾼 뒤 벡터 사이의 거리로 관련도를 판단한다.

용어2026-08-02

시스템 프롬프트

대화가 시작되기 전에 모델에게 역할과 규칙, 출력 형식을 미리 일러두는 지시문이다. 사용자 메시지와 구분되는 별도의 자리에 놓여 대화 전체에 계속 적용된다.

용어2026-07-29

시각 질의응답

이미지나 영상을 보여주고 그에 대한 질문을 함께 입력하면, 모델이 시각 정보와 언어 정보를 함께 이해해 답을 내놓는 멀티모달 과제다. 흔히 VQA로 줄여 부른다.

양

용어2026-07-11

양자화

모델의 가중치·연산을 더 적은 비트 수로 표현해 모델 크기와 연산량을 줄이는 경량화 기법이다. 제한된 자원 환경에 모델을 올릴 때 흔히 쓰인다.

어

용어2026-07-12

어텐션

문장 속 각 토큰을 이해할 때 다른 토큰들 중 무엇에 얼마나 '주목'할지를 가중치로 계산하는 메커니즘이다. 트랜스포머의 핵심 연산이다.

에

용어2026-08-02

에이전트 메모리

에이전트가 대화나 작업이 끝난 뒤에도 필요한 정보를 남겨 두고 다음에 다시 꺼내 쓰는 구조다. 컨텍스트 윈도우 밖에 정보를 저장해 두고 필요할 때만 불러온다.

용어2026-08-02

에이전틱 워크플로

모델이 한 번에 답하는 대신 계획·실행·점검을 여러 차례 반복하며 작업을 진행하도록 짜 놓은 구성이다. 도구 호출과 자기 점검을 루프로 묶어 한 번의 응답으로는 어려운 일을 해낸다.

용어2026-07-10

에이전트

목표를 달성하기 위해 모델이 계획, 도구 호출, 결과 검증을 스스로 반복하며 실행하는 AI 작업 단위다.

오

용어2026-08-02

오픈 웨이트 모델

학습된 가중치 파일이 공개되어 누구나 내려받아 직접 실행할 수 있는 모델이다. 학습 데이터와 코드까지 공개하는 오픈소스와는 구분해서 쓴다.

온

용어2026-08-02

온도(Temperature)

모델이 다음 토큰을 고를 때 확률 분포를 얼마나 평평하게 펼칠지 정하는 설정값이다. 낮추면 일관되고 예측 가능해지며, 높이면 표현의 다양성이 늘어난다.

임

용어2026-07-10

임베딩

텍스트·이미지 등 데이터를 의미를 담은 고정 길이 실수 벡터로 변환한 표현이다. 의미가 비슷한 대상일수록 벡터 공간에서 가깝게 놓인다.

제

용어2026-07-15

제로샷 러닝

모델이 특정 작업에 대한 예시 없이, 지시문만으로 바로 그 작업을 수행하는 방식이다. 모델이 학습 과정에서 습득한 일반화 능력에 의존해 새로운 작업에도 곧바로 대응한다.

청

용어2026-08-02

청킹

긴 문서를 검색과 모델 입력에 알맞은 크기의 조각으로 나누는 작업이다. RAG의 검색 품질을 좌우하는 첫 단계로 꼽힌다.

추

용어2026-08-02

추론(Inference)

학습이 끝난 모델에 입력을 넣어 실제로 결과를 만들어 내는 과정이다. 서비스 운영 비용과 응답 속도가 대부분 이 단계에서 결정된다.

컨

용어2026-08-02

컨텍스트 엔지니어링

모델에게 매 요청마다 무엇을 넣고 무엇을 뺄지를 설계하는 작업이다. 지시문을 다듬는 프롬프트 엔지니어링보다 넓은, 문맥 구성 전체를 다루는 관점이다.

용어2026-07-11

컨텍스트 윈도우

언어 모델이 한 번의 요청에서 참조할 수 있는 입력과 출력 토큰의 최대 총량이다. 이 한도를 넘는 텍스트는 모델이 한 번에 처리하지 못한다.

토

용어2026-08-02

토큰 비용

LLM API 요금이 주고받은 토큰 수에 비례해 매겨지는 구조를 가리킨다. 입력과 출력의 단가가 다르고 대화가 길어질수록 누적된다는 점이 핵심이다.

용어2026-07-10

토큰

언어 모델이 텍스트를 처리하기 위해 나누는 최소 단위. 단어보다 작을 수 있으며, 입력과 출력, 컨텍스트 길이와 과금의 계산 단위가 된다.

트

용어2026-07-12

트랜스포머

어텐션 메커니즘을 중심으로 문장 속 토큰들의 관계를 한 번에 계산하는 신경망 구조다. 오늘날 대부분의 대규모 언어 모델(LLM)의 기반이 되는 아키텍처다.

파

용어2026-07-10

파인튜닝

이미 학습된 모델을 특정 작업이나 도메인 데이터로 추가 학습시켜 성능을 맞추는 기법이다. 처음부터 학습하는 대신 기존 가중치를 출발점으로 삼는다.

퓨

용어2026-08-02

퓨샷 러닝

프롬프트 안에 예시 몇 개를 함께 넣어 원하는 작업 방식을 보여 주는 기법이다. 모델을 다시 학습시키지 않고 예시만으로 출력 형식과 판단 기준을 맞춘다.

프

용어2026-08-02

프롬프트 체이닝

하나의 큰 작업을 여러 번의 모델 호출로 나누고 앞 호출의 결과를 다음 호출의 입력으로 넘기는 설계 방식이다. 각 단계가 단순해져 결과를 확인하고 고치기 쉬워진다.

용어2026-08-02

프롬프트 인젝션

입력이나 외부 문서에 지시문을 심어 모델이 원래 규칙 대신 그 지시를 따르게 만드는 공격이다. 모델이 지시와 데이터를 같은 텍스트로 읽는다는 성질에서 비롯된다.

용어2026-07-10

프롬프트 엔지니어링

언어 모델이 원하는 결과를 내도록 입력 프롬프트를 설계·조정하는 작업이다. 지시문, 예시, 맥락, 출력 형식 등을 다듬어 응답의 정확성과 일관성을 높인다.

함

용어2026-08-02

함수 호출(툴 유즈)

모델이 답변 대신 어떤 함수를 어떤 인자로 호출할지를 구조화된 형태로 내놓게 하는 기능이다. 실제 실행은 애플리케이션이 맡고, 모델은 그 결과를 받아 답을 이어 간다.

환

용어2026-07-10

환각

언어모델이 사실과 다르거나 근거 없는 내용을 그럴듯하게 생성하는 현상. 표현은 자연스럽지만 내용이 틀릴 수 있다.

L

용어2026-08-02

LoRA

원본 모델의 가중치는 그대로 두고 작은 보조 행렬만 학습해서 모델을 특정 용도에 맞추는 경량 파인튜닝 기법이다. 학습해야 할 파라미터 수가 크게 줄어 적은 자원으로도 모델을 조정할 수 있다.

용어2026-07-11

LLM

방대한 텍스트를 학습해 다음에 올 토큰을 확률적으로 예측하는 방식으로 문장을 생성하는 대규모 인공지능 모델이다. ChatGPT·Claude 같은 대화형 서비스의 기반 기술이다.

M

용어2026-07-11

MCP

AI 모델이나 에이전트가 외부 도구·파일·데이터베이스 같은 자원에 연결되는 방식을 표준화한 개방형 프로토콜이다. 도구 연동 코드를 매번 새로 짜지 않아도 되게 해준다.

R

용어2026-08-02

RLHF

사람이 매긴 응답 선호도를 학습 신호로 삼아 모델의 답변 방식을 다듬는 학습 기법이다. 오늘날 대화형 AI가 유용하고 안전한 답을 내놓도록 만드는 핵심 단계로 쓰인다.

찾는 용어가 없나요?

다뤄 줬으면 하는 용어를 알려 주세요. 신청이 곧 다음 용어의 우선순위가 됩니다.

이 용어를 다뤄 주세요 →