[전자/인공지능] AI Agent란 무엇인가? ChatGPT와 자율형 AI의 차이

“메일 내용을 써줘”와 “자료를 찾아 초안을 만들고 검토 결과를 반영해줘”는 요구하는 작업 범위가 다릅니다. 두 번째 요청에는 글 생성 외에도 여러 단계의 판단과 행동이 들어갑니다.

AI Agent는 목표를 향해 모델이 도구를 선택하고, 실행 결과를 확인하며, 다음 행동을 결정하는 시스템입니다. 여기서 LLM은 판단을 담당하는 구성 요소이고, 실제 실행 환경과 권한 관리는 별도로 필요합니다.

1. 답변 한 번과 행동의 반복은 다르다

단순 질의응답은 입력을 받아 응답을 생성하는 흐름입니다. Agent는 여기에 “현재 상태 확인 → 행동 선택 → 도구 실행 → 결과 관찰”이라는 반복을 더합니다.

예를 들어 매뉴얼 정리 Agent는 파일을 읽고, 파라미터 표를 추출하고, 누락 항목을 찾아 질문한 뒤 문서를 저장할 수 있습니다. 각 단계가 실패하면 다음 시도나 중단 여부를 결정해야 합니다. Agent의 구성과 도구

2. ChatGPT와 Agent는 반대말이 아니다

ChatGPT는 사용자가 이용하는 서비스이고, Agent는 시스템의 동작 방식입니다. 따라서 “ChatGPT는 대화만 하고 Agent는 행동한다”처럼 고정해서 나누면 부정확합니다. 서비스에 도구와 실행 흐름이 연결되면 Agent 방식의 작업도 가능하기 때문입니다.

모델 이름, 사용자가 보는 서비스, 실행을 제어하는 프로그램을 구분하면 이해하기 쉽습니다. 같은 모델도 짧은 대화 시스템에 넣을 수 있고, 제한된 도구를 반복 사용하는 Agent에 넣을 수도 있습니다.

3. Workflow와 Agent의 경계

정해진 순서로 “파일 읽기 → 표 추출 → 저장”을 실행한다면 Workflow에 가깝습니다. 반면 자료의 상태에 따라 모델이 검색을 더 할지, 다른 도구를 쓸지 결정한다면 Agent적 성격이 커집니다.

이 둘 사이에 하나의 절대적인 경계가 있는 것은 아닙니다. 실제 시스템은 고정된 처리 절차 안에 모델의 선택을 일부 허용하기도 합니다. Workflow와 Agent의 구분

업무가 단순하고 경로가 분명하면 고정 Workflow가 운영과 검증에 더 편할 수 있습니다. 자율성이 크다는 이유만으로 항상 더 좋은 시스템이 되는 것은 아닙니다.

4. 자율성에는 중단 조건이 필요하다

Agent가 작업을 계속하려면 목표와 완료 기준을 알아야 합니다. “매뉴얼을 정리해”보다 “입력값·단위·기본값을 표로 만들고, 근거가 없는 항목은 미확인으로 남겨”가 평가하기 쉽습니다.

최대 실행 횟수, 시간·토큰 예산, 실패 시 재시도, 사용자 확인이 필요한 행동도 정해야 합니다. 모델이 스스로 “완료했다”고 말한 것과 파일이 실제 저장되고 검증된 것은 별개입니다.

5. 도구 호출은 실행 성공을 뜻하지 않는다

모델이 생성한 도구 요청은 실행 의도입니다. 프로그램이 인자를 검사하고 권한 범위에서 실행한 뒤, 성공·실패 결과를 돌려줘야 실제 행동이 이루어집니다.

특히 삭제, 외부 전송, 결제처럼 영향이 큰 작업은 권한과 승인 정책이 실행 계층에 있어야 합니다. 프롬프트에 “조심해”라고 쓰는 것만으로 접근 제어가 구현되지는 않습니다.

AI Agent를 설계할 때는 모델의 답변 능력과 함께 무엇을 할 수 있는지, 어떤 결과를 관찰하는지, 언제 멈추는지를 정해야 합니다. 자율성은 무제한 행동이 아니라, 정해진 범위에서 목표를 향해 움직이는 능력으로 보는 편이 정확합니다.