The Nirsa Way

[LLM] 컨텍스트 엔지니어링이란? (Context Engineering)LLM은 기본적으로 프롬프트를 기반으로 답변을 생성하게 되는데, 실제 서비스 환경에서는 특정 작업에 따른 정보를 제공하여 더 정확한 답변을 줄 수 있습니다. 즉, LLM이 응답을할 때 특정 도메인이나 상황에 맞춰 필요한 문맥(Context)을 공급하여 더 정확한 답변을 유도하는 기법을 의미합니다.예를들어 사내에서 사용할 QA 챗봇을 만드는 상황에서 "우리 회사의 연차 규정을 알려줘" 라고 하면 일반적으로 다른 회사들이 사용하는 정보들을 기반으로 답변이 제공됩니다. // 간단한 예시사용자 : 우리 회사의 연차 규정을 알려줘답변 : 대한민국 근로기준법에 따르면 근로자는 1년에 15일 이상의 연차를 보장받습니다.하지만 컨텍스트 엔지니어링..

[LLM] 입문자를 위한 프롬프트 엔지니어링 개념과 3대 원칙 (Role, Instruction, Few-shot)프롬프트 엔지니어링은 AI 모델이 원하는 방식으로 응답할 수 있도록 프롬프트를 설계, 최적화 하는 과정입니다. LLM은 기본적으로 입력된 프롬프트를 기반으로 다음 토큰을 예측하기 때문에 프롬프트를 잘 작성하면 LLM 모델의 답변 품질을 크게 올릴 수 있습니다.만약 모호한 프롬프트를 주면 예상과 다른 답변이 나올 확률이 그만큼 높으며 AI 활용을 하기 위해서는 명확하고 구조화된 프롬프트를 작성하는 능력이 필요합니다. 이러한 프롬프트 설계 능력을 통해 각 분야에 AI를 활용했을 때 증가하는 생산성은 크게 차이가 나게 됩니다.보통 GPT와 같은 AI 플랫폼을 사용할 때 "잘 질문해야 좋은 답변을 ..

[LLM] 간단하게 보는 대규모 언어 모델(Large Language Model) 이란 무엇인가?대규모 언어 모델(Large Language Model, 이하 LLM)은 대량의 텍스트 데이터를 학습하여 사람처럼 언어를 이해하고 생성할 수 있는 AI 모델입니다. LLM은 간단하게 본다면 크게 사전 학습(pre-training), 미세 조정(fine-tuning), 추론(inference)으로 나뉘어 집니다.LLM의 3단계 동작 원리1. 사전 학습(pre-training)방대한 양의 텍스트와 문서등 데이터를 학습하며 언어의 패턴과 구조를 이해하는 과정입니다. 데이터를 학습하며 다음에 올 단어를 예측하는 것을 반복하며, 대규모의 데이터를 확보 및 많은 자원과 시간이 필요한 단계로써 미세 조정을 하기 위한 필수..

※ 인프런 강의 Spring AI 실전 가이드: RAG 챗봇 만들기를 실습하는 내용입니다.※ 해당 강의 코드를 코틀린 → 자바로 언어를 바꿔 진행하기 때문에 일부 코드 및 구현부가 다를 수 있습니다.※ 실습이지만 코드를 직접 까보는 내용을 기록하는 포스팅이므로 강의 내용과 상이할 수 있습니다.[Spring AI] #1. LLM 호출 실습 시작 – 구조 먼저 실행해보기[Spring AI] #2. AiConfig 분석 – OpenAI API 연결 설정 방법[Spring AI] #3-1. ChatService 분석 – 메시지 생성과 모델 호출 흐름[Spring AI] #3-2. ChatService 분석 – buildRequestPrompt()로 요청 준비하기[Spring AI] #3-3. ChatServic..

※ 인프런 강의 Spring AI 실전 가이드: RAG 챗봇 만들기를 실습하는 내용입니다.※ 해당 강의 코드를 코틀린 → 자바로 언어를 바꿔 진행하기 때문에 일부 코드 및 구현부가 다를 수 있습니다.※ 실습이지만 코드를 직접 까보는 내용을 기록하는 포스팅이므로 강의 내용과 상이할 수 있습니다.[Spring AI] #1. LLM 호출 실습 시작 – 구조 먼저 실행해보기[Spring AI] #2. AiConfig 분석 – OpenAI API 연결 설정 방법[Spring AI] #3-1. ChatService 분석 – 메시지 생성과 모델 호출 흐름[Spring AI] #3-2. ChatService 분석 – buildRequestPrompt()로 요청 준비하기[Spring AI] #3-3. ChatServic..

※ 인프런 강의 Spring AI 실전 가이드: RAG 챗봇 만들기를 실습하는 내용입니다.※ 해당 강의 코드를 코틀린 → 자바로 언어를 바꿔 진행하기 때문에 일부 코드 및 구현부가 다를 수 있습니다.※ 실습이지만 코드를 직접 까보는 내용을 기록하는 포스팅이므로 강의 내용과 상이할 수 있습니다.[Spring AI] #1. LLM 호출 실습 시작 – 구조 먼저 실행해보기[Spring AI] #2. AiConfig 분석 – OpenAI API 연결 설정 방법[Spring AI] #3-1. ChatService 분석 – 메시지 생성과 모델 호출 흐름[Spring AI] #3-2. ChatService 분석 – buildRequestPrompt()로 요청 준비하기[Spring AI] #3-3. ChatServic..

※ 인프런 강의 Spring AI 실전 가이드: RAG 챗봇 만들기를 실습하는 내용입니다.※ 해당 강의 코드를 코틀린 → 자바로 언어를 바꿔 진행하기 때문에 일부 코드 및 구현부가 다를 수 있습니다.※ 실습이지만 코드를 직접 까보는 내용을 기록하는 포스팅이므로 강의 내용과 상이할 수 있습니다.[Spring AI] #1. LLM 호출 실습 시작 – 구조 먼저 실행해보기[Spring AI] #2. AiConfig 분석 – OpenAI API 연결 설정 방법[Spring AI] #3-1. ChatService 분석 – 메시지 생성과 모델 호출 흐름[Spring AI] #3-2. ChatService 분석 – buildRequestPrompt()로 요청 준비하기[Spring AI] #3-3. ChatServic..

※ 인프런 강의 Spring AI 실전 가이드: RAG 챗봇 만들기를 실습하는 내용입니다.※ 해당 강의 코드를 코틀린 → 자바로 언어를 바꿔 진행하기 때문에 일부 코드 및 구현부가 다를 수 있습니다.※ 실습이지만 코드를 직접 까보는 내용을 기록하는 포스팅이므로 강의 내용과 상이할 수 있습니다.[Spring AI] #1. LLM 호출 실습 시작 – 구조 먼저 실행해보기[Spring AI] #2. AiConfig 분석 – OpenAI API 연결 설정 방법[Spring AI] #3-1. ChatService 분석 – 메시지 생성과 모델 호출 흐름[Spring AI] #3-2. ChatService 분석 – buildRequestPrompt()로 요청 준비하기[Spring AI] #3-3. ChatServic..

※ 인프런 강의 Spring AI 실전 가이드: RAG 챗봇 만들기를 실습하는 내용입니다.※ 해당 강의 코드를 코틀린 → 자바로 언어를 바꿔 진행하기 때문에 일부 코드 및 구현부가 다를 수 있습니다.※ 실습이지만 코드를 직접 까보는 내용을 기록하는 포스팅이므로 강의 내용과 상이할 수 있습니다.[Spring AI] #1. LLM 호출 실습 시작 – 구조 먼저 실행해보기[Spring AI] #2. AiConfig 분석 – OpenAI API 연결 설정 방법[Spring AI] #3-1. ChatService 분석 – 메시지 생성과 모델 호출 흐름[Spring AI] #3-2. ChatService 분석 – buildRequestPrompt()로 요청 준비하기[Spring AI] #3-3. ChatServic..