전체 글 83

20. 손으로 짠 에이전트 루프를 프레임워크에 맡기다 - OpenAI Agents SDK와 3가지 에이전트 오케스트레이션 방식

목차0. 들어가며 - Week 2, 첫 에이전트 프레임워크1. 모든 에이전트 프레임워크가 쓰는 asyncio - 동시에 일하는 게 아니라 동시에 기다린다2. Agent, Runner, trace - 세 단어로 시작하는 SDK3. @function_tool이 대신 해주는 일4. 영업 메일 에이전트 (1) - 코드로 오케스트레이션5. 영업 메일 에이전트 (2) - LLM에게 오케스트레이션 맡기기, agents as tools6. 핸드오프 - 도구로 부르는 것과 제어권을 넘기는 것7. 마무리 - 코드로 엮을까, 모델에게 맡길까 0. 들어가며 - Week 2, 첫 에이전트 프레임워크지난 글(19편)에서는 프레임워크 없이 순수 파이썬과 LLM 호출만으로 에이전트 루프를 직접 짜봤다.while 루프 하나, 그 안에..

19. AI 에이전트, 프레임워크 없이 만들어보기 - 워크플로우 패턴부터 손으로 짠 에이전트 루프까지

목차0. 들어가며 - 에이전트 강의 공부를 시작하며1. 에이전트란 무엇인가 - LLM은 토큰만 뱉고, 흐름은 코드가 바꾼다2. 워크플로우와 에이전트 - Anthropic이 정리한 다섯 가지 패턴3. 에이전트를 만들기 전에 - 세 가지 리스크와 두 가지 함정4. 에이전트 생태계 지도 - 빌더·프로덕트·런타임·프레임워크5. 손으로 짠 에이전트 루프 (1) - 링크드인 기반 디지털 트윈6. 손으로 짠 에이전트 루프 (2) - 도구 두 개, 푸시 알림, 그리고 Render 배포7. 눈에 보이는 에이전트 루프 - 체크리스트로 계획하고 실행하기8. 마무리 - 에이전틱 AI는 LLM에 하네스를 씌우는 일 0. 들어가며 - 에이전트 강의 공부를 시작하며지난 글(#18)로 Ed Donner의 LLM Engineering..

Ep. 0 - 연재 배경

목차1. 연재 배경 2. 연재 방향 연재 배경 이전 IT, 스타트업 쟁이의 대기업 취준일기 연재 글을 보신 분들은 아시겠지만 작년 1월(25년 1월)에 대학 졸업과 동시에 나는 국내의 통신 대기업 3사 중 한 곳인 K사에 입사했었다. (올해 1월(26년 1월)엔 중고 신입으로 또 다른 회사에 들어가게 되었지만) 해당 기업에서의 시간은 약 1년정도의 짧다면 짧은 시간이었지만이전까지 경험해보지 못했던 새로운 것들을 배우게 해주는 시간이었다. 특히나 대학 시절의 나는 거의 기업으로 따지면 IT/스타트업에서의 경험이 전부였고,직무로 따지면 서비스 기획/PM/PO 직무 경험만이 위주였다. 그런 나에게 해당 1년은 기존에 경험해보지 못했던 1) 전통적인 대기업의 분위기와 업무 문화에 대한 경험2) 대기업 대졸 ..

18. 상품 핫딜 헌팅 에이전트 (2) - Tool call 자율 에이전트와 에이전트 시스템 완성

목차0. 들어가며 — 가격은 맞히게 됐다, 이제 무엇의 가격을 맞힐지 정할 차례1. 상품 딜은 어디서 찾나 - RSS 피드를 긁어오는 코드2. 비정형 데이터를 정형으로 - Structured Outputs와 제약 디코딩3. 네 번째 에이전트 - 30건 딜 중 5건을 골라내는 ScannerAgent4. 다섯 번째 에이전트 - 딜 알림을 보내주는 메세징 에이전트5. 먼저 규칙으로 조율하기 - PlanningAgent6. 이제 실행 순서를 LLM에게 맡긴다 - 툴 콜과 자율 에이전트7. 피날레 - 프레임워크와 Gradio 이용 UI, 그리고 실제로 찾아낸 딜마무리 — 에이전틱 AI, 그리고 8주의 회고 0. 들어가며 — 가격은 맞히게 됐다, 이제 무엇의 가격을 맞힐지 정할 차례지난 글에서 Week 8의 절반을..

17. 상품 핫딜 헌팅 에이전트 (1) - 파인튜닝 모델 서비스화 및 가격 예측 에이전트 개발

목차0. 들어가며1. 7개 에이전트(agent)의 협업 - Week 8에서 만들려는 에이전트 시스템2. 파인튜닝 모델을 클라우드 GPU에서 실행 - Modal 이용3. 잠깐 떴다 사라지는 앱에서 배포된 서비스로 - 파인튜닝 모델 서비스화4. 첫 번째 에이전트 - SpecialistAgent, 그리고 전처리가 필요한 이유5. 학습이 아니라 추론(inference)에서 승부 - 상품 80만 개를 벡터 DB로6. 두 번째 에이전트 - GPT-5.1에게 RAG를 통해 비슷한 상품 5개를 쥐여주기7. 세 번째 에이전트와 앙상블 에이전트 - 셋을 섞으면 정말 더 좋아질까마무리 - 성적표가 또 뒤집혔다0. 들어가며지난 글(글 16)에서 나온 가격 예측 모델 성능 비교는 꽤 놀라웠다.3B(30억) 파라미터짜리 오픈소스..

16. 3B 오픈소스 모델(Llama 3.2)로 GPT-5.1 이겨보기 — QLoRA 파인튜닝 실전

목차들어가며1장. 학습을 좌우하는 5개 하이퍼파라미터2장. 잠깐 복습 — QLoRA 5개 하이퍼파라미터3장. 학습은 실제로 어떻게 일어나는가 — 학습 4단계와 backpropagation4장. SFTTrainer로 실제 학습 돌리기 — 그리고 wandb 곡선 읽기5장. 오버피팅 관찰기 — train loss가 좋아 보일 때가 더 위험하다6장. LLM은 "숫자를 빼지 않는다" — cross-entropy와 128k 확률분포7장. 최종 평가와 전체 성적표 — 작은 모델이 프론티어를 이긴다마무리 — 파인튜닝은 만능인가 들어가며지난 글(글 15)에서는 실제 모델 학습을 거의 하지 않았다.대신 모델 학습을 시작하기 전에 알아야 할 것들을 파악해보는 시간을 가졌다.- 왜 3B(30억) 파라미터를 그냥 학습할 수 ..

15. LoRA·QLoRA 원리 파악 — Llama 3.2 파인튜닝 준비하기

목차들어가며1. 이번엔 오프소스 모델을 직접 파인튜닝한다2. 3B(30억) 파라미터 모델을 그냥 학습 못하는 이유 3. LoRA - 원본은 얼리고(freeze), 작은 어댑터만 학습 4. QLoRA의 Q - 양자화로 4비트까지 줄이기 5. LoRA 어댑터는 실제로 얼마나 작을까 6. 학습데이터 만들기 - 프롬프트 설계 7. 파인튜닝 전, 베이스 모델은 얼마나 못할까마무리 들어가며지난 글 2편 - https://doobeom-coding.tistory.com/90- https://doobeom-coding.tistory.com/91 에서 나는 GPT-4.1-nano를 데이터로 파인튜닝을 해보는 작업을 진행하고, 이를 통해 상품 설명을 기반으로 가격을 예측해보는 작업을 진행했다. 결과는 좀 허무했다. 아무 ..

14. 내 데이터로 GPT를 파인튜닝하면 더 똑똑해질까 - 가격 예측 모델 실험기

목차0. 들어가며1. 모델 간 성능 비교를 위한 기준 설정2. 베이스라인부터 전통 머신러닝까지3. 딥러닝 - 신경망으로 한 단계 더4. 학습 없이 이긴다 - 제로샷 프론티어 모델5. 프론티어 모델을 직접 파인튜닝해보다6. 의외의 결과, 그리고 그게 알려주는 것7. 마무리 - 전체 성적표와 다음 이야기 0. 들어가며지난 글에서는 Week 6 프로젝트 - 상품 설명 기반 가격 예측 (THE PRICE IS RIGHT)의 앞부분 데이터 전처리를 다뤘다.아마존 상품 데이터를 긁어와 정제하고, 학습 80만 / 검증 1만 / 테스트 1만 건의 데이터셋을 만들어 허깅페이스 허브에 올리는 데까지가 지난 글의 내용이었다.이번 글은 정제한 데이터를 기반으로(1) 전통 머신러닝부터(2) 딥러닝과 제로샷 프론티어 모델(3) ..

13. RAG를 넘어 파인튜닝으로 - 그 첫단계, 데이터 큐레이션 및 전처리

목차들어가며어떤 프로젝트인가Day 1 - 데이터 큐레이션Day 2 - 데이터 전처리 (LLM으로 재전처리)마무리들어가며지난 3개의 글에서는 RAG를 다뤘다. 모델은 그대로 두고, 외부 지식을 검색해서 물려주는 방식이었다.Week 6~7은 결이 다르다. 이번엔 모델 자체를 우리 문제에 맞게 똑똑하게 만드는 파인튜닝(fine-tuning)을 말로만 듣다 드디어 해본다. LLM을 똑똑하게 쓰는 방법은 크게 두 갈랜데,추론 시점(inference-time)에 손대는 법: 멀티샷 프롬프팅, 툴/펑션 콜링, RAG 등 -> 모델은 그대로 두고 입력을 잘 차려주는 쪽학습(training)으로 모델을 바꾸는 법: 파인튜닝 -> 모델의 파라미터(가중치) 자체를 우리 데이터에 맞게 다시 조정RAG를 다뤘던 Week 5(..

12. RAG의 한계를 어떻게 깰까 — Advanced RAG (Semantic Chunking·Reranking·Query Rewriting 등)

목차0. 들어가며1. Advanced RAG로 - 10가지 개선 기법2. 개선 ① - LLM 기반 지능형 청킹3. 개선 ② - Reranking4. 개선 ③ - Query Rewriting5. 최종 파이프라인 - 모두 합치기6. 마무리 0. 들어가며지난 글에서 RAG 평가 시스템을 만들고, 기본 RAG의 한계를 점수로 정량화했다.요약하면 이렇다.- 검색 메트릭(MRR / nDCG / Keyword Coverage)에서 전반적으로 점수가 낮고, 특히 spanning·holistic 카테고리가 약했다.- 답변 메트릭에서 풀네임 누락 같은 completeness 문제가 잡혔다.- 청크 크기·임베딩 모델만 바꾸는 단순 튜닝으로는 이 한계를 못 깬다는 결론이었다.이번 글에서는 이 한계를 깨기 위한 본질적 개선, ..