AI 9

RAG 성능 고도화 — Self-RAG: 스스로 검열하는 RAG

RAG 성능 고도화 — Self-RAG: 스스로 검열하는 RAG이 글은 Self-RAG를 정리한 기록이다. 검색·생성·평가의 각 단계에 LLM이 개입해 스스로 검열하는 구조를, 라이브러리 없이 작은 루프로 직접 구현해보며 짚는다. 책과 Gemini의 도움을 빌려 궁금증을 해소해가며 쌓았다.일반 RAG의 맹점 — 관련 없어도 일단 답을 만든다검색 알고리즘에 리랭킹까지 얹으면 RAG 성능은 확실히 올라간다. 거기까지는 앞에서 정리한 그대로다. 그런데 이 모든 걸 다 적용해도 끝까지 남는 구조적인 약점이 하나 있다. 전통적인 RAG는 사용자가 문서와 아무 상관 없는 질문을 던져도, 어떻게든 뭔가를 찾아서 답을 만들어내려고 한다는 점이다.일단 가장 비슷해 보이는 문서를 끌어오고, 생성 모델은 그 엉뚱한 자료를 ..

카테고리 없음 2026.07.05

RAG 성능 고도화 — 리랭킹: 검색 결과를 한 번 더 거른다

RAG 성능 고도화 — 리랭킹: 검색 결과를 한 번 더 거른다이 글은 RAG 검색 결과의 정확도를 끌어올리는 '리랭킹(문서 후처리)'을 정리한 기록이다. 검색이 1차로 추려준 문서를 더 정교한 기준으로 다시 줄 세우는 단계 — 크로스 인코더와 3단계 깔때기 전략을 다룬다. 책과 Gemini의 도움을 빌려 궁금증을 해소해가며 작성되었다.검색이 끝이 아니다 — 한 번 더 거르는 후처리직전 편에서 희소·밀집·앙상블로 문서를 골라내는 검색 단을 정리했다. 그런데 검색기가 뽑아준 결과를 그대로 LLM에 넘기다 보면 한 가지가 계속 걸린다. 상위에 올라온 문서가 생각보다 질문과 안 맞는 경우가 종종 섞여 있다는 점이다. 검색은 통과했는데 정작 답이 되긴 어려운 문서들이다.이유는 단순하다. 앞 단의 검색 알고리즘은 ..

AI Engineering/RAG 2026.06.27

RAG 성능 고도화 — 검색 알고리즘: 희소,밀집,앙상블(하이브리드)

RAG 성능 고도화 — 검색 알고리즘: 희소·밀집·앙상블이 글은 RAG의 '검색단'을 책으로 공부하며 정리한 기록이다. 키워드로 찾는 희소검색, 뜻으로 찾는 밀집검색, 그리고 둘을 섞는 앙상블까지 — 검색 알고리즘 선택이 RAG 정확도를 어떻게 가르는지 짚는다. 책과 Gemini의 도움을 빌려 궁금증을 해소해가며 쌓았다.키워드냐 의미냐, 아니면 둘 다냐검색 알고리즘이라고 거창하게 부르지만, 하는 일은 단순하다. 사용자가 던진 질문과 내가 가진 참조 문서들을 비교해서 "이 질문에 가장 잘 맞는 문서가 어떤 거냐"를 골라내는 로직이다. 그런데 이 '잘 맞는다'를 무엇으로 판단하느냐에 따라 결과가 완전히 갈린다. 글자가 똑같이 생겼는지를 볼 수도 있고, 글자는 달라도 뜻이 통하는지를 볼 수도 있다. RAG 시..

AI Engineering/RAG 2026.06.27

RAG 성능 고도화 — HyDE, 가상의 답을 지어내 검색하기

RAG 성능 고도화 — HyDE, 가상의 답을 지어내 검색하기이 글은 RAG 검색 정확도를 끌어올리는 'HyDE(가상 문서 임베딩)'를 탐구하며 정리한 기록이다. 책과 Gemini의 도움을 빌려 궁금증을 해소해가며 쌓았다.질문을 그대로 검색하지 말고, '답변'을 먼저 지어내서 검색한다앞 글에서 다중 질의로 질문을 여러 갈래로 늘려 검색망을 넓히는 방법을 정리했는데, 같은 '질의 변형' 계열인데도 발상이 완전히 다른 기법이 하나 더 있다. HyDE(Hypothetical Document Embeddings), 우리말로 옮기면 '가상 문서 임베딩'이다. 질문을 더 잘 다듬어서 검색하는 게 아니라, 아예 그 질문에 대한 가상의 답변을 LLM에게 먼저 지어내게 한 다음, 그 답변으로 DB를 서칭하는 방식이다.처..

AI Engineering/RAG 2026.06.22

RAG 성능 고도화 — 청킹 전략 깊게 파기

RAG 성능 고도화 — 청킹 전략 깊게 파기이 글은 RAG 기반 시스템을 실제로 구축하면서 마주쳤던 청킹 전략의 선택 문제를 정리한 내용이다. 책과 Gemini의 도움을 빌려 궁금증을 해소해가며 쌓은 기록이다. 청킹이 왜 필요한가?RAG 시스템을 처음 설계할 때 가장 단순한 접근은 "그냥 문서를 통째로 LLM에 넣어서 처리하면 되지 않나?"라는 생각이 든다. 하지만 실제로 해보면 두 가지 벽에 부딪힌다.첫째는 토큰 한계다. LLM은 한 번에 처리할 수 있는 텍스트 양이 정해져 있어서, 문서가 길면 아예 입력 자체가 불가능하다. 둘째는 정확도 문제다. 설령 들어간다 해도, 방대한 문서 속에서 관련 없는 내용까지 한꺼번에 읽어야 하는 LLM은 핵심을 놓치거나 엉뚱한 부분에 집중하기 쉽다.그래서 문서를 적절한..

AI Engineering/RAG 2026.06.21

코딩 강의1 - 앱개발 (flutter, dart, android, ios) 일단 실행해 봅시다.

*아래의 글은 유튜브 코드와트 채널에서 연재되는 강의를 글로 작성한 내용입니다. *대화형식으로 진행되며, ai chat GPT를 활용한 코딩이 핵심입니다.*시대에 맞게 코딩.개발의 조력자로써 ai를 잘 활용것이 목표입니다.https://youtu.be/kD9Q6sgoaLU 소개안녕하세요.코드와트에 잘오셨습니다.앞으로 여러분은 코딩을 배우고 나아가서 앱개발까지 해볼예정이에요.요즘 주변에 코딩 / 개발에 대해서 관심을 가지는 경우가 많더라구요.그리고 어딜가든 이런광고가 눈에 띄기도 하구요.  또 25년 부터는 코딩이 교과목으로 편성 된다는 이야기도 있죠? 그만큼 코딩의 중요성이 강조되는 시대인것 같아요. 바로 코딩을 통해 사회에서도, 우리 일상에서도 논리적으로 사고하는법, 그에 따른 합리적인 결과 도출을 할..

빙 GPT 장착! 검색엔진의 혁명인가? 과연...

소개 안녕하세요. 김과자 입니다. 오늘은 Microsoft의 검색엔진 Bing! 에 대해서 알아보겠습니다. Bing은 다소 생소한 검색엔진 인데요. 그동안 사용하는 유저수는 극소수 였습니다. 최근에 MS에서 GPT 엔진을 탑재한 새로운 Bing 이 등장했는데요. 한번 사용해보겠습니다. 2023.02.19 - [IT 테크 기술 지식 공유/AI 정보 공유] - Chat-gpt 나도 한번 사용해보자 사용방법 무료? 유료? 2023.02.17 - [IT 테크 기술 지식 공유/AI 정보 공유] - Chat gpt 소개 뭔데 그렇게 난리인가? 챗GPT는 그야말로 혁신을 가져왔습니다. 일반에 출시 되자 마자 여기저기 논란과 이슈가 되며 사람들의 입에 오르내렸습니다. 그중 마이크로소프트는 자신들의 검색엔진 Bing에 ..

Chat-gpt 나도 한번 사용해보자 사용방법 무료? 유료?

소개 안녕하세요. 김과자 입니다. 시대는 변화하고 기술의 고도화는 상상할수 없을 정도가 되었습니다. 상상만 하던 것이 현실이 되어가고 있죠. 지난글에서 chat gpt에 대해서 알아보았는데요. 2023.02.17 - [IT 테크 기술 지식 공유] - bing chat gpt(챗gpt) 핵무기 발사? 국내 업계 동향은? 2023.02.17 - [IT 테크 기술 지식 공유/AI 정보 공유] - Chat gpt 소개 뭔데 그렇게 난리인가? 이번편을 통해서 chat gpt를 실제 사용해보며 확인하는 시간을 가지도록 하겠습니다. https://openai.com/blog/chatgpt/ ChatGPT: Optimizing Language Models for Dialogue We’ve trained a model ..

Chat gpt 소개 뭔데 그렇게 난리인가?

소개 안녕하세요. 김과자 입니다. 스마트, ai, 빅데이터… 와 같은 단어들이 이제는 많이 익숙해졌습니다. 그중에서도 오늘은 ai 챗봇 chat gpt에 대해서 알아보겠습니다. Open ai - chat gpt 는 최근에 엄청난 돌풍을 몰고 오며 몇일만에 100만 유저를 확보하였는데요. 실로 엄청난 인기를 실감 할수 있습니다. 그야 말로 IT 업계의 슈퍼공룡의 탄생인 것입니다. Chat - gpt 는 갑자기 뿅 등장한것이 아니라 오래전부터 준비된 프로젝트 였습니다. 차츰 버전업을 통해 대중에게 공개 했을 뿐입니다. 본론 굉장히 어렵게 느껴지실수도 있으나 쉽게 말하면 학습이 가능한 챗봇 이다. 라고 생각하시면 이해가 편하실 겁니다. 이미 근래의 소식까지 빅데이터들을 학습하였고 유저의 대화를 학습하고 진화합..