Claude의 개발사인 Anthropic에서 제공하는 프롬프트 엔지니어링 가이드 문서가 있습니다.[1] 이 문서는 서두에서 프롬프트 개발 사이클(prompt development lifecycle)에 대해 다룹니다. 그리 길지 않은 내용이지만 프롬프트 개발자들이 꼭 염두에 두어야 할 핵심들을 잘 짚어주고 있다고 생각하여 여기에 소개합니다. 원문의 큰 ...

PART 1에서 다루었던 다음 내용을 다시 떠올려 봅시다. Q, K, V 가중치 행렬은 셀프 어텐션 메커니즘에서 토큰들 간의 문맥적 연관성을 파악하는 데 핵심적인 역할을 하기 때문에, 최적의 프롬프트 설계에 있어 중요한 고려 요소 중 하나로 작용합니다. 다시 말해, 특정 태스크 수행을 위한 프롬프트를 만들 때, Q, K, V 가중치 행렬이 ...

Introduction 이미 많은 아티클과 책에서 프롬프트와 프롬프트 엔지니어링에 대한 나름의 정의들을 내린 상태에서 굳이 반복할 필요가 있을까 싶지만, 아직 GPT와 같은 대형언어모델(Large Language Mode, 이하 LLM, 이후 논의에서는 LLM, 언어모델, 모델을 혼용) 맥락에서 사용하는 프롬프트/엔지니어링이라는 용어에 익숙하지 않은...

🚀 들어가며 개인적으로 프롬프트 엔지니어링을 공부하면서 도움을 받았던 자료들에 대해 기록을 남기고자 포스팅을 올립니다. 프롬프트 엔지니어링이 무엇인지도 모르는 입문 단계, 조금씩 감을 잡아가던 단계, 그리고 제 스스로의 글로 프롬프트 엔지니어링과 관련된 무언가를 풀어낼 수 있는 단계까지, 저에게 좋은 길잡이가 되었던 자료들을 소개해 드립니다. 프롬프...

이번 포스팅에서는 RAG 기법을 이용하여 간단히 성경 의미 검색(Semantic Bible Search)을 구현해 보고자 합니다. 성경 검색은 일반적으로 두 가지 방식으로 이루어지는데, 하나는 성경의 특정 책, 장, 절을 직접 입력하여 해당 구절을 찾는 것이고, 다른 하나는 키워드를 입력하여 그 단어가 포함된 모든 구절을 검색하는 것입니다. 반면, ...

이번 포스팅에서는 앞서 알아보았던 프롬프트 개발 사이클에 대한 이해를 돕고자 간단한 예시를 살펴보도록 하겠습니다. 이번 예시에서 우리는 gpt-3.5-turbo-0125 모델을 이용해 평서문 문장을 입력받으면 개조식 문장으로 변환해주는 프롬프트를 개발해보고자 합니다. Step 1. 작업 정의 및 성공 기준 설정(Define the task and s...

Part 10 Routing 이번 영상에서는 쿼리 라우팅(Query Routing)에 초점을 맞춰 보겠습니다. 🔧 문제(Problem): 데이터 검색 시스템을 구축할 때, 우리는 종종 벡터 데이터베이스, SQL 데이터베이스 등 다양한 데이터 저장소와 검색에 사용할 프롬프트를 사용자 질의에 따라 선택해야 하는 문제에 직면합니다. 이는 모든 유형의 ...

YouTube의 LangChain 채널에서는 RAG from Scratch 시리즈가 연재되고 있습니다. 본 포스팅은 LangChain의 X 계정의 소개글을 바탕으로 RAG from Scratch 각 파트가 어떤 내용을 다루고 있는지에 대한 정보를 제공합니다. X 계정의 소개글을 그대로 직역하지 않고, 독자가 이해하기 쉽도록 원문을 의역하고 필요하다면 ...

본 포스팅에 사용된 코드는 (주)인공지능팩토리 대표이사이자 마이크로소프트 지역 디렉터(Microsoft Regional Director)이신 김태영님의 “[랭체인러닝데이] 문서로더부터 벡터스토어까지 (랭체인없이) 쌩 파이썬으로 만들어보기” 유튜브 강의 영상을 바탕으로 작성되었습니다. 해당 코드에 대한 모든 권리는 김태영님께 있음을 밝힙니다. 강의 영...

프롬프트 체인(Prompt Chain) 프롬프트 체인(prompt chain 혹은 prompt chaining)은 task 수행을 위해 2개 이상의 프롬프트를 사용하는 접근법으로서, 이전 프롬프트 지시(instruction)에 의한 출력 결과를 다음 프롬프트 지시의 내용의 일부로 포함시켜 사용하는 것이 핵심이다. 예를 들어, LLM이 주어진 아티클...