💾매일 배운 내용 정리

KAIST [AI College] 강의노트 및 Generative AI 프로젝트 자료모음입니다.

1. [Basic] Python Programming

[Lectures]

• Python 기초
• if 조건문, while 반복문
• 함수, 자료형, 변수, 라이브러리
• 지역 변수, 전역 변수, 리스트, 튜플
• 리스트, 튜플, 문자열, 사전, 집합
• 문자열, 집합, 사전, 모듈, 그래픽 객체
• 사전형, 집합, 텍스트, 이미지, 그래픽
• 텍스트, 이미지, 그래픽, 클래스
• 전체 복습 (4/24 ~ 5/7)
• 실습문제 풀이 (4/24 ~ 5/7)

[Practices]

• 4월30일-A반-실습자료
• 5월07일-A반-실습자료

2. [Basic] Python DP / DA / DV

Data Processing, Data Analysis, Data Visualization

• NumPy 표준 데이터 타입
• NumPy 배열의 기초
• Pandas 객체소개 및 심화
• Matplotlib

3. [Implementation] QA Chatbot with LLM

[Settings]

• 프로젝트 환경세팅
• Docker Desktop 설치 및 실행
• Backend Package 목록

[Vector Database]

• VDB 비교
• Chroma CSV import
• OpenSearch Quickstart
• Weaviate

[Framework]

• LangChain 아키텍처
• [back-end] FastAPI 기반 서비스 아키텍처
• [front-end] Next.js 기반 서비스 아키텍처

[Streaming]

• 추천 Package 목록
• 토큰 스트리밍 기능 구현

[Evaluators]

• [Chain] Ragas
• [Agent] Agent Trajectory
• [Benchmark] LangChain Benchmarks

4. [Advanced] Data Structure && Algorithm

• typing 패키지 활용
• Pregel 알고리즘과 LangGraph
• DAG 알고리즘
• RAG pipeline 고도화

5. [Advanced] Prompt Engineering

• Models | GPT-4

6. [Advanced] Academic Research

LLM 기반 QA Chatbot 개발 과정에서 참조한 강의, 연구 논문

[Lectures]

• [Stanford Online] Stanford CS25: V3 I Retrieval Augmented Language Models | (link) | (강의노트)

[Articles]

• [Embedding] Natural Language Processing With Modular PDP Networks and Distributed Lexicon (1991)
• [RAG] Adaptive Semiparametric Language Models (2021)
• [Agent] AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation (2023)
• [LLM] Gemini: A Family of Highly Capable Multimodal Models (2023)
• [LLM] An LLM Compiler for Parallel Function Calling (2024)
• [RAG] RAPTOR: Recursive Abstractive Processing for Tree-Organized Retrieval (2024)
  • 관련 영상 : Building long context RAG with RAPTOR from scratch