ChatGPT 내부 구조의 이해를 주제로 진행했어요!
개요
- 일시: 2025년 5월 30일(금) 19:00 ~ 21:30
- 장소: 구미생활문화센터, 미술공작실
- 참석자: 나무, 밝은가정, 맞복김군, 이프로, 수박, 김주영, 나라바람, 디카페인 (8명)
내용
- ChatGPT 내부 구조 이해 / 나무
- 좋은 질문(프롬프트) 작성을 위한 LLM(Large Language Model) 이해와 중요한 키워드 소개 및 설명
- LLM(대규모 언어 모델)의 파라미터 개수 증가의 의미
- 지식 증류(Knowledge Distillation)의 의미
- 학습 과정 단계(사전 학습, 미세 조정, RLHF)
- 에이전트 소개
첫 방문자
- 나라바람: 건설 회사 재직
오늘 배운 것
- LLM에게 감정적으로 호소하면 결과를 향상할 수 있다.
- 심오한 질문도 가능: ChatGPT에게 "너의 동기는 무엇이냐"고 물어보면?
- CFS: 쿠팡 풀필먼트 서비스, CLS: 쿠팡 로지스틱스 서비스
참고
- commoncrawl, https://commoncrawl.org/
- fineweb, https://huggingface.co/datasets/HuggingFaceFW/fineweb