본문 바로가기
1. SW 개발 & IT 트렌드

ChatGPT에게 물어보았습니다. - 노코드 솔루션

by soosun 2023. 3. 15.

요즘 대세인 ChatGPT에게 평소 궁굼하던 것을 진지하게 물어 보았습니다.

음, 답변이 만족할만한 수준인지는 ....

그래도 자주 이용해보겟습니다.


ㅇ InstructGPT와 형제모델
  - DL 언어 생성 모델
  - from GPT3.5(by text & code)
  - RLHF(Reinforcement Learning by Human Feedback)
    . SFT(Supervised Fine-Tuning): 사람이 직접 가르치는 방식으로 추가학습을 한 것
    . RM(Reword Model): 사람이 보상하는 방식
    . PPO(Proximal Policy Optimization) Algorithm: 정책 강화학습 한 것

ㅇ ChatGPT
   -  InstructGPT와 동일
   - 대화형 에이전트에 최적화하여 FT 한 것(Optimizing Language Models for Dialogue)
     (많은 데이타를 사전에 학습하고, 추가로 어떤 목적에 맞추어 직은 데이타를 학습하는 것)
    
ㅇ ChatGPT
    - Generative : 다음 단어를 예측방식으로 학습하는 것(문장을 구성하는 언어모델)
    - Pre-trained : 많은 양의 데이타를 사전에 훕련/학습 
    - Transformer : 신경만에 기반한 인코더-디코더(디코더만 사용)
    - ChatGPT : 대화할 수 있게 GPT를 FT 한 것


일반인을 위한 활용 가이드도 있네요. 출처: https://sdf.seoul.kr/research-report/2003

[이슈 레포트] 업무활용편_ChatGPT 활용사례 및 활용 팁_최종버전.pdf
5.34MB


 

댓글