요즘 ChatGPT에 대해 많이 듣습니다.
또한 이 분야에 대한 연구를 하고 있는 저에게 많은 분들이 ChatGPT에 대해 문의해 주셨습니다.
ChatGPT를 이해하시는데 조금이나마 도움이 되었으면 해서 몇 자 적어봅니다 :)
ChatGPT가 무엇인가요?
ChatGPT는 Chatbot + GPT의 합성어입니다.
여기서 챗봇은 우리가 알고 있는 '심심이'나 '달성하다'와 같이 사람과 대화할 수 있는 AI 애플리케이션이다.
GPT는 언어를 만들 수 있는 모델입니다.
언어를 생성할 수 있는 모델은 무엇입니까?
모형의 사전적 정의는 '실물을 모사하여 만든 것'이다.
즉, 언어 모델은 한국어나 영어와 같은 자연어이다.
그것을 이해하거나 창조하는 과정을 모방하는 것으로 생각하십시오.
많이 들어보셨을 BERT, GPT, T5 등이 모두 그런 언어 모델입니다.
그 중 BERT는 언어 이해에 최적화된 언어 모델로,
GPT는 언어 생성에 최적화된 언어 모델입니다.
언어 모델을 만드는 방법?
AI를 현실로 만드는 방법에는 여러 가지가 있습니다.
예를 들어 고양이 사진과 개 사진을 구별하는 AI 모델을 만들고 싶다고 가정해 보겠습니다.
규칙을 사용하여 이와 같은 모델을 구축하면
"특정 픽셀의 RGB 값이 고양이야?"와 같이 고양이의 특징을 정의하는 IF-THEN 형식
사람은 각각을 개별적으로 정의해야 합니다.
하지만 수백 개의 '고양이 사진'과 수백 개의 '강아지 사진'이 있다면
컴퓨터는 '고양이'와 '개'를 구별하는 기능을 자동으로 선택하고 정규화할 수 있습니다.
이것을 '머신 러닝'이라고 합니다.
언어 모델은 이 '기계 학습' 기술을 사용합니다.
GPT는 언어 생성에 특화된 언어 모델로, 다음과 같은 방법으로 언어(단어 의미, 문장 구조 등)를 학습합니다.
나는 그녀를 사랑하고 그녀도 나도 ( ).
위의 문장에서 빈칸을 채울 단어는 '사랑해'입니다.
이전 단어를 기반으로 다음 단어를 예측할 수 있습니다.
GPT는 많은 양의 텍스트(말뭉치라고 함)를 가져와 다음 단어가 무엇인지 예측하는 방식으로 작동합니다.
언어 생성 과정을 이해합니다.
언어 모델을 어떻게 사용합니까?
GPT와 같은 언어 모델을 사용하는 분야에서 모든 문제는 '언어 생성' 문제로 간주됩니다.
예를 들어 한국어를 영어로 번역하는 것과 같은 기계 번역 문제도 'Language Generation'으로 해결할 수 있습니다.
나는 그녀에게 '사랑해'를 의미하는 영어 문장인 '사랑해'라고 말했다.
한국어를 영어로 번역해 봅시다. 예를 들어 'I love you'는 영어로 'I love you'입니다.
GPT는 매우 많은 언어 모음(프로그래밍 언어 포함)으로 가르칩니다.
위의 예와 같은 문장도 포함되어 있습니다.
이러한 문장은 GPT가 한국어 문장을 영어로 생성하는 기능을 제공합니다.
GPT와 ChatGPT는 어떻게 다른가요?
위에서 언급했듯이 GPT는 언어 생산 학습 과정에서 사용됩니다.
기계 번역을 수행하고, 질문에 답하고, 맞춤법/문법 오류를 수정하는 등의 능력을 갖게 됩니다.
Q&A는 다음 문장을 생성하는 과정이라고 생각하시면 됩니다.
문) 대한민국 최초의 온라인 게임은? 가) 대한민국 최초의 온라인 게임은 1994년에 출시된 '노스'입니다.
GPT-3가 발표되었을 때 우리는 그 성능에 놀랐던 것을 기억합니다.
그러나 성능은 완벽하지 않았습니다. 그들은 질문에 잘못된 대답을 하고,
또한 성별/종교/인종에 대한 차별적 표현을 만들어냈습니다.
이에 대해 OpenAI는 GPT-3에서 생성된 질문-답변 쌍을 수동으로 채점하여 질문-답변 데이터를 생성했습니다.
답이 질문에 얼마나 잘 맞는지.
그리고 이 질문과 답변 데이터를 사용하여 GPT-3는 좋은 답변을 생성하도록 훈련되었습니다.
(여기서 사용하는 학습 방법은 AlphaGo 등에서 사용하는 강화 학습입니다.)
ChatGPT는 완벽합니까?
물론 많은 전문가들이 이미 말했듯이! 완벽하지 않습니다.
사실이 아닌 콘텐츠를 그럴듯하게 묘사하는 환각이 여전히 나타납니다.
그러나 게임 체인저로서 이 분야에 막대한 영향을 미치고 있는 것은 사실입니다.
아시다시피 많은 국내외 기업들이 '우리도 이 기술을 가지고 있다'고 앞다퉈 말하고 있습니다.
댓글