LLM( 생성형) 업무효율화, 업무활용, 인공지능 활용하여 일잘 하는법 22

생각하고 따라하면 성공하는 맥락적이해 방법

 

 

맥락적 사고에 대한 정의와 맥락적 사고를 이해하고 LLM 사용하기

 

요약1. 파인튜닝 필요 없고 그냥 RAG

요약2. 약간 컴퓨터 용어 알면, 잘난 척 가능합니다.

요약3. 청킹 기술은 중요합니다. 이건 습득을 해야 하는것인데 언젠가는 이것도 자동으로 될 것 같습니다.

 

 

맥락적 이해의 중요성에 대해 다루기 앞서서 먼저 생성형 인공지능이 어떤 개념에서 학습을 하고 답변을 하는지 부터 알아 보겠습니다. 저 처럼 프로그램을 개발하는 사람이 아니라면 다소 어려 울 수도 있습니다만, 결국 맥락적 사고를 이해해도 생성형이 어떤식으로 학습을 하고 답변을 하는지 이해해야 나중에 충분히 사용가능합니다.

 

생성형 인공지능이 학습하는 방법

생성형 인공지능을 (LLM)을 연구하다보면 생성형 인공지능은 어떤식으로 이해하는지 그 개념을 파악하고 넘어가면 나중에 프롬프팅을 할 때 어떤 개념에서 프롬프팅을 해야하는지 전체적인 흐름을 이해 하실 수 있습니다. 특히 맥락적 이해라는게 왜 맥락적이해를 해야 하는지도 충분히 이해가 되실 것입니다.

 

제가 임의로, 위 트랜스포머 모델에서 화살표 방향은 맞으나 약간 오리지널 그림 대비 화살표 형상을 왜곡했습니다.

 

상기 그림의 자세한 설명은 통계적인 이해도와 빅데이터에 대한 이해도가 요구되므로 자세한 설명은 통계나 빅데이터를 공부하고 싶은 분에 한정해서 하시고 이 책의 주제와 같이 제가 이해한 비 전문가가 입장에서 설명 드리면, 신경망 그러니까 복잡하고 미세한 부분 까지 하나 하나 확인을 해서 결과를 만들어 내는게 생성형 인공지능입니다. 여기서 나오는 소프트 맥스 도구는 대표적인 확률분석 도구이며, 라이너는 일반 적인 시계열분석을 의미하여 (시간적 흐름의 분석) 추가&정규화에서 추가는 말 그대로 정보를 순환하면서 추가 하는 것을 말하며 정규화 라는 것은 각 데이터 테이블간에 중복된 데이터를 허용하지 않는 것입니다. 그러니까 계속해서 정보를 추가추가 하면서 중복은 삭제 점점 무결성이 올라가는 개념입니다. 마지막으로 멀티해드어센션 개념은 데이터를 처리 할 때 각 행렬값들을 해드수 만큼 분할하고 이것다시 어텐션 벨류로 값을 도출하고 이걸 또 적산하고 등등 와~~~ 제가 작성하면서도 어렵습니다만, 쉽게 이야기 해서 그냥 병렬처리 한다는 것입니다.

 

너무 어렵습니다만 이러한 모델을 한마디로 매우 짧게 표현하면 자기회귀모델을 기준으로 하는 트랜스포머 모델입니다.

 

자기회귀 단어에 대해서 말씀 드리면 자기가 자기한테 돌아가는 것이라 이전 토큰(단어) 그러니까 앞서서 질문들이 왔다 갔다 하는 것을 기준으로 앞으로 올 토큰(단어) 예측하는 것입니다. 총체적으로 이러한 개념이 있어서 GPT 라는 것이 말을 잘 만드는 것이고 특히 앞선 단어와 뒷선단어에 대한 맥락적 답변을 한다는 것입니다.

 

조금은 이해하기 어려운 트랜스포머 모델에 대해서 이야기를 했고 다음 시간에는 생성형인공지능이 학습하는 또 다른 방법들을 구분해서 설명 드리겠습니다.

.

.

.

생성형인공지능, LLM, 일잘러, RAG응용, 챗지피티 를 활용해서 프로 일잘러 되기 출간 준비중~~!!