메뉴 바로가기 검색 및 카테고리 바로가기 본문 바로가기

한빛출판네트워크

LLM 경량화 전략: 작지만 강력한 AI 활용법

  • 강사 : 김남범
  • 강의구성 : 10강 / 2시간 10분
  • 수강기간 : 제한없음 / 30일(권장기간)
초급 초중급 중급 중고급 고급
0점 (0명)
좋아요 : 0

 AI의 최신 트렌드, LLM에서 sLM으로의 전환

경쟁력 있는 개발자가 되고 싶다면 LLM 경량화에 주목!

AI 기술 최신 트렌드를 이 강의에서 배워보세요!

 

인공지능(AI) 분야에서 대형 언어 모델(LLM, Large Language Models)의 인기와 활용성은 점점 더 커지고 있습니다. 하지만, 최근 AI업계는 LLM의 '경량화'에 주목하고 있어요. AI 학습과 운용에 드는 시간과 비용을 절감시켜 스마트폰이나 PC 에 탑재가 가능하고, 보안이 중요한 기업서버에 설치할 수 있기 때문이죠. 

경량화된 언어 모델(sLM, Small Language Models)은 기존 LLM의 장점을 유지하면서 더 빠르고 경제적으로 운영될 수 있는 솔루션을 제공해요. 이것이 성능이 떨어지는 것은 아닙니다. 매개변수를 줄이는 대신 학습 데이터의 질을 높이고 미세 조정(파인 튜닝)하는 방식으로 성능을 개선하죠! 자원이 제한된 환경이거나 작은 작업에는, sLM(small Language Model)을 사용하는 것이 더 효과적이기도 하고요. 중요한 사실은  AI 개발자가 아니더라도 이러한 LLM의 경량화 트렌드를 이해하고 적용할 수 있어야 한다는 겁니다. 

걱정하지 마세요! 이 강의와 함께라면 개발자들이 경량화 트렌드를 이해하고 실무에 기술을 적용해볼 수 있어요.

 

 

무엇을 배우는 강의인가요?

 

이 강의는 인공지능과 대형 언어 모델(LLM)의 기본 개념부터 LLM 경량화 전략 및 다양한 활용 사례를 체계적으로 학습하는 것을 목적으로 합니다. 파인튜닝, 저순위 적응(LoRA), 양자화, 지식증류 등의 경량화 기술과 온디바이스 AI 및 기업 맞춤형 LLM 개발 등을 다룹니다. 또한, Llama 3 구동, 한국어 감정 분석 모델 사용, 코드 생성기 사용 등의 실습을 통해 실제로 경량화된 모델을 사용해볼 수 있습니다. 

 

1. LLM(Large Language Model) 소개 및 LLM 경량화의 필요성 

LLM이 무엇인지, 어떻게 작동하는지에 대한 개요를 제공합니다. 자연어 처리(Natural Language Processing) 분야에서 LLM의 중요성과 발전 과정을 살펴봅니다. 또한 LLM은 매우 큰 모델이기 때문에 실제 배포 및 활용에 있어서 리소스 소비가 많습니다. 이에 따라 LLM을 경량화하는 필요성과 이점에 대해 알아봅니다.

 

 

2. LLM 경량화 기법 및 경량화 모델 활용 사례 

LLM 경량화를 위한 다양한 기법에 대해 학습합니다. 프롬프트 러닝(Prompt Learning),인간피드백 기반 강화학습(RLHF), 저순위 적응(LoRA) 등의 파인튜닝(Fine-Tuning)의 기법과 sLM에 대해 살펴보고 각각의 원리를 이해합니다. 또한 온디바이스(On-Device) AI와 같이 경량화 모델을 활용한 사례를 살펴봅니다.

 

 


3. 오픈 소스 sLM 활용 실습 

학습한 내용을 바탕으로 실제 경량 LLM 모델을 사용해 보는 실습을 진행합니다. 올라마(Ollama), 허깅 페이스(Hugging Face)를 활용하여 다양한 오픈 소스 sLM을 사용해 보는 경험을 통해 최신 기술 동향을 파악하고 자신의 기술 스택을 향상시킬 수 있습니다.

 

 

누구를 위한 강의인가요?

인공지능 관련 업무를 수행하게 되는 AI 입문 개발자

 대학생 및 대학원생으로서 AI 기술을 공부하고자 하는 학생들

sLM 기술을 활용한 새로운 서비스 또는 제품을 개발하고자 하는 회사의 개발자들

 

강의를 수료하고 나면?

AI와 LLM의 기본 개념과 최신 동향을 이해할 수 있습니다. 

LLM 경량화 전략 및 기술에 대한 체계적인 지식을 습득할 수 있습니다.

다양한 오픈 소스 sLM(Small LLM) 모델을 활용하여 실무에 적용해볼 수 있습니다. 

김남범 강사

김남범

가천대학교 및 대학원에서 머신러닝/수학과 머신러닝 응용을 강의하였고 세종대학교 빅데이터 인공지능 MBA에서 파이썬을 활용한 데이터 시각화와 인공지능 전문가 과정을 강의 중이며, 최근에는 KOSA에서 인공지능 핵심 심화 과정과 서울시 청년취업사관학교 SeSAC에서 프로그래밍 언어, 인공지능을 주제로 출강하고 있습니다.

 

경력
현) 세종대학교 BA MBA 겸임교수
현) ㈜사람과숲 인공지능 프로젝트 자문교수
현) ㈜솔트룩스 자문교수
전) 가천대학교 의공학연구센터 연구교수
전) Medstat(데이터 분석 솔루션) 대표


강의
< 세종대학교 대학원 : 데이터 시각화, 인공지능 전문가 과정 강의 중 > (2018~)
< SeSAC: 수학, 머신러닝, 인공지능과정 강의 중 > (2023 ~)
< KOSA: 인공지능핵심과정 강의 중 > (2024 ~)

    

생성 AI 언어 모델(LLM)의 개요  16:26
LLM 기술의 경제성 분석  11:52
LLM의 대안 1 - 파인 튜닝(Fine-Tuning)  06:37
LLM의 대안 2 - PEFT(Parameter Efficient Fine-Tuning)  07:10
LLM의 대안 3 - sLM(small LLM)_수정  11:37
경량화 모델 활용 사례 1 - 온 디바이스(On-Device) AI  08:26
경량화 모델 활용 사례 2 - 기업 맞춤형 LLM_수정  17:26
오픈 소스 sLM 활용 1 - 내 컴퓨터에서 Llama 3 구동하기  16:59
오픈 소스 sLM 활용 2 - 한국어 감정 분석 모델 사용해 보기    16:38
오픈 소스 sLM 활용 3 - 코드 생성기 사용해 보기  17:10

  • 첫번째 리뷰어가 되어주세요.
  • 결재하기

    리뷰쓰기

    닫기
    * 상품명 :
    LLM 경량화 전략: 작지만 강력한 AI 활용법
    * 제목 :
    * 별점평가
    * 내용 :

    * 리뷰 작성시 유의사항

    글이나 이미지/사진 저작권 등 다른 사람의 권리를 침해하거나 명예를 훼손하는 게시물은 이용약관 및 관련법률에 의해 제재를 받을 수 있습니다.

    1. 특히 뉴스/언론사 기사를 전문 또는 부분적으로 '허락없이' 갖고 와서는 안됩니다 (출처를 밝히는 경우에도 안됨).
    2. 저작권자의 허락을 받지 않은 콘텐츠의 무단 사용은 저작권자의 권리를 침해하는 행위로, 이에 대한 법적 책임을 지게 될 수 있습니다.

    오탈자 등록

    닫기
    * 도서명 :
    LLM 경량화 전략: 작지만 강력한 AI 활용법
    * 구분 :
    * 상품 버전
    종이책 PDF ePub
    * 페이지 :
    * 위치정보 :
    * 내용 :
    닫기

    해당 상품을 장바구니에 담았습니다.이미 장바구니에 추가된 상품입니다.
    장바구니로 이동하시겠습니까?

    자료실

    최근 본 책0